OpenAI скорректировала ChatGPT из-за гоблинов в GPT-5.4

Вот отформатированный текст с использованием только указанных тегов:

Компания OpenAI скорректировала работу чат-бота ChatGPT после того, как в его ответах стали повсеместно фигурировать гоблины, гремлины и иные мифические существа. Соответствующая информация опубликована на сайте организации.

Начиная с (версии – ред.) GPT-5.1, наши модели начали развивать странную привычку: они часто упоминали гоблинов, гремлинов и других существ в своих метафорах... В разных поколениях моделей... данную привычку было тяжело не заметить: гоблины продолжали множиться, и нам нужно было понять, откуда они появились

В компании пояснили, что система тренировки нейросети была случайно выстроена таким образом, чтобы она широко упоминала мифических существ при общении с пользователем в режиме Nerd (заумник, гик). Согласно представленным данным, наибольшее количество упоминаний гоблинов фиксировалось в ответах модели GPT-5.4.

Выявив данную особенность, OpenAI провела исследование, которое показало, что использование чат-ботом мифических существ зачастую было обусловлено выбором пользователями личности Nerd для взаимодействия с нейросетью. Было установлено, что условная награда для нейросети за упоминания мифических существ при общении оказывалась значительно выше, чем за применение иных моделей поведения.

Дальнейшее изучение обнаружило в лексиконе нейросети целую семью других существ, среди которых оказались:

• еноты
• тролли
• огры
• голуби

В итоге компании пришлось исключить опцию выбора личности Nerd для нейросети и скорректировать систему тренировок, чтобы снизить частоту упоминаний мифических существ.