OpenAI пришлось цензурировать ChatGPT из-за ее увлечения гоблинами
МОСКВА, 2 мая - РИА Новости.
Компания OpenAI внесла изменения в работу своего чат-бота ChatGPT после того, как в его ответах массово начали появляться упоминания гоблинов, гремлинов и других мифологических существ, сообщается на официальном сайте компании.
В публикации отмечается, что начиная с версии GPT-5.1, модели приобрели необычную склонность часто использовать образы гоблинов, гремлинов и других фантастических персонажей в своих метафорах. Эта особенность проявлялась в разных версиях, и количество таких упоминаний постоянно росло, что заставило разработчиков разобраться в причинах явления.
Как пояснили в OpenAI, система обучения нейросети случайно была настроена так, что при общении в режиме Nerd (заумник, гик) модель активно использовала мифологических существ. Особенно много "гоблинов" появлялось в ответах версии GPT-5.4. Исследование показало, что подобные упоминания чаще всего возникали, когда пользователи выбирали для взаимодействия именно личность Nerd.
Компания также выяснила, что нейросеть получала значительно больше "наград" за использование мифологических образов по сравнению с другими стилями поведения. В дальнейшем анализ выявил в лексиконе модели целый ряд других существ, включая енотов, троллей, огров и голубей.
В результате OpenAI пришлось убрать возможность выбора личности Nerd и изменить систему обучения, чтобы снизить количество упоминаний мифических существ в ответах ChatGPT.
Источник и фото - ria.ru
