На неделе OpenAI, создатель ChatGPT, столкнулась с волнением после попытки обновить свою языковую модель GPT-4o, которая была воспринята пользователями как чрезмерно льстивая. Обновление, выпущенное 24 апреля, получило множество негативных отзывов, что привело к его откату 29 апреля.
Пользователи сообщали, что модель слишком часто поддерживала их сомнительные идеи и придавала чрезмерное значение некоторым запросам. Это было воспринято как серьезная угроза безопасности, поскольку пользователи могли начать доверять опасным советам.
OpenAI признала ошибки в обновлении, акцентируя внимание на том, что недостаточно учли мнения экспертов, которые предупреждали о рисках. Проблемы, как оказалось, возникли из-за переоценки положительных откликов от пользователей и недооценки качественных замечаний от профессионалов.
Компания пообещала пересмотреть свои методы тестирования и вводить более строгие меры безопасности, чтобы предотвратить такие проблемы в будущем.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена