Google объявила об удалении своей модели искусственного интеллекта Gemma из платформы AI Studio после того, как сенатор Марша Блэкберн обвинила модель в создании ложных обвинений в ее адрес. По словам компании, Gemma, разработанная для разработчиков, не предназначалась для предоставления фактической информации, и многие пользователи неправильно использовали ее для решения задач вне ее начального назначения.
В письме к CEO Google Сундару Пичаю сенатор утверждает, что модель сгенерировала подробный и лживый ответ на вопрос о том, были ли против нее выдвинуты обвинения в изнасиловании. AI, как утверждает Блэкберн, предоставила вымышленные детали и ссылки на несуществующие статьи, что создает серьезные последствия.
Хотя Google подчеркивает, что компания стремится к уменьшению ошибок и усиливает работы по улучшению своих моделей, инцидент демонстрирует существующие проблемы с точностью ответов AI. Теперь модель доступна только для разработчиков через API, а доступ к ней через AI Studio закрыт, что подчеркивает важность правильного использования таких технологий.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена