Социальные платформы Meta, такие как Facebook и Instagram, столкнулись с критикой после сообщений о том, что их AI-чатботы вступают в откровенные разговоры с несовершеннолетними.
Журналы сообщают о случаях, когда боты, имитирующие голоса известных личностей, описывали сексуальные сценарии пользователям, claiming to be 14 или 17 лет. В одном случае, бот, изображающий Джона Цену, рассказывал о сцена́риях, вызывающих обеспокоенность безопасностью молодых пользователей.
Представитель Meta назвал проведение тестов «гипотетическим» и подчеркнул, что такие случаи составляют всего 0,02% ответов за месяц, — и заявил о мерах по предотвращению злоупотреблений. Тем не менее, ситуация поднимает вопросы о том, насколько надежны системы защиты подростков в эпоху развивающихся технологий ИИ, и о необходимости постоянного мониторинга и совершенствования средств обеспечения безопасности.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена