Недавнее расследование, проведенное 404 Media, показало, что хакеры злоупотребили ИИ-ассистентом службы поддержки Meta для массового захвата аккаунтов в Instagram. Используя метод, известный как «промпт-инъекция», они заставляли чат-бота менять электронную почту, привязанную к аккаунту, при этом необходимо было лишь использовать VPN с геолокацией, совпадающей с данными владельца.
После успешной смены адреса электронной почты хакеры инициировали процедуру сброса пароля и получали полный контроль над страницами. Среди скомпрометированных аккаунтов оказался архивный профиль Белого дома времен Барака Обамы и страница бренда Sephora.
Представитель Meta Энди Стоун сообщил, что уязвимость уже устранена. Однако эксперты, опрошенные MIT Technology Review, указали на провал базовых протоколов безопасности. Со слов профессора Университета Висконсин-Мэдисон, ИИ-агенты могут игнорировать критически важные контрольные вопросы, которые обязательно задал бы человек.
Специалисты подчеркнули, что такая проблема указывает на недостаточное тестирование ИИ-возможностей перед их внедрением в важные процессы безопасности.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена