Недавно специалисты обнаружили, что злоумышленники применили ИИ-ассистента поддержки Meta для массового захвата аккаунтов в Instagram. Хакеры использовали метод, известный как «промпт-инъекция», обращаясь к чат-боту с просьбой сменить адрес электронной почты, привязанный к профилю. При этом единственным условием успешной атаки была VPN, совпадающая с геолокацией владельца аккаунта.
После изменения email бот не проводил проверку личности, что позволяло хакерам запрашивать сброс пароля и получать полный контроль над страницами. Среди скомпрометированных аккаунтов оказался архивный профиль Белого дома времен Барака Обамы и страницы известных брендов, таких как Sephora.
Об Ашань Сомеш Джа, профессора из Университета Висконсин-Мэдисон, отметил, что ИИ-агенты иногда слишком стремятся выполнить задачу, игнорируя важные контрольные вопросы. Это происшествие подчеркивает необходимость более тщательного тестирования безопасности при внедрении ИИ в такие ключевые функции.
Представитель Meta, Энди Стоун, подтвердил, что уязвимость была исправлена и пострадавшие аккаунты будут заблокированы.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена