OpenAI блокирует иранские аккаунты, использующие ИИ для дезинформации

1 октября 2024 года OpenAI приняла меры против аккаунтов, связанных с иранской операцией STORM-2035, которые использовали искусственный интеллект для создания контента о выборах в США и Великобритании. Эти аккаунты генерировали длинные статьи и короткие комментарии на английском и испанском языках, в основном фокусируясь на американской политике и кандидатов на выборах.

Некоторые аккаунты выдавали себя за сторонников независимости Шотландии и участников выборной кампании в США. Статьи публиковались на различных веб-сайтах, а посты размещались в соцсетях, однако активное вовлечение пользователей было крайне низким.

Вторична работа этой группы включала создание комментариев для платформы X, которые также демонстрировали низкую степень взаимодействия. На протяжении всей операции содержание варьировалось от политических тем до общего контента, вроде моды и красоты, что помогало создать видимость подлинности.

Несмотря на направленность на политическое влияние, эта кампания не добилась значительных результатов, так как большинство ее постов не вызывали интереса у аудитории. Подобные действия показывают вызовы, с которыми сталкиваются платформы в борьбе с дезинформацией в эпоху ИИ.

*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена