1 октября 2025 года OpenAI объявила о бане нескольких аккаунтов ChatGPT, которые были связаны с киберугрозами и действовали в интересах китайской разведки. Эти аккаунты использовались для поддержки фишинга и создания инструментов для кибератак, таких как нацеливание на тайваньский сектор полупConductors. Исследование показало, что злоумышленники использовали модель OpenAI не для создания новых видов атак, а для оптимизации существующих процессов — написания фишинговых писем на нескольких языках и разработки вредоносных инструментов.
Отдельно были заблокированы аккаунты, связанные с русскоязычными преступными группами, пытались использовать AI для создания вредоносного ПО и инструментов обхода защиты. Эти злоумышленники использовали ChatGPT для генерации кода, связанного со кражей учетных данных и обходом систем безопасности. Несмотря на попытки маскировать свои намерения, OpenAI выявила угрожающие действия благодаря современным методам выявления кибермошенничества и оперативно заблокировала соответствующие аккаунты.
Компания примет дополнительные меры для защиты пользователей и предотвращения подобных инцидентов в будущем, борясь с киберпреступностью на основе элементарных дальновидных ресурсов и платформ.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена