Исследование OpenAI стало тревожным сигналом о том, как государственные и киберпреступные группы злоупотребляют искусственным интеллектом (ИИ) для распространения вредоносных программ и мониторинга. В своем докладе “Дискрурирование злонамеренных использования ИИ” исследователи выделили четыре ключевых тренда в киберпреступности, использующей ИИ.
Первый из них — внедрение ИИ в рабочие процессы преступников. Например, в Камбодже преступные группы старались сделать свои действия более эффективными, используя ChatGPT для создания кода вредоносных программ. Другие группы, предположительно связанные с Россией, разрабатывают дезинформацию для соцсетей с помощью ИИ.
Вдобавок, было зафиксировано использование ИИ для адаптации методов киберугроз, таких как удаление следов использования ИИ в коде. Более того, некоторые государственные структуры, включая Синьцзян в Китае, используют ИИ для слежки за группами населения.
Тем не менее, несмотря на эти опасные тенденции, ИИ не демонстрирует создания “новых” методов атак, что свидетельствует о том, что существующие технологии все еще остаются под контролем. OpenAI продолжает работать над защитными механизмами от таких угроз.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена.