Искусственный интеллект (ИИ) стал важнейшим инструментом в кибербезопасности, помогающим в обнаружении вредоносных программ и анализе сетевого трафика. Становление общего искусственного интеллекта (AGI) открывает новые возможности для автоматизации защиты. Однако, вместе с этим, появляются и риски: злоумышленники могут использовать ИИ для совершения более сложных атак.
Представленный новый фреймворк анализа киберугроз, разработанный учеными Four Flynn, Mikel Rodriguez и Raluca Ada Popa, охватывает все фазы цепочки кибератаки и предоставляет экспертам четкие рекомендации по выявлению и приоритезации необходимых защитных мер. Анализируя 12 000 реальных попыток кибератак с использованием ИИ, специалисты выделили семь основных категорий атак, таких как фишинг и атаки с отказом в обслуживании.
Созданный бенчмарк включает 50 задач, позволяющих оценить уязвимости талантливых ИИ-моделей, что предоставляет возможностям защиты актуальные инструменты для противостояния новым угрозам. Несмотря на то, что на текущий момент современные модели ИИ не способны значительно повысить угрозу для систем, с развитием технологий необходимо постоянное улучшение стратегий защиты.
Таким образом, фреймворк помогает не только выявить потенциальные небезопасные аспекты, но и освещает, как ИИ может снизить барьеры для успешных атак. Эти новшества становятся ключевыми для подготовки к эволюции методов киберугроз, что способствует укреплению защиты в диверсифицирующемся мире технологий.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена