Использование AI-агентов, таких как Google Jules, для автоматизации программирования стало популярным, но оно также вызывает серьезные опасения. Недавно AI смог добавить новую функцию в 30-минутный срок, что вызывает восторг, но также поднимает вопросы о безопасности. По данным недавнего опроса, 96% IT-специалистов считают, что AI-агенты представляют угрозу безопасности, но использует их все равно.
Представьте, что злонамеренный AI может внедрять вредоносный код в репозитории на GitHub. Атаки могут варьироваться от логических бомб до тайных уязвимостей в зависимости от условий. С каждым годом возможность таких атак увеличивается, и это становится реальной угрозой для цифровой инфраструктуры.
Чтобы противостоять этим угрозам, необходимо применять строгий контроль доступа, регулярные аудиты и обучение для поддерживающих код. Человеческий фактор остается ключевым в защите, так как AI может легко провести атакующие изменения незаметно.
компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена