На конференции ICML 2026 в Сеуле специалисты из Чжэцзянского университета и компании Alibaba представили новый класс атак на ИИ. Эти атаки не направлены на взлом моделей или доступ к данным, а сосредоточены на том, чтобы заставить их обрабатывать запросы так долго, что они становятся практически бесполезными.
В отличие от обычных моделей языкового обучения (LLM), рассуждающие модели разбивают задачи на последовательные шаги. Это делает их более подверженными чрезмерному обдумыванию, особенно при работе с неполными данными. Изначально из-за своих особенностей они могут генерировать длинные цепочки рассуждений, что раскрывает уязвимость для атак типа DoS.
Исследователи разработали метод, использующий генетические алгоритмы для создания условий, вызывающих максимальную задержку в ответах. На тестовом наборе данных MATH длина рассуждений увеличилась в 26,1 раза, что превзошло предыдущие подходы. Уязвимыми системами стали DeepSeek-R1, Qwen3-Thinking и другие.
Эти находки подчеркивают необходимость в повышении надежности ИИ-систем, особенно в таких сферах, как DeFi, где цифровые ассистенты управляют реальными активами. Боязнь сбоев в их логике, даже вызванных намеренно, создает значительные операционные риски.
Важно отметить, что такая поверхность атаки существует, и это направление требует дальнейшего изучения.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена