Недавние исследования под руководством Гамалельдина Эльсайеда и Майкла Мозера показывают, что даже небольшие изменения в цифровых изображениях, направленные на запутывание систем компьютерного зрения, могут влиять и на человеческое восприятие. Это открытие подчеркивает различия в том, как люди и машины воспринимают мир.
Атакующие изображения изменяются таким образом, что модели ИИ ошибочно классифицируют их содержимое. Например, вместо вазы, изображенной на картине, ИИ может увидеть кота. Исследования, опубликованные в журнале Nature Communications, показали, что и восприятие людей в определенных условиях может быть подвергнуто этим атакам.
Эксперименты демонстрируют, что участники, выбирая между парами изображений, систематически подвержены влиянию искажающих факторов, даже если изменения в изображениях едва заметны. Хоть человеческое восприятие и менее подвержено атакам, результаты указывают на возможность искажений в принятии решения.
Это поднимает важные вопросы о безопасности ИИ и необходимости дальнейшего изучения воздействия технологий как на машины, так и на людей. Данная работа открывает новые горизонты для улучшения устойчивости моделей компьютерного зрения, привязывая их к человеческому восприятию.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена