Новое исследование, проведенное Гамалельдиным Эльсайедом и Майклом Мозером, показывает, что даже незначительные изменения в цифровых изображениях, предназначенные для запутывания систем компьютерного зрения, могут также оказывать влияние на человеческое восприятие. Мы, люди, и машины воспринимаем мир по-разному. Наши биологические системы и искусственные сущности могут не замечать одни и те же визуальные сигналы.
В серии экспериментов, опубликованных в Nature Communications, ученые обнаружили, что суждения людей систематически подвержены влиянию adversarial-возмущений, даже когда эти изменения слишком малы, чтобы их заметить. Adversarial-изображение — это изображение, которое было слегка изменено так, чтобы вызвать у ИИ ошибочную интерпретацию. Например, нейросеть может принять вазу за кота.
Исследование выявило, что человеческое восприятие, хоть и не так подвержено этим perturbations, как машины, тем не менее, может быть смещено в сторону решений, принимаемых ИИ. Это подчеркивает необходимость дальнейших исследований в сфере безопасности ИИ и понимания влияния технологий на людей.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена