Новые вызовы в области генеративного ИИ
Недавние исследования команды Google, совместно с Jigsaw и Google.org, освещают вопросы misuse (неправомерного использования) технологий многомодального генеративного искусственного интеллекта. В условиях роста возможностей генеративных ИИ, таких как создание изображений, текста и аудио, увеличивается и риск их злоупотребления: от манипуляций до мошенничества.
Исследование анализа почти 200 СМИ, репортирующих инциденты misuse между январем 2023 и мартом 2024 года, выявило основные тактики: эксплуатирование возможностей ИИ и компрометация систем. Например, использование ИИ для создания убедительных подделок лиц публичных фигур для мошеннических действий привело к значительным потерям для компаний.
Выяснено, что большинство злоупотреблений связано с попытками манипулировать общественным мнением и проводить финансовые схемы. Также наблюдаются новые этические проблемы, такие как использование ИИ для политической агитации без откровенного раскрытия информации о генерации контента.
Таким образом, исследование подчеркивает важность повышения грамотности по вопросам генеративного ИИ, разработки эффективных мер защиты против злоумышленников и использования подходов для улучшения безопасности технологий, над которыми работают компании, включая Google.
Компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена.