Исследование, проведенное Nahema Marchal и Rachel Xu, анализирует злоупотребления генеративным искусственным интеллектом (ИИ), который способен создавать изображения, текст, аудио и видео, открывая новую эру креативности и коммерции. Однако с растущими возможностями увеличивается и риск манипуляций, мошенничества и буллинга.
Команда из Google, Jigsaw и Google.org проанализировала почти 200 сообщений о злоупотреблениях, собранных с января 2023 по март 2024 года, определив тактики, используемые для эксплуатации возможностей ИИ. Выявленные методы включают использование реалистичных изображений для представления общественных деятелей и компрометацию систем ИИ. Примером является случай, когда компания потеряла 26 миллионов долларов из-за подмены участников онлайн-встречи на компьютерных имитаторов.
Несмотря на то что злоупотребления предшествуют возникновению генеративного ИИ, доступность таких инструментов делает их более опасными. Стратегии манипуляции требуют ответственных мер по информированию общества и разработке новых стандартов безопасности. Это исследование поможет в создании технологий, способствующих более безопасному и этичному использованию генеративного ИИ.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена