В новом исследовании, проведенном совместно с Jigsaw и Google.org, анализируется недобросовестное использование технологий генеративного ИИ, которые могут создавать изображения, текст, аудио и видео. С увеличением возможностей этих технологий возрастает и риск их применения в манипуляциях, мошенничестве или домогательствах.
Исследование охватывает почти 200 случаев недобросовестного использования IИ, собранных за период с января 2023 года по март 2024 года. Выявлено две основные категории тактик: эксплуатация возможностей и компрометация систем. Наиболее распространенные случаи связаны с созданием реалистичных изображений для имитации публичных фигур.
Также исследователи обращают внимание на этические проблемы, возникающие при использовании генеративного ИИ, такие как использование голосов умерших для политической агитации. Важно формировать общественные инициативы по повышению грамотности в области ИИ, чтобы снизить риски манипуляции.
Итоги исследования помогут улучшить безопасность технологий и развитие стандартов для защиты от недобросовестного использования.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена