Новое исследование под руководством Наэмы Маршал и Рэйчел Сю анализирует случаи злоупотребления многомодальными генеративными ИИ-технологиями. Эти модели способны создавать изображения, текст, аудио и видео, открывая новые горизонты для творчества и коммерческих возможностей. Однако, вместе с ростом этих технологий увеличивается и вероятность их злоупотребления, включая манипуляцию, мошенничество и преследование.
Исследователи проанализировали около 200 отчетов в СМИ о случаях злоупотребления с января 2023 по март 2024 годов, выделив две основные категории злоупотреблений: эксплуатация возможностей ИИ и компрометация систем ИИ. Примеры включают создание реалистичных изображений для имитации публичных личностей и удаление защитных механизмов ИИ.
Через это исследование компании, такие как Google, могут развивать более действенные меры безопасности, чтобы защитить пользователей от действия злонамеренных лиц. Методы, такие как подделка улик и манипуляция человеческим образом, являются наиболее распространенными в современных случаях злоупотребления.
Важность такого рода исследований не укрыта: они помогают формировать безопасные и этичные технологии, направленные на профилактику возможных угроз, которые могут возникнуть в будущем. Не забывайте, что такие технологии, как генеративный ИИ, несут в себе как огромные преимущества, так и потенциальные опасности.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена