TikTok на этой неделе подтвердил, что начинает тестирование нового инструмента для обнаружения лиц, сгенерированных искусственным интеллектом. Этот функционал позволяет пользователям платформы отмечать несанкционированный контент с использованием их изображения. По словам представителя компании, этот инструмент доступен ограниченному числу создателей в США.
Для активации инструмента пользователям необходимо пройти проверку личности через третью сторону, компанию Jumio, что включает в себя сканирование селфи и проверку удостоверения личности. При этом TikTok гарантирует, что данные удостоверений не сохраняются и используются исключительно для сопоставления образов и выявления потенциальных случаев их несанкционированного использования.
После успешной верификации система TikTok будет сканировать контент на наличие AI-картинок, которые могут совпадать с изображением создателя. Это позволит проверенным пользователям просматривать отмеченный контент и сообщать о записях, которые, по их мнению, являются подделками.
Данная инициатива делает TikTok конкурентом YouTube, который также разрабатывает аналогичные меры защиты. Как показал недавний опрос, около 60% видео на TikTok уже являются AI-сгенерированными, что вызывает растущие опасения по поводу контента, создаваемого ИИ.
Важно отметить, что появление таких инструментов происходит на фоне усиливающегося внимания к правилам Европейского Союза в области прозрачности использования ИИ, которые вступят в силу 2 августа.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена