Google объявил о запуске SynthID, новой технологии водяных знаков для контента, созданного с помощью AI. После успешного дебюта SynthID для изображений, теперь инструмент будет использован для водяных знаков AI-сгенерированного текста в приложении Gemini и видео в Veo.
SynthID встраивает водяные знаки, которые не влияют на качество генерируемого контента. Эта технология помогает различать тексты и видео, создаваемые AI, предотвращая возможные злоупотребления, такие как дезинформация. Например, метод модифицирует вероятность выбора токенов — минимальных единиц информации, используемых для генерации текста, при этом сохраняя качество создаваемого контента.
SynthID не является идеальным решением, но это важный шаг к созданию более надежных инструментов идентификации AI-контента. Позже этим летом Google планирует открыть доступ к SynthID для разработчиков, что позволит интегрировать эту технологию в различные модели AI. Таким образом, пользователи смогут лучше осознавать, с каким контентом они взаимодействуют.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена