С каждым днем технологии генеративного ИИ становятся все более мощными, позволяя создавать текст, изображения и аудио. Однако с ростом доступных инструментов встает вопрос о подлинности контента. В ответ на это Google анонсировала SynthID Detector — портал для проверки контента, созданного с помощью их ИИ.
С помощью SynthID Detector пользователи могут быстро выявлять возможности AI-генерации и понимать, какие части материалов могут содержать невидимый водяной знак SynthID. Таким образом, разработка помогает противодействовать распространению дезинформации.
При загрузке медиа SynthID Detector сканирует контент на наличие водяных знаков и указывает наиболее вероятные участки. Первое тестирование уже начато, и в будущем инструмент будет доступен широкой публике, включая исследователей и журналистов.
Кроме того, Google уже открыла доступ к технологиям водяных знаков для разработчиков и сотрудничает с NVIDIA и GetReal Security для расширения возможностей платформы. Прозрачность контента остается важным вызовом, и Google стремится развивать экосистему инструментов для ее повышения.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена