С ростом популярности изображений, созданных ИИ, возникает вопрос: как их идентифицировать, если они выглядят слишком реалистично? Сегодня, в сотрудничестве с Google Cloud, мы представляем бета-версию SynthID — инструмента для водяного знака и идентификации AI-генерируемых изображений.
Эта технология внедряет цифровой водяной знак прямо в пиксели изображения, делая его незаметным для человеческого глаза, но обнаруживаемым для идентификации. Сейчас SynthID доступен ограниченному числу клиентов Vertex AI, использующим Imagen — нашу последнюю модель генерации изображений по текстовым запросам.
Важно понимать, что с развитием технологий генеративного ИИ, разнице между синтетическими и традиционными изображениями становится всё сложнее и сложнее. Мы обязаны сообщать людям, когда они взаимодействуют с генерированными медиа и защищать от возможного распространения дезинформации.
SynthID предоставляет три уровня уверенности для интерпретации результатов идентификации водяного знака и сочетает в себе две модели глубокого обучения для водяного знака и идентификации. Несмотря на некоторые ограничения, SynthID является многообещающим шагом к надежному использованию контента, созданного ИИ.
компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена.