С каждым днем изображения, созданные искусственным интеллектом, становятся все более популярными. Но как лучше всего их идентифицировать, особенно когда они выглядят так реалистично?
Сегодня в партнерстве с Google Cloud мы запускаем бета-версию SynthID — инструмента, который маркирует и идентифицирует фотографии, созданные ИИ, встраивая цифровой водяной знак прямо в пиксели изображения. Этот водяной знак незаметен для человеческого глаза, но его можно обнаружить при идентификации.
SynthID доступен ограниченному числу клиентов Vertex AI, использующих Imagen — последнюю модель для создания фотореалистичных изображений по текстовому запросу. Несмотря на то, что эта технология не является идеальной и чувствительна к экстремальным манипуляциям с изображениями, она предоставляет многообещающий подход к ответственному использованию синтетического контента.
В отличие от традиционных водяных знаков, которые можно легко удалить, SynthID сохраняет свою обнаруживаемость даже после модификаций изображения, таких как изменение яркости или применение фильтров. Благодаря использованию двух моделей глубокого обучения эссенция SynthID заключается в улучшении качества изображений, что помогает пользователям четко понимать, работает ли они с контентом, созданным ИИ.
Это важный шаг к предотвращению распространения дезинформации и созданию устойчивых инструментов для безопасной работы с контентом созданным ИИ. *компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена