Google запустила сайт SynthID.com, який перевіряє зображення та відео на наявність невидимого водяного знака ШІ. Однак сервіс працює лише з контентом від обмеженого переліку партнерів.
Про це пише видання Gizmodo.
Новий портал дозволяє користувачам завантажити фото або відео й перевірити, чи містить файл водяний знак SynthID. Технологію Google DeepMind представила ще у 2023 році. Вона додає невидиму для людини позначку до зображень, створених її ШІ-інструментами. Водяний знак має зберігатися навіть після обрізання або редагування фото.
Втім, SynthID.com не визначає будь-який ШІ-контент з інтернету. Система може розпізнавати матеріали, створені інструментами Google та інших компаній, які використовують SynthID. Наразі серед них Google, OpenAI, Nvidia та Kakao.
Обмеження сервісу добре демонструє тест із фальшивим фото, на якому зображені Дональд Трамп, генеральний прокурор Техасу Кен Пакстон і персонаж McDonald’s Гримайс. Зображення було створене за допомогою ШІ Gemini. Система правильно визначила, що картинка штучно створена або відредагована.
Водночас Gemini помилково заявив,
що в основі зображення лежить справжня фотографія Трампа і Пакстона, зроблена у березні 2024 року на гольф-клубі Trump International у Вест-Палм-Біч. Журналісти не знайшли підтвердження існування такого оригінального фото. Посилання, яке Gemini запропонував як джерело, також не містило відповідного знімка.
Інший тест провели із зображенням, створеним Grok. SynthID не виявив свого водяного знака та зазначив, що малоймовірно, що цей матеріал створений за допомогою ШІ партнерів Google. Водночас сервіс окремо попередив, що зображення могло бути створене іншою компанією або до того, як вона почала використовувати SynthID.
Google зазначає, що технологія вже інтегрована в екосистему моделей різних компаній, а перелік партнерів продовжує розширюватися. Проте результати таких перевірок не варто сприймати як остаточний доказ справжності зображення.
Ще одним обмеженням є необхідність авторизації. Для використання SynthID.com потрібно увійти через обліковий запис Google, Apple або ChatGPT.
Читайте також:
- Примірочна прямо в чаті. OpenAI навчила штучний інтелект одягати користувачів за фотографіями
- Водяний знак для білків. Google DeepMind навчилася непомітно маркувати молекули, створені штучним інтелектом
- Кого ти слухаєш? Підліток застряг на скелі після порад штучного інтелекту
