Новий інструмент Meta для виявлення ШІ-контенту не розпізнав майже половину зображень, створених власною моделлю компанії, після їхнього обрізання.
Це пише видання Reuters.
Минулого тижня Meta представила генератор зображень Muse Image. У створені ним картинки компанія вбудовує невидиме цифрове маркування Content Seal. У Meta заявляли, що воно має зберігатися навіть після обрізання, стиснення, зміни розміру або створення скриншота.
Для пошуку цього маркування компанія також почала тестувати спеціальний детектор. Під час першої перевірки Reuters він правильно визначив усі 40 зображень, створених Muse Image.
Однак після обрізання картинок до половини або третини початкового розміру результат погіршився. Детектор зміг правильно розпізнати лише 55% зображень як створені штучним інтелектом.
Проблема виявлення ШІ-контенту стає актуальнішою через поширення дипфейків. За даними компанії з кібербезпеки DeepStrike, у 2023−2025 роках кількість створених ШІ дипфейків в інтернеті щороку зростала приблизно на 900%.
Водночас системи розпізнавання такого контенту досі часто помиляються.
Попередні дослідження також показували, що звичайні користувачі визначають ШІ-контент приблизно з такою ж точністю, як під час випадкового вгадування.
За допомогою Content Seal і нового детектора Meta намагається розв’язати цю проблему. Розробка цих технологій є частиною масштабних інвестицій компанії у штучний інтелект.
Запуск Muse Image також викликав питання щодо приватності. Користувачі Instagram з’ясували, що модель могла використовувати фотографії з публічних профілів без окремої згоди їхніх власників. Згодом Meta прибрала цю функцію.
Наступним великим ШІ-продуктом компанії має стати генератор відео Muse Video.
Читайте також:
