Німецький Інститут оптроніки, системних технологій та обробки зображень Фраунгофера представив інноваційну систему RealorRender, яка здатна виявляти дипфейки із високою точністю до 91%. Цей інструмент створений для боротьби із загрозою штучно створених зображень та відео, що активно використовуються для маніпуляцій і шахрайства в цифровому просторі.
Як працює система RealorRenderRealorRender застосовує унікальний підхід до розпізнавання дипфейків. Система об'єднує два основних методи аналізу: класичне глибоке навчання, що класифікує зображення за вже відомими ознаками штучної генерації, та оцінку "помилки реконструкції". Алгоритм спочатку аналізує підозрілий кадр, а потім намагається відтворити його за допомогою власної моделі. Якщо результат занадто точно збігається з оригіналом, це вказує на ймовірність, що зображення створене саме штучним інтелектом, а не за допомогою камери. Точність такого підходу коливається від 85% до 91%, що дозволяє ефективно ідентифікувати підробки та підвищує довіру до контенту в мережі.
"На офіційному сайті розробники пояснюють,
що система поєднує два методи аналізу. Перший — це класичне глибоке навчання, де алгоритм класифікує зображення на основі вже відомих ознак ШІ-генерації. Другий метод цікавіший: він оцінює «помилку реконструкції»".
Пояснювальний штучний інтелект та захист від цифрового насильстваВідмінністю RealorRender є застосування концепції Explainable AI (XAI). Система не лише визначає, чи є зображення дипфейком, а й візуалізує свою оцінку для користувача. Вона створює теплову карту підозрілих ділянок кадру, підсвічуючи текстури та артефакти, що можуть бути ознаками підробки. Такий підхід дозволяє фахівцям бачити мікроскопічні невідповідності у світлі або геометрії, які властиві генеративним моделям, і залишаються непомітними для людського ока.
Актуальність розробки підтверджують тривожні дані: лише у 2023 році на одному з тематичних ресурсів зафіксовано понад 276 000 порнографічних дипфейків, причому 96% із них були спрямовані проти жінок, чиї зображення використовувалися без згоди. Сервіси для створення подібних підробок лише за вересень того року зібрали понад 24 мільйони візитів. У світі, де дипфейки стали інструментом для шантажу, обману та політичних маніпуляцій, поява таких технологій як RealorRender дозволяє відновити контроль над цифровою реальністю і захистити права людей.
Розвиток інструментів для розпізнавання штучно створених зображень вже сьогодні стає важливим кроком у протидії цифровим злочинам та спотворенню інформації. Хоча штучний інтелект навчився створювати переконливі підробки, нові технології дають змогу успішно виявляти і зупиняти такі загрози.
