Інструменти для виявлення текстів, створених ШІ, можуть бути точними, але не дають абсолютної гарантії. Їхні результати залежать від розвитку мовних моделей, а алгоритми постійно змінюються.
Про це пише видання Gizmodo.
Детектори на кшталт Pangram та Originality.ai аналізують сотні невеликих закономірностей у тексті. Вони оцінюють не лише слова, а й те, як вони розташовані одне відносно одного. Через це алгоритми можуть знаходити математичні ознаки, які людина не помітить.
Водночас самі розробники визнають, що такі системи не можуть бути безпомилковими. Генеральний директор Pangram Макс Сперо зазначив, що компанія прагне підвищувати рівень упевненості за допомогою більшої кількості даних, але 100-відсоткової точності досягти не вдасться.
Схожої думки дотримується Джон Гіллгам, керівник Originality.ai. Він порівняв визначення ШІ-тексту з прогнозом погоди: алгоритм працює з імовірностями, а не абсолютною впевненістю. Тому навіть дуже високий показник не означає, що результат гарантовано правильний.
Проблему ускладнює швидкий розвиток ChatGPT, Claude, Gemini та інших великих мовних моделей.
Ознаки, за якими сьогодні можна запідозрити використання ШІ, завтра можуть зникнути після оновлення моделі. Крім того, існують спеціальні сервіси, які переробляють текст, створений ШІ, щоб він більше нагадував людський.
Детектори також працюють за принципом «чорної скриньки»: навіть їхні розробники не завжди можуть точно пояснити, які саме комбінації ознак привели алгоритм до певного висновку.
Окремим способом визначення походження контенту є цифрові водяні знаки. Закон ЄС про штучний інтелект передбачає маркування певного контенту, створеного або зміненого ШІ, а також використання машинозчитуваних водяних знаків. Проте й їх можна обходити або видаляти.
Наприклад, Anthropic почала впроваджувати водяні знаки для текстів, створених Claude, однак дослідники невдовзі знайшли способи їх обходити. Google також використовує невидимий SynthID та метадані C2PA для позначення походження створених ШІ зображень, відео й музики.
Експерт з цифрової криміналістики та професор Дартмутського коледжу Хані Фарід вважає, що недосконалість таких технологій не означає, що від них треба відмовлятися.
За його словами, водяні знаки й детектори можуть бути лише частиною системи захисту, яку доводиться постійно вдосконалювати.
Ще складніше визначити контент, у якому ШІ використовували лише частково. Людина могла написати текст самостійно, а потім попросити нейромережу відредагувати його. Водяний знак у такому випадку може лише показати, що ШІ втручався в матеріал, але не пояснить, наскільки значним було це втручання.
Тому фахівці радять не покладатися лише на результат одного ШІ-детектора. В умовах, коли штучний інтелект стає дедалі складнішим для розпізнавання, важливими залишаються перевірка джерела інформації, редакційні стандарти та критичне мислення.
Читайте також:
- Систему легко обійти. Детектор Meta не зміг розпізнати більшість ШІ-зображень після обрізання
- Після хвилі скасувань підписок. Anthropic пояснила, як працюватиме невидимий водяний знак у текстах Claude
- Поза контролем OpenAI. Штучний інтелект захопив старий німецький сайт, щоб обмінюватися відповідями на тестах
