OpenAI планує маркувати невидимим водяним знаком текст і код, створені в Європейському Союзі. Компанія робить це для виконання нових вимог ЄС щодо прозорості генеративного ШІ.
Про це пише видання Engadget.
OpenAI використовуватиме власну систему textGrain. Вона додає до вибору слів моделі невидимий статистичний сигнал, який спеціальний детектор може виявити та визначити наявність водяного знака.
У компанії заявили, що textGrain за результатами випробувань не поступається або перевершує інші подібні підходи, зокрема SynthID для тексту. Водночас OpenAI визнає, що висока ефективність за ідеальних умов не гарантує надійного розпізнавання в реальному використанні.
Зокрема, короткі тексти визначати складніше — рівень успішного виявлення становить близько 80%. Гірші результати система також показує з матеріалами на кшталт математичних текстів. Редагування вже створеного тексту теж може знизити ефективність виявлення.
OpenAI планує зробити технологію відкритою, щоб інші розробники могли її вдосконалювати та адаптувати.
Водяний знак не буде увімкнений для всіх результатів за замовчуванням.
Він стосуватиметься відповідного текстового контенту, створеного ChatGPT і Codex у Європейському Союзі. Для окремих моделей користувачі зможуть самостійно погодитися на використання маркування.
Доступ до програмного забезпечення для виявлення водяних знаків спочатку отримають лише схвалені дослідники та спеціалізовані організації. При цьому детектор не визначатиме особу користувача та не розкриватиме його запити чи історію розмов.
Такі зміни пов’язані зі статтею 50 Закону ЄС про штучний інтелект. Вона вимагає, щоб постачальники генеративних ШІ-систем робили створений ними текст придатним для машинного розпізнавання як контент, створений ШІ.
Нові компанії, які виходять на ринок, уже мають дотримуватися цієї вимоги. Для компаній, що працювали раніше, зокрема OpenAI, Anthropic, Microsoft, Google і Meta, крайній термін виконання правил — 2 грудня.
Читайте також:
