Anthropic пояснила, як працюватиме невидимий водяний знак у текстах Claude. Система має допомагати визначати тексти, створені ШІ, і пов’язана з вимогами Закону ЄС про штучний інтелект.
Про це пише видання Gizmodo.
Компанія заявила, що водяний знак не буде помітний читачеві. Він формується не за рахунок спеціальних символів чи заміни слів, а завдяки вибору певних токенів під час генерації тексту.
Токенами називають невеликі частини тексту, які модель використовує під час створення відповіді. У ситуаціях, де можливі різні варіанти продовження речення, система може статистично частіше обирати певні токени. Сам принцип вибору визначає секретний ключ Anthropic.
Наприклад, у реченні про погоду модель може обрати між словами на кшталт «сірий» і «похмурий». У такому випадку система може надати перевагу одному з варіантів. Але в реченні на кшталт «Париж — столиця…» вибір практично очевидний, тому водяний знак там застосувати складніше.
Окремі такі вибори людина не помітить. Проте у довгому тексті їх накопичується достатньо, щоб спеціальний детектор міг визначити, що матеріал,
імовірно, створив Claude. Anthropic планує надавати такий інструмент через API.
За словами компанії, створення водяного знака майже не впливає на швидкість генерації та витрати токенів. Водночас у коротких текстах і програмному коді визначити походження може бути складніше через меншу кількість неоднозначних варіантів.
Система також може спрацьовувати, якщо Claude використовують лише для редагування тексту, написаного людиною. Наскільки помітним буде такий слід, залежатиме від обсягу тексту та того, наскільки сильно модель його змінила.
Технологія базується на підході, описаному в дослідженні SynthID 2024 року. Схожу систему для маркування контенту використовує Google.
Пояснення Anthropic з’явилося після реакції частини користувачів Claude, які заявили в соцмережі X, що скасовують платні підписки через нововведення. Деякі з них пояснювали, що не хочуть, аби клієнти, викладачі чи інші люди могли визначити використання ШІ.
Водночас Anthropic заявила Business Insider, що після оголошення про водяні знаки не зафіксувала зростання кількості скасувань підписок.
Читайте також:
