Логотип Anthropic. Джерело: Anthropic
Як Anthropic маркує контент, створений Claude
Компанія Anthropic деталізувала роботу системи водяних знаків для текстів, що її ІІ-асистент Claude згенерував. Цей крок став частиною галузі ініціативи щодо прозорості ІІ-контенту.
Принцип роботи прихованого маркування
Технологія ґрунтується на виборі конкретних слів та формулювань під час генерації відповіді. За наявності синонімічних варіантів Claude використовує певний шаблон, що створює унікальний патерн, невидимий для користувача, але виявляється спеціальним алгоритмом.В основі системи лежить підхід SynthID-Text, розроблений Google DeepMind у 2024 році. Anthropic також планує надати API для перевірки текстів на наявність таких маркерів.
Уразливості та обмеження системи
Повноцінне переписування тексту із заміною всіх слів видаляє водяний знак. Однак незначні редагування можуть зберегти маркування. У випадках, коли Claude лише редагує людський текст, детекція залежить від обсягу змін.Особливий підхід застосовується до програмного коду: тут маркування менш виражена через обмежені варіанти синтаксису. Технологія фокусується на коментарях та інших ділянках, що допускають варіативність формулювань.
Галузевий контекст
Anthropic підтвердила, що система маркування є частиною виконання Кодексу практики ЄС з ІІ, який підтримали інші великі розробники мовних моделей. Це свідчить про формування галузевого стандарту для ідентифікації контенту ІІ.Джерело: Anthropic
Повідомлення Anthropic розкрила механізм маркування текстів їх видалити спочатку з'явилися на ITnet
