Anthropic запроваджує невидимі водяні знаки для текстів, створених Claude. Спеціальний машинозчитуваний сигнал вбудовуватиметься безпосередньо в слова, щоб визначати використання чат-бота.
Про це пише видання Gizmodo.
Нові моделі Claude, запущені в ЄС із 2 серпня, підтримують цю систему від моменту запуску. Водночас Anthropic планує використовувати маркування не лише в Європі, а й у своїх продуктах по всьому світу.
Водяний знак не видно користувачеві та він не повинен впливати на зміст, якість або читабельність тексту. Оскільки сигнал міститься безпосередньо в написаному, він може зберігатися під час копіювання та вставлення тексту, а в деяких випадках навіть після редагування.
Anthropic також працює над інструментами, за допомогою яких користувачі та сторонні розробники зможуть перевіряти тексти на наявність такого маркування.
Водночас компанія попереджає, що система не є безпомилковим способом визначення походження тексту. Наявність водяного знака означає лише, що текст міг бути оброблений Claude. Наприклад, користувач міг написати його самостійно, а потім використати чат-бот для перекладу,
редагування чи скорочення.
Відсутність знака також не доводить, що текст не створювався за допомогою ШІ. Сигнал може зникнути після значного редагування, перефразування, перекладу або змішування тексту з іншими матеріалами. Для дуже коротких уривків може бути недостатньо інформації для надійного виявлення.
Anthropic пояснює нововведення вимогами щодо прозорості використання штучного інтелекту в Європейському Союзі. Компанія приєдналася до інших великих розробників ШІ, які впроваджують технології для визначення походження контенту.
Google уже використовує SynthID для невидимого маркування тексту, створеного ШІ. OpenAI застосовує технології визначення походження контенту для зображень та аудіо, але окремої системи маркування тексту публічно не оголошувала.
Anthropic також додаватиме цифрові підписи до метаданих підтримуваних файлів, зокрема SVG, PNG і JPG. Вони базуватимуться на відкритому стандарті C2PA та можуть показувати, що файл оброблявся Claude, а також чи змінювали його після цього.
Читайте також:
