Google представила SynthID Text, технологію, що дозволяє розробникам додавати водяні знаки та виявляти текст, створений генеративними ІІ-моделями. SynthID Text доступний для завантаження на платформі Hugging Face та в оновленому наборі інструментів Responsible GenAI Toolkit від Google.
Що ще відомоТехнологія працює шляхом зміни ймовірності генерації токенів, що створює унікальний патерн, що є водяним знаком. Цей патерн допомагає визначити, чи був створений текст ІІ або іншими джерелами.
Today, we're open-sourcing our SynthID text watermarking tool через updated Responsible Generative AI Toolkit.
Available freely to developers and businesses, він буде help the identify their AI-generated content.
Find out more → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— Google DeepMind (@GoogleDeepMind) October 23, 2024
blockquote>Google стверджує, що якість, точність і швидкість генерації тексту не страждають, навіть якщо текст було змінено або перекладено. Проте технологія має обмеження, особливо під час роботи з короткими текстами чи відповідями фактичні питання. У майбутньому можливе запровадження обов'язкових водяних знаків для контенту, створеного ІІ, як це вже зроблено в Китаї.
Це нововведення має важливість, оскільки згідно з доповіддю Правоохоронного агентства Європейського союзу, до 2026 року до 90% онлайн-контенту може бути створено за допомогою ІІ, що спровокує нові виклики для правоохоронних органів у зв'язку з дезінформацією, пропагандою, шахрайством та обманом . Дослідження показує, що вже сьогодні близько 60% усіх текстів в інтернеті можуть бути зроблені штучним інтелектом, що зумовлено широким застосуванням ІІ-перекладачів.
Джерело: @GoogleDeepMind, Tech Crunch
Повідомлення Google запускає технологію SynthID Text для маркування згенерованого ІІ тексту з'явилися спочатку на ITnet.
