OpenAI розглядає можливість впровадження водяних знаків для текстів, створених ChatGPT

OpenAI розробляє систему розпізнавання текстів, створених за допомогою ChatGPT, та позначатиме їх спеціальними "водяними знаками", що допоможе виявляти матеріали, написані штучним інтелектом.Про це повідомляє The Verge.Йдеться про те, що ця технологія вже готова приблизно на 99,9% і її не можна обійти простим перефразуванням.За технологією "водяного знака" OpenAI, налаштування моделі передбачають найімовірніші слова та фрази, які слідуватимуть за попередніми, створюючи шаблон, який можна виявити.Це може бути корисним для вчителів, які намагаються запобігти використанню ШІ для написання студентських робіт.Однак, всередині компанії є розбіжності щодо доцільності випуску цієї технології. За даними опитування, проведеного OpenAI, більшість людей підтримують ідею інструменту виявлення ШІ, проте близько 30% користувачів заявили, що використовуватимуть програмне забезпечення менше, якщо водяні знаки будуть впроваджені.Незважаючи на потенційні переваги, такі як захист від академічного шахрайства, OpenAI також турбується про те, що використання водяних знаків може негативно вплинути на досвід користувачів, особливо для тих, хто не є носіями мови. Крім того, переформулювання тексту іншою моделлю може обійти водяні знаки.Компанія також розглядає альтернативні методи, такі як вбудовування метаданих, які можуть бути менш суперечливими серед користувачів, але все ще перебувають на ранніх стадіях вивчення.Читайте також: OpenAI подвоїла річний дохід до $3,4 млрд.