Про це повідомило Bloomberg.
ChatGPT здатний писати есе, сценарії та вірші, як заявляли розробники, за лічені секунди та часто на високому рівні. Компанія, яка базується в Сан-Франциско, зазначала, що тексти, які видає ШІ, наближені до людських.
Чим краще стає штучний інтелект, тим важче буде відрізнити текст, створений людиною, від машинного. Видання додало, що для таких випадків розробники мають якось визначати роботу машин. В іншому випадку в інтернеті може з’явитися багато політичної пропаганди, фейкових відгуків, вимагачів, які надсилають переконливіші фішингові листи, завантажені есе у навчальних закладах тощо.
Згідно з політикою OpenAI щодо ChatGPT користувачі системи повинні чітко вказувати, що він створений ШІ “у такий спосіб, щоб жоден читач не міг пропустити” або неправильно зрозуміти. Утім авторка статі журналістка Пармі Олсон сказала на таке “удачі”.
За її словами, згенерований ШІ текст потребує водяного знаку на кшталт фотокомпаній, які захищають свої зображення. Програма генерації тексту вже має метод позначення іншого інструменту генерації контенту під назвою DALL-E.
Він полягає у тому, що на згенерованому зображенні з текстом є підпис, але все одно набагато важче відстежити походження тексту. Перспективним захистом може стати криптографія, а саме перетворити слова на рядок токенів. Вони представлятимуть знаки пунктуації, літери або частини слів, що становитиме близько 100 тисяч токенів, а сама система GPT могла б виявляти розташування цих токенів за допомогою криптографічного ключа, відомого лише OpenAI.
“Це не матиме помітного значення для кінцевого користувача”, — сказав вчений-дослідник OpenAI Скотт Ааронсон.
У такому випадку буде важко відчистити сигнал водяного знака, навіть переставляючи слова або видаляючи знаки пунктуації. Утім залишається спосіб обійти захист — використовувати іншу систему штучного інтелекту, щоб перефразувати результати інструменту GPT. Проте такий крок вимагає зусиль, і не кожен би це зробив.
OpenAI потрібно буде встановити пріоритет системи водяних знаків для свого тексту. Утім наше майбутнє схоже буде наповнене машинно-генерованою інформацією не лише з інструментами OpenAI. Дедалі частіше з’являються штучно згенеровані зображення, малюнки, відео, музика тощо. Повідомляється, що фільм “Диво-жінка 3” скасований з приходом нового керівництва DC і Warner Brosers.
