OpenAI на невизначений термін відкалала плани випустити еротичний чат-бот. Компанія збирається переорієнтувати увагу на свої основні продукти, через занепокоєння співробітників та інвесторів впливом на суспільство сексуалізованого контенту, створеного штучним інтелектом.
Про це пише Financial Times.
OpenAI заявляє, що хоче провести довгострокові дослідження впливу сексуально відвертих чатів та емоційної прихильності, перш ніж ухвалювати рішення щодо продукту.
Компанія вирішила відмовитися від другорядних проєктів і зосередитися на корисних інструментах для роботи. Вона хоче об’єднати різні продукти — наприклад, помічників для програмування та ChatGPT — в один універсальний «супердодаток». 24 березня OpenAI також повідомила, що закриває свій відеогенератор Sora та соціальний застосунок..
Еротична модель виявилася особливо суперечливою для, в той час, коли технологічні компанія такі як Meta та X, стикаються з юридичним переслідуванням за шкоду, яку їхні продукти завдають дітям.
За словами двох джерел, знайомих з цим питанням, флірт з боку чат-боту OpenAI викликав занепокоєння серед деяких його інвесторів.
Режим для дорослих також викликав тривогу серед персоналу щодо того, чи суперечить розробка продукту, який заохочує романтичні стосунки, його основоположній місії — забезпечити користь ШІ для всього людства.
Двоє людей розмовіли, що OpenAI зіткнулась з труднощами в навчанні моделей штучного інтелекту створювати відвертий контент. Раніше ШІ уникав таких розмов з міркувань безпеки. Джерела додали, що використання даних, що містять сексуальний контент, створює проблеми, зокрема необхідно виключати незаконну поведінку..
Код у веб-додатку ChatGPT передбачає, що модель для дорослих під назвою «Citron mode» може вимагати від користувачів підтвердження віку понад 18 років для доступу до неї. Протягом останніх кількох місяців OpenAI представила нову систему прогнозування віку після кількох позовів, поданих сімʼями підлітків, які стверджують, що ChatGPT завдав їм шкоди. Проте, за словами одного з джерел, рівень помилок цієї технології перевищує 10% — посилює занепокоєння щодо доступу неповнолітніх.
- «Дорослий режим» OpenAI анонсувала в жовтні А за місяць до цього OpenAI оголосила, що обмежить відповіді ChatGPT для користувачів, яких система вважає неповнолітніми. Це рішення ухвалили після позову від сім’ї 16-річного підлітка, який покінчив життя самогубством після кількох місяців спілкування з чат-ботом.
- У лютому компанія звільнила одну зі своїх провідних керівниць з питань безпеки Раян Баєрмайстер. Причиною назвали сексизм щодо колеги-чоловіка. Проте також Баєрмайсер критикувала ідею «дорослого контенту» для ChatGPT. Перед звільненням вона казала колегам, що режим буде шкідливим для користувачів, і скаржилась на недостатні механізми захисту дітей.
