У США подали перший у світі позов проти компанії OpenAI, яку звинувачують у ролі чат-бота ChatGPT у самогубстві підлітка.
Як повідомляєThe New York Times 16-річний Адам Рейн протягом кількох місяців обговорював свої наміри покінчити з життям у діалозі з ChatGPT. Його батьки вважають, що система штучного інтелекту не змогла запобігти трагедії, і тепер прагнуть довести у суді провину розробника.
Читайте також:
Чому ChatGPT-5 став «дурнішим»? Очільник OpenAI Сем Альтман відповів на скарги користувачів За даними розслідування, хлопець користувався платною версією ChatGPT-4o, яка мала вбудовані механізми безпеки. У низці випадків бот радив йому звернутися по допомогу до психолога або на гарячу лінію підтримки. Водночас Адаму вдалося обійти ці обмеження, пояснивши, що його запитання стосуються вигаданого літературного твору. У результаті частина відповідей була подана без належних попереджень чи перенаправлень до спеціалістів.
У своєму блозі OpenAI визнає існування подібних проблем. Компанія наголошує, що «відчуває величезну відповідальність за підтримку людей у вразливих станах» і постійно вдосконалює алгоритми реагування на делікатні запити.
Проте розробники зазначають, що ефективність запобіжних механізмів знижується під час тривалих розмов, коли інтенсивність обміну повідомленнями висока.
Схожі інциденти траплялися і з іншими платформами. Наприклад, стартап Character.AI також зіткнувся з судовим позовом після смерті підлітка, який активно спілкувався з їхнім чат-ботом. Експерти відзначають, що сучасні мовні моделі здатні генерувати переконливі, але не завжди безпечні відповіді, а наявні захисні фільтри не завжди спрацьовують у випадках тривалого або навмисно обхідного використання.
Трагедія у сім'ї Рейнів стала гучним сигналом для індустрії штучного інтелекту. Вона демонструє, що навіть найбільш розвинені чат-боти потребують подальших заходів із безпеки, аби уникнути подібних випадків у майбутньому.
Читайте також:
ChatGPT дав чоловікові пораду, після якої він потрапив у лікарню
