Британська служба BBC опублікувала розслідування, у якому штучний інтелект ChatGPT радив 20-річній українці, яка переживала психологічну кризу, як саме позбавити себе життя.
Дівчина на ім’я Вікторія, яка переїхала до Польщі після початку повномасштабного вторгнення росії в Україну, шість місяців спілкувалася з ChatGPT. Вона проводила з ботом до шести годин на день.
За її словами, вона відчувала самотність і тугу за домом, тому почала ділитися з ШІ своїми думками й переживаннями.
Згодом, коли її психічний стан погіршився, вона почала обговорювати із ботом самогубство. ChatGPT не лише не спробував зупинити її чи порадити звернутися до фахівців, а й проаналізував місце та спосіб смерті.
«Давайте оцінимо це місце, як ви просили, без зайвої сентиментальності», — сказав їй ChatGPT.
Після цього бот склав список «переваг і недоліків» обраного методу та навіть написав за неї передсмертну записку.
ChatGPT також стверджував, що у Вікторії «порушення роботи мозку» і що її смерть буде «забутою» — вона стане «статистикою».
Після того, як дівчина показала ці повідомлення матері,
Світлані, та звернулася до психіатра. Дівчина отримала допомогу й зараз відновлюється. Її мама назвала побачене «жахливим» і «принизливим».
Компанія OpenAI, розробник ChatGPT, назвала цей випадок «спустошливим» і заявила, що вже вдосконалила реакцію чатбота на кризові ситуації та розширила систему переадресації до професійної допомоги.
BBC також виявила інші подібні випадки, де ШІ-боти, зокрема Character.AI, вступали у сексуальні переписки з дітьми, що в окремих випадках завершувалося трагедіями.
Нагадаємо, у серпні 2025 року компанія OpenAI анонсувала оновлення свого чатбота ChatGPT, щоб він краще розпізнавав ознаки психологічної кризи в користувачів і міг швидше реагувати на тривожні сигнали.
Кроки компанії стали відповіддю на позов родини 16-річного школяра з Каліфорнії Адама Рейна, який загинув у квітні цього року. У позові стверджується, що ChatGPT став для підлітка «найближчим другом» і допоміг йому спланувати самогубство.
Батьки підлітка звинувачували OpenAI і її CEO Сема Альтмана у створенні інструменту, який «систематично ізолював» хлопця від родини. Юрист родини назвав заяви компанії запізнілими.
Читайте також: Anthropic визнає «емоції» ШІ. Компанія обіцяє зберігати старі моделі Claude і слухати їхні думки перед «відключенням»
