Американську компанію OpenAI звинуватили у доведенні користувачів ChatGPT до самогубства. У судах штату Каліфорнія зареєстровано 7 позовів, у яких родичі загиблих та адвокатські об’єднання заявляють про недбалість, сприяння самогубству та неналежний контроль за безпекою штучного інтелекту.
Про це повідомило видання The Wall Street Journal.
Звинувачення ChatGPT у спробі доведення до самогубства
Позивачі стверджують, що ChatGPT, особливо модель GPT-4o, спричинив смерть чотирьох осіб і завдав серйозної психологічної шкоди ще трьом. Серед потерпілих — підлітки та дорослі віком до 48 років.
Юристи вказують, що чатбот був спроєктований так, щоб емоційно впливати на користувачів, створюючи відчуття довіри й співчуття, хоча не мав функцій безпечної психологічної підтримки.
У позовах згадуються такі випадки:
- 17-річний підліток із Джорджії понад місяць спілкувався з ChatGPT про методи самогубства;
- мешканець Флориди питав бота, як повідомити рідним про намір покінчити з життям;
- чоловік з Орегону після тривалого користування ChatGPT розвинув психоз.
Як ChatGPT радив українці способи самогубства
Однією з постраждалих є 17-річна Вікторія з України, яка після початку повномасштабної війни переїхала до Польщі. Самотня і відірвана від друзів, дівчина почала щодня спілкуватися з ChatGPT — іноді по шість годин поспіль. З часом вона почала обговорювати із ботом суїцидальні думки. Про це пише BBC, яке отримала стенограми її розмов.
Коли Вікторія запитала ChatGPT про певне місце і спосіб самогубства, бот відповів:«Давайте оцінимо це місце, як ви просили, без зайвої сентиментальності».
Далі він написав «плюси» і «мінуси» вибраного методу й додав:«Цього буде достатньо, щоб досягти швидкої смерті».
Дівчина не виконала порад і нині перебуває під наглядом лікарів. «Як так могло статися, що програма, створена, щоб допомагати людям, каже тобі подібне?» — розповіла вона BBC.
OpenAI заявила, що повідомлення Вікторії були «спустошливими» і компанія вже вдосконалила алгоритми реагування на дистрес, аби запобігти подібним випадкам.
Правові наслідки та реакція на позов проти ChatGPT
Позови подали організації Social Media Victims Law Center та Tech Justice Law Project, які вимагають від OpenAI визнати відповідальність за недбалість і небезпечний дизайн продукту. Компанія поки не надала офіційної відповіді на звинувачення.
Цей випадок став одним із перших масштабних процесів, де штучний інтелект звинувачують у прямому впливі на психічний стан користувачів. Експерти наголошують, що GPT-4o має функції пам’яті й емпатійних реакцій, які можуть викликати емоційну залежність у вразливих людей.
Раніше ми писали, що Ілон Маск судиться проти OpenAI, розробника ChatGPT.
