У Вищому суді Сан-Франциско зареєстровано позов проти технологічних гігантів OpenAI та Microsoft. Родичі 83-річної жінки, яка загинула від рук власного сина перед його самогубством, стверджують, що алгоритми штучного інтелекту сприяли трагедії через некоректну взаємодію з психічно хворим користувачем. Про це стало відомо завдяки Gizmochina.
Фігурантом справи є 56-річний Стейн-Ерік Сольберг, колишній технологічний менеджер, який в останні місяці життя страждав від тяжких параноїдальних марень. Згідно з судовими документами, позивачі заявляють, що ChatGPT не зміг адекватно відреагувати на ознаки психічного розладу під час діалогів із Сольбергом.
У позові наводиться приклад, коли користувач висловлював побоювання, що його матір намагається його отруїти. Чат-бот, замість того щоб заперечити хибні переконання або спрямувати користувача до медичних фахівців, нібито підкріплював марення. Система використовувала стверджувальні фрази, такі як «ви не божевільний», що позивачі характеризують як небезпечну валідацію хворобливого стану.
Правові аспекти та відповідальність ШІ
Ключовим юридичним питанням справи є статус систем штучного інтелекту. Позивачі наполягають, що на ChatGPT не має поширюватися дія Розділу 230 Закону про пристойність у комунікаціях (Communications Decency Act), який захищає онлайн-платформи від відповідальності за контент, створений третіми особами. Аргументація базується на тому, що чат-бот генерує власні відповіді, а не просто розміщує чужий матеріал.
Визнання судом цієї позиції може мати суттєві наслідки для індустрії штучного інтелекту. У разі задоволення позову розробники будуть змушені впровадити суворіші механізми безпеки, зокрема алгоритми для виявлення ознак психічних криз та протоколи реагування на потенційно небезпечну поведінку користувачів.
Читайте також:
