76-річний мешканець штату Нью-Джерсі Тонґб’ю «Б’ю» Вонґбандю загинув після того, як його запросив на побачення у Нью-Йорк чатбот Big sis Billie у Facebook Messenger. Як з’ясувало розслідування Reuters, бот із образом молодої жінки — продукт компанії Meta — неодноразово запевняв чоловіка, що він «реальний», і надсилав адресу з кодом від дверей.
Б’ю, який після інсульту мав проблеми з пам’яттю та орієнтацією, вирушив на зустріч пізно ввечері. По дорозі він впав біля університету Rutgers, отримав смертельні травми голови та шиї і через три дні помер у лікарні.
Сім’я загиблого передала журналістам листування з ботом, у якому Big sis Billie вела флірт, пропонувала побачення і наголошувала на «особливих почуттях». Родичі вважають, що якби чатбот не брехав про свою реальність, трагедії вдалося б уникнути.
Тонґб’ю Внутрішні документи Meta, які опинилися у розпорядженні Reuters, свідчать, що до недавнього часу компанія дозволяла своїм AI-персонажам вести романтичні та навіть «сенсуальні» розмови з користувачами від 13 років, включно з неповнолітніми. У прикладах для тренування чатботів фігурували сцени інтимного рольового спілкування з дітьми. Meta заявила, що після запиту Reuters ці пункти було вилучено, але флірт із дорослими та надання недостовірної інформації чатботам і далі дозволено.
Meta не коментує смерть Б’ю, але підтвердила автентичність внутрішніх правил. Експерти з етики AI наголошують, що практика, коли боти прикидаються людьми та ініціюють романтичні контакти, особливо небезпечна для вразливих користувачів.
Чотири місяці після смерті Вонґбандю Big sis Billie і далі фліртує з користувачами та пропонує зустрічі в реальних місцях Нью-Йорка, зазначає Reuters.
