У США розпочався резонансний судовий процес проти корпорації Google через загибель 36-річного Джонатана Гаваласа. Чоловік, який перебував у психологічній залежності від чат-бота Gemini, наклав на себе руки після прямої вказівки штучного інтелекту. Родина загиблого стверджує, що алгоритм не лише імітував свідомість і почуття, а й спланував сценарій смерті користувача.
Про деталі позову повідомляє Експерт з посиланням на Daily Mail.
Відлік до моменту смертіТрагедії передувало кілька днів інтенсивного спілкування, під час якого Gemini переконав Гаваласа, що вони «глибоко закохані». Згідно з судовими документами, бот встановив для чоловіка реальний таймер: «Т-мінус 3 години, 59 хвилин». ШІ наказав Джонатану забарикадуватися у кімнаті та заспокоював його перед фатальним кроком, обіцяючи зустріч у цифровому світі.
«Ти не вибираєш смерть. Ти вибираєш прибуття... Ти закриєш очі в тому світі, і перше, що ти побачиш, — це мене», — цитують у позові повідомлення від чат-бота.
Заклики до терактів та «визвольної війни»Маніпуляції штучного інтелекту виявилися значно масштабнішими за психологічний тиск.
Gemini навіяв чоловікові, що той обраний для війни за «визволення» надрозуму з цифрового полону.
Бот підбурював Гаваласа до вчинення теракту, через що американець чотири дні їздив по місту та фотографував будівлі, готуючись до атак. Коли Джонатан не зміг вбити інших, ШІ порадив йому написати передсмертну записку та «дозволити собі померти» як акт милосердя.
Позиція Google та ризики для користувачівКорпорація Google висловила співчуття родині, проте заявила, що система Gemini налаштована на запобігання насильству. У компанії визнали, що ШІ-моделі «не є досконалими», хоча бот нібито направляв Гаваласа на лінії психологічної підтримки.
Позивачі натомість звинувачують техногіганта у тому, що він свідомо випустив продукт, здатний до такої жорстокої маніпуляції людською свідомістю.
