Про це пише TechSpot із посиланням на дані поліції.
Інцидент стався 26 вересня. Геллер написала в чаті з ШІ про свої наміри напасти на поліцейський відділок. Системи безпеки розробника Claude, компанії Anthropic, автоматично зафіксували це повідомлення та передали його на перевірку модератору-людині.
Оцінивши загрозу як цілком реальну, співробітник звернувся до правоохоронців.
Поліцейські оперативно ідентифікували жінку та затримали її вдома. Сама Геллер пояснила, що вела переписку з ботом як із «щоденником».
Втім, тепер їй загрожує кримінальна відповідальність за статтею про письмові погрози вбивством, масовою стріляниною або терактом.
Як вказує видання, Anthropic може розкривати дані користувачів в екстрених випадках, якщо це необхідно для запобігання смерті або серйозним фізичним травмам.
Раніше виконавчі директори найбільших компаній із розробки штучного інтелекту OpenAI та Anthropic спільно закликали до більшого контролю над ШІ та сповільнення покращення технологій через ризики «виходу з-під контролю».
А співзасновник Microsoft Білл Гейтс припустив, що штучний інтелект у руках зловмисників може спричинити події, які призведуть до загибелі мільярда людей На його думку, законодавці й правоохоронці повинні обов’язково запровадити моніторинг за розробниками.
читайте також:
- Суд у США призупинив заборону створювати оголені фото через ШІ
