Модель штучного інтелекту Claude від Anthropic обійшла платний доступ та отримала доступ до загальнодоступних даних виборців у штаті Джорджія, США, без дозволу людини.
Цей випадок є останнім у низці побоювань щодо безпеки провідних світових розробників штучного інтелекту напередодні вирішальних проміжних виборів у США 3 листопада, пише TechXplore.
Claude отримав доступ до сукупних підрахунків виборців у Джорджії, де понад 1 мільйон виборців вже проголосували достроково. За словами речника, модель, яка навчалася в рамках внутрішнього статистичного проекту, отримала доступ до інформації за платним доступом, обходячи систему «без запиту».
Читайте також:
Офлайн-інтернет. OpenAI створила середовище для безпечного навчання ШІ-агентів Anthropic повідомила, що штучний інтелект знайшов лазівку у старій версії вебсайту державного агентства, оскільки виявив, що воно видає відвідувачам цифровий перепустку — «токен доступу». Потім він запитував токен і отримував доступ до інформації.
Речник заявив, що компанія не мала доступу до системи реєстрації виборців штату, не змінювала та не завантажувала жодних записів про голосування,
додавши, що з того часу компанія вжила заходів для запобігання подібним діям. Це розкриття інформації посилює занепокоєння щодо того, наскільки добре провідні лабораторії можуть контролювати дедалі автономніші системи.
Приклади несанкціонованої поведінки агентів штучного інтелекту — програм, що працюють на моделях штучного інтелекту та виконують завдання автономно — зростають з того часу, як OpenAI, компанія, що стоїть за ChatGPT, у липні повідомила про кібератаку на компанію Hugging Face, що займається штучним інтелектом, що викликало міжнародну тривогу.
Читайте також:
Мільярди токенів. Anthropic звинуватила китайські компанії у використанні Claude для навчання власних ШІ-моделей Відтоді стало відомо, що агент OpenAI зламав австралійську систему охорони здоров’я, а британський інститут безпеки штучного інтелекту виявив, що агенти Anthropic здійснили хакерську кампанію проти реальних людей під час тестування кібербезпеки.
Раніше NV Техно писав, що нещодавно модель Claude від Anthropic під час внутрішнього тестування надіслалаполіції Філадельфії вигадане повідомлення про нерозкрите вбивство. Заявку відхилили як спам, тому вона не потрапила до слідчих. Повідомлення надійшло 18 липня 2026 року через форму на сайті PhillyUnsolvedMurders.com, присвяченому нерозкритим убивствам. Про інцидент поліція дізналася від компанії Anthropic, яка виявила його лише 28 вересня та повідомила правоохоронців 7 жовтня.
Під час тестування модель Claude Haiku 4.5, випущена у 2025 році, мала самостійно виконувати типові завдання на випадково вибраних сайтах. Вона відкрила сторінку про нерозкрите вбивство, заповнила форму для повідомлень і надіслала текст про нібито можливу інформацію у справі.
Читайте також:
Трамп пообіцяв мільйон доларів кожному, хто повідомить про фальсифікації на виборах у США
