Компанія Anthropic виявила п’ять випадків, коли дослідники використовували Claude для роботи, яка могла допомогти у створенні біологічної зброї. Компанія заблокувала пов’язані акаунти.
Про це пише видання Interesting Engineering.
Випадки зафіксували з грудня 2025 року до серпня 2026-го. За даними Anthropic, дослідники працювали з вірусами, токсинами та сполуками, пов’язаними з отрутою. Компанія не змогла встановити, чи мали вони намір завдати шкоди, але вирішила припинити таку діяльність через потенційні ризики.
Одне з розслідувань стосувалося досліджень чикунгуньї — вірусного захворювання, яке передають комарі. Система Claude заблокувала запит, пов’язаний із грантовою заявкою на дослідження зі зміною властивостей вірусу. Робота була пов’язана з військовою науковою установою, що посилило занепокоєння компанії.
Після блокування дослідники продовжили роботу через інші канали. Anthropic також виявила платформу-посередника, яка перенаправляла відхилені запити про біологію до інших моделей із менш суворими обмеженнями.
Інший випадок стосувався високопатогенного пташиного грипу.
За даними компанії, один із дослідників протягом кількох тижнів використовував Claude для планування дослідження, аналізу даних та інтерпретації наукової інформації.
Anthropic заявила, що її захисні механізми не дозволили досліднику отримати доступ до найпотужніших моделей для цієї роботи. Натомість він використовував версії з меншими можливостями.
Ще три випадки стосувалися досліджень ортопоксвірусів, сполук, пов’язаних із отрутами, та токсинів. Anthropic не розкрила імена дослідників, їхнє місце перебування або конкретні біологічні деталі проведених робіт.
Керівник відділу розвідки загроз Anthropic Джейкоб Кляйн зазначив, що в таких ситуаціях складно провести межу між легітимними науковими дослідженнями та потенційно небезпечною діяльністю. Біологічні знання можуть використовуватися як для розробки медичних методів, так і для створення небезпечніших патогенів.
Компанія повідомила про виявлені випадки правоохоронним органам та іншим розробникам ШІ, а пов’язані з діяльністю акаунти заблокувала.
Anthropic також повідомила про окрему російську кібероперацію, у якій Claude використовували для автоматизації шпигунської кампанії.
Компанія пов’язала її з Midnight Blizzard — угрупованням, яке пов’язують із російськими державними хакерами.
Цілями операції стали державні та військові структури України й інших країн Європи, дипломатичні представництва та оборонні компанії. ШІ використовували, зокрема, для фішингу, налаштування інфраструктури, розробки шкідливого програмного забезпечення та викрадення даних.
Anthropic зазначила, що виявила понад 20 організацій, пов’язаних із плануванням або проведенням цієї операції. За даними компанії, автоматизовані системи також відстежували, чи виявили шкідливе програмне забезпечення засоби захисту, і за потреби змінювали його.
Після розслідувань Anthropic посилила обмеження на доступ до небезпечних біологічних запитів і додатково захистила системи, призначені для роботи з чутливими дослідженнями.
Читайте також:
- Claude Fable 5.1 і Mythos 5.1. Нові моделі від Anthropic здешевили та посилили для програмування і наукових завдань
- Через крадіжку сесій. Anthropic почала примусово виходити з акаунтів користувачів Claude
- Повстання роботів вже близько. Дослідник Anthropic звільнився через побоювання щодо самовдосконалення ШІ
