ШІ в центрі геополітичних махінацій: доповідь Anthropic про Claude. Джерело: AI
Компанія Anthropic оприлюднила свіжий звіт про безпеку, який наочно демонструє: ризики використання генеративного ШІ у військових та диверсійних цілях перестали бути суто гіпотетичними. У період з грудня 2025 по серпень 2026 року розробники зафіксували щонайменше п'ять інцидентів, коли нейромережу Claude цілеспрямовано намагалися залучити до робіт, що межують з розробкою біологічної зброї. Паралельно флагманські алгоритми компанії опинилися на озброєнні урядових хакерів.
Небезпечна грань: патогени, військові гранти та обхід фільтрівГоловна дилема для творців передових LLM полягає у феномені подвійного призначення наукових даних. Ті самі біохімічні обчислення, які прискорюють розробку вакцин, здатні багаторазово посилити летальність існуючих вірусів. Виявити зловмисний задум на етапі первинного промпту алгоритмам захисту вкрай складно, адже формулювання повністю копіюють стандартну наукову діяльність.
Серед зафіксованих інцидентів особливо виділяються два епізоди:
- Посилення функцій вірусу Чикунгунья (Chikungunya): Claude намагалися змусити скласти документацію та заявку на фінансування досліджень щодо модифікації властивостей патогену, який переноситься комарами. Замовником проєкту виступала військова науково-дослідна установа. Отримавши відмову від Claude, автори запиту перейшли на сторонні API-платформи з менш жорсткою модерацією.
- Експерименти з пташиним грипом: Інший дослідник протягом кількох тижнів використовував потужності Claude для планування експериментів та валідації даних щодо високопатогенного штаму. Коли захисні протоколи заблокували доступ до найпросунутішої моделі, користувач без зусиль продовжив сесію, переключившись на полегшену версію чат-бота зі зниженими порогами фільтрації.
отрут та дослідженнями в галузі ортопоксвірусів.
https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw' rel='noopener' target='_blank
Midnight Blizzard: інтеграція ШІ в державні кіберопераціїОкрім біологічних загроз, Claude зіткнувся з атаками у кіберпросторі. У звіті Anthropic прямо фігурує відоме хакерське угруповання Midnight Blizzard (також відоме як APT29 та NOBELLIUM), яке пов'язують з російськими спецслужбами. Зловмисники задіяли нейромережу для оптимізації рутинних процесів: генерації таргетованого фішингу, написання шкідливого коду та розгортання супутньої інфраструктури.
Під ударом опинилися понад 20 відомств, включно з урядовими, дипломатичними та оборонними структурами України та низки європейських держав. Інцидент підтверджує довгостроковий тренд: великі кібергрупування переходять від експериментів з генеративним кодом до його системної інтеграції в операційний пайплайн.
Анатомія обходу: чому заборони більше не рятуютьЗвіт Anthropic викриває фундаментальну проблему всієї індустрії. Чим глибше сучасні моделі розуміють контекст і чим ефективніше вони допомагають реальним науковцям, тим грізнішою зброєю вони стають у руках зловмисників. Прямі бани облікових записів перетворюються на боротьбу з симптомами, оскільки практикуючі атакуючі навчилися дробити небезпечні сценарії на мікрозадачі, маскувати запити під рутинну лабораторну роботу та за потреби мігрувати між альтернативними провайдерами.
Anthropic вже посилила політики для високоризикових категорій обчислень та передала зібрані дані спецслужбам. Однак очевидно одне: гонка озброєнь між розробниками систем безпеки та винахідливістю операторів шкідливого ПЗ перейшла у принципово нову, набагато небезпечнішу фазу.
Повідомлення Anthropic розкрила спроби створення біозброї та кібератак через Claude: чому захисні бар'єри дають збій з'явилися спочатку на ITnet.
