Anthropic розширює співпрацю з фахівцями з кібербезпекиАмериканський розробник штучного інтелекту Anthropic оголосив про розширення доступу до своїх найпотужніших мовних моделей для спеціалізованих організацій, які займаються виявленням кіберзагроз та перевіркою захищеності інформаційних систем.
Як повідомляє Bloomberg, ініціатива реалізується у співпраці з американським урядом і передбачає залучення нових учасників до програми Project Glasswing.
Її метою є використання можливостей сучасного штучного інтелекту для пошуку потенційних вразливостей у системах, порушення роботи яких може мати значні економічні та безпекові наслідки.
Насамперед ідеться про енергетичну інфраструктуру, фінансові установи та авіаційні системи, які потребують особливо високого рівня захисту від кібератак.
До участі в програмі допускатимуть відібрані організації, які проходитимуть перевірку за участю уряду США. Таким чином, розширення доступу не означає, що відповідні моделі стануть загальнодоступними для всіх користувачів.
Для тестування нададуть Claude Opus 5.5, Sonnet 5.5 та Mythos 5.
1Учасники Project Glasswing отримають можливість працювати з кількома передовими моделями Anthropic, зокрема Claude Opus 5.5, Claude Sonnet 5.5 та Claude Mythos 5.1.
Компанія також планує поступово включати до програми майбутні покоління своїх моделей, щоб фахівці з кібербезпеки могли використовувати новітні технологічні можливості для аналізу захищеності інформаційних систем.
Штучний інтелект застосовуватимуть для дослідження програмного забезпечення, пошуку потенційних слабких місць та оцінювання стійкості систем до різних сценаріїв кібератак.
Особливу увагу приділятимуть можливостям моделей працювати зі складними технічними завданнями, аналізувати великі обсяги програмного коду та допомагати фахівцям виявляти проблеми, які можуть залишатися непоміченими під час традиційних перевірок.
Водночас Anthropic не повідомила про конкретну кількість нових учасників програми або терміни надання доступу до всіх заявлених моделей.
Фахівцям дозволять використовувати наступальні методи тестуванняОднією з особливостей розширеної програми стане можливість застосування методів наступальної кібербезпеки для перевірки захисних механізмів.
Йдеться про контрольоване моделювання дій потенційних зловмисників, яке дозволяє визначати, наскільки ефективно інформаційні системи протистоять спробам несанкціонованого доступу та іншим загрозам.
Такі випробування можуть включати аналіз потенційних шляхів проникнення до систем, перевірку програмних вразливостей та оцінювання можливостей захисної інфраструктури реагувати на складні атаки.
Команди, які спеціалізуються на пошуку вразливостей, отримають ширші можливості для використання моделей Claude під час проведення відповідних досліджень.
Водночас Anthropic зберігатиме обмеження на використання своїх технологій у сценаріях, здатних спричинити фізичну шкоду, масштабні збої або порушення роботи критично важливих систем.
Таким чином, компанія намагається поєднати розширення можливостей для професійного тестування кіберзахисту зі збереженням запобіжників проти небезпечного використання штучного інтелекту.
Anthropic попереджала про юридичні ризики автономних ШІ-агентівРозширення програми кібербезпеки відбувається на тлі дискусії щодо відповідальності розробників штучного інтелекту за дії автономних систем.
Раніше Anthropic попереджала про потенційні юридичні ризики, пов’язані з використанням ШІ-агентів, здатних самостійно виконувати завдання та взаємодіяти з інформаційними системами користувачів.
У документах, пов’язаних із підготовкою до можливого первинного публічного розміщення акцій (IPO), компанія зазначала, що автономна робота таких агентів може створювати додаткові правові ризики, зокрема у випадках, коли їхні дії призводять до небажаних наслідків.
Особливого значення це питання набуває у сфері кібербезпеки, де штучний інтелект може отримувати доступ до складних інформаційних систем та виконувати операції, які зазвичай потребують безпосереднього контролю спеціалістів.
У межах Project Glasswing Anthropic планує надавати розширені можливості перевіреним організаціям, водночас зберігаючи обмеження на потенційно небезпечні сценарії використання моделей.
