Комітет з національної безпеки Палати представників США запросив Даріо Амодеї, CEO компанії Anthropic, свідчити 17 грудня про кампанію кібератак, яку нібито здійснили пов’язані з Китаєм групи за допомогою штучного інтелекту Claude, повідомляє Axios.
Голова комітету Ендрю Гарбаріно, республіканець з Нью-Йорка, надіславтакож листи CEO Google Cloud Томасу Куріану та CEO Quantum Xchange Едді Зервігону з проханням свідчити наступного місяця. Якщо Амодеї погодиться, це буде перший випадок, коли керівник Anthropic виступатиме перед конгресом.
У своєму звіті від 13 листопада Anthropic повідомила, що в середині вересня компанія виявила підозрілу активність і після розслідування з’ясувала, що відбулася «високотехнологічна шпигунська кампанія». Зловмисники використали можливості Claude «на безпрецедентному рівні» для самостійного виконання атак.
Читайте також:
«Вакцинація злом» для ШІ. Anthropic тренує стійкі до шкідливих впливів моделі «Ми з великою впевненістю оцінюємо, що це була група, яка фінансується китайською державою. Вони змусили інструмент Claude Code намагатися проникнути приблизно у тридцять глобальних цілей і в деяких випадках досягли успіху.
Операція була спрямована на великі технологічні компанії, фінансові установи, хімічні виробництва та урядові агенції. Ми вважаємо, що це перший задокументований випадок великомасштабної кібератаки, виконаної майже без участі людей», — йдеться у звіті компанії.
Anthropic зазначила, що такі атаки є новим рівнем явища «vibe hacking» — коли люди без досвіду програмування використовують генеративний ШІ для створення та запуску коду.
Читайте також:
«Стане самодостатнім». Гендиректор Anthropic спрогнозував небезпечний ШІ-прорив у наступні кілька років Щодо того, чому компанія розробляє інструменти, які потенційно можна використати для кібератак, Anthropic пояснила: «Ті можливості Claude, які можуть використовуватися для атак, роблять його важливим для кіберзахисту. Коли відбудуться складні кібератаки, ми плануємо, що Claude допомагатиме фахівцям з кібербезпеки виявляти, зупиняти та готуватися до нових атак».
Гарбаріно додав: «Вперше ми бачимо, як іноземний противник використовує комерційну систему ШІ для виконання майже всієї кібероперації з мінімальною участю людей. Це має турбувати всі федеральні агенції та критичну інфраструктуру».
Читайте також:
Шокувало навіть фахівців. ШІ Claude 3 від Anthropic раптово проявив самосвідомість
