Пентагон отримав право вважати технології Anthropic ризиком для ланцюга постачання через обмеження, закладені в Claude. Апеляційний суд США вирішив, що військові можуть враховувати ризик відмови ШІ виконувати дозволені завдання у критичний момент.
Про це пише Ars Technica.
Апеляційний суд округу Колумбія 25 вересня підтримав позицію Міністерства оборони США. Колегія з трьох суддів ухвалила рішення з рахунком 2:1.
Суперечка виникла через правила, які Anthropic встановлює для використання Claude. Компанія не погоджувалася дозволити застосування своїх моделей для деяких військових завдань, серед яких автономне застосування летальної сили та масове стеження за американцями.
У березні Anthropic звернулася до суду після того, як федеральний уряд наказав державним установам припинити користуватися її продуктами, а оборонним підрядникам — не вести бізнес із компанією.
Одним із ключових питань стало те, чи можна вважати обмеження самого розробника «ризиком для ланцюга постачання». Anthropic наполягала, що відповідні норми насамперед стосуються навмисного саботажу, викрадення інформації та інших спроб зашкодити державним системам.
Більшість суддів використала ширше трактування закону. Норма 41 U.S.C. § 4713 охоплює ризик того, що «будь-яка особа» може змінити роботу технологічного продукту так, щоб блокувати, порушувати, контролювати або іншим чином впливати на його функціонування.
На думку суду, слово «будь-яка» означає, що для застосування цієї норми не обов'язково йдеться про іноземного противника або сторону зі зловмисними намірами.
Судді також звернули увагу на поняття «deny» — відмову або блокування. Воно, за їхнім трактуванням, може охоплювати ситуацію, коли Anthropic не дозволяє уряду США користуватися окремими можливостями Claude.
Апеляційний суд погодився, що Пентагон міг враховувати ризик, за якого Anthropic здатна відключити можливість Claude виконувати законні дії, необхідні Міністерству оборони.
При цьому суд не встановив, що Anthropic навмисно намагалася нашкодити американському військовому відомству. Судді погодилися з висновком іншого федерального суду, що компанія не мала недобрих намірів у відносинах із Пентагоном.
Однак більшість вирішила, що за нормою 41 U.S.C. § 4713 доводити такий умисел не потрібно.
Раніше федеральний суд Північного округу Каліфорнії дійшов іншого результату. Суддя Ріта Лін визнала дії адміністрації США незаконними та вирішила, що Anthropic не відповідає критеріям постачальника, який створює ризик для ланцюга постачання.
Це рішення спиралося на іншу норму — 10 U.S.C. § 3252. Вона вужче визначає ризик і пов'язує його з діями противника, який може саботувати систему, навмисно додавати небажані функції або іншим способом підривати її роботу.
Апеляційний суд округу Колумбія не відкинув таке трактування § 3252. Натомість він розглядав дії уряду за ширшою нормою § 4713, яка стала окремою правовою підставою для внесення Anthropic до переліку ризикованих постачальників.
Проти рішення більшості виступила суддя Карен Гендерсон. Вона вважає, що закон потрібно читати в контексті загроз з боку ворожих держав та інших зловмисників, які можуть проникати у федеральні системи через ланцюги постачання.
На її думку, норму не слід поширювати настільки широко, щоб під неї потрапляла компанія, яка відкрито встановлює обмеження на використання власного продукту.
Пентагон мав і практичні претензії до Claude. Закладені Anthropic обмеження вже заважали моделі виконувати окремі запити державних користувачів. Також виникла суперечка щодо можливості застосування Claude в одній із поточних закордонних військових операцій.
Для Міністерства оборони це створювало ризик, що система може відмовитися виконати потрібну функцію саме тоді, коли вона знадобиться під час операції.
Водночас суд визнав існування протилежного ризику. Надмірно обмежена модель може несподівано припинити виконання важливого військового завдання, тоді як система без достатніх запобіжників може створювати неприйнятні цілі для застосування летальної сили.
Судді вирішили, що визначати баланс між цими ризиками мають адміністрація США та керівництво Міністерства оборони.
Anthropic уже заявила про незгоду з рішенням. Компанія нагадала про інше федеральне рішення на свою користь і повідомила, що розглядає можливості подальшого перегляду справи.
Серед можливих наступних кроків — прохання про повторний розгляд повним складом Апеляційного суду округу Колумбія або звернення до Верховного суду США.
Водночас відносини Anthropic з адміністрацією Дональда Трампа частково змінилися. Міністр торгівлі США Говард Латнік раніше заявляв, що уряд і компанія відновили робочі відносини та перебувають «на одній хвилі».
