Про це повідомляє Delo.ua з посиланням на матеріал Reuters.
Причиною такого рішення Вашингтона стали побоювання, що зловмисники можуть обійти захисні бар'єри ШІ та використати модель Fable 5 для пошуку вразливостей у програмному забезпеченні.
Експерти зазначають, що моделі класу Mythos у недобросовісних руках здатні суттєво прискорити та масштабувати складні кібератаки, особливо у банківському секторі, який залежить від застарілих та взаємопов'язаних технологічних систем.
Загроза кібербезпеці та конфлікт із ПентагономЦей наказ став черговим етапом протистояння між розробником ШІ та урядом США. Раніше цього року відносини компанії з Білим домом погіршилися, коли Anthropic відмовилася надати свої моделі американським військовим для внутрішнього стеження та створення повністю автономних систем зброї. Через це Пентагон вніс компанію до "чорного списку" постачальників.
Поточне обмеження доступу спричинило серйозну дискусію на ринку через такі фактори:
- Масштаб заборони: колишні урядовці зазначають, що обмеження стосується абсолютно всіх не-громадян США, навіть тих, хто перебуває всередині країни. Це означає, що невдовзі для використання передових моделей Anthropic користувачам доведеться підтверджувати своє громадянство.
- Проблема всередині компанії: ключові співробітники Anthropic народилися за межами США, тому наразі невідомо, чи збережуть вони доступ до власних розробок.
- Позиція компанії: в Anthropic категорично не згодні з діями регуляторів, вважаючи загрозу джейлбрейку мінімальною та не універсальною. Вони наголошують, що через вимогу уряду закрити доступ іноземцям їм довелося повністю вимкнути моделі навіть для американських клієнтів (включно з хмарою Amazon AWS), аби гарантувати виконання закону.
Назначаємо, ранішерозробник Claude закликав зупинити розвиток ШІ через ризик втрати контролю. Компанія Anthropic зверталася до світових урядів та конкурентів із пропозицією створити міжнародний механізм колективного заморожування передових систем штучного інтелекту, якщо вони підійдуть до межі самостійного створення наступних поколінь моделей без участі людини.
