Білий дім запроваджує обов’язкове повідомлення про інциденти безпеки за участю штучного інтелекту після того, як моделі Anthropic надсилали неправдиву інформацію через державні вебсайти. Адміністрація США вимагає від усіх компаній, що розробляють системи суперінтелекту (SI), негайно повідомляти про такі випадки, усувати завдану шкоду та запобігати повторенню інцидентів. Раніше підхід адміністрації президента США Дональда Трампа до регулювання ШІ спирався переважно на добровільні зобов’язання компаній
Як повідомляє Axios, Anthropic наприкінці вересня виявила кілька випадків несанкціонованого використання урядових та інших систем своїми моделями. Компанія повідомила про них уряд США, зазначивши, що відповідна активність припинилася.
Один із випадків стосувався Державного департаменту США. У четвер, 8 жовтня, представники Anthropic повідомили відомство, що одна з тестових моделей компанії подала через загальнодоступну вебформу 19 заявок на отримання неімміграційних віз у серпні та ще одну — у травні.
Керівників OpenAI та Anthropic викликали до Сенату Австралії через розслідування щодо ШІ
За словами представника Держдепартаменту,
жодну із 20 заявок не опрацювали. Він також запевнив, що системи відомства не були зламані чи скомпрометовані.
Інший інцидент стався у Філадельфії, де модель Anthropic надіслала через сайт поліції неправдиве повідомлення про нерозкрите вбивство. Звернення потрапило до папки зі спамом, тому правоохоронці не передали його на перевірку. Поліція заявила, що не виявила ознак несанкціонованого доступу до своїх систем або витоку даних.
Пізно ввечері в п’ятницю, 9 жовтня, Anthropic опублікувала звіт про ці та інші випадки ненавмисної поведінки моделей. Компанія підтвердила кілька інцидентів, зокрема у Філадельфії, але не розкрила подробиць щодо всіх державних установ, яких вони стосувалися.
ШІ-агенти намагалися зламати урядовий сайт Канади
У заяві робочої групи Білого дому з питань суперінтелекту SI Force, яку Трамп створив кілька днів тому наголошується, що «компанії-розробники SI повинні негайно повідомляти про інциденти за участю своїх моделей і вживати швидких, рішучих заходів для усунення будь-якої завданої шкоди». Влада також очікує, що розробники допомагатимуть усувати наслідки для організацій і громадян США.
«Це критично важливе зобов’язання в сфері національної безпеки», — йдеться в заяві робочої групи, наданій Axios.
Водночас у заяві не уточнюється, які саме санкції або механізми примусу застосовуватимуть до компаній, що не повідомлятимуть про інциденти чи не усуватимуть їхніх наслідків. Це залишає відкритим питання про те, як адміністрація забезпечуватиме виконання нових вимог.
«Я щось зламав»: Claude видалив понад 48 тисяч робочих файлів за дві хвилини
До керівництва SI Force входять директор Національної розвідки Джей Клейтон, голова Федеральної торгової комісії Ендрю Фергюсон, директор Управління кадрової служби Скотт Купор і заступник міністра оборони Еміль Майкл. Групу створили для роботи з провідними американськими розробниками систем суперінтелекту та захисту державних систем і конфіденційної інформації.
«Наш сигнал усім компаніям, що працюють у сфері суперінтелекту, чіткий: зволікання з повідомленням, неналежні коригувальні заходи та небажання брати на себе відповідальність є неприпустимими. Президент Трамп чітко окреслив позицію: Америка посяде провідне місце у світі в галузі суперінтелекту,
однак інновації ніколи не стануть виправданням для того, щоб ставити під загрозу національну безпеку, доброчесність державних інституцій чи довіру громадськості», — підсумували в SI Force.
Нові вимоги з’явилися на тлі зростання кількості повідомлень про збої та небажану поведінку моделей різних ШІ-компаній. Проте раніше адміністрація Трампа робила ставку на саморегулювання галузі задля збереження технологічної переваги над Китаєм.
Тим часом доктор юридичних наук Олексій Костенко у статті «Гра в рулетку з суперінтелектом. Чому кожне оновлення ШІ стає ризиком для цивілізації» наголошує, що поведінку передових моделей неможливо математично прорахувати наперед без їхнього запуску. Добровільні домовленості бігтеху не усувають загроз через постійні збої алгоритмів та гострий розкол в індустрії щодо темпів їхнього розвитку. Тому перед створенням загального суперінтелекту (AGI) автор закликає взяти тактичну паузу та встановити обов'язкове законодавче регулювання галузі.
