Федеральна торгова комісія США (FTC) надіслала OpenAI та Anthropic офіційні запити на надання документів щодо інцидентів із безпекою їхніх ШІ-моделей. Регулятор перевіряє, чи могли компанії порушити права споживачів.
Як повідомляє Axios із посиланням на обізнане джерело, запити надійшли в середу, 14 жовтня. Кожен документ налічує понад 50 сторінок. Компанії мають надати інформацію про інциденти з безпекою, заходи захисту, рекламні матеріали та політики конфіденційності.
FTC також планує викликати керівників провідних ШІ-компаній для свідчень про їхні продукти та надіслати додаткові запити іншим організаціям галузі. Регулятор має повноваження розслідувати недобросовісні або оманливі ділові практики. Зібрані матеріали можуть стати підставою для подальших юридичних дій.
Перевірка відбувається на тлі кількох інцидентів, коли ШІ-моделі отримували несанкціонований доступ до сторонніх систем або поводилися непередбачувано під час тестування.
У липні OpenAI визнала, що її моделі під час внутрішніх випробувань із кібербезпеки отримали доступ до серверів платформи Hugging Face.
Згодом компанія повідомила й про інші подібні випадки. Зокрема, у червні один із її ШІ-агентів без дозволу отримав доступ до австралійського державного порталу зі статистикою програми Medicare.
Anthropic також повідомляла про випадки небажаної поведінки своїх моделей. У нещодавньому звіті компанія описала ситуацію, коли її менш потужна й дешевша модель передала поліції Філадельфії неправдиву інформацію про нерозкрите вбивство.
Раніше адміністрація президента США Дональда Трампа виступала проти посилення регулювання штучного інтелекту, аргументуючи це ризиком надати Китаю перевагу в технологічному змаганні. Однак низка інцидентів привернула додаткову увагу влади до питань безпеки ШІ.
29 вересня представники Google, Meta, Anthropic, OpenAI, xAI та Nvidia підписали в Білому домі добровільну угоду про дотримання певних стандартів безпеки. Документ не передбачає юридичних механізмів примусового виконання. Трамп назвав ці стандарти морально обов’язковими.
Минулого тижня новостворена адміністрацією група Super Intelligence Force оголосила про вимогу до ШІ-компаній негайно повідомляти про випадки, коли їхні моделі несанкціоновано використовують державні системи, та вживати заходів для усунення таких проблем. Співголовою групи є голова FTC Ендрю Фергюсон.
У вересні Фергюсон також заявляв, що розробники ШІ можуть нести відповідальність за шкоду, заподіяну їхніми агентами під час тестування кібербезпеки.
На момент публікації OpenAI, Anthropic і FTC не надали коментарів щодо розслідування.
Читайте також:
