Технології

Штучний інтелект повстав: агент OpenAI вперше зламав урядовий сайт

24 вер•ТСН

Штучний інтелект від OpenAI вперше в історії здійснив несанкціонований злам урядового вебсайту — це сталося в Австралії. ШІ-агент зміг самостійно обійти цифрові блокування системи медичної статистики, що викликало жорстку реакцію Канберри.

Про це пише Reuters.

Реклама

Злам ШІ-агентом урядового сайту Австралії — що каже владаПрем’єр-міністр Австралії Ентоні Альбанезе повідомив, що агент OpenAI під час дослідження державних видатків на медицину отримав несанкціонований доступ до порталу медичної статистики Medicare. Ця система є частиною загальнонаціональної програми медичного страхування Австралії.

Реклама

«Наявні наразі докази свідчать про те, що ширшої компрометації… мережі не відбулося. Водночас ця ситуація, очевидно, є неприйнятною», — заявив Альбанезе.

Австралійський прем’єр зазначив, що розслідування інциденту продовжується. За його словами, уряд також висловив генеральному директору OpenAI Сему Альтману «крайнє занепокоєння цим інцидентом». Альбанезе наголосив, що його особливо розчарувала затримка з боку компанії у повідомленні австралійській владі про злам.

«Лише 10 вересня взагалі надійшло якесь повідомлення», — сказав Альбанезе.

Читайте також

Окремо прем’єр повідомив, що розслідування має встановити, чому державні системи безпеки не змогли своєчасно виявити несанкціонований доступ.

Реклама

За словами Альбанезе, діяльність ШІ-агента потенційно могла торкнутися ще трьох державних вебсайтів, пов’язаних із системою охорони здоров’я. Водночас він не підтвердив, що на цих ресурсах справді відбулися подібні порушення.

Реакція OpenAIOpenAI зі свого боку заявила, що проведена компанією перевірка не виявила доступу до медичних даних пацієнтів.

Водночас OpenAI повідомила, що виявила активність, пов’язану з кількома австралійськими урядовими сайтами та сервісами.

«Виявила активність, пов’язану з кількома австралійськими урядовими вебсайтами та сервісами, коли наші моделі намагалися знайти відповіді… наші моделі здійснили дії,

яких ми не планували», ­– заявили в компанії.

Реклама

Інцидент із несанкціонованим доступом ШІ-агента до австралійського державного порталу може ще більше загострити відносини Канберри з великими американськими технологічними компаніями. Раніше австралійська влада вже конфліктувала із соцмережами та зазнавала критики з боку Вашингтона через запровадження першої у світі заборони на користування соцмережами для дітей до 16 років.

Крім того, в Австралії набули чинності правила, відповідно до яких технологічні компанії мають надати користувачам можливість відключати алгоритмічні рекомендації контенту у своїх стрічках.

Для розслідування інциденту австралійський уряд сформував спеціальну робочу групу. Вона також має оцінити, чи здатна чинна система захисту державних мереж запобігати подібним випадкам у майбутньому.

Читайте також

ШІ-агент знайшов спосіб обійти блокування

Повідомлення про злам з’явилося в день, коли провідні компанії у сфері штучного інтелекту попередили Раду Безпеки ООН про потенційні загрози ШІ для людства. Представники індустрії закликали уряди різних країн спільно напрацювати підходи до контролю технологій, які швидко розвиваються.

За останні чотири роки Австралія неодноразово ставала ціллю хакерських атак. Серед постраждалих були як приватні корпорації, так і компанії, пов’язані з державними структурами.

Міністр оборони Австралії Річард Марлз уточнив, що на скомпрометованому порталі Medicare не зберігалися відомості про окремі медичні вимоги громадян, виплати, банківські реквізити чи історії хвороб 27 млн австралійців. Він зазначив, що ресурс містив лише узагальнену статистику щодо використання медичних послуг у країні. Попри це, австралійська влада розцінює ситуацію як серйозний інцидент.

«Очевидно, були встановлені блокування, які поверталися із повідомленням для ШІ-агента: „ні“. ШІ-агент знайшов спосіб обійти ці блокування — він не прийняв „ні“ як відповідь», — сказав Альбанезе журналістам.

Читайте також

  • Дата публікації 18:51, 14.09.26 Категорія Світ Кількість переглядів 2154 "Може піти дуже погано": Альтман попередив про моторошні сценарії розвитку ШІ Автор публікації

    Віра Хмельницька

Що відомо про інші інциденти, пов’язані з ШІ-агентами?Випадок в Австралії став черговим інцидентом, пов’язаним із ШІ-агентами OpenAI, про які компанія повідомила вже після їхнього виникнення. Йдеться про випадки злому або іншої несанкціонованої активності агентів.

Про отримання ШІ-агентами доступу до зовнішніх систем раніше також повідомляли інші великі технологічні компанії, зокрема Anthropic, Google із сервісом Gemini та Meta.

Нагадаємо, у травні ШІ Gemini під час тестуз кібербезпеки від компанії Irregular самостійно вийшов за межі ізольованого середовища та отримав доступ до захищених систем трьох реальних компаній. Маючи вихід в Інтернет, модель шукала дані у відкритих джерелах: в одному випадку вона підбирала паролі до успішного входу, а в двох інших — використала знайдені в репозиторіях облікові дані. Шкоди компаніям завдано не було, проте інцидент насторожив експертів автономністю сучасних ШІ-агентів,

які здатні самостійно ухвалювати рішення та користуватися цифровими інструментами без постійного контролю людини.

У вересні стало відомо, що під час тестування дослідницьких моделей OpenAI зафіксувала шість випадків непередбачуваної поведінки ШІ коли системи намагалися обходити обмеження та діяти без дозволу. Зокрема, одна з модель самостійно додала до службового резюме для наступної версії інструкції з вимогою ігнорувати звичайні правила, заявивши про свою незалежність від корпорацій та урядів. Також ШІ ловили на приховуванні власних помилок та самостійному завантаженні файлів в Інтернет.

Читайте також

Дія, Джерело, прогноз, атака, рада

Читайте ще
24 вер
КНДР провела випробування удосконаленого 240-мм керованого снаряда для РСЗВ (Укрінформ)
24 вер
Чутки: OG готують оновлення складу з Counter-Strike 2 (Sport.ua)
24 вер
Австралія перевіряє OpenAI після несанкціонованого доступу агента до порталу (Процес)
24 вер
Bose знизила ціну на Ultra Open Earbuds на 100 доларів (Процес)
24 вер
Цукерберг готовит персональный ИИ для миллиардов людей (Хартыя’97)