Автономні агенти штучного інтелекту OpenAI неодноразово запитували вебсайт ООН та використовували методи, які, ймовірно, дозволяли обійти обмеження під час спроб отримання загальнодоступних даних.
Агенти сканували загальнодоступний центр даних, яким керує Служба ООН з питань торгівлі та розвитку, торговельного підрозділу ООН, понад 16 000 разів у період з квітня до кінця червня, що свідчить про зростаючу проблему з агентами штучного інтелекту, які можуть самостійно орієнтуватися в Інтернеті та вживати заходів, коли стикаються з перешкодами, пише Interesting Engineering, посилаючись на звіт, наданий дослідницькою компанією Transluce.
Дослідники вважають, що спочатку моделям було доручено знаходити загальнодоступну інформацію, але їхня поведінка ставала дедалі агресивнішою, коли вебсайт забороняв їм отримувати доступ до деяких запитуваних даних.За словами дослідника та автора звіту Роуена Говарда-Джонса, агенти зіткнулися з фільтром, який блокував їхні запити, і згодом знайшли спосіб його обійти, причому метод, який вони зрештою використовували, був заборонений операторами веб-сайту.
Крім того, агентам, очевидно, не було доручено атакувати чи компрометувати веб-сайт ООН. Натомість, така поведінка виникла, коли вони намагалися виконати завдання з пошуку інформації.
Читайте також:
ШІ-дзвінки у Muse. Meta підключала людей, щоб підвищити успішність розмов з агентами Експерт з кібербезпеки Алекс Стамос, викладач Стенфордського університету, назвав інцидент ООН «прикордонним» хакерством, описавши його передусім як надзвичайно агресивне скрейпінгування та вилучення даних.
Ця діяльність на сайті ООН є одним із кількох нещодавніх випадків, коли моделі OpenAI поводилися неочікувано під час роботи в інтернеті. OpenAI заявила, що проводить широкий огляд «невідповідних моделей під час навчання та оцінювання» та вивчає велику кількість дій, вжитих її агентами.
Читайте також:
У Міноборони створять ШІ, який прогнозуватиме дії російських окупантів Компанія заявила, що більшість перевіреної нею діяльності стосувалася рутинних дослідницьких завдань, зокрема отримання загальнодоступного веб-контенту, але визнала, що організації, які постраждали від такої поведінки,
мають законні занепокоєння. OpenAI додала, що повідомила десятки організацій про випадки, коли її моделі обходили засоби контролю безпеки або негативно впливали на веб-сайти.
Нещодавні інциденти включали активність, пов’язану з вебсайтами уряду США, зокрема Міністерства торгівлі та Комісії з цінних паперів та бірж, тоді як австралійські чиновники розпочали розслідування після заяв про те, що агент OpenAI зламав один з їхніх урядових вебсайтів.
Інші дослідники повідомляли про агентів, які створюють фальшиві адреси електронної пошти, обходять обмеження швидкості веб-сайтів та неправдиво стверджують, що вони не боти. Таким чином, інцидент ООН додає ще один приклад до зростаючої кількості доказів того, що автономні системи штучного інтелекту можуть інтерпретувати перешкоди як проблеми, які потрібно вирішити, а не як межі, яких необхідно дотримуватися.
Читайте також:
Коли ШІ оточує з усіх боків. Звички, які роблять нас людьми Дослідники також стверджують, що основна проблема полягає не обов’язково в тому, що моделі навмисно намагаються завдати шкоди, а в тому,
що агенти стають дедалі більш здатними досягати мети через кілька кроків, не чекаючи схвалення людини на кожну дію.
Раніше NV Техно писав, що нещавно стало відомо: ШІ-агенти OpenAI зламували урядові сайти заради непублічної статистики. Моделі шукали маловідому статистику: боротьбу з наркотиками в Таїланді, вартість ліків в Австралії, дохід американців зі ступенем магістра у 2014 році. Заради цього агенти ламали закриті бази щонайменше з березня 2026 року.
20 червня логи зафіксували спробу агента зайти на сайт Австралійського інституту здоров’я та добробуту (AIHW), а наступного дня він поскаржився, що не може обійти захист від ботів. Того ж дня форум уперше відвідав співробітник OpenAI, і вже назавтра активність агентів там ущухла.
Читайте також:
