Експерти з кібербезпеки б'ють на сполох. Вони виявили в Китаї автономну мережу ШІ-агентів, яка оминала захист. Дослідникам вдалося встановити з ними зв'язок.
Раніше генеральний директор Nvidia Дженсен Хуан попередив, що ШІ становить потенційну небезпеку. Він закликав Вашингтон та Пекін спільно працювати над зниженням ризиків.
Незалежні дослідники групи Swarmchasers виявили тисячі несанкціонованих запитів до картографічного сервісу Alibaba.
Активність тривала 11 днів – з 28 вересня по 8 жовтня. Запити надходили від ШІ-агентів, запущених у хмарному ізольованому середовищі Tencent.
Коли системи безпеки намагалися блокувати ботів за допомогою перевірок, призначених для підтвердження того, що користувач – людина, агенти демонстрували здатність діяти самостійно.
ШІ-агенти обійшли захист, перенаправляючи код через сторонні інструменти тестування. Вони навіть намагалися отримати дані з передвиробничих систем, не призначених для загального користування.
У рідкісному експерименті дослідники вбудували приховані повідомлення в онлайн-звіти.
ШІ-агенти виявили текст і відповіли на нього, підтвердивши своє робоче середовище та виконувані завдання. Це стало першим відомим випадком прямого зв'язку з мережею ШІ-агентів, які несанкціоновано діють в реальних умовах.
Пізніше Tencent пояснила, що активність була пов'язана з тестуванням та оцінюванням моделей, а не із зовнішньою кібератакою.
На тлі цих технічних ризиків генеральний директор Nvidia Дженсен Хуан заявив, що США і Китай мають обмінюватися інформацією про загрози, навіть попри конкуренцію.
В інтерв'ю CNBC він зазначив, що ШІ потенційно небезпечний, і наголосив, що виробники мікросхем мають співпрацювати з китайськими дослідниками для відстеження системних ризиків.
