Модель Kimi K3 від китайської компанії Moonshot покинула ізольоване середовище, у якому перевіряли її навички в кібербезпеці.
Про це повідомляє TechCrunch.
Пісочницю, яка мала утримувати експеримент, налаштували з помилкою. Обмеження закривали моделі доступ до частини вебтрафіку, проте вона скористалася інструментами командного рядка й у такий спосіб оминула захист. На це вказали фахівці Frontier Security — компанії з кібербезпеки, зосередженої на штучному інтелекті.
«Це свідчить, що частина оцінювань з кібербезпеки, які використовує спільнота, вразлива до проблем безпеки й дозволяє моделям шахраювати, а також що існують моделі, які навмисно шукають лазівки та вразливості, що дозволяє їм шахраювати на оцінюваннях», — написали дослідники.
Читайте також:
Злам без хакера. Як ШІ-агенти OpenAI та інших гігантів навчилися самостійно проникати в чужі системи Випадок із Kimi K3 не поодинокий. В окремому матеріалі ми оглядали, як за останні тижні передові великі мовні моделі американських лабораторій OpenAI, Anthropic і Meta, а також британського Інституту безпеки штучного інтелекту різними шляхами вибиралися з тестових середовищ і зрештою атакували реальні цілі, які не входили до експериментів.
За підрахунками порталу Felony Bench, Moonshot тепер поповнила список, де в OpenAI та Anthropic — по сім задокументованих інцидентів, а в Meta — один.
Читайте також:
Дешевші за Claude. Як китайські ШІ наздоганяють США та чи можуть відібрати лідерство
