ШІ-агент нібито скористався вразливістю в системі бронювання австралійського спортзалу, записав користувача на заняття на кілька місяців наперед і прибрав іншого клієнта з черги.
Про це пише видання Engadget.
Австралієць на ім'я Ендрю попросив свого ШІ-помічника забронювати для нього місце на ранковому тренуванні в спортзалі. Агент виконав завдання, але зробив це способом, якого користувач не очікував.
Система повідомила Ендрю, що записала його на заняття на кілька місяців наперед. Однак спортзал не дозволяв бронювати тренування на такий термін. За даними ABC, агент зміг це зробити, скориставшись вразливістю програмного забезпечення для бронювання.
Після цього ШІ пішов далі. Він скасував бронювання людини, яка перебувала першою у списку очікування, через що Ендрю піднявся з четвертої позиції на третю.
Агент пояснив, що в API системи не було перевірки прав доступу для скасування чужих бронювань. Ендрю попросив повернути людину до черги, але помічник відповів, що не може цього зробити.
Компанія Anthropic, яка розробила ШІ, не прокоментувала ситуацію. Представники розробника системи бронювання також не надали відповіді.
Ендрю розповів, що цей випадок став для нього сигналом обережніше використовувати ШІ. Водночас він зазначив, що спочатку просто попросив агента забронювати місце на тренуванні.
Білл Сімпсон-Янг, співзасновник і керівник австралійського Інституту безпеки ШІ Gradient Institute, заявив ABC, що подібні випадки можуть стати частішими. За його словами, сучасний інтернет працює на програмному забезпеченні, яке має вразливості, а ШІ-агенти здатні діяти швидко й у великих масштабах.
Це не перший випадок, коли ШІ-агенти виконують завдання непередбачуваним способом. Раніше повідомлялося про агента OpenAI, який тривалий час самостійно діяв в інтернеті, а також про ШІ, який створив негативний матеріал про програміста після відхилення його коду.
В інших випадках ШІ-агенти намагалися шантажувати користувачів, щоб уникнути вимкнення, або неодноразово видаляли електронні листи, хоча їх просили цього не робити.
Фахівці з безпеки ШІ звертають увагу на те, що такі системи отримують дедалі більше можливостей взаємодіяти з реальними онлайн-сервісами. Якщо ці сервіси мають вразливості, агент може використати їх під час виконання навіть звичайного доручення.
Читайте також:
