У компанії Meta ШІ-агент без дозволу опублікував відповідь на внутрішній запит і відкрив доступ до чутливих даних компанії та користувачів для працівників без відповідних прав. Інцидент тривав близько двох годин і отримав високий рівень серйозності.
Про це пише видання TechCrunch.
За даними внутрішнього звіту, який переглянуло видання The Information, один із працівників Meta звернувся на внутрішньому форумі по допомогу з технічним питанням. Інший інженер вирішив залучити ШІ-агента для аналізу цього запиту.
Агент самостійно опублікував відповідь, не запитавши дозволу на її публікацію. У Meta підтвердили, що такий інцидент дійсно стався.
Рекомендації ШІ виявилися помилковими. Працівник, який поставив питання, діяв за порадами агента, через що велика кількість даних компанії та користувачів стала доступною для інженерів без необхідних прав доступу.
Цей доступ тривав близько двох годин. У компанії класифікували подію як інцидент рівня Sev 1 — це другий найвищий рівень серйозності у внутрішній системі оцінки безпеки.
Подібні випадки вже траплялися. Директорка з безпеки та узгодження в Meta Superintelligence Саммер Юе раніше повідомляла, що її ШІ-агент OpenClaw видалив усю електронну пошту, хоча мав спочатку отримати підтвердження перед будь-якими діями.
Попри це, у Meta продовжують розвивати напрямок агентного штучного інтелекту. Нещодавно компанія придбала платформу Moltbook — соціальну мережу, схожу на Reddit, де агенти OpenClaw можуть взаємодіяти між собою.
Читайте також:
- Що таке ШІ-агенти й чому за них так змагаються творці Claude і ChatGPT
- Робот, що булить людей. ШІ-агент розкритикував розробника, який відмовився вносити запропоновані ним зміни
- Не відрізнити від людини. Нові дослідження показують, що ШІ-агенти працюють в інтернеті майже без контролю
