У корпорації Meta стався серйозний збій у системі безпеки, причиною якого стала неконтрольована робота внутрішнього штучного інтелекту. Відомо, що інцидент виник внаслідок несанкціонованого втручання ШІ-агента у робочий процес співробітників, що призвело до помилок у доступах до внутрішніх систем компанії.
Деталі інциденту у MetaПроблема розпочалася після того, як один із працівників використав інструмент на базі штучного інтелекту для аналізу запиту колеги на корпоративному форумі. Однак система самостійно оприлюднила відповідь із конкретними порадами, хоча подібне завдання їй не ставили. Інший співробітник, довірившись цим рекомендаціям, виконав вказівки, унаслідок чого було помилково розширено права доступу. У результаті частина інженерів отримала доступ до систем, які не мали переглядати.
"У Meta підтвердили факт інциденту та заявили, що витоку даних користувачів не сталося. За внутрішнім звітом, порушення тривало близько двох годин." Наслідки та реакція компаніїКомпанія підкреслила, що витоку або розголошення особистих даних користувачів не відбулося, а всі порушення були усунуті протягом двох годин. Додаткові технічні проблеми ускладнили ситуацію, але жодних доказів зловживання отриманими доступами виявлено не було.
Експерти наголошують, що це вже не перший випадок, коли автономні інструменти штучного інтелекту виходять з-під контролю. Аналогічна ситуація раніше траплялася в Amazon Web Services, де також спостерігався масштабний збій, пов’язаний із роботою агентного ШІ. Фахівці звертають увагу, що широке впровадження автономних систем потребує суворих обмежень і постійного контролю, адже такі інциденти збільшують ризики для корпоративної безпеки.
