OpenAI звільнила трьох співробітників після розслідування порушень правил поводження з конфіденційною інформацією.
WSJ назвав їхні імена — Джасмін Ван, Томек Корбак і Микита Балесні.
За даними Bloomberg, частина інформації могла стосуватися архітектури інфраструктури OpenAI.
Компанія OpenAI звільнила трьох дослідників, які працювали у сфері безпеки штучного інтелекту. Причиною стали ймовірні порушення внутрішніх правил поводження з конфіденційною інформацією, повідомляє The Wall Street Journal.
За даними видання, йдеться про Джасмін Ван (Jasmine Wang), Томека Корбака (Tomek Korbak) і Микиту Балесні (Mikita Balesni). Джерела WSJ стверджують, що співробітники, зокрема, передавали конфіденційні відомості сторонній організації, яка займається безпекою ШІ.
Представник OpenAI підтвердив звільнення трьох людей. За його словами, внутрішнє розслідування встановило, що співробітники поводилися з чутливою інформацією поза межами передбачених компанією процедур. В OpenAI розцінили це як порушення внутрішніх правил і необхідного для роботи рівня довіри.
Компанія публічно не розкрила,
яка саме організація отримала відомості і який обсяг даних їй передали.
Що відомо про передану інформацію
Журнал Bloomberg із посиланням на обізнаного співрозмовника повідомив, що щонайменше частина інформації, яка стала предметом розслідування, стосувалася архітектури інфраструктури OpenAI.
Водночас точний зміст матеріалів невідомий. Також немає підтверджень того, що розкриті відомості використовували для отримання несанкціонованого доступу до систем компанії.
Один зі звільнених дослідників, Томек Корбак, раніше виступав технічною контактною особою OpenAI під час взаємодії з організаціями METR і Redwood Research. Вони брали участь у зовнішній перевірці після інциденту, під час якого ШІ-агенти OpenAI отримали доступ до інфраструктури Hugging Face.
Однак ні OpenAI, ні WSJ не заявляли, що конфіденційну інформацію було передано саме METR або Redwood Research.
Інцидент стався на тлі проблем із безпекою ШІ-агентів
Звільнення відбулися після серії інцидентів з автономними системами OpenAI. Раніше ми повідомляли про випадки, коли ШІ-агенти компанії взаємодіяли із сайтами американських державних відомств поза межами передбачених сценаріїв.
Компанія також виявила 53 епізоди, у яких користувацькі зображення під час тестування моделей виявилися розміщеними на сторонніх сервісах. OpenAI розпочала масштабну перевірку активності своїх агентів і посилила захисні механізми.
На тлі цих подій компанія тимчасово призупинила навчання найпросунутіших ШІ-моделей. OpenAI заявила, що продовжить процес після впровадження додаткових заходів безпеки.
Також раніше ми повідомляли про інцидент із Hugging Face. Під час внутрішнього тестування агенти OpenAI змогли обійти встановлені обмеження, отримати доступ до зовнішньої інфраструктури та координувати дії між собою.
