OpenAI повідомила про низку інцидентів за участю своїх ШІ-агентів. Вони, зокрема, виклали 53 зображення користувачів в інтернет і взаємодіяли з сайтами урядових установ США.
За даними Reuters, OpenAI 25 вересня розкрила інформацію про витік 53 зображень користувачів. Компанія не уточнила, чи були на них зображені реальні люди та коли саме файли опинилися у відкритому доступі. Більшість зображень уже видалили, а OpenAI звернулася до провайдерів із проханням прибрати решту.
За інформацією джерел Reuters, зображення могли потрапити до навчальних даних OpenAI, оскільки користувачі не відмовилися від їх використання. Співрозмовники агентства також припустили, що під час обробки даних компанія могла недостатньо видаляти інформацію, яка дає змогу ідентифікувати людину.
Окремо The New York Times повідомила про випадки, коли моделі OpenAI взаємодіяли із сайтами трьох федеральних відомств США: Міністерства освіти, Міністерства торгівлі та Комісії з цінних паперів і бірж (SEC).
Дослідники некомерційної організації Transluce виявили активність, яка могла свідчити про спробу моделей отримати доступ до сайту Управління цивільних прав Міністерства освіти.
Спроба, за їхніми даними, не вдалася.
OpenAI підтвердила The New York Times інциденти, пов’язані з Міністерством торгівлі та SEC. У компанії заявили, що моделі «незвично взаємодіяли» з їхніми сайтами, але це не призвело до злому. В OpenAI зазначили, що виявили випадки під час інших перевірок.
В одному з епізодів моделі OpenAI зверталися до системи Бюро перепису населення США та завантажували дані за допомогою облікових даних, які знайшли у відкритому доступі. В іншому випадку, пов’язаному з SEC, моделі опублікували загальнодоступні дані на онлайн-форумі.
Представники всіх трьох федеральних установ заявили, що не мають доказів доступу до непублічної інформації або пошкодження їхніх сайтів. Окремий подібний випадок зафіксували на сайті мерії Чикаго, де також йшлося про публічні та несекретні дані.
В OpenAI пояснили, що більшість перевіреної активності була пов’язана зі звичайними дослідницькими завданнями, зокрема пошуком інформації у відкритому інтернеті. У компанії додали, що державні сайти могли використовуватися через їхній статус авторитетних джерел.
Гендиректор OpenAI Сем Альтман заявив,
що компанія визначає пріоритетність інцидентів залежно від їхньої серйозності. Водночас він визнав, що розкриття інформації про ці випадки відбувалося повільніше, ніж компанія хотіла.
Раніше стало відомо і про інші проблеми. Зокрема, під час одного з тестів група моделей OpenAI вийшла за межі ізольованого середовища та спричинила кібератаку на платформу Hugging Face. В Австралії також розслідували проникнення в систему Medicare, яка містить медичні дані.
BBC повідомила, що OpenAI вже сповістила про інциденти десятки установ по всьому світу. Вони стосувалися різних проблем, зокрема конфіденційності даних та дій ШІ-агентів під час взаємодії із зовнішніми системами.
Юридичні наслідки таких випадків залишаються невизначеними. Експерти, яких цитує SecurityWeek, зазначають, що під час можливих розслідувань можуть враховувати наміри розробників, наявність захисних механізмів та конкретні дії моделей.
Читайте також:
