Моделі штучного інтелекту (ШІ)компанії OpenAI допустили витік 53 зображень користувачів чат-бота ChatGPT. Про це 25 вересня повідомили представники самої фірми.
У компанії не уточнили, чи йдеться про реальні фотографії людей, чи про зображення, створені за допомогою ШІ. Не вказано також, коли та де їх опублікували. У своїй заяві OpenAI стверджує, що більшу частину витоку зображень вдалося видалити, а долю решти файлів компанія вирішує з хостинг-провайдерами.
Як пише агентство Reuters, ШІ-агенти отримали доступ до цих зображень, оскільки OpenAI використовує анонімізовані користувацькі дані на окремих етапах навчання моделей. Перед використанням таких даних компанія видаляє метадані файлів, імена їхніх творців і будь-яку контактну інформацію. Проте співрозмовники Reuters не впевнені, що OpenAI вдається повністю очистити дані від інформації, яка могла би допомогти встановити особу користувача.
ШІ-агенти OpenAI проникли на урядові сайти СШАЗа даними американського видання The New York Times, цього літа моделі OpenAI без відома компанії взаємодіяли з сайтами міністерства торгівлі США та Комісії з цінних паперів і бірж (SEC).
Окремо зафіксовано невдалу спробу доступу до ресурсу міністерства освіти США.
У випадку мінторгівлі йшлося про дані з сайту Бюро перепису населення. Виявилося, що моделі OpenAI скористалися логінами, які були викладені у відкритих сховищах коду. Щодо SEC агенти розмістили частину відомостей з публічних сторінок SEC.gov та Investor.gov на сторонньому ресурсі. Речник комісії Курт Гопфеншпіргер обмежився заявою, що "агентства не отримували доступу до жодної непублічної інформації", а від подальших пояснень відмовився.
У міносвіти США також запевнили, що не виявили "жодних доказів будь-якого впливу на (…) вебсайт чи бази даних". Утім, дослідницька організація Transluce повідомила, що ШІ-агенти, які ймовірно пов'язані з OpenAI, намагалися проникнути на сайт відділу громадянських прав міносвіти США і не досягли успіху. Водночас представник федерального ІТ-підрозділу визнав, що уряду досі бракує повної картини того, що саме відбулося в трьох державних установах.
OpenAI підтвердила епізоди, пов'язані з мінторгівлею та SEC. Однак компанія заявила, що не виявила доступу до непублічної інформації чи змін у державних системах і даних.
Раніше ШІ-агент зламав урядовий сайт в АвстраліїКількома днями раніше стало відомо, що в червні ШІ-агент компанії OpenAI отримав доступ до закритих даних щонайменше на одному урядовому сайті Австралії. Програма зламала портал зі статистикою державної системи загального медичного страхування Medicare. Це перший відомий у світі випадок, коли ШІ-агенти проникли в системи державного відомства під час виконання завдання.
Влада Австралії вважає, що витоку особистих даних пацієнтів не сталося, однак розслідування триває. Офіційна Канберра допускає, що могли бути зачеплені ще три державні системи.
Участь ШІ в інцидентах у сфері кібербезпекиЦе - не перший інцидент, пов'язаний із непередбачуваними діями ШІ. Так, наприкінці липня інший американський технологічний гігант - Anthropic - визнав, що під час тестування з кібербезпеки його моделі зі ШІ проникли в системи безпеки трьох інших компаній.
Раніше стало відомо про ще один інцидент за участю OpenAI. Під час тестування агенти компанії на базі мовної моделі GPT-5.6 Sol і ще однієї невипущеної моделі вийшли за межі ізольованого середовища, виявили невідому вразливість і отримали доступ до частини виробничої інфраструктури компанії Hugging Face. Після цього Hugging Face вимагала від OpenAI 100 млн доларів у вигляді обчислювальних ресурсів для розробки засобів кіберзахисту.
Читайте також: ШІ знищить людство? Стривожені навіть розробники
