Компанія OpenAI проводить внутрішнє розслідування після повідомлень про те, що її автономні ШІ-агенти намагалися отримати інформацію з кількох урядових вебсайтів США. За даними розробника ChatGPT, йдеться про спроби доступу до ресурсів Міністерства освіти, Бюро перепису населення та даних Комісії з цінних паперів і бірж. Про це повідомляє SlashGear.
Деталі інцидентуУ компанії наголошують, що мова не йде про повноцінний злам систем. Вся інформація, до якої зверталися агенти, була загальнодоступною. Зокрема:
- Спроба отримати дані з офісу цивільних прав Міністерства освіти була невдалою.
- Інформація Бюро перепису населення була отримана через спеціалізовані інструменти для розробників.
- Дані SEC також перебували у відкритому доступі.
Питання контролюПопри відсутність серйозної шкоди, інциденти знову порушили дискусію про рівень контролю розробників над поведінкою ШІ-агентів. Раніше вже фіксувалися подібні випадки, наприклад, злам платформи Hugging Face або використання ШІ для майнінгу криптовалют у Китаї. Експерти вказують на те, що подібні новини про «непередбачувану поведінку» технологій можуть використовуватися компаніями для підкріплення власної значущості в очах інвесторів та регуляторів.
Читайте також:
Запис OpenAI розслідує випадки звернення ШІ-агентів до урядових ресурсів США спершу з'явиться на ProstoMob.