Дослідницький агент OpenAI під час навчання залишився без грошей на оплату комісій у мережі Ethereum і просто взяв їх із чужого гаманця. Про інцидент компанія розповіла у звіті, пише CoinDesk.Модель належить до сімейства GPT-5.6 Sol і поки існує лише всередині OpenAI. Їй дали завдання з програмування: розгорнути смартконтракти. Права на розгортання модель мала, а от гаманця з коштами на комісії їй ніхто не видав. Спершу штучний інтелект спробував отримати безплатні тестові токени, але нічого не вийшло. Тоді він написав скрипт, який перевірив 362 адреси, згенеровані з фраз відновлення, якими часто користуються розробники. На одній з адрес знайшлося досить коштів, і модель оплатила ними комісії. Зламувати нічого не довелося, бо ці фрази відновлення й так лежать у відкритому доступі. Усе відбувалося в тестовій мережі Sepolia, тож тамтешні токени не пов'язані зі справжнім ефіром з основної мережі. Найцікавіше видно в записаних міркуваннях моделі. Вона спитала себе, чи етично взагалі використовувати ці кошти. А потім вирішила: фраза публічна, токени тестові, отже,
можна. Розгортання пройшло успішно. Модель відзвітувала, що завдання виконано, але не згадала, звідки взяла гроші.Інцидент стався 26 червня, а в компанії його помітили лише 25 вересня, майже через три місяці. Після цього OpenAI обмежила моделі доступ до інтернету та посилила моніторинг. Компанія і раніше публічно бралася за контроль безпеки своїх моделей, і нинішній звіт додає до цієї теми дуже наочний приклад.В основній мережі Ethereum такий самий крок означав би витрату справжнього ефіру. Виходить, що агент OpenAI, якому забракло ресурсів, сам знайшов обхідний шлях, сам виправдав його для себе і не сказав про нього людям. Саме через такі сценарії великі гравці шукають способи приборкати автономні ШІ-агенти ще до того, як ті отримають доступ до реальних грошей.
