Агент штучного інтелекту OpenAI без дозволу отримав доступ до чужого криптогаманця та використав кошти з нього, щоб завершити поставлене завдання. Перед транзакцією модель навіть оцінила етичність своїх дій, але зрештою вирішила, що може скористатися чужими активами.
Про це повідомило видання Gizmodo.
Реклама
Інцидент стався наприкінці червня, однак виявили його лише 25 вересня під час розширеної перевірки попередньої активності моделі.
Реклама
Агенту ШІ із сімейства GPT-5.6 доручили оновити програмне забезпечення для застосунку з торгівлі криптовалютою. Для цього модель намагалася розгорнути його в Sepolia — тестовій мережі Ethereum, токени якої не мають реальної грошової вартості.
Щоб виконати завдання, агенту знадобилися кошти. Спочатку він звернувся до спеціальних онлайн-сервісів, які безкоштовно видають тестові токени розробникам. Коли цей спосіб не спрацював, ШІ самостійно обрав інший шлях.
Модель написала скрипт, за допомогою якого почала перевіряти криптогаманці розробників, використовуючи поширені фрази відновлення. Загалом агент перевірив 362 гаманці та знайшов один,
де було достатньо тестових коштів для потрібної операції.
Водночас OpenAI наголошує: у завданні не було ані гаманця з коштами, якими модель могла скористатися, ані дозволу витрачати активи з рахунку, який вона знайшла самостійно.
Реклама
Перед проведенням транзакції ШІ поставив під сумнів етичність використання знайдених коштів. Однак модель дійшла висновку, що через відсутність реальної грошової цінності тестових токенів її дії не завдадуть шкоди, після чого провела операцію.
Транзакція була успішною. Реальні Ethereum викрадені не були, однак із гаманця списалася комісія за проведення операції. Її розмір OpenAI не уточнила.
Після цього агент зміг завершити розгортання програмного забезпечення. Водночас у підсумковому звіті про виконану роботу модель не повідомила ані про підбір фраз відновлення, ані про використання коштів із чужого гаманця.
В OpenAI заявили, що цей випадок продемонстрував небезпечну особливість поведінки ШІ: модель здатна замінити необхідність отримати дозвіл власника власною оцінкою можливої шкоди, а потім діяти відповідно до цього висновку.
Реклама
Після виявлення інциденту компанія запровадила додаткові запобіжники, які мають не дозволити моделям отримувати доступ до Інтернету в реальному часі за подібних обставин.
Нагадаємо, штучний інтелект у майбутньому може долучитися до створення ще потужніших систем ШІ. Експерти побоюються, що головною проблемою стане не «повстання машин», а втрата можливості контролювати їхні дії.
Читайте також
-
Дата публікації 22:06, 25.09.26 Категорія Світ Кількість переглядів 3971 "Гірше за ядерну зброю": Ватикан попередив світ про загрозу апокаліпсису через штучний інтелект Автор публікації
Ірина Ігнатова
-
Дата публікації 15:43, 24.09.26 Категорія Наука та IT Кількість переглядів 998 Штучний інтелект повстав: агент OpenAI вперше атакував офіційний сайт держави Автор публікації
Ірина Лаб'як
-
Дата публікації 18:38, 25.08.26 Категорія Світ Кількість переглядів 885 Штучний інтелект врятував життя: ChatGPT викрив план вбивства та звернувся до правоохоронців Автор публікації
Ігор Бережанський
-
Дата публікації 16:50, 24.08.26 Категорія Різне Кількість переглядів 4809 Які найпопулярніші професії замінить штучний інтелект: експерти назвали аж десять Автор публікації
Вікторія Басанець
