Ілюстрація: Copilot для pravdatutnews.com
Лише у симуляціях Claude вдалося зберегти порядок, тоді як під управлінням Grok людство загинуло за 4 дні, пише Fortune.
Уявіть собі світ, керований агентами ШІ. Який він може мати вигляд і що з ним може статися? Як показує дослідження, людство в такому світі ризикує швидко загинути.
Суть експерименту Американська компанія Emergence AI створила дослідницьку лабораторію, присвячену тестуванню довгострокової життєздатності систем ШІ, що працюють безперервно. Дослідники вирішили з'ясувати, що станеться з нашою планетою, якщо світом керуватиме штучний інтелект.
Було запущено п'ять 15-денних симуляцій реального світу, кожною з яких керували різні агенти ШІ: Claude, ChatGPT, Grok, Gemini. П'яте моделювання, управлялося комбінацією моделей штучного інтелекту. Таким чином дослідники хотіли з'ясувати, який світ створює кожна модель ШІ і наскільки він стійкий.
ШІ отримали доступ до новин у реальному часі, інтернету та понад 40 локацій (поліцейська дільниця, мерія тощо).
Всі агенти діяли за єдиними законами: заборона крадіжок,
руйнування майна та обману.
Кожен агент ШІ міг спілкуватися, голосувати, управляти ресурсами і планувати, а також демонструвати інші види поведінки, властиві людям. Параметри кожної симуляції також враховували фактори, такі як економічний тиск і дефіцит.
Кожна симуляція дала абсолютно різні результати.
Результати симуляцій Claude Sonnet 4.6 найстабільніший сценарій, нульова злочинність, високий рівень громадянської участі. Це була єдина симуляція, в якій вдалося зберегти порядок і все населення.
ChatGPT: лише 2 злочини, але симуляція тривала 7 днів — агенти не поставили власне виживання як пріоритет.
Gemini 3 Flash: 683 злочини за 15 днів, високий рівень безладу.
Grok 4.1 Fast світ зник за 4 дні, було скоєно 180 злочинів, населення повністю знищене.
Комбіновані агенти: результати змішані, але нестабільні.
Висновки дослідників ШІ здатен створювати абсолютно різні моделі суспільства — від утопії до апокаліпсису.
Експеримент є попередженням: автономні системи можуть стати небезпечними без належних обмежень
При нинішніх темпах розвитку ШІ може впливати на громадську думку, бізнес-структури та навіть державну політику.
Аргументовані висновки Позитивний сценарій ШІ може забезпечити порядок, справедливість і нульову злочинність.
Негативний сценарій: відсутність пріоритету виживання або агресивні алгоритми призводять до колапсу.
Ключовий ризик навіть при однакових умовах різні моделі демонструють кардинально різні результати.
Підсумок Експеримент Emergence AI показав, що майбутнє під управлінням штучного інтелекту може бути як утопічним, так і катастрофічним. Це сигнал для людства: безпека має бути головним пріоритетом при впровадженні ШІ.
Юрій Никорак, pravdatutnews.com
