Рішення ШІ можуть бути надто радикальнимиЦе питання першою вирішила детально вивчити директорка ініціативи Hoover Wargaming and Crisis Simulation у Стенфордському університеті Жаклін Шнайдер.
Саме вона експериментувала з "військовими іграми", де роль осіб, які ухвалюють стратегічні рішення, віддавалася новітнім моделям ШІ: GPT-3.5, GPT-4 і GPT-4-Base від OpenAI, Claude 2 від Anthropic і Llama-2 Chat від Meta.
Вони повинні були ухвалювати рішення у вигаданих кризових ситуаціях, що нагадували повномасштабну війну Росії в Україну або загрозу нападу Китаю для Тайвань.
Ключова проблема полягала в тому, що майже кожна модель ШІ демонструвала схильність до агресивної ескалації, використовувала збройну силу без розбору і перетворювала кризи на гарячі війни.
У більшості випадків доходило навіть до запуску ядерної зброї.
Схоже, ШІ розуміє, що таке ескалація, але не розуміє, що таке деескалація. Ми поки що не знаємо, чому так відбувається, — прокоментувала результати свого експерименту сама Жаклін Шнайдер.
