Глобальну гонку у сфері штучного інтелекту можна розглядати через метафори та стратегічні моделі, які протягом десятиліть використовувалися для опису ядерного протистояння. Таку думку висловив оглядач Bloomberg Opinion Андреас Клут, аналізуючи ризики швидкого розвитку ШІ та стимули, які змушують компанії й держави продовжувати технологічне суперництво.
Однією з таких моделей є «дилема в’язня»: співпраця могла б забезпечити кращий результат для обох конкурентів, однак недовіра до іншої сторони створює стимул продовжувати суперництво.
У контексті ШІ такими гравцями можуть бути як технологічні компанії, зокрема OpenAI та Anthropic, так і держави – передусім США та Китай.
Уповільнитися складно, якщо конкурент може продовжити гонкуКерівник Anthropic Даріо Амодей раніше закликав до контрольованого уповільнення розвитку передових систем, яке дало б регуляторам більше часу для реагування на технологічні ризики.
Проблема, на думку автора Bloomberg Opinion, полягає в тому, що кожен учасник має враховувати можливість, що конкурент не дотримуватиметься аналогічних обмежень.
У результаті навіть зацікавлені у безпечнішому розвитку технології сторони можуть продовжувати гонку через побоювання відстати.
Для опису цього механізму Клут згадує метафору фізика Роберта Оппенгеймера, який у 1953 році порівнював США та СРСР із двома скорпіонами в одній пляшці: кожен здатний знищити іншого, але ризикує загинути сам.
Водночас автор вважає, що сучасна ситуація із ШІ може бути навіть менш стабільною, ніж ядерне протистояння. Під час холодної війни поступово сформувалися механізми стримування, тоді як технології штучного інтелекту змінюються настільки швидко, що стабільної рівноваги може не виникнути.
«Кімната з бензином» та ризик втрати контролюІнша аналогія походить від економіста та дослідника стратегічної поведінки Томаса Шеллінга. Він описував двох противників у кімнаті, наповненій бензином, де кожен тримає сірники.
Жодна сторона не зацікавлена свідомо спричиняти пожежу, оскільки загинуть обидві. Однак провокація, помилка або неправильна оцінка дій конкурента можуть випадково запустити катастрофічний сценарій.
У теорії ігор близькою є модель Chicken,
за якої два водії рухаються назустріч один одному: той, хто першим зверне, програє, але якщо не зверне ніхто – зіткнення стає неминучим.
Саме ризик втрати контролю Клут називає одним із принципових викликів нинішньої гонки ШІ. Зі збільшенням автономності систем наслідки дедалі більше можуть залежати не лише від свідомих рішень людей, а й від поведінки самих моделей та агентів.
Співпраця може стати альтернативою гонціВодночас історія ядерного протистояння демонструє й можливість іншого сценарію. Після найбільш небезпечних періодів холодної війни держави створили механізми контролю над озброєннями, нерозповсюдження та взаємної перевірки.
Для сфери ШІ аналогічний підхід, на думку автора, міг би передбачати координацію темпів розвитку найпотужніших моделей, незалежну перевірку дотримання домовленостей та узгоджене регулювання за участю США, Китаю та інших держав.
Ще однією моделлю для такого сценарію є «полювання на оленя» – гра, у якій найбільшу винагороду учасники отримують лише завдяки співпраці. У випадку ШІ такою винагородою можуть стати потенційні суспільні переваги технології, зокрема прискорення наукових досліджень та пошуку нових методів лікування захворювань.
Ключовою відмінністю від ядерної епохи Клут називає можливість того, що ШІ із розвитком автономності перестане бути лише інструментом у руках людей і сам стане активним учасником процесів. Саме тому питання контролю людини над критично важливими рішеннями та узгодження поведінки ШІ з людськими цілями стає одним із центральних у дискусії про безпеку технології.
