Співзасновник Microsoft Білл Гейтс заявив, що штучний інтелект уже є настільки потужним інструментом, що за певного сценарію його використання може призвести до загибелі мільярда людей. На його думку, уряди мають контролювати найпотужніші ШІ-моделі, а можливості просто вимкнути небезпечну систему буде недостатньо.
Про це Гейтс розповів в інтерв'ю програмі NBC Meet the Press.
Про масштаб потенційної загрози Гейтс заявив у фрагменті інтерв'ю, який NBC оприлюднила раніше. За його словами, ШІ є достатньо потужним інструментом, щоб "спричинити мільярд смертей".
Одним із джерел небезпеки він вважає використання технології людьми, які навмисно прагнуть завдати масштабної шкоди.
Ще в серпні Гейтс писав, що зі зростанням можливостей ШІ зловмисники можуть застосовувати його для кібератак, шахрайства та дезінформації. Серед потенційних цілей він називав лікарні, фінансові установи, електромережі та державні системи.
На думку Гейтса, держави мають стежити за роботою найбільш розвинених моделей і зберігати дані про те, які операції вони виконують.
"Нам справді потрібно контролювати будь-яку складну модель та точно фіксувати,
що вона робить", — сказав він.
Гейтс також прокоментував ідею так званого kill switch — механізму, який дозволив би людині зупинити або обмежити роботу потужної моделі, якщо вона почне поводитися небезпечно.
На його думку, самого такого запобіжника недостатньо. Контроль має починатися раніше — ще під час створення, тестування та використання потужних систем.
Гейтс вважає, що такі правила мають запроваджувати не лише США. Він не погодився з аргументом, що американські обмеження дадуть перевагу Китаю, якщо Пекін не встановить аналогічних вимог.
"Безумовно, всі країни повинні хотіти, щоб такі запобіжники існували. Тому я абсолютно не погоджуюся з тими, хто каже: "Китай не запроваджуватиме цих запобіжників"", — заявив Гейтс.
За його словами, Китай також зацікавлений у контролі за ШІ, оскільки сам може стати мішенню атак із використанням цієї технології.
Що про ризики ШІ говорить Дональд ТрампПозиція Гейтса відрізняється від підходу президента США Дональда Трампа, який виступає проти жорстких обмежень у сфері штучного інтелекту.
Трамп називав попередження про екзистенційні ризики ШІ "містифікацією",
яка може зашкодити американським розробникам у технологічній конкуренції з Китаєм.
13 вересня президент США заявив, що країна випереджає Китай у сфері штучного інтелекту і має зберегти цю перевагу.
"Я хочу, щоб так і залишалося, тому що той, хто переможе у ШІ, переможе", — сказав Трамп.
Гейтс із такою оцінкою ризиків не погодився.
"Це зовсім не містифікація", — відповів він на запитання про слова президента США.
Гейтс припустив, що Трамп може змінити свою позицію після консультацій із ним та іншими фахівцями. За словами співзасновника Microsoft, запровадження запобіжників не повинно послабити США у технологічному суперництві з іншими державами.
Він також очікує, що Китай підтримає міжнародні заходи безпеки, оскільки ризики неконтрольованого або злочинного використання ШІ становлять загрозу для всіх країн.
Нагадаємо, компанія Anthropic, яка розробляє чат-бот Claude, попередила потенційних інвесторів про ризики штучного інтелекту напередодні майбутнього IPO (первинне публічне розміщення акцій приватної компанії на фондовій біржі). Серед можливих наслідків розвитку дедалі потужніших моделей компанія назвала "катастрофічні або екзистенційні" загрози для людства.
