Абсолютно передбачуваного та безпечного штучного інтелекту створити неможливо через фундаментальні математичні обмеження. Навіть необмежені обчислювальні потужності не дозволяють перевірити всі можливі сценарії поведінки складної системи.
Про це пише РБК-Україна.
Перша проблема пов’язана з вибуховим зростанням кількості можливих комбінацій. Чим більше параметрів потрібно перевірити, тим швидше обсяг обчислень стає практично недосяжним.
Як приклад наводиться класична задача пошуку найкоротшого маршруту між містами. Для десяти міст комп’ютер здатний перебрати варіанти дуже швидко.
Якщо міст уже 20, кількість можливих маршрутів зростає приблизно до 2,4 квінтильйона, а повний перебір може зайняти близько 77 років.
Для 30 міст число можливих комбінацій стає настільки великим, що навіть надзвичайно швидкому комп’ютеру на повний перебір знадобилося б близько 8,4 квадрилліона років.
Це приблизно у 600 тисяч разів більше за нинішній вік Всесвіту.
Друга фундаментальна проблема пов’язана з теоремою Райса. Вона вказує, що для довільної програми неможливо створити універсальний алгоритм,
який у всіх випадках гарантував би певну нетривіальну властивість її поведінки.
Через це проблема безпечного вирівнювання ШІ стикається одразу з двома обмеженнями: неможливістю перебрати всі сценарії та неможливістю отримати абсолютний алгоритмічний доказ правильної поведінки для будь-якої ситуації.
Навіть проста перевірка шести параметрів безпеки, якщо кожен має десять можливих налаштувань, уже дає мільйон комбінацій.
У реальних системах кількість параметрів значно більша, тому повна перевірка швидко стає практично нездійсненною.
Квантові комп’ютери здатні суттєво пришвидшити окремі типи пошуку, але не усувають фундаментальної проблеми.
Як приклад наводиться алгоритм Гровера: для умовної задачі з 20 містами він міг би скоротити час пошуку з десятків років до секунд, а для 30 міст — з квадрилліонів років до місяців.
Проте зі збільшенням кількості параметрів число комбінацій знову починає зростати швидше, ніж можливості обчислювальних систем.
Тому на практиці розробники ШІ покладаються не на абсолютні математичні гарантії, а на тести, обмеження, евристики та приблизні рішення.
Подібний підхід давно використовується і в логістиці: замість ідеального маршруту система швидко знаходить варіант, який лише трохи поступається найкращому.
Більш досконалі моделі ШІ можуть давати точніші та надійніші результати, але самі фундаментальні математичні межі при цьому не зникають.
