Керівники найбільших ШІ-корпорацій стверджують, що вже навесні з'явиться штучний інтелект нового рівня, який зрівняється з людським. Однак це мають визначати незалежні експерти за заздалегідь погодженими критеріями. Покладатися лише на заяви компаній, від яких залежать їхні інвестиції та вартість, недостатньо. Про це у статті «AGI на порозі? Як перевірити, чи досяг штучний інтелект рівня людини» пише науковець Олексій Костенко.
Зокрема, про те, що людство входить в еру загального штучного інтелекту (AGI) нещодавно заговорили президент OpenAI Грег Брокман та голова NVIDIA Дженсен Хуанг. Приводом для такої заяви стала презентація нових моделей GPT-6 Astra і Claude Fable 5.1. За словами Костенка, це перший випадок, коли про AGI заговорили не в майбутньому, а в теперішньому часі.
«Якщо від слова AGI залежать гроші, відповідальність і міжнародні зобов'язання, вирішувати це має не той, хто продає продукт. Потрібна незалежна перевірка. І частина цеглинок для неї вже існує», — пише автор.
Як змінився штучний інтелект за 30 місяців: оцінка автора «Співінтелекту»
Державні інститути безпеки штучного інтелекту у США та Британії вже тестують моделі до виходу на ринок.
Навесні Google DeepMind, Microsoft і xAI погодилися давати американському центру CAISI ранній доступ до своїх моделей, а Anthropic і OpenAI вже співпрацюють з ним за оновленими угодами. Більш як 100 науковців з різних країн готують Міжнародну доповідь про безпеку штучного інтелекту. Організація об’єднаних націй минулого лютого навіть сформувала Незалежну міжнародну наукову групу з ШІ. Крім того, дослідники вже описали технічні способи перевіряти міжнародні угоди щодо ШІ: від контролю за обчислювальними потужностями до захищених середовищ для тестування.
«Але ці елементи не з'єднані в систему. Тому, на мою думку, варто було б створити Міжнародний реєстр порогових можливостей ШІ. Він має відповідати на чотири питання», — зауважує Костенко.
Перше питання: хто перевіряє? На думку автора, це не може бути одна організація. Перевіркою має займатися консорціум із державних інститутів безпеки ШІ різних країн, науковців з групи ООН і незалежних лабораторій як METR і ARC. Причому жоден із учасників такого консорціуму не повинен мати фінансових зв’язків з компанією, яку перевіряють
Друге питання: що перевіряють? Костенко переконаний, що необхідно заздалегідь оприлюднити набір критеріїв, зокрема, результати тестувань за різними складовими інтелекту, тривалість завдань, які система виконує сама, здатність розв'язувати зовсім нові задачі й схильність до небезпечних дій. Поріг AGI потрібно також визначити заздалегідь, а не після її готовності.
Третє питання: як отримують доступ? На думку автора, необхідно напрацювати закон, згідно з яким, компанія буде зобов’язана одразу повідомити компанії, яка веде реєстр, щойно її внутрішня модель ШІ перетне визначений поріг.
Яким буде штучний інтелект через 50 років?
«Навіть якщо цю модель не планують продавати. Тестування відбувається в захищеному середовищі: модель не залишає серверів розробника, а перевіряльники бачать лише її відповіді. Так захищають і комерційну таємницю, і чесність перевірки», — додає автор.
Четверте питання полягає в тому, чому цим висновкам можна буде вірити? Костенко вважає, що частину тестів необхідно зберігати в таємниці, аби модель не можна було «натренувати під іспит». Причому варто,
аби одні й ті самі тести проводили одночасно щонайменше дві команди з різних країн. Методику, на думку автора, варто публікувати в такій формі, аби вона була зрозуміла суспільству. Так вже працюють, наприклад, міжнародні інспекції ядерних об'єктів. Адже, як наголошує Костенко, довіра виникає не з обіцянок, а з повторюваної перевірки.
«Україні варто брати участь у створенні такого механізму вже зараз. Країна без власних найпотужніших моделей і без місця за столом переговорів ризикує отримати AGI як готовий факт — з чужими визначеннями й чужими правилами», — зазначає автор.
Нагадаємо, Google DeepMindоголосила про створення DeepMind Institute — дослідницької платформи для розробки стандартів безпеки та контролю за розвитком AGI. Однією з перших ініціатив інституту, якураніше запропонував Гассабіс стала можливість запровадження незалежного тестування найпотужніших моделей за 30 днів до їхнього релізу з перспективою зробити таку перевірку обов'язковою умовою для виходу на ринок США.
