Представники США та росії, за повідомленнями журналістів, домоглися вилучення з проєкту документа Організації Об’єднаних Націй положень, які передбачали обов’язкову перевірку людиною цілей, обраних системами штучного інтелекту, а також оцінювання етичних наслідків перед застосуванням автономної зброї. Йдеться про дискусію щодо майбутніх правил використання технологій на полі бою, де алгоритми можуть самостійно визначати об’єкти для ураження.
Суперечка навколо документа демонструє, наскільки складним є вироблення міжнародних норм у сфері військового штучного інтелекту. Одні держави наполягають, що остаточне рішення про застосування сили має залишатися виключно за людиною. Інші вважають, що надмірно жорсткі обмеження можуть ускладнити розвиток оборонних систем і створити перевагу для країн, які не дотримуватимуться аналогічних правил.
США та РФ виступили проти контролю людей над рішеннями ШІ про удари — ЗМІЗа інформацією журналістів, із початкового варіанта проєкту прибрали формулювання, які вимагали від військових перевіряти кожну ціль, визначену алгоритмом.
Також у документі могли міститися положення про необхідність оцінювати моральні, правові та гуманітарні наслідки перед використанням автономної зброї. Саме ці вимоги стали одними з найбільш дискусійних під час переговорів.
Прихильники обов’язкового людського контролю наголошують, що сучасні алгоритми не здатні повною мірою зрозуміти контекст бойової ситуації. Програма може проаналізувати велику кількість даних, розпізнати об’єкт або спрогнозувати його поведінку, однак вона не має людського морального судження. Помилка у визначенні цілі може призвести до загибелі цивільних, знищення критичної інфраструктури або неконтрольованої ескалації конфлікту.
Окреме занепокоєння викликає питання відповідальності. Якщо автономна система самостійно обрала ціль і завдала удару, має бути зрозуміло, хто нестиме відповідальність за наслідки: розробник програмного забезпечення, командир підрозділу, оператор комплексу чи політичне керівництво держави. Відсутність чітких правил може створити ситуацію, за якої відповідальні особи намагатимуться перекласти провину на технічний збій або рішення алгоритму.
Чому питання автономної зброї викликає суперечкиАвтономні військові системи можуть працювати швидше за людину. Вони здатні одночасно обробляти дані з радарів, супутників, камер, безпілотників та інших джерел. У теорії це дає змогу швидше реагувати на загрози, перехоплювати ракети, виявляти військову техніку та захищати військовослужбовців. Проте швидкість ухвалення рішення не гарантує його правильності або законності.
Алгоритми навчаються на масивах даних, а якість їхньої роботи залежить від того, наскільки повними та точними були ці дані. На практиці система може неправильно розпізнати цивільний транспорт, медичний об’єкт або групу людей. Перешкодами також стають погана видимість, нестандартна поведінка об’єктів, кібератаки, підміна сигналів і навмисне маскування військових під цивільних.
Етична оцінка перед застосуванням зброї має враховувати не лише безпосередню військову ціль, а й можливі наслідки для населення, довкілля та подальшого розвитку конфлікту. Для людини таке рішення вже є надзвичайно складним, а для алгоритму воно може бути зведене до набору технічних параметрів.
Саме тому правозахисні організації та частина експертів виступають за обмеження або повну заборону систем, здатних самостійно обирати та атакувати цілі.
Водночас військові відомства різних країн зацікавлені у використанні штучного інтелекту для розвідки, планування операцій, логістики та протиповітряної оборони. Деякі з цих технологій можуть не застосовувати зброю безпосередньо, але впливати на рішення командирів, пропонуючи пріоритетні цілі або прогнозуючи розвиток подій. Через це межа між допоміжною системою та автономною зброєю часто залишається нечіткою.
Які наслідки може мати вилучення вимог із документа ООНЯкщо положення про обов’язкову участь людини не буде закріплено в міжнародному документі, держави отримають ширший простір для самостійного визначення правил. Це може прискорити розробку нових військових технологій, але водночас послабити спільні гарантії безпеки. Країни з різними підходами до ведення війни зможуть по-різному трактувати поняття контролю, перевірки цілі та допустимого рівня автономності.
Відсутність єдиного стандарту також може спричинити міжнародну гонку у сфері озброєнь.
Якщо одна держава дозволяє алгоритмам самостійно ухвалювати рішення про удари, інші можуть сприйняти це як загрозу та почати прискорено створювати власні аналогічні системи. У такому разі технологічне суперництво розвиватиметься швидше, ніж переговори про правила його обмеження.
Експерти зазначають, що навіть за відсутності прямої заборони держави могли б запровадити мінімальні вимоги до надійності та прозорості військового програмного забезпечення. Серед можливих запобіжників називають обов’язкове тестування систем у різних умовах, фіксацію всіх команд і дій алгоритму, можливість негайного скасування рішення, постійний нагляд оператора та незалежне розслідування випадків помилкового ураження.
Однак ефективність таких механізмів залежатиме від готовності держав розкривати інформацію про власні програми. У військовій сфері уряди традиційно засекречують характеристики озброєнь, методи підготовки даних і правила застосування. Через це міжнародний контроль може виявитися формальним, якщо не буде узгоджено зрозумілих процедур перевірки.
Ситуація навколо проєкту ООН свідчить, що питання людського контролю над бойовими алгоритмами залишатиметься одним із центральних у міжнародній безпеці. Дискусія стосується не лише технологій, а й фундаментального принципу: чи може машина отримати право самостійно ухвалювати рішення, від якого залежить життя людини. Подальші переговори покажуть, чи зможуть держави знайти баланс між військовими інтересами, інноваціями та необхідністю зберегти відповідальність людини за застосування сили.
