За кордоном

В ООН обговорять запровадження обмежень і заборон на автономну зброю на основі ШІ - AFP

14 лис•NV

На конференції, що розпочнеться 16 листопада у штаб-квартирі ООН в Женеві, обговорять запровадження обмежень і заборон на автономну зброю на основі ШІ, повідомляє AFP.

Летальні автономні системи озброєнь (Lethal Autonomous Weapons Systems — LAWS) «здатні ідентифікувати, обирати та вражати ціль без втручання оператора-людини у процес виконання цих завдань», — пояснив агентству Жан-Марк Ріклі, керівник напрямку глобальних ризиків і ризиків, що виникають, у Женевському центрі політики безпеки.

У статті зазначається, що автономна зброя, така як протипіхотні міни, існувала і раніше, однак із поширенням безпілотників, оснащених штучним інтелектом, така зброя тепер «здатна обирати й вражати цілі, які не були визначені заздалегідь, адаптуючись до навколишнього середовища без участі людини», — каже Ріклі.

Читайте також:

Конкуренція для Palantir. Виробник дронів Helsing презентував військову систему штучного інтелекту Clarity Ключовим питанням для потенційних регуляторів є визначення рівня контролю з боку людини над рішенням про застосування такої зброї. США заявляють про необхідність «належного рівня людського судження» при використанні автономної зброї,

тоді як Франція наполягає на тому, що людина має брати участь у прийнятті рішень. Ця країна забороняє «смертоносні автономні системи озброєнь» (LAWS), але дозволяє використання «частково автономних» систем (PLAWS).

«Роль людини завжди забезпечується через так званий „належний контроль“ з боку військового командира — поняття, обсяг якого варіюється залежно від критичності системи та оперативного контексту», — пояснив контр-адмірал Венсан Себастьєн, заступник директора Агентства з питань штучного інтелекту в оборонній сфері (AMIAD) при Міністерстві оборони Франції.

«Ми зараз перебуваємо на небезпечно близькій відстані від перетину моральної „червоної лінії“ — автономного вибору цілей (людей) машинами», — говорилось у спільній заяві генсека ООН Антоніу Гутерреша і президентки Міжнародного комітету Червоного Хреста Мір'яни Сполярич, яку вони зробили у серпні.

Читайте також:

«Зебри» проти «шершнів»: як РФ намагається захиститися від українських «розумних дронів» — ВВС Ріклі зазначив, що коло питань, винесених на обговорення в Женеві, є «дуже вузьким». «Воно не охоплює всього спектра проблем,

пов’язаних із застосуванням ШІ на полі бою» — сфері, де його використання постійно розширюється, зокрема в процесі формування переліку цілей, пояснив експерт. За його словами, це проявилося під час американо-ізраїльських дій проти Ірану цього року, «коли американці опрацьовували до 1000 цілей на день» на території Ірану.

«Існує ціла низка проблем і неприйнятних ризиків, пов’язаних із системами визначення цілей та підтримки прийняття рішень. Частина дискусії стосується систем, які вже широко застосовуються на полі бою», зазначила Лор де Руссі-Рошонгонд із Центру геополітики технологій при Французькому інституті міжнародних відносин (IFRI).

«Який саме рівень людського контролю необхідний, щоб гарантувати, що оператор справді керується власним судженням, а не просто формально затверджує рекомендації машини?» — запитала вона.

Автономна зброя, яку обговорюватимуть у Женеві, поки що не набула масового поширення, хоча аналітики відзначають, що Росія вже застосовувала її під час вторгнення в Україну, а США — під час операцій проти Ірану. AFP констатує, що її поширення є неминучим.

Читайте також:

США та Росія вилучили з проєкту угоди ООН пункт про етичне використання зброї зі штучним інтелектом — WP «Автономні системи озброєнь — це не далеке майбутнє, перегони за розширення автономності в системах озброєнь уже в самому розпалі», — заявили Гутерреш і Сполярич.

За словами Ріклі, рої автономних дронів, які «мають на меті нейтралізувати супротивника шляхом насичення», були б надзвичайно ефективними, і деякі держави розглядають їх як вирішальну стратегічну перевагу.

У січні Міністерство оборони Китаю назвало рої автономних дронів «новим обличчям війни».

«В епоху гострого військового суперництва держава, яка першою зробить цілком автономні удари на ураження звичною практикою, змінить уявлення про норми для всіх інших», — зазначив Джеральд Мако, науковий співробітник Кембриджського університету, у коментарі виданню Small Wars Journal.

Читайте також:

Екзистенціальна загроза для людства. Що потрібно вирішити щодо ШІ Тим часом Даріо Амодеї, керівник компанії Anthropic — одного з лідерів у сфері ШІ — заявляв цього року, що залишаються серйозні сумніви й небезпеки: «Сьогодні передові системи ШІ просто недостатньо надійні, щоб керувати повністю автономною зброєю».

Дія

Читайте ще