Людське око не здатне побачити нічого особливого у зображенні з дрона лісу, де ростуть одноманітні дерева, є тіні та плями снігу. Однак системи штучного інтелекту, налаштовані на пошук людей, здатні в рази краще розрізнити картинку. Такі системи миттєво можуть виділити червоним крихітну людську постать — ймовірного солдата, який причаївся за деревом, пишеThe New York Times.
За цим досягненням стоять величезні обсяги даних. Так само, як ChatGPT та інші чат-боти на базі штучного інтелекту повинні вивчати, як люди пишуть, військові системи ШІ повинні вивчати, як люди воюють. В Україні це відбувається завдяки величезному архіву відеозаписів із поля бою, аудіо- та текстових даних, зібраних протягом майже п’яти років.
Цю військову базу даних використовують близько 30 українських оборонних компаній для розробки зброї на основі штучного інтелекту. І тепер Україна відкриває доступ до цього сховища під назвою Avenger Labs для компаній із країн-союзників, сподіваючись поглибити партнерство у сфері безпеки.
Україна надає дані безкоштовно, але компанії повинні надавати українським військовим ліцензії на будь-яке програмне забезпечення,
яке вони розробляють. Згідно з першою угодою, яку планують укласти, доступ отримають 12 британських оборонних компаній. Україна веде переговори з іншими країнами.
Михайло Федоров оголосив про нову оборонну ініціативу «Армія роботів»
Західних компаній, що розробляють автономну зброю, не бракує. Та попри це існує дефіцит даних, необхідних для її навчання. Україна може запропонувати їх більше, ніж будь-який інший потенційний партнер.
Україна ділиться даними навіть попри те, що на міжнародному рівні досі не вирішено, як Женевські конвенції та інші норми воєнного права застосовуються до зброї на базі штучного інтелекту. Київ, який зазнає труднощів із набором достатньої кількості військових для утримання лінії фронту та вичерпує запаси традиційної зенітної зброї для захисту своїх міст, прагне прискорити розробку такої зброї для своєї оборони.
Росія також збирає військові дані для використання в системах штучного інтелекту. Незрозуміло, як Москва поводиться з цією інформацією і чи ділиться нею зі своїми союзниками, такими як Іран, Китай та Північна Корея.
Більшість систем безпілотників зі штучним інтелектом,
що використовуються зараз, вимагають підтвердження цілі пілотом-людиною перед завданням удару. Однак і Росія, і Україна застосовували невелику кількість повністю автономних ударних безпілотників.
Колишній міністр оборони України Михайло Федоров, який керував розробкою платформи Avenger Labs, створив інвестиційний фонд для впровадження повністю автономної зброї на базі ШІ вже наступного року. Головним інвестором є Алекс Карп — генеральний директор компанії з аналізу даних Palantir.
Гендиректор Palantir закликав творців ШІ не перекладати безпеку технології на уряди
Нещодавно Міністерство оборони України продемонструвало, як в Україні створюють зброю на базі штучного інтелекту. Під час навчання дрона-вбивці першим кроком є визначення того, кого він буде вбивати. Необхідно вибрати набір даних — тисячі або десятки тисяч зображень тих умовних цілей, на які має полювати ця зброя.
Avenger Labs має у своєму розпорядженні понад п’ять мільйонів відеозаписів спостереження та ударів дронів. Багато з них — це необроблені кадри, на яких дрони переслідують російських солдатів і підривають їх.
Але за допомогою панелі меню на платформі можна викликати тисячі відеозаписів із поля бою з анотаціями, що відповідають широкому спектру цілей. Серед них: танки взимку, вантажівки вночі, російські дрони, що вибухають, зняті за допомогою тепловізійних камер.
Зашифрована платформа розміщена на хмарному сервісі за межами України. Оборонні компанії не переглядають ці відео безпосередньо. Вони обробляють дані в так званій «пісочниці», тобто ізольованій комп’ютерній системі. Згодом, у міру надходження бойових відеозаписів, система навчається розпізнавати військові цілі.
Щойно модель штучного інтелекту досягає необхідного рівня майстерності в «пісочниці», компанія може завантажити її в комп’ютер наведення повітряного чи морського дрона або наземного робота.
Таким чином, пункт меню на платформі Avenger Labs — наприклад, «танки» — стає пунктом меню на зброї зі штучним інтелектом. Військовий може натиснути на цей пункт меню, а потім запустити дрон для автономного пошуку цілі.
Керівник однієї з компаній, яка використовувала цю систему для створення моделі ШІ, що зараз застосовується на полі бою,
зазначив, що, за статистикою тренувань, рівень помилкових спрацьовувань становив менше 5%. Керівник висловився на умовах анонімності через угоду про нерозголошення інформації з Avenger Labs. Якими б не були сумніви щодо зброї на базі штучного інтелекту, яка вбиває, зазначив керівник, її так чи інакше розроблять.
Яким буде штучний інтелект через 50 років?
Українська військова база даних має обмеження. За словами старшої наукової співробітниці Центру штучного інтелекту імені Вадхвані при Центрі стратегічних та міжнародних досліджень у Вашингтоні Катерини Бондар, незрозуміло, наскільки ці зображення є релевантними для конфліктів за межами України.
«Якщо ви навчите свої комп’ютери розпізнавати російські об’єкти, що ви будете з цим робити поза межами України?» — запитала Бондар.
Під час війни на Близькому Сході зброя на базі штучного інтелекту, можливо, повинна буде розпізнавати, наприклад, іранські ракетні установки в пустельному ландшафті.
Також виникають питання щодо потенційного незаконного використання даних. Ліцензійна угода не містить положення про права людини.
Україна надає доступ на підставі угод між урядами. За словами українських чиновників, ці уряди несуть відповідальність за те, щоб їхні збройні сили дотримувалися Женевських конвенцій та інших договорів.
У будь-якому разі Україна відкриває доступ до своїх військових даних у правовому вакуумі. Минулого місяця на переговорах ООН у Женеві російські та американські дипломати виступили проти вимоги щодо «значущого людського контролю» над летальними автономними системами озброєння. Ці переговори відновляться 16 листопада для розгляду проєкту договору.
Програмні моделі, створені штучним інтелектом, є для людей «чорною скринькою», оскільки їхні внутрішні механізми міркувань значною мірою непрозорі. Це є проблемою, оскільки «чорна скринька затуманює відповідальність» у випадку зброї, що самостійно вибирає цілі, зазначила аналітикиня з питань штучного інтелекту та конфліктів у Human Rights Watch Анна Баччареллі.
«Важко точно визначити момент, коли щось йде не так», — сказала аналітикиня.
Штучний інтелект виходить на орбіту: Google відправила перший прототип супутника в космос
Лауреатка Нобелівської премії миру та директорка Центру громадянських свобод у Києві Олександра Матвійчук зазначила,
що Україна та інші країни, які ратифікували Римський статут — угоду про створення Міжнародного кримінального суду, — зобов’язані видавати для судового розгляду військових офіцерів, відповідальних за воєнні злочини, незалежно від того, яке озброєння використовувалося.
За словами Матвійчук, Україна має бути обережною в обміні даними з країнами, які не визнають цей принцип міжнародного права, такими як Сполучені Штати.
Нагадаємо, що ризики військового застосування штучного інтелекту стали однією з головних тем оборонного форуму «Сяншань» у Пекіні. Міністр оборони Таїланду Адул Бунтхумджароен наголосив, що ШІ-технології змінюють характер війни та вимагають нових міжнародних правил. Віцепрезидент Міжнародного комітету Червоного Хреста Юрг Лаубер закликав зберігати людський контроль над застосуванням сили в міру зростання автономності озброєнь. Представники Бангладеш, Малайзії та Лаосу також висловили занепокоєння через вплив ШІ на глобальну безпеку.
Окрім того, міністр оборони Китаю Дун Цзюнь закликав держави посилити контроль за ШІ і активніше координувати правила його використання. Він запропонував розширити оцінку ризиків, обмін досвідом та створення механізмів управління у сферах ШІ, космосу і глибоководних технологій. Народно-визвольна армія Китаю приділяє ШІ значну увагу, хоча конкретні моделі, які вона використовує, не розкриваються.