Провідні дослідники штучного інтелекту поручилися не розвивати летальну зброю. Документ підписали засновник Skype Яаан Таллінн, Ілон Маск та творці дочірньої компанії Google DeepMind.. В середині 20-го століття допомогу своїй країні в розробці секретних військових технологій була одним з найпрестижніших занять. Ключові компанії, вчені, інженери двох ворогуючих держав - США і СРСР - боролися за те, щоб придумати таку технологію, яка просуне їх влада в гонці озброєння.
Для кого-то це був престиж, для кого-то - гроші, а хтось просто фанатично любив свою роботу і був радий отримати всі можливості для розвитку. Звичайно, деякі існуючі досі ТехноГігант, на кшталт IBM і Hewlett-Packard, кілька заплямували свою репутацію подібними справами, але судити їх зараз явно немає сенсу.
Сьогодні ж, в світі спостерігається зворотна ситуація, або принаймні створена подібна ілюзія.
Минулої ночі, виданню The Verge стало відомо, що на Міжнародній спільній конференції зі штучного інтелекту (IJCAI) в Стокгольмі, яка організована Інститутом «Майбутнє життя», опублікували доручення з обіцянкою не розвивати не розвивати «летальну автономне зброю».
ТехноПортал пише: «це один з останніх кроків неофіційною глобальної коаліції розробників і менеджерів, який виступає проти пропаганди таких технологій».
У поручительство зазначено, що системи озброєння, що використовують штучний інтелект (ШІ) «для вибору і дії по цілі, без втручання людини» несуть моральні і прагматичні загрози.
Документ закликає до того, що машини і комп'ютеризовані системи озброєння не можна наділяти можливістю вбивати людей, і, відмовившись від подібних технологій, можна знизити потенційні ризики для людства.
Порука підписали засновник SpaceX і Tesla Ілон Масі, три співзасновника дочірньої компанії DeepMind Google, яка розробляє ІІ, - Шейн Легг, Мустафа Сулейман і Деміс Хасавіс, засновник Skype Яаан Таллінн; і деякі відомі по всьому світу дослідники ІІ - Стюарт Рассел, Йошуа Бенджі і Юрген Шмідхубер.
«Ми, що нижче підписалися, закликаємо уряди і їх лідерів створити майбутнє з сильними міжнародними нормами, положеннями і законами проти летального автономного зброї. Ми не будемо ні брати участь, ні підтримувати розробку, виробництво, торгівлю або використання летального автономного зброї.
Ми просимо, щоб технологічні компанії та організації, а також керівники, політики та інші особи приєдналися до нас в цьому поручительство »- зазначено в документі.
Автори ініціативи вважають, що розвиток зброї з ІІ може викликати ланцюгову реакцію і гонку озброєнь з іншими країнами, хоча більшість держав в світі ще не має в своєму розпорядженні належними технологіями для управління такими автономними системами.
Рік тому Інститут «Майбутнє життя», з тими ж учасниками, відправили лист в ООН із закликом розглянути нові регулятивні норми для розробки і використання летального автономного зброї.
Складно сказати, чи з'явиться оновлене законодавство, і чи зможуть його прийняти влади по всьому світу, адже сьогодні, для передових країн, впровадження ІІ в армії, безпілотні технології та інше роботизовані зброя є одним з найбільш перспективних напрямків.
Як раніше писало НВ, на початку літа близько 4000 співробітників Google змусили керівництво припинити допомогу армії США в розробці військових дронів. Програмісти Google брали участь в так званому Проекті Мейв, і їх ІІ-технологія TensorFlow допомагала швидко аналізувати фотографії з дрона, автоматично визначаючи, де знаходяться живі і неживі об'єкти.
Менеджери прислухалися до вимог працівників і опублікували нові принципи роботи Googlе, в яких з'явилася графа, що компанія обіцяє не розробляти обіцяє не розробляти ІІ для:
- технологій, які можуть нанести глобальний збиток;
- зброї або інших технологій, завдання яких - пряме або непряме заподіяння шкоди людям;
- технологій, які збирають або використовують інформацію для спостереження, порушуючи міжнародні норми.
- технологій, які суперечать принципам міжнародного права і прав людини.
