У ЄС прислухалися до голосу світової наукової спільноти й раніше, ніж у США, написали закон, що регулює застосування штучного інтелекту. Втім, цей закон ще обговорюватиметься і доповнюватиметься цілий рік до моменту ухвалення, а поки що є час подумати над тим, наскільки він відображає сьогоднішні реалії. Може, вже пізно щось змінювати та настала ШІ-анархія?
Як у ЄС мають намір врегулювати розвиток ШІУ законі пропонується розділити інструменти ШІ на "чотири зони ризику": мінімальний, обмежений, високий та неприйнятний. Наприклад, антивірусні рішення або спам-фільтри на основі нейромереж, звичайно ж, потрапляють під категорію "мінімального ризику" і для їхньої роботи немає обмежень.
А ось генеративні мережі (що створюють фото, відео та звук) є інструментами "середнього ризику". У законі пропонується компаніям-розробникам чітко маркувати такий контент відповідною позначкою, щоб будь-яка людина могла відразу зрозуміти, що перед ним не справжнє фото. Очевидно, в ЄС зрозуміли, наскільки небезпечні фейкові фото "Папи Римського в модній куртці" або "арешту Дональда Трампа",
згенеровані за допомогою Midjourney.
Але тут саме законодавці запізнилися. Звичайно, відомі компанії типу Adobe, Microsoft або той же Midjourney і так позначають твори своїх нейромереж відповідним знаком і навіть запровадили заборону на генерацію фото відомих особистостей та провокаційних запитів на тему насильства, наркотиків тощо. А ось що робити з альтернативними нейромережами? Наприклад, Stable Diffusion може створювати зображення реальних людей. І таких "фейків" стає дедалі більше, причому серед них є проекти з відкритим вихідним кодом, тож будь-який програміст може їх розвивати далі.
Швидше за все, цей пункт закону введений суто для місцевих ІТ-компаній, адже ніхто не може заборонити генерувати політичні фотофейки, що провокують, або навіть дипфейки громадянам Росії або Китаю, а інструменти для цього вже є.
Держави цих країн уже вважають ІІ одним із головних стовпів підтримки політичних режимів. У Китаї працює система "соціального рейтингу" благонадійності громадян, а Росія активно використовує нейромережі для пошуку опозиції та моніторингу критики Путіна у соцмережах.
І взагалі, згідно з репозиторієм інцидентів з ІІ, їх кількість збільшилася у 26 разів у порівнянні з попередніми роками.
Мало того, інструментарій для створення відео та голосових дипфейків вже доступний широкому колу користувачів, і хоча поки що в ЄС подібні генеративні інструменти підпадають під "середню загрозу", ми більш ніж впевнені, що до моменту голосування цього закону вони будуть віднесені до розділу "високого". ризику". Досить, як ще менше півроку тому генерував картинки той же Midjourney, і що він уміє зараз.
Які сфери діяльності закриють від ІІВтім, автори законопроекту змогли передбачити суттєвіші проблеми, яким загрожує неконтрольована інтеграція нейромереж у важливі аспекти людського життя. Наприклад, у законопроекті прописано заборону використання ІІ в судовому провадженні (оцінка чи аналіз з допомогою мереж доказової бази).
Також не можна використовувати нейромережі для оцінки кандидатів на роботу (обробляти резюме). І ось тут Євросоюз б'є на випередження, оскільки, згідно з дослідженнями, 49% респондентів побоюються втратити роботу через запровадження ІІ.
Причому найбільше ці побоювання виникають у представників так званого "офісного планктону", ніж у робітничого класу, хоч і їм є про що задуматися — роботизація підприємств просувається не менш активно, ніж використання інструментів ІІ.
У законопроекти також прописані корисніші норми про те, що ІІ забороняється розділяти людей за расами та національностями. Під заборону потрапляють системи розпізнавання емоцій. Ця заборона діє для правоохоронців, щоб вони не могли використовувати інструменти на основі ІІ для аналізу міміки людини та її психологічного настрою. Це може загрожувати неправильними висновками про винність чи невинність підозрюваного.
А що робитимуть організатори Олімпіади 2024 року у Франції? Якщо закон ухвалять до цього часу, їм буде заборонено використовувати нейромережі для контролю над натовпом уболівальників. Місцеві правоохоронці збираються використовуватися нейромережі для збирання та аналізу "підозрілої чи ненормальної" активності в натовпі.
Один із найспірніших моментів – заборона на збір та аналіз біометричних даних із соцмереж та з камер спостереження,
за якими потім можна було б розпізнавати громадян. Хоча для правоохоронців в окремих випадках зробили виняток – наприклад, запобігання терактам, серйозним злочинам або пошуком зниклих людей, проте все одно доведеться отримувати в кожному конкретному випадку дозвіл судді, що тягне за собою паперову тяганину.
Знову ж таки, у недовірливих громадян та інших любителів теорій змови цілком виникає резонне питання: хто заважає використати всі ці чудові напрацювання спецслужбам? Навряд чи закон торкнеться органів національної безпеки.
До речі, у цьому випадку Україна, яка прагне потрапити до ЄС, перебуває під ударом. Ми вже розповідали що ЗСУ та розвідка активно використовують програму компанії Clearview AI для впізнання та розпізнавання особистостей окупантів по особах. Мабуть, якщо закон набуде чинності, у майбутньому доведеться від неї відмовитися, хоча у планах Мінцифри подальша активна співпраця з цією компанією.
Безперечно, дуже добре, що в законопроекті прописані чіткі рамки на використання нейромереж у медицині. Такі системи повинні будуть "досконало вивчені та протестовані в аспекті надійності та безпомилковості".
Про що забули у законопроекті "про ІІ"Звичайно, соціальні питання щодо правосуддя, медицини, персональних даних та працевлаштування – це чудово, але поки що немає жодного пункту щодо використання ІІ у військових системах чи впливу нейромереж на екологію. А вже відомо, що той самий Пентагон активно працює над військовими технологіями з використанням штучного інтелекту. Поки що, в основному, йдеться про системи управління та відстеження ракет, але з'являються новини про роботизовані системи і навіть винищувач F-16 як експеримент цілих 17 годин керувався ІІ
Проблема для екології, яку створює розвиток нейромереж, так само не варто скидати з рахунків. Адже за підрахунками вчених навчання та функціонування нейромереж потребує величезних енергетичних та ресурсних витрат. Згідно з дослідженням, середній ЦОД використовує близько 3,8 л води на кожну кіловат-годину енергії. При цьому кожен запит людини ще й ChatGPT тимчасово забирає у природи літрову пляшку води.
Зі зростаючим розвитком нейромереж компаніям доведеться застосувати всі способи, щоб максимально знизити тиск на природу, адже досі безліч ЦОД, на серверах яких "крутиться" ІІ споживають енергію електростанцій, що працюють на газу та вугіллі. Це ніяк не сприяє прагненням ЄС щодо переходу на систему нульових викидів.
