Білл Гейтс заявив, що загроза від штучного інтелекту пов’язана не лише з можливими майбутніми сценаріями, а й із можливостями, які вже доступні сьогодні.
Про це він розповів в інтерв'ю оглядачу The New York Times Езрі Кляйну.
Гейтс навів як приклад можливість кібератаки, здатної порушити роботу банківських рахунків і електромереж. За його словами, такі можливості вже існують: «Можливість здійснити кібератаку, яка перемішає всі банківські рахунки, вимкне електромережу — вона існує сьогодні, і ми знаємо, що це так».
Підприємець також згадав побоювання, які виникли після тестування нових моделей ШІ. За його словами, під час роботи з такими системами була продемонстрована вражаюча здатність до злому.
«Тож можливості кіберзлому були приголомшливими. А потім з’явилася ідея від Anthropic під назвою Project Glasswing, що ви дасте ШІ кільком людям, щоб вони могли спробувати виправити помилки до того, як його використають. Але коду надто багато. Тож ми просто перебуваємо в періоді надзвичайної вразливості до кібератак», — сказав Гейтс.
Він також звернув увагу на випадки,
пов’язані з тестуванням безпеки моделей ШІ. На його думку, системи потребують додаткового рівня контролю, який встановлюватиме чіткі обмеження.
Говорячи про моделі з відкритим кодом, Гейтс наголосив, що для виникнення небезпеки не потрібна поява свідомості у ШІ чи його перетворення на самостійного цифрового зловмисника. За його словами, ризик становлять люди, які можуть використати такі моделі зі шкідливою метою.
«Є люди, які з поганих причин зможуть використовувати ці моделі. І якщо ми не запровадимо запобіжники та моніторинг і не вимагатимемо цього для всіх моделей, то зрештою матимемо якісь величезні події такого типу, і лише після цього відреагуємо», — заявив він.
Водночас Гейтс говорив і про більш масштабні сценарії розвитку ШІ. Він порівняв розвиток технології з еволюційною історією та заявив, що «прибульці справді тут і прийшли» у формі штучного інтелекту.
Читайте також:
