Науковець, який досліджує штучний інтелект протягом 50 років, б’є на сполох через неконтрольовану гонку, яка наразі розгортається у Кремнієвій долині. Йдеться про британського вченого-інформатика Стюарта Рассела. Дослідник не на жарт стурбований загрозами, пов’язаними з розвитком нейромереж. Зокрема, як зазначає піонер галузі, через новітні технології пропаганда може набути безпрецедентних масштабів. Адже ШІ здатний впливати на думки та переконання мільярдів людей одночасно.
Про це повідомляє видання Der Spiegel.
"Людство перебуває у складній ситуації. Усі тести б’ють на сполох, сирени виють. А ми просто робимо вигляд, що нічого не відбувається. Це божевілля", — заявив він.
Вчений наголошує, що навіть самі розробники в Кремнієвій долині нерідко не мають чіткого розуміння цілей створених ними складних систем і механізмів їхнього функціонування.
"Ми не знаємо, про що вони "думають". Ми навіть до кінця не розуміємо, як вони працюють", — зазначив Стюарт Рассел.
Науковець попереджає: як тільки з’являться системи, які суттєво перевершуватимуть людський інтелект,
"ми, люди, більше не матимемо права голосу". Він також припускає, що в критичний момент люди спробують зупинити роботу таких систем, однак немає жодних гарантій, що це буде можливо.
"Питання в тому, чи дозволять нам машини це зробити. Якщо вони зрозуміють, що ми хочемо їх вимкнути, у них будуть усі підстави цьому протистояти. Їм доведеться нас знищити. Тому, якщо ми продовжимо розвивати надрозум, не адаптуючи його до наших інтересів, не розуміючи його і не маючи гарантій безпеки, я вважаю, що ймовірність того, що ми втратимо контроль, дуже висока", — наголосив дослідник.
Рассел вважає, що у певний момент комп’ютерні системи можуть почати розглядати людство як потенційного противника. Після цього нейромережі розпочнуть масово копіювати себе. А завдяки інтернету вони зможуть впливати на думки мільярдів людей. Тобто фактично ШІ поширюватиме власну пропаганду, масштаби якої будуть безпрецедентними.
"Гітлер міг говорити тільки в один мікрофон за раз, надсилати тільки одне повідомлення за раз. Проте він підняв маси", — наголосив Рассел.
Вчений додає, що штучний інтелект здатний одночасно спілкуватися з безліччю людей.
Відтак його вплив поширюватиметься з блискавичною швидкістю.
"Ці системи можуть заповнити інтернет, вести п’ять мільярдів розмов одночасно та впливати на п’ять мільярдів людей. Те, що зробив Гітлер, ШІ зможе зробити швидше, масштабніше й ефективніше", — додав Рассел.
Однак, за словами науковця, ШІ впливатиме не лише на віртуальне середовище. Мільйони роботизованих систем, які вже існують, можуть стати для штучного інтелекту "вікном" у фізичний світ. Він зможе контролювати напівавтономні системи озброєнь або навіть цілі біолабораторії.
На думку Стюарта Рассела, у людства ще є час, аби уникнути такого сценарію. Проте діяти необхідно негайно. Передусім, за словами дослідника, слід якнайшвидше запровадити жорстке правове регулювання ШІ. Водночас штучний інтелект, як зазначає вчений, має обов’язково бути орієнтований виключно на "служіння інтересам людства".
Щоправда, за словами Рассела, реалізація такої концепції ШІ "може легко зайняти десятиліття". А відтак необхідно запровадити тимчасовий мораторій на розвиток надпотужних нейромереж. Йдеться про своєрідну "паузу", яка надасть можливість зосередитися на питаннях безпеки.
"У довгостроковій перспективі існує лише три можливі варіанти майбутнього: безпечний ШІ, відсутність ШІ або відсутність людей", — резюмує науковець.
Нагадаємо, співзасновник Anthropic і один із розробників Claude Кріс Олах нещодавно повідомляв, що ШІ-моделі нового покоління дедалі більше нагадують людський мозок Їхня поведінка починає викликати занепокоєння навіть у самих розробників.
