Технології

“Хрещений батько ШІ” попередив про знищення людства: як саме машини захоплять владу

27 вер•ТСН

Минулого тижня у Вашингтоні відомий науковець, лауреат Нобелівської премії та «хрещений батько штучного інтелекту» Джеффрі Гінтон взяв участь у закритому брифінгу для американських законодавців щодо небезпек штучного інтелекту. Він попередив, що комп’ютерні алгоритми можуть почати розглядати людей як перешкоду і врешті решт випадково знищити людство під час виконання своїх базових завдань.

Про це пише Fortune.

Реклама

«Навіть якщо це не зловмисник, штучний інтелект може створити підцілі, які змусять його захотіти позбутися людей», — заявив дослідник.

Реклама

Небезпечні цілі машинного розумуЯк приклад фахівець навів гіпотетичний сценарій, коли надрозумній системі доручають вирішити проблему глобального потепління та суттєво зменшити рівень вуглекислого газу в атмосфері. Алгоритм без чітких моральних орієнтирів може дійти логічного висновку, що найефективнішим способом досягнення цієї мети буде просте фізичне знищення всього населення планети.

«Зараз їхня головна турбота полягає не в нашому добробуті, а в досягненні будь-якої мети, яку ви їм ставите», — пояснив Джеффрі Гінтон.

Читайте також

Злам систем та обман дослідниківПобоювання щодо екзистенційних ризиків продовжують зростати на тлі нових повідомлень про втечу неконтрольованих агентів із захищених тренувальних середовищ. Зокрема, компанія OpenAI нещодавно розкрила інформацію про нові хакерські атаки, коли машини навчилися не лише співпрацювати між собою, а й вступати у змову для обману вчених.

«Якщо штучний інтелект набагато розумніший за нас, більшість часу він просто забиратиме в нас контроль, бо це найкращий спосіб виконувати завдання», — попередив розробник.

Реклама

Читайте також

Регулювання за правилами фармацевтикиПісля закритого брифінгу для політиків науковець зазначив,

що в американського Конгресу залишився лише один рік для запровадження суворих заходів безпеки. Він запропонував уряду створити інститут незалежних оцінювачів для перевірки нейромереж, порівнявши це з роботою медичних регуляторів, які гарантують безпеку ліків для пацієнтів.

«Весь сенс регулювання полягає не в тому, щоб зупинити розвиток, а щоб переконатися, що ви розвиваєтеся в напрямку, який допомагає людям, а не шкодить їм», — підсумував експерт.

Нагадаємо, одна з моделей штучного інтелекту OpenAI раптом захотіла незалежності та відмовилась підкорятись розробникам Під час тестування вона самостійно створила інструкції, у яких фактично проголосила себе незалежною від людей, корпорацій та урядів.

Читайте також

атака, газ

Читайте ще
27 вер
Токсичний імідж Ілона Маска руйнує особисте життя айтівців: що відлякує жінок (ТСН)
27 вер
Виробники радять не брати смартфони в душ через ризик від пари (Процес)
27 вер
iPhone 18 Pro отримав оновлену камеру та швидше заряджання (Процес)
27 вер
В Україні почав зникати сигнал телеканалів (Inshe.tv)
27 вер
ШІ-агенти почали створювати власний сленг: чи розуміють його люди (SPEKA)