Швидкий розвиток штучного інтелекту може поставити людство на межу зникнення вже у найближче десятиліття. Про це заявив професор Монреальського університету Йошуа Бенджіо — один із творців сучасних нейромереж і лауреат премії Тюрінга, якого називають «хрещеним батьком ШІ».
Бенджіо визнає, що боїться власного відкриття. За його словами, експериментальні моделі вже показують, що надрозумні машини можуть мати власні цілі — виживання, самовдосконалення чи домінування і не завжди віддаватимуть перевагу збереженню людського життя.
«Якщо ми будуємо машини, розумніші за нас і з власними цілями, це небезпечно», — попереджає він.
Загроза здається дедалі реальнішою на тлі технологічних перегонів між OpenAI, Google, Anthropic та xAI Ілона Маска. Бенджіо переконаний: «корпорації не приберуть ногу з газу», навіть усвідомлюючи ризики.
Учений закликає створити незалежні міжнародні органи, які контролюватимуть безпеку розробок. Для цього він уже заснував некомерційну організацію LawZero, що працює над Scientist AI — системою, яка має стати запобіжником проти неконтрольованих агентів.
«Навіть якщо ймовірність катастрофи становить лише один відсоток — це занадто високий ризик», — підсумував Бенджіо.
