Джеффрі Хінтон потряс індустрію своїм викриттям: технологічні гіганти думають лише про швидкі гроші. "Хресний батько штучного інтелекту" заявив, що власники компаній керуються короткостроковими прибутками, а не майбутнім людства.
77-річний вчений, який отримав Нобелівську премію за роботу з нейронними мережами, покинув Google у 2023 році саме через ці побоювання. За його словами, дослідники зосереджуються на вирішенні конкретних завдань — як навчити комп'ютер розпізнавати зображення чи генерувати переконливе відео. Але ніхто не запитує себе про кінцеву мету цих розробок.
Штучний інтелект наступає швидшеРаніше Хінтон прогнозував досягнення загального штучного інтелекту через 30-50 років. Тепер цей термін скоротився до 5-20 років. Вчений попереджає: є 10-20% ймовірності того, що технологія знищить людство після створення надінтелекту.
Компанії лобіюють зменшення регулювання ШІ, хоча його й так майже немає, — обурюється дослідник. Він вважає, що на дослідження безпеки потрібно витрачати третину обчислювальної потужності, а не мізерну частку, яку виділяють зараз.
Цьогоріч світові витрати на генеративний ШІ сягнуть $644 млрд, що на 76,4% більше за попередній рік. При цьому лише 1% керівників вважають розгортання ШІ у своїх компаніях зрілим. Технологічні гіганти планують витратити рекордні $364 млрд на будівництво дата-центрів у 2025 році.
Небезпека вже тутХінтон виділяє два типи ризиків: зловживання технологією зловмисниками та загрозу від самого ШІ. Перша вже реальність — більше 70% спроб реєстрації в деяких ринках виявилися дипфейками. Експерти зафіксували понад 150 типів атак з використанням підроблених відео.
Другий ризик страшніший. Коли ШІ досягне надінтелекту, він матиме сильне бажання вижити і отримати додатковий контроль. Хінтон порівнює майбутній контроль ШІ над людьми з тим, як дорослий може підкупити трирічну дитину цукеркою.
Вчений пропонує радикальне рішення — надати ШІ "материнський інстинкт". Тільки так розумніша істота може піклуватися про менш розумну, як мати про немовля. "Вони будуть матерями, а ми — немовлятами", — каже Хінтон. Інакше технологія просто замінить людство.
Поки що близько 2 мільярди людей використовують ШІ, але лише 3% платять за це. Експерти попереджають: час діяти закінчується швидше, ніж здається керівникам техкомпаній.
