OpenAI формує нову команду, щоб контролювати «надрозумні» системи штучного інтелекту, пише TechCrunch.Головний науковий співробітник і співзасновник OpenAI Ілля Суцкевер і менеджер компанії Ян Лейке прогнозують, що штучний інтелект, який перевищить людський, може з’явитися протягом десяти років. Вони наголошують, що у разі появи цей «надрозум» не обов’язково буде доброзичливим, тож треба шукати способи контролювати і обмежувати його.Для цього OpenAI створює нову команду Superalignment на чолі з Суцкевером і Лейке, яка матиме доступ до 20% наявних обчислювальних даних компанії. Новий відділ намагатиметься вирішити основні технічні проблеми керування «надрозумним» ШІ протягом наступних чотирьох років.Суцкевер і Лейке описують свій майбутній інструмент як «автоматизований дослідник вирівнювання на рівні людини». Системи штучного інтелекту за допомогою зворотного зв’язку людини мають навчити штучний інтелект допомагати в оцінці інших систем ШІ.Гіпотеза OpenAI полягає в тому, що штучний інтелект може швидше та краще за людей контролювати «надрозумний» ШІ.«Вони працюватимуть разом з людьми,
щоб переконатися, що їхні спадкоємці будуть більш узгоджені з людьми... Дослідники-люди зосереджуватимуть все більше своїх зусиль на перегляді досліджень вирівнювання, проведених системами ШІ, замість того, щоб проводити ці дослідження самостійно», — йдеться у блозі OpenAI.Однак, за словами керівників компанії, використання штучного інтелекту для оцінки може збільшити невідповідності, упередження або вразливі місця у наступних поколіннях ШІ. І може виявитися, що найскладніші проблеми вирівнювання взагалі не пов’язані з технікою. Але Суцкевер і Лейке вважають, що варто спробувати.
Наприкінці березня Ілон Маск і група експертів зі штучного інтелекту та керівників галузі закликали до шестимісячної паузи в розробці систем, більш потужних за GPT-4 від OpenAI. Вони опублікували відкритого листа, у якому назвали потенційні ризики для суспільства і людства.Білл Гейтс в інтервʼю Reuters заявив, що заклики призупинити розвиток штучного інтелекту не «вирішать майбутніх проблем». Коментуючи відкритий лист дослідників, він наголосив, що замість паузи в розробці слід зосередитися на тому, як отримати максимальну вигоду з тих ШІ-рішень, що вже є.Експерти Всесвітнього економічного форуму підрахували, що розвиток штучного інтелекту та цифровізації прискорить зміни в роботі для понад 26 мільйонів працівників протягом пʼяти наступних років: канцелярська робота занепадатиме, а попит на фахівців з технологій і кібербезпеки зростатиме.
