OpenAI формує нову команду для пом’якшення «катастрофічних ризиків», пов’язаних зі ШІ. В оновленому четверговому оновленні OpenAI повідомляє, що команда підготовки буде «відстежувати, оцінювати, прогнозувати та захищати» від потенційно серйозних проблем, спричинених ШІ, включаючи ядерні загрози.
Команда також працюватиме над пом’якшенням «хімічних, біологічних і радіологічних загроз», а також «автономної реплікації» або самовідтворення ШІ. Деякі інші ризики, які буде розглядати команда підготовки, включають здатність ШІ обманювати людей, а також загрози кібербезпеці.
«Ми віримо, що передові моделі штучного інтелекту, які перевищуватимуть можливості, наявні в найдосконаліших існуючих моделях, мають потенціал принести користь всьому людству», — пише OpenAI в оновленні. «Але вони також становлять дедалі серйозніші ризики».
Олександр Мадрі, який зараз перебуває у відпустці з посади директора Центру розгортання машинного навчання MIT, очолить групу підготовки. OpenAI зазначає, що команда підготовки також розроблятиме та підтримуватиме «політику розробки з урахуванням ризиків», у якій буде описано, що компанія робить для оцінки та моніторингу моделей ШІ.
Генеральний директор OpenAI Сем Альтман раніше попереджав про можливість катастрофічних подій, спричинених ШІ. У травні Альтман та інші видатні дослідники штучного інтелекту опублікували заяву з 22 слів про те, що «зменшення ризику зникнення через штучний інтелект повинно бути глобальним пріоритетом». Під час інтерв’ю в Лондоні Альтман також припустив, що уряди повинні ставитися до ШІ «так само серйозно», як до ядерної зброї.
