Гендиректор SpaceX, Tesla та Twitter Ілон Маск, фахівці зі штучного інтелекту та лідери галузі закликали до шестимісячної паузи у розробці систем, потужніших, ніж нещодавно запущений OpenAI GPT-4. Про це йдеться у відкритому листі, де згадуються потенційні ризики для суспільства та людства.
Читайте нас у Telegram: тільки важливі та перевірені новини
Лист, випущений некомерційним Інститутом майбутнього життя і підписаний більш ніж 1000 осіб, містить заклик призупинити розробку просунутого ШІ доти, доки не будуть розроблені, впроваджені та перевірені незалежними експертами загальні протоколи безпеки для таких проєктів.
"Системи штучного інтелекту з інтелектом, що конкурує з людиною, можуть становити серйозну небезпеку для суспільства та людства, як показали великі дослідження та визнано провідними лабораторіями штучного інтелекту", – йдеться у листі.
У листі докладно описано потенційні ризики для суспільства та цивілізації з боку конкурентоспроможних систем штучного інтелекту у вигляді економічних та політичних потрясінь, а також міститься заклик до розробників працювати з політиками над управлінням та регулюючими органами.
"Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми впевнені, що їхні ефекти будуть позитивними, а ризики керованими", – йдеться у листі.
- Раніше в березні OpenAI, підтримувана Microsoft, представила четверту ітерацію своєї програми штучного інтелекту GPT (Generative Pre-trained Transformer), яка вразила користувачів широким спектром програм, від залучення користувачів до людської бесіди до написання пісень та узагальнення довгих документів.
- Цього тижня Європол приєдналася до висловлювань етичних та юридичних побоювань щодо передового ШІ, такого як ChatGPT, попередивши про потенційне неправомірне використання системи у спробах фішингу, дезінформації та кіберзлочинності.
