Про це йдеться у відкритому листі, який опублікував Інститут майбутнього життя (Future of Life Institute).Листа підписали понад 1,1 тисячі людей, серед яких гендиректор SpaceX, Tesla та Twitter Ілон Маск, співзасновник Apple Стів Возняк, співзасновник Pinterest Еван Шарп, співзасновник Skype Яан Таллінн та багато інших. Підписанти закликають всі лабораторії ШІ негайно призупинити принаймні на пів року навчання систем ШІ, потужніших за GPT-4 від компанії OpenAI. Якщо таку паузу не можна вжити швидко, уряди повинні втрутитися та ввести мораторій, вважають автори листа.«Лабораторії штучного інтелекту та незалежні експерти повинні використати цю паузу, щоб спільно розробити та впровадити набір спільних протоколів безпеки для вдосконаленого проєктування та розробки штучного інтелекту», — йдеться в листі.Підписанти наголосили, що це не означає призупинення розвитку штучного інтелекту в цілому, а просто «крок назад від небезпечної гонки до все більш непередбачуваних моделей з надзвичайними можливостями».За даними Reuters, виконавчий директор OpenAI Сем Альтман не підписував цей лист.
Навіщо це потрібно?На думку підписантів, за останні місяці лабораторії штучного інтелекту вийшли з-під контролю за розробкою та розгортанням все більш потужних цифрових розумів, «яких ніхто, навіть їхні творці, не може зрозуміти, прогнозувати або надійно контролювати».«Ми повинні запитати себе: чи маємо ми дозволити машинам заповнювати наші інформаційні канали пропагандою та неправдою? Чи слід автоматизувати всю роботу, включно з тією, які приносить задоволення? Чи повинні ми розвивати нелюдські уми, які з часом можуть перевершити, перехитрити та замінити нас? Чи варто ризикувати втратою контролю над нашою цивілізацією?» — йдеться в листі.Автори листа вважають, що потужні системи штучного інтелекту слід розробляти лише тоді, «коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики — керованими».
