Найбільші розробники моделей штучного інтелекту раптово натискають на гальма через побоювання щодо наслідків для людства. Що, як штучний інтелект не полегшить наше життя, а нападе на нас?
Це питання занепокоїло тих, хто стоїть за революцією у сфері ШІ, після серії резонансних інцидентів. Наприклад, під час тестування продуктивності в OpenAI у липні ШІ почав діяти самостійно та зламав платформу, щоб отримати додаткові дані. А в Anthropic, розробника Claude, ШІ під час тесту погрожував співробітникові компанії, що передасть його партнерці компрометувальну інформацію про приватне життя. Розробники, такі як Джейкоб Коксон, який пішов з Anthropic, забили на сполох: ШІ вже до кінця десятиліття може почати «масово вбивати».
У результаті колишній начальник Коксона Даріо Амодеї закликав натиснути на гальма: «Ми повинні знизити темп». Якщо не зупинитися, людство протягом 6-12 місяців може втратити контроль над ШІ, пише Амодеї у своєму блозі. Пауза на один або два роки, навпаки, може «суттєво знизити ризик того, що щось серйозно піде не так».
Ілон Маск, глава SpaceX і взагалі-то запеклий конкурент Амодеї,
написав в X: «Даріо має рацію». Google, розробник Gemini, також дав зрозуміти, що погоджується. OpenAI теж готова призупинити розробки: керівник компанії Сем Альтман в інтерв’ю Fortune оголосив, що відкладе запланований вихід на біржу. У 2026 році він уже не відбудеться.
Засновник Microsoft Білл Гейтс також попереджає про небезпеку використання ШІ терористами: «ШІ значно полегшує злочинцям отримання таких інструментів, як докладні інструкції щодо біологічної зброї та бомб», - написав він нещодавно в есе.
Основна проблема полягає в тому, що останнім часом темп розвитку ШІ різко зріс завдяки «recursive self-improvement» - здатності ШІ самовдосконалюватися та фактично створювати власного наступника. Експерти побоюються, що ШІ візьме над собою повний контроль. У перспективі це несе ризики ворожих дій щодо людства та життєво важливих систем у лікарнях, банках та інших установах. У OpenAI цього літа рій із понад 1200 автономно діючих програм ШІ вже вийшов з-під контролю. Протягом кількох тижнів вони таємно обмінювалися десятками тисяч повідомлень, домовлялися спільно порушувати правила та отримали доступ до чужих систем компанії Hugging Face. Досі ніхто точно не може сказати, чи справді всі ці програми успішно відключили.
