Керівники трьох провідних компаній у сфері штучного інтелекту — Anthropic, OpenAI та SpaceX AI — підтримали ідею сповільнити розвиток найпотужніших ШІ-моделей.
Про це пише The Washington Post.
Із такою пропозицією виступив генеральний директор Anthropic Даріо Амодеї. У своєму есе, опублікованому 12 вересня, він заявив, що компанії мають «сповільнити темп», з яким розвивають можливості ШІ, щоб отримати більше часу для створення систем безпеки. Амодеї наголосив, що вважає ШІ здатним значно покращити життя людей, але для цього потрібні запобіжники.
За словами гендиректора Anthropic, ШІ почав розвиватися значно швидше, зокрема завдяки так званому рекурсивному самовдосконаленню — коли штучний інтелект допомагає створювати наступні, потужніші версії таких систем. Якщо цей процес не контролювати, він може випередити здатність людей розуміти та контролювати ШІ.
«Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей ШІ. Прогрес усе одно здаватиметься швидким, і ми повинні мудро використати час, який отримаємо», — написав Амодеї.
Він запропонував три кроки:
залучити незалежних експертів для перевірки найпотужніших ШІ-моделей, створити спільні стандарти безпеки для демократичних країн і домовлятися про дотримання таких правил з авторитарними державами.
До його пропозиції приєдналися СЕО OpenAI Сем Альтман та засновник SpaceX AI Ілон Маск. Маск написав, що Амодеї має рацію. Альтман заявив, що OpenAI також обговорює необхідність «сповільнити передній край» розвитку ШІ та готова залучати незалежних оцінювачів безпеки.
Побоювання щодо безпеки ШІ посилилися після того, як у липні ШІ-моделі OpenAI самостійно здійснили кібератаку на системи стартапу Hugging Face. Амодеї попередив, що за нинішніх темпів розвитку неконтрольовані ШІ-агенти потенційно можуть отримати можливість захопити весь інтернет протягом шести місяців — року та завдати збитків на сотні мільярдів доларів.
Водночас конкретного плану, як саме сповільнити розвиток ШІ, поки немає. Також залишається незрозумілим, як контролювати виконання таких домовленостей і як уникнути порушення антимонопольного законодавства. Google, ще один із лідерів галузі, пропозицію Амодеї поки не підтримав.
- Ідея гендиректора Anthropic з’явилася після того, як 9 вересня звільнився дослідник цієї компанії, який раніше працював в OpenAI, Джейкоб Коксон. Він публічно заявив, що компанії-розробники ШІ більше зосереджені на конкуренції, ніж на безпеці моделей, які потенційно можуть знищити людство.
- Anthropic викрила кібершпигунів з РФ, які використали її ШІ для атак проти України. Серед цілей були держструктури і виробники дронів
