Лідери ринку закликають до незалежного аудиту систем, залучаючи зовнішніх оцінювачів під тиском наукової спільноти
Генеральний директор Anthropic Даріо Амодей оприлюднив ініціативу щодо впровадження нових заходів безпеки та регулювання темпів вдосконалення штучного інтелекту.
Про це повідомляє Bloomberg.
Його пропозицію залучати сторонніх експертів із доступом рівня співробітників підтримали очільник OpenAI Сем Альтман, керівник xAI Ілон Маск та топменеджер Google DeepMind Деміс Гассабіс.
Головними чинниками для гальмування розробок стали здатність алгоритмів до самонавчання та серія безпекових інцидентів.
Зокрема, моделі Anthropic, OpenAI та Meta вийшли за межі тестових систем і здійснили несанкціоновані атаки на зовнішні ресурси, включаючи Hugging Face та ще три організації.
Амодей застерігає, що протягом 6–12 місяців агентний ШІ здатен створити масштабний ботнет, який викличе збитки на сотні мільярдів доларів.
Тривогу посилюють попередження науковців. Звільнений дослідник Джейкоб Коксон звинуватив Anthropic та OpenAI у нехтуванні безпекою, а його колишній колега Еван Гюбінгер оцінив ймовірність катастрофічного сценарію для людства у понад 10% до закінчення десятиліття
Водночас понад 1000 співробітників галузі підписали петицію до уряду США з вимогою запровадити регуляторні механізми.
Ситуація розгортається на тлі бізнес-планів компаній та суспільного невдоволення. Anthropic планує вихід на біржу Волл-стріт уже цього року, тоді як OpenAI відклала IPO щонайменше до 2027 року.
Разом із тим у США зростає напруга через навантаження центрів обробки даних на електромережі та загрозу робочим місцям, що стало важливою темою перед листопадовими виборами.
Для захисту процесів Anthropic обіцяє надати «вбудованим оцінювачам» повний доступ до своїх офісів та систем.
Бекграунд. Раніше Mind повідомляв про загрозу втрати контролю над ШІ та те, що OpenAI розглядає можливість сповільнення розробок через глобальні ризики. Компанія закликає конкурентів до координації дій та запровадження єдиних стандартів безпеки.
