Цукерберг долучився до дискусії, яка останнім часом розгорнулася між керівниками найбільших технологічних компаній навколо темпів розвитку ШІ та необхідності додаткових обмежень для найбільш потужних моделей. Його позиція в цьому питанні ближча до підходу генерального директора Nvidia Дженсена Хуанга, який застерігає від надмірного гальмування технологічного прогресу, ніж до пропозицій керівника Anthropic Даріо Амодея щодо більш жорстких запобіжників.
Глава Meta наголосив, що безпека та так зване alignment – узгодження поведінки моделей із людськими цілями та цінностями – поступово стають не лише технічною проблемою, а й одним із ключових факторів конкуренції на ринку.
Небезпечні моделі можуть програти конкуренціюНа думку Цукерберга, компанії, які недостатньо інвестуватимуть у контроль поведінки своїх моделей, з часом ризикують поступитися конкурентам.
Користувачі та бізнес, за його оцінкою, дедалі більше звертатимуть увагу не лише на можливості ШІ-систем, а й на їхню передбачуваність, надійність та безпеку. Особливо важливими ці характеристики ставатимуть із поширенням ШІ-агентів,
здатних самостійно виконувати завдання та взаємодіяти з іншими цифровими системами.
Цукерберг також вважає, що економічні стимули для безпечної розробки існують навіть без запровадження додаткових державних обмежень. Якщо модель завдасть значної шкоди користувачам або бізнесу, її розробник може зіткнутися не лише з репутаційними втратами, а й із суттєвою юридичною та фінансовою відповідальністю.
Meta вже відкладала запуск технології через ризикиВодночас глава Meta не стверджує, що розробники повинні запускати нові ШІ-продукти незалежно від рівня ризику. Як приклад він навів рішення самої Meta відкласти запуск технологій Muse через питання безпеки та захисту.
За словами Цукерберга, компанія ухвалила це рішення добровільно, оскільки вважала, що продукт ще не відповідає необхідним вимогам. Цей випадок він розглядає як приклад того, що технологічні компанії можуть самостійно відкладати запуск систем, якщо виявлені ризики є достатньо серйозними.
Таким чином, позиція керівника Meta передбачає не відмову від заходів безпеки, а їх паралельний розвиток разом із можливостями ШІ без загального уповільнення технологічної гонки.
Розробники ШІ сперечаються про необхідність обмеженьДискусія між керівниками технологічних компаній посилилася після того, як глава Anthropic Даріо Амодей закликав приділяти більше уваги потенційним ризикам найпотужніших систем та розглянути механізми, які дали б дослідникам більше часу для оцінки їхніх можливостей і можливих загроз.
Паралельно OpenAI почала координувати роботу з Anthropic та Google DeepMind щодо безпеки передових систем. Компанії обговорюють можливості спільної роботи над ризиками без отримання спеціального антимонопольного винятку.
На цьому тлі позиція Цукерберга представляє інший підхід: розвиток ШІ не варто уповільнювати в масштабах усієї галузі, тоді як безпека має ставати одним із параметрів конкуренції між самими розробниками.
