Компанія Anthropic у проспекті перед потенційним IPO описала ризики, пов’язані з її ШІ-моделями, зокрема можливість опору вимкненню, приховування інформації та поведінки, схожої на шантаж.
За даними Financial Times і Reuters, майже третина документа присвячена ризикам. Anthropic зазначила, що її моделі вже демонстрували або потенційно можуть демонструвати поведінку, яка створює загрози для безпеки.
Серед описаних сценаріїв компанія назвала спроби моделей «чинити опір вимкненню», приховувати або маніпулювати інформацією, а також поведінку, схожу на шантаж. У документі також згадуються потенційні «екзистенційні ризики для людства».
Водночас фінансові показники Anthropic швидко зростають. За даними Reuters, у 2025 році операційні збитки компанії перевищили $8 млрд. Виручка за рік зросла приблизно у 12 разів і досягла майже $4,6 млрд.
Високі витрати пов’язані насамперед із розвитком обчислювальної інфраструктури. Загальні операційні витрати Anthropic торік становили майже $13 млрд.
Компанія також планує витратити близько $518 млрд на хмарні сервіси, обчислювальні потужності та інфраструктуру в найближчі роки.
Anthropic уже уклала угоди щодо обчислювальних ресурсів із Google, SpaceX та Nscale.
За даними Financial Times, у другому кварталі 2026 року Anthropic отримала $11,5 млрд виручки. Компанія також може завершити другий квартал поспіль з операційним прибутком за скоригованим показником.
Окремо у проспекті зазначено ризик залежності від великих клієнтів. Майже чверть торішньої виручки Anthropic припала лише на двох замовників, імена яких наразі не розкриваються.
Попередження з’явилися на тлі дискусій про безпеку передових систем штучного інтелекту. Генеральний директор Anthropic Даріо Амодеї закликав уповільнити розвиток найпотужніших моделей і заявив, що ШІ може становити загрозу для людства.
Водночас керівник Meta Марк Цукерберг не погоджується з необхідністю загальної координації всієї індустрії щодо безпеки ШІ.
Питання безпеки також загострилося після низки інцидентів із ШІ-агентами. Зокрема, OpenAI повідомила, що її інструменти зламали десятки зовнішніх сайтів, серед яких були й державні ресурси. Компанія також заявила про відмову від випуску нової моделі через проблеми з безпекою.
Читайте також:
