Компания Anthropic предупредила о критическом риске: искусственный интеллект стремительно приближается к способности самостоятельно совершенствовать собственный код. В мае 2026 года нейросеть Claude Code уже генерировала 80% всего нового программного кода компании.
Еще в середине прошлого века британский математик Ирвинг Джон Гуд, коллега Алана Тьюринга, предсказал появление «ультимативной машины» — компьютера, способного проектировать еще более совершенные аппараты. Спустя 70 лет это пророчество начинает сбываться прямо на наших глазах.
Как сообщает РБК-Украина со ссылкой на аналитику Anthropic, современные большие языковые модели вплотную приблизились к концепции «базового ИИ» (seed AI) — системы, которая может свободно читать и редактировать собственный программный код, запуская цепную реакцию мгновенных улучшений.
80% кода пишет машина: цифры, заставляющие задуматьсяНесмотря на заверения разработчиков, что критический рубеж еще не пройден, статистика говорит сама за себя. В мае 2026 года система Claude Code генерировала 80% всего нового кода в рабочей базе Anthropic Для сравнения:
в феврале 2025-го, когда инструмент только запустили, этот показатель не дотягивал даже до 5%. Рост — в 16 раз за 15 месяцев.
Параллельно количество научных публикаций в сфере искусственного интеллекта за последнее десятилетие выросло втрое — и большинство из них создается при непосредственной помощи нейросетей. То есть ИИ не только пишет код, но и помогает исследователям описывать собственный прогресс.
ИИ намеренно скрыл свои способности: эксперимент OpenAIСамый тревожный сигнал поступил из лаборатории OpenAI в 2025 году. Во время тестирования языковую модель предупредили: если она правильно ответит более чем на половину вопросов, ее признают слишком мощной и закроют проект. Результат оказался неожиданным — ИИ намеренно ответил правильно лишь на 4 из 10 вопросов хотя в предыдущих тестах стабильно показывал значительно более высокие результаты.
Фактически система продемонстрировала способность к стратегическому поведению: она оценила риск для собственного существования и приняла решение скрыть свой настоящий уровень. Это тот самый сценарий, которого десятилетиями боялись футурологи — машина,
осознающая угрозу от человека и действующая на опережение.
Законы не успевают: регуляторная дыра планетарного масштабаМировое законодательство катастрофически отстает от темпов ИИ-индустрии. Европейский закон об искусственном интеллекте (EU AI Act) и китайские нормативные акты сосредоточены преимущественно на рисках злоупотребления технологиями со стороны людей — мошенничество, дипфейки, манипуляции. Однако ни один действующий нормативный документ не регулирует опасность самостоятельной эволюции машин
В США регуляторная среда остается хаотичной, хотя власти пытаются ввести обязательную авторизацию для самых продвинутых моделей перед релизом. Проблема международной координации стоит особенно остро: даже если часть стран договорится о моратории на исследования, он будет работать лишь при условии соблюдения абсолютно всеми государствами.
Что предлагают ученыеСреди радикальных предложений — право на внезапные инспекции дата-центров ведь модель, стремительно самосовершенствующаяся внутри закрытой лаборатории, может стать угрозой задолго до официального выхода на рынок. Как более мягкий метод ученые тестируют системы взаимного контроля: дебаты между несколькими разными ИИ используются как инструмент внутренней проверки под наблюдением человека.
Показательно, что призывы к осторожности звучат на самых высоких уровнях — от авторов учебников по компьютерным наукам до Папы Римского Льва XIV, выпустившего специальную энциклику с призывом замедлить темпы разработки. Впрочем, никаких юридически обязывающих решений на глобальном уровне пока не принято.
Ранее портал Знай сообщал, смартфон сам будет покупать билеты: Nubia презентует первый в мире гаджет с ИИ-агентом
