сообщает Politico.27-летний математик ранее работал в другом ИИ-гиганте – OpenAI, но в 2026 году перешел в Anthropic на должность специалиста по обучению моделей на больших массивах данных. По словам Джейкоба, его привлекла репутация OpenAI в вопросах безопасности использования и развития нейросетей.
Однако уже через пару месяцев исследователь пришел к неутешительному выводу. Коксон убежден, что мир постепенно движется к "точке невозврата": лидеры ИИ-компаний верят в то, что нейросети могут погубить человечество к концу десятилетия. Поэтому он и уволился из Anthropic, чтобы не "играть с человеческими жизнями".
Опаснее всего момент, когда алгоритмам позволят дописывать и совершенствовать собственный код без участия человека. В таких условиях системы начнут развиваться с дикой скоростью – и их будет намного сложнее предсказать и контролировать. Уход Коксона стал первым подобным случаем внутри Anthropic, хотя из OpenAI и других ИИ-компаний сотрудники уходили с похожими предупреждениями и раньше.
О рисках ускоренного развития ИИ предупреждал и сооснователь Anthropic Джек Кларк.
По его словам, новые ИИ-модели уже находятся на пороге рекурсивного самосовершенствования – то есть способности развиваться без контроля человека. Как будет выглядеть мир, где ИИ научится улучшать себя сам, в Anthropic не знают, поэтому исследователь призывает всех техгигантов заключить сделку и замедлить развитие ИИ.
Сэм Альтман, руководитель OpenAI, заявлял что человечество стоит на пороге создания цифрового "сверхразума", и этот процесс неизбежен. Через пару лет ИИ будет совершать научные открытия, "которые люди не могли бы сделать сами".
Ранее в этом месяце OpenAI выпустила модель GPT-6 Astra которая приблизила ИИ к человеческому уровню. "Все, что вы можете сделать на компьютере, Astra может сделать за вас быстрее", говорят разработчики.
Глава Nvidia Дженсен Хуанг заявил о начале эры AGIпосле запуска GPT-6 Astra. Новая ИИ-модель OnepAI выходит за пределы обычных чат-ботов и способна самостоятельно выполнять сложные комплексные задачи.
Вас также могут заинтересовать новости:
- Абитуриенты начали обходить популярную специальность из-за угрозы от ИИ, - СМИ
- NVIDIA купила крупнейшую платформу для работы с нейросетями за $13 млрд
- OpenAI выпустила самый мощный генератор картинок – он доступен бесплатно в ChatGPT
