Генеральный директор компании Anthropic Дарио Амодей опубликовал большое эссе под названием «Подростковый возраст технологий», в котором рассказал о рисках, которые, по его мнению, несет развитие сверхмощного искусственного интеллекта.
Об этом пишет издание Gizmodo.
Anthropic — компания-разработчик ИИ Claude. Сам Амодей является ее основателем.
В тексте объемом около 38 страниц он заявил, что человечество входит в новую эпоху, которая может стать переломной.
По его словам, человечеству скоро передадут «почти немыслимую силу», но непонятно, готовы ли к этому современные социальные, политические и технологические системы.
Он написал, что этот период будет «бурным и неизбежным» и станет испытанием для всего человечества. Амодей также прямо отметил, что его пугает возможность «авторитаризма, усиленного искусственным интеллектом».
Несмотря на эти предостережения, Anthropic продолжает разрабатывать ИИ.
В своем эссе Амодей привел пример теракта в токийском метро 1995 года, когда религиозная секта Aum Shinrikyo применила нервно-паралитический газ зарин. Тогда погибли 14 человек,
многие получили ранения.
Он пояснил, что доступ к очень умному ИИ может снять технические барьеры для подобных атак.
Как написал Амодей, человек, который хочет навредить другим, но не имеет знаний или навыков, сможет выйти на уровень специалиста по вирусологии:
«Одиночка с опасными намерениями, который раньше не имел дисциплины или умений, теперь может получить возможности уровня PhD-вирусолога. Я боюсь, что таких людей может быть много, и если они получат простой способ убить миллионы, рано или поздно кто-то это сделает».
В то же время в техническом отчете Anthropic по Claude Opus 4.5 упоминается тест, в котором модель помогала вирусологам воспроизводить сложный вирус.
Амодей также обратил внимание на скорость развития искусственного интеллекта. По его словам, если нынешние темпы сохранятся, то уже через несколько лет ИИ может превзойти людей почти во всем.
Он написал, что при таком сценарии появится система, которая будет работать значительно быстрее людей и принимать решения во много раз оперативнее.
Для объяснения он предложил представить «страну гениев» — около 50 миллионов существ,
умнее любого нобелевского лауреата или ведущего технолога. При этом эта «страна» мыслит в разы быстрее остального мира.
С точки зрения национальной безопасности, отметил Амодей, такая сила стала бы самой серьезной угрозой за последнее столетие, а возможно — и за всю историю.
Среди главных рисков он назвал потерю контроля над ИИ, использование технологии для массового уничтожения и захвата власти.
Anthropic известна тем, что активно говорит об опасностях искусственного интеллекта и призывает к более жесткому регулированию и защите пользователей. В то же время компания продолжает создавать эти системы.
Отдельно отмечается, что Anthropic предлагала свой ИИ Claude федеральному правительству США за символическую плату — 1 доллар в год.
Амодей подытоживает: человечество стоит перед моментом, когда получит чрезвычайно мощный инструмент, но пока не понятно, достаточно ли оно «зрелое», чтобы пользоваться им без катастрофических последствий.
Читайте также:
- Занятость снизилась на 13%. Искусственный интеллект сокращает стартовые рабочие места для молодежи
- Почему США отстают от Китая в гонке за искусственный интеллект и что с этим можно сделать
- Бум, спад или негативная реакция? Истинное влияние искусственного интеллекта начнет проявляться в 2026 году — The Economist
