Генеральний директор компанії Anthropic Даріо Амодей опублікував великий есе під назвою «Підлітковий вік технологій», у якому розповів про ризики, які, на його думку, несе розвиток надпотужного штучного інтелекту.
Про це пише видання Gizmodo.
Anthropic — компанія-розробник ШІ Claude. Сам Амодей є її засновником.
У тексті обсягом близько 38 сторінок він заявив, що людство входить у нову епоху, яка може стати переломною.
За його словами, людству скоро передадуть «майже немислиму силу», але незрозуміло, чи готові до цього сучасні соціальні, політичні та технологічні системи.
Він написав, що цей період буде «буремним і неминучим» та стане випробуванням для всього людства. Амодей також прямо зазначив, що його лякає можливість «авторитаризму, підсиленого штучним інтелектом».
Попри ці застереження, Anthropic продовжує розробляти ШІ.
У своєму есе Амодей навів приклад теракту в токійському метро 1995 року, коли релігійна секта Aum Shinrikyo застосувала нервово-паралітичний газ зарин. Тоді загинули 14 людей, багато отримали поранення.
Він пояснив, що доступ до дуже розумного ШІ може зняти технічні бар'єри для подібних атак.
Як написав Амодей, людина, яка хоче нашкодити іншим, але не має знань чи навичок, зможе вийти на рівень фахівця з вірусології:
«Одинак із небезпечними намірами, який раніше не мав дисципліни або вмінь, тепер може отримати можливості рівня PhD-вірусолога. Я боюся, що таких людей може бути багато, і якщо вони отримають простий спосіб убити мільйони, рано чи пізно хтось це зробить».
Водночас у технічному звіті Anthropic щодо Claude Opus 4.5 згадується тест, у якому модель допомагала вірусологам відтворювати складний вірус.
Амодей також звернув увагу на швидкість розвитку штучного інтелекту. За його словами, якщо нинішні темпи збережуться, то вже за кілька років ШІ може перевершити людей майже в усьому.
Він написав, що за такого сценарію з’явиться система, яка буде працювати значно швидше за людей і прийматиме рішення у багато разів оперативніше.
Для пояснення він запропонував уявити «країну геніїв» — близько 50 мільйонів істот, розумніших за будь-якого нобелівського лауреата чи провідного технолога. При цьому ця «країна» мислить у рази швидше за решту світу.
З погляду національної безпеки,
зазначив Амодей, така сила стала б найсерйознішою загрозою за останнє століття, а можливо — і за всю історію.
Серед головних ризиків він назвав втрату контролю над ШІ, використання технології для масового знищення та захоплення влади.
Anthropic відома тим, що активно говорить про небезпеки штучного інтелекту та закликає до жорсткішого регулювання і захисту користувачів. Водночас компанія продовжує створювати ці системи.
Окремо зазначається, що Anthropic пропонувала свій ШІ Claude федеральному уряду США за символічну плату — 1 долар на рік.
Амодей підсумовує: людство стоїть перед моментом, коли отримає надзвичайно потужний інструмент, але поки не зрозуміло, чи достатньо воно «зріле», щоб користуватися ним без катастрофічних наслідків.
Читайте також:
- Зайнятість знизилась на 13%. Штучний інтелект скорочує стартові робочі місця для молоді
- Чому США відстають від Китаю в гонці за штучний інтелект і що з цим можна зробити
- Бум, спад чи негативна реакція? Справжній вплив штучного інтелекту почне проявлятися у 2026 році — The Economist
