Або чому принципи коштують дорого (і Сем Альтман забирає касу)?
Почитав свіжі новини про те, як тепер робляться війни. Сюжет такий. 28 лютого США та Ізраїль у межах операції Epic Fury (Епічна лють) за перші 12 годин завдали майже 900 ударів по іранській інфраструктурі. І тут — увага, головний факт! — у першу ж хвилю загинув верховний лідер Ірану Алі Хаменеї.
Технічно це готували майже два десятиліття. Військові з ізраїльського підрозділу 8200 роками зламували все, що бачить і чує: від камер спостереження в Тегерані до телефонів охорони. Усю цю гору біг-дати згодували штучному інтелекту (системи типу Lavender та Gospel). Фактично військові запитали у алгоритму: «Де зараз Хаменеї і в якій кімнаті він буде спати, щоб вдарити точніше?». І ШІ видав інформацію.
Але найцікавіше тут — це бізнес і мораль у стилі Кремнієвої долини.
Адміністрація Трампа — це вам не клуб любителів етикиПентагон для планування цих ударів активно використовував модель Claude від Anthropic через систему Palantir. Claude допомагав сортувати дані та малювати симуляції в реальному часі. Але тут керівництво Anthropic сказало стоп.
Вони відмовилися знімати обмеження на використання ШІ для повністю автономної смертоносної зброї (це коли машина сама вирішує натиснути на гачок). Також заборонили масове стеження за американськими громадянами.
CEO Даріо Амодеї заявив, що не може дозволити це «з чистою совістю».
Але адміністрація Трампа — це вам не клуб любителів етики. Реакція була жорсткою — міністр оборони Піт Гегсет оголосив Anthropic загрозою ланцюгу поставок. Це такий собі юридичний вовчий квиток, що, зазвичай, виписують китайцям. Усім підрядникам наказали негайно розірвати контракти з компанією. Anthropic звернулись до суду, зараз триває спір про Першу поправку і свободу слова. Коротше кажучи, суперечки в самому розпалі.
Тут є дуже важливий момент: у США є демократично обраний президент (хоча багато хто його дуже не любить), і він, користуючись своїм конституційним правом, призначає міністра оборони, а той — різних важливих генералів. Один із них, спираючись на підказки AI, ухвалює рішення: «А давайте ліквідуємо цього сучого сина!». Для мене саме так і працює демократія.
Читайте також:
Гарольд Джеймс
Зеленський попереджав рік тому. Як настав «Суецький момент» для Трампа
Але тут з’являються люди, які кажуть: ось є компанія Anthropic, яка працює, щоб отримувати прибуток. Давайте тепер вона буде ухвалювати фінальне рішення — якого «сучого сина» можна, а якого ні? Компанія напише процедуру, її затвердить рада директорів, і потім якийсь менеджер середнього рівня ухвалюватиме рішення саме за цією процедурою — приблизно так само, як відбуваються закупівлі чи компенсація представницьких витрат.
А наступного року тендер Пентагону виграє умовний Grok замість Anthropic — і визначення «сучого сина» зміниться.
Але у світі не одна компанія в сегменті AI — і на сцену виходить наш улюблений Сем Альтман з OpenAI (CHAT GPT). Дивіться, яка іронія:
Спочатку Альтман публічно підтримав колег з Anthropic: «Ми теж за все хороше і проти автономних вбивць!». А вже наступного дня, поки в Anthropic пакували речі, OpenAI швиденько підписали угоду з Пентагоном і зайняла їхнє місце в секретних системах.
Пізніше Альтман, звісно, визнав, що це виглядало «опортуністично і трохи недбало», і вони там щось у контракті підправили для вигляду. Але гроші вже в кишені, а ШІ від OpenAI тепер офіційно працює з Пентагоном.
Звісно ж вони не залишились без наслідків — зараз в інтернет-просторі активно діє бойкот — і люди масово почали скасовувати підписку на свої ChatGPT.
А що ви думаєте? Чи вірите ви в запобіжники від Сема Альтмана?
Оригінал
Текст опубліковано з дозволу автора
