Технології

ШІ може стати зброєю: чому заклики пригальмувати технології лякають США

17 вер•ТСН

Штучний інтелект розвивається настільки швидко, що питання його безпеки вже вийшло за межі технологічної галузі та стало частиною глобального суперництва США і Китаю. Одночасно з попередженнями про потенційно небезпечні наслідки розвитку ШІ дедалі гучніше лунають заклики сповільнити гонку за найпотужнішими моделями.

Про це йдеться в аналізі The Economist.

Чому розробники ШІ хочуть пригальмуватиОстаннім часом дедалі більше представників технологічної індустрії попереджають: розвиток ШІ може вийти з-під контролю якщо потужність систем зростатиме швидше, ніж можливості людей їх контролювати.

Йдеться не лише про вже відомі ризики — дезінформацію, втрату робочих місць або зловживання технологіями. Деякі фахівці побоюються появи систем, які зможуть самостійно вдосконалювати власні можливості та діяти з дедалі меншою участю людини.

Саме тому частина керівників і дослідників ШІ виступає за тимчасове сповільнення перегонів. Вони наполягають на додаткових перевірках, незалежному аудиті потужних моделей і правилах, які дозволили б оцінити ризики ще до того,

як нові системи отримають широке застосування.

Читайте також

Дата публікації 15:49, 16.09.26 Категорія Наука та IT Кількість переглядів 884 "Мова", якої люди не розуміють: дослідники виявили дивну поведінку ШІ Автор публікації
Ірина Ігнатова

США не хочуть поступатися КитаюДля Вашингтона проблема полягає в тому, що будь-яке сповільнення може мати не лише технологічні, а й геополітичні наслідки.

США та Китай розглядають штучний інтелект як важливу складову майбутньої економічної та військової переваги. Тому для американської влади питання звучить не просто як «наскільки безпечним має бути ШІ», а й як «хто отримає перевагу, якщо одна країна пригальмує, а інша продовжить розробки».

Як зазначає Reuters, конкуренція у сфері ШІ вже стала одним із важливих питань у відносинах Вашингтона та Пекіна: країни сперечаються через доступ до передових чипів, технології та правила регулювання галузі, водночас розрив між їхніми найпотужнішими моделями скорочується.

Для США це створює своєрідну пастку. Посилення правил може зменшити ризики,

але водночас здатне уповільнити розвиток американських компаній. Відсутність обмежень, навпаки, дозволяє швидше рухатися вперед, але збільшує потенційні наслідки помилок або зловживань.

Читайте також

Дата публікації 19:04, 15.09.26 Категорія Вона Кількість переглядів 673 ШІ може знищити людство: правда чи міф Автор публікації
Станіслава Бондаренко

Чи можливі домовленості між США і КитаємОкрема проблема — військове використання штучного інтелекту Якщо автономна система отримає можливість впливати на кібероперації, військові рішення або критичну інфраструктуру, помилка алгоритму може бути сприйнята іншою стороною як навмисна атака.

У такій ситуації особливо небезпечним стає скорочення часу на ухвалення рішень. Людям може залишитися лише кілька хвилин, щоб зрозуміти, чи сталася технічна помилка, чи почалася атака.

Саме тому експерти з обох країн говорять про необхідність хоча б мінімальних запобіжників: збереження людського контролю над найнебезпечнішими рішеннями, чітких правил для військового використання ШІ та каналів зв’язку на випадок надзвичайних ситуацій.

Читайте також

Дата публікації 18:51, 14.09.26 Категорія Світ Кількість переглядів 1987 "Може піти дуже погано": Альтман попередив про моторошні сценарії розвитку ШІ Автор публікації
Віра Хмельницька

Гонка ШІ вже стала геополітичноюЩе кілька років тому суперництво навколо штучного інтелекту здебільшого стосувалося технологічного лідерства та прибутків компаній. Тепер воно дедалі більше пов’язане з військовою безпекою, доступом до передових напівпровідників і впливом держав на розвиток технологій.

Китай уже скорочує відставання від американських розробників, а окремі представники індустрії вважають, що в найближчій перспективі країни можуть опинитися практично на одному рівні у створенні найпотужніших моделей.

Тому дискусія про те, чи потрібно пригальмувати розвиток ШІ, фактично перетворилася на значно складніше питання: як одночасно не допустити небезпечного технологічного прориву та не дозволити конкуренту отримати перевагу через те, що одна сторона вирішила діяти обережніше.

Нагадаємо, водночас деякі провідні розробники ШІ звільняються з компаній через ризики надрозумного ШІ.

Колишній дослідник передової ШІ-лабораторії гучно залишив свою посаду, звинувативши корпорації в безвідповідальній гонитві та створенні технології, яка вже найближчим часом може вийти з-під контролю.

Читайте також

Дата публікації 17:47, 12.09.26 Категорія Цікaвинки Кількість переглядів 10k Кінець світу може настати через офісні скріпки: як найбезглуздіше завдання для ШІ знищить людство Автор публікації
Ірина Ігнатова
Дата публікації 16:05, 10.09.26 Категорія Наука та IT Кількість переглядів 3569 ШІ може закрити людей у "зоопарках": тривожний прогноз експерта Автор публікації
Ірина Лаб'як
Дата публікації 17:32, 09.09.26 Категорія Наука та IT Кількість переглядів 18k Кінець людства вже близько?: останнє попередження Гокінга почало збуватися Автор публікації
Богдан Скаврон
Дата публікації 16:58, 07.09.26 Категорія Світ Кількість переглядів 1867 ШІ може становити екзистенційну загрозу для людства: попередження верховного комісара ООН Автор публікації
Світлана Несчетна