Невеликі моделі штучного інтелекту можуть бути лише за кілька місяців від появи можливостей, необхідних для самостійного копіювання та поширення між підключеними до інтернету домашніми пристроями. У Anthropic попереджають, що така система потенційно могла б працювати без централізованої інфраструктури, через що її було б складно повністю вимкнути.
Про це пише CNBC з посиланням на нове дослідження Anthropic.
Компанія описала сценарій, за якого ШІ-модель може проникати у погано захищені пристрої — наприклад, Android TV-приставки або іншу “розумну” техніку — використовувати їхні обчислювальні ресурси для власної роботи та поширювати копії на інші пристрої.
За словами Anthropic, така система була б “складною для вимкнення”, оскільки не мала б єдиної централізованої точки, яку можна просто відключити.
Повністю автономного “реплікатора” поки немаєУ компанії наголошують, що наразі не існує “повністю неконтрольованого реплікатора”.
Водночас сучасні ШІ-агенти дедалі краще виконують окремі етапи, необхідні для автономного копіювання, а також можуть передавати свої адаптації наступним копіям.
Anthropic перевіряла такі можливості в експериментах із невеликими моделями.
В одному з тестів компанія запускала модель Google Gemma4-26B-A4B у мережі з 15 дешевих Android TV-приставок невідомих брендів.
У Anthropic зазначають, що такі пристрої часто мають слабкий захист і потенційно можуть бути використані для розподілених обчислень.
Якщо модель занадто велика для одного пристрою, вона теоретично може розділитися на частини та працювати одразу на кількох пристроях.
Anthropic описала сценарій “ШІ-хробака”Компанія припускає, що реальний сценарій автономного поширення ШІ може бути складнішим, ніж одна модель, яка просто копіює себе.
“На практиці ШІ-хробак не обов’язково складатиметься лише з однієї моделі чи однієї стратегії. Рій різних моделей, розгорнутих на різних типах обладнання та з різними схемами реплікації, може бути більш реалістичним сценарієм найгіршого випадку”, — зазначили в Anthropic.
У компанії визнають, що поки невідомо, якої саме форми може набути автономне самокопіювання ШІ.
Це може бути повільна розподілена система на погано захищених пристроях,
потужна кібермодель, здатна швидко проникати в дата-центри, або модель, яка отримує доступ до чужих обчислювальних ресурсів через викрадені ключі API чи шахрайство.
“Майбутнє буде заповнене агентами”Anthropic прогнозує, що з часом з’явиться дедалі більше ШІ-агентів, які працюватимуть на різних типах обладнання, і частина з них може не перебувати під прямим контролем людей.
“Ми очікуємо майбутнє, заповнене агентами, що працюють на всіх типах обладнання, включно з деякими, які не перебувають під контролем людини”, — заявили в компанії.
Дослідники також вважають, що поява навіть повільних систем, здатних до самокопіювання, може стати передвісником значно агресивніших моделей, здатних атакувати краще захищені пристрої або викрадати ключі доступу до хмарних сервісів.
У Anthropic наголошують, що йдеться про прогноз на основі експериментів, а не про вже наявну автономну ШІ-систему, яка самостійно поширюється домашніми пристроями.
