Від камер до холодильників: Anthropic попереджає про ризик поширення ШІ через розумну техніку

Прогноз ґрунтується на збереженні попередніх темпів розвитку моделей і є приблизною оцінкою, – повідомляє Anthropic.

Потенційними цілями такого поширення можуть стати:

• камери спостереження;
• розумні холодильники та духовки;
• роботи-пилососи й газонокосарки;
• недорогі Android TV-приставки.

Моделі вже виконують окремі етапи самокопіювання, проте невеликі системи помиляються під час поєднання їх у повний цикл. Потужніші моделі продемонстрували наскрізне поширення у спрощених лабораторних умовах. Завдання проникнення на пристрої в експерименті суттєво спростили.

Дослідники також запустили модель на 15 недорогих TV-приставках. На відміну від традиційного шкідливого програмного забезпечення, ШІ потенційно може адаптуватися до незнайомої техніки.

Розподілену мережу заражених пристроїв складніше зупинити через відсутність єдиного центру, який можна вимкнути. Водночас автори описують способи протидії: виявлення незвичного мережевого трафіку, ізоляцію заражених пристроїв та посилення їхнього захисту.

Повноцінного автономного ШІ, який неконтрольовано самокопіюється, дослідники поки не продемонстрували.