Anthropic заявила, що китайські розробники ШІ таємно використовували Claude для навчання конкурентних моделей. Кампанії з вилучення даних охоплювали мільйони запитів, а до них могли бути причетні DeepSeek, Moonshot AI, Alibaba та інші розробники.
Про це пише видання Interesting Engineering.
У вересневому звіті Anthropic стверджувала, що протягом двох років китайські компанії вилучали мільярди токенів із передових американських моделей штучного інтелекту, зокрема Claude, GPT, Gemini та Grok. У документі також зазначалося, що китайський уряд, імовірно, знав про цю діяльність.
Агентство з кібербезпеки та безпеки інфраструктури США (CISA), Агентство національної безпеки (NSA) та Федеральне бюро розслідувань (FBI) опублікували спільне попередження для американських компаній щодо ймовірних кампаній із вилучення можливостей ШІ-моделей.
За даними Anthropic, розробник чатбота Kimi, компанія Moonshot AI, таємно перенаправляв запити до Claude замість власної моделі. Користувачі при цьому вважали, що взаємодіють із Kimi. За десять днів компанія нібито обробила таким способом 300 тисяч клієнтських запитів,
використовуючи мережу з 5380 фальшивих облікових записів у Сінгапурі та Японії.
Anthropic також заявила, що в період з травня до липня 2026 року Alibaba могла здійснити понад 151 млн операцій із дистиляції моделей.
Дистиляція — це метод навчання, за якого розробники використовують результати роботи потужнішої моделі для тренування іншої системи. Anthropic визнає, що цей підхід є легітимним методом навчання, але проводить межу між відкритими дослідженнями та прихованим копіюванням можливостей моделей без дозволу.
За версією компанії, китайські розробники могли використовувати сторонні агрегатори, хмарних провайдерів і проксі-сервіси, щоб обходити обмеження на доступ до американських систем штучного інтелекту.
Водночас звинувачення викликали сумніви щодо достатності доказів. Як повідомляє South China Morning Post (SCMP), інвестиційний менеджер компанії JG Investment Ван Цзебін поставив під сумнів можливість незалежно перевірити наведені твердження.
«У звіті недостатньо конкретних прикладів, щоб незалежно перевірити, як ці компанії отримували результати роботи моделей і як їх використовували»,
— заявив він SCMP.
За даними видання, китайські регулятори також звернули увагу на звинувачення Anthropic. Адміністрація кіберпростору Китаю опитала сім вітчизняних розробників ШІ, після чого зосередила увагу на DeepSeek і Moonshot AI. Обидві компанії не відповіли на запити SCMP про коментарі.
Американські NSA, FBI та CISA закликали розробників ШІ посилити системи виявлення подібної діяльності, запровадити цільові заходи протидії та обмінюватися інформацією про підозрілі кампанії. Anthropic заявила, що припинила виявлені випадки неправомірного використання своїх систем і посилила захист Claude від несанкціонованого вилучення можливостей.
Звинувачення залишаються предметом суперечок. Питання щодо підтвердження причетності конкретних компаній і ролі сторонніх посередників поки що не вирішені.
Читайте також:
