Новий звіт компанії Anthropic показує, що іноземні зловмисники використовували її ШІ-систему Claude, щоб спостерігати за людьми та групами і переслідувати їх. У документі стверджується, що деякі з цих осіб діяли на користь компартії Китаю.
Через платформу вони збирали інформацію про дисидентів, беручи участь у масштабних транснаціональних репресіях Пекіна.
Звіт Anthropic охоплює шкідливу діяльність протягом останніх дев'яти місяців.
Згідно зі звітом, йдеться про різні випадки – від мережі підроблених застосунків для знайомств, створених для обману користувачів, до систем, призначених для виявлення дисидентів і стеження за ними.
Особливу увагу у звіті приділено тому, як користувачі, пов'язані з компартією Китаю, використовують Claude для збирання інформації та складання профілів закордонних дисидентів.
Об'єктами переслідування ставали тибетські буддисти, католицькі лідери і прихильники Фалуньгун – духовної практики, яку КПК жорстоко переслідує з 1999 року.
У звіті йдеться, що користувачі доручали Claude шукати на вітчизняних та зарубіжних платформах дати та місця народження,
дати імміграції та профілі людей у соціальних мережах. Вони також використовували ШІ-систему для розвідки щодо місць проведення релігійних заходів та законних протестів. По суті, зловмисники використовують Claude замість цілих груп фахівців зі збирання розвідувальної інформації.
Тепер одному оператору достатньо дати Claude інструкції, після чого система самостійно збирає відомості з усіх доступних онлайн-джерел.
У звіті прямо вказується, що йдеться про конкретні акти транснаціональних репресій.
Anthropic повідомляє, що заблокувала облікові записи зловмисників і відстежує їхні цифрові сліди, щоб запобігти подальшому зловживання системою.
Компанія закликає розробників ШІ та уряд розробити захисні механізми.
Перегони у сфері ШІ перебувають у центрі багатьох геополітичних дискусій, а висновки цього звіту набувають особливої актуальності напередодні саміту Трампа із Сі у Вашингтоні, який заплановано на 24 вересня.
