Компанія OpenAI заявила про виявлення мережі акаунтів, які використовували ChatGPT для створення контенту з політичним підтекстом. За даними дослідників, кампанія була спрямована на вплив на громадську думку щодо розвитку штучного інтелекту та дата-центрів у США.
Про це пише Engadget.
У новому звіті OpenAI повідомила про дві групи користувачів, яких компанія пов'язує з Китаєм. Перша мережа отримала назву Data Center Bandwagon.
За даними компанії, її учасники використовували ChatGPT для створення англомовних текстів, публікацій у соцмережах та графічних матеріалів, включаючи комікси. Основною темою контенту став вплив центрів обробки даних для штучного інтелекту на енергетичну систему США.
У створених матеріалах наголошувалося, що дата-центри нібито збільшують навантаження на електромережі та сприяють зростанню рахунків за електроенергію для населення.
В OpenAI стверджують, що автори кампанії видавали себе за пересічних американців різного соціального статусу та поширювали згенерований контент через соціальні платформи.
Особливу увагу дослідників привернув один із документів,
завантажених до ChatGPT. За даними компанії, він містив опис цілей інформаційної кампанії, рекомендації щодо впливу на громадську думку та поради зі створення фейкових акаунтів для уникнення викриття.
Крім американської аудиторії, кампанія була спрямована і на китайців, які проживають за кордоном. Учасники мережі нібито використовували чат-бот для створення образливих повідомлень проти китайських дисидентів та політичних коментаторів.
Водночас OpenAI зазначає, що тема навантаження на енергосистему через розвиток штучного інтелекту не була вигаданою. У публікаціях використовувалися реальні новини про зростання енергоспоживання дата-центрів та енергетичні аукціони.
Зокрема, за даними Bloomberg, в окремих регіонах США поблизу великих дата-центрів витрати на електроенергію за останні п'ять років збільшилися до 267%.
Друга виявлена мережа використовувала ChatGPT для створення текстів та зображень із критикою торговельної та технологічної політики США. За інформацією OpenAI, контент поширювався кількома мовами, включаючи англійську, італійську, японську та традиційну китайську.
Також дослідники виявили інструкції, згідно з якими під час генерації зображень не слід було використовувати образ голови Китаю Сі Цзіньпін.
Попри масштабність підготовки, OpenAI не вважає ці операції успішними. У компанії заявили, що організаторам не вдалося отримати значну кількість справжніх взаємодій із користувачами або помітно вплинути на суспільні настрої.
Водночас у звіті наголошується, що подібні спроби становлять інтерес для дослідників інформаційних операцій, оскільки були спрямовані на приховане втручання в американську дискусію щодо майбутнього розвитку штучного інтелекту.
