Стартап OpenAI виявив п'ять глобальних онлайн-кампаній, які використали генеративний ІІ для маніпулювання громадською думкою та впливу на геополітику.
Про це пише The New York Times.
Йдеться про Росію, Китай, Іран та Ізраїль, які використовували технологію OpenAI для створення публікацій у соціальних мережах, перекладу та редагування статей, написання заголовків та налагодження комп'ютерних програм, як правило, для залучення підтримки для політичних кампаній або для зміни суспільної думки в геополітичних конфліктів.
У своєму OpenAI заявив, що її інструменти використовувалися у кампаніях впливу, які дослідники відслідковували роками, включаючи російську кампанію під назвою Doppelganger та китайську кампанію під назвою Spamouflage.
Компанія Doppelganger використовувала технологію OpenAI для створення антиукраїнських коментарів, розміщених на платформі X англійською, французькою, німецькою, італійською та польською мовами. Інструменти компанії також використовувалися для перекладу та редагування статей, що підтримували Росію у війні в Україні, англійською та французькою мовами,
а також для конвертації антиукраїнських новинних статей у пости у Facebook.
Інструменти OpenAI також використовувалися в раніше невідомій російській кампанії, спрямованій на людей в Україні, Молдові, країнах Балтії та Сполучених Штатах, переважно через службу обміну повідомленнями Telegram. Кампанія використала ІІ для створення коментарів російською та англійською мовами про війну в Україні, а також про політичну ситуацію в Молдові та американську політику. У рамках цієї роботи також використовувалися інструменти OpenAI для налагодження комп'ютерного коду, який, мабуть, був розроблений для автоматичного опублікування інформації в Telegram.
Китай використовував технологію OpenAI для налагодження коду, пошуку порад щодо аналізу соціальних медіа та дослідження поточних подій. Його інструменти також використовувалися для створення публікацій у соціальних мережах, які зневажали людей, які критикували китайський уряд.
Іранська кампанія, пов'язана з групою під назвою Міжнародний союз віртуальних медіа, використовувала інструменти OpenAI для створення та перекладу довгих статей та заголовків, спрямованих на поширення проіранських, антиізраїльських та антиамериканських настроїв на вебсайтах. звіт.
Ізраїльська кампанія, яку OpenAI назвала Zeno Zeno, вироблялася фірмою, яка управляє політичними кампаніями, заявили в компанії. Він використовував технологію OpenAI для створення вигаданих персонажів та біографій, призначених для заміни реальних людей у соціальних мережах, що використовуються в Ізраїлі, Канаді та Сполучених Штатах, та публікації антиісламських повідомлень.
