Технології

Нейромережі підсовують фейки: популярні чат-боти з ШІ спіймали на просуванні російської дезінформації

9 лип•BLIK

У сучасному світі мільйони людей щодня звертаються до штучного інтелекту за останніми новинами, сподіваючись отримати абсолютно нейтральні та об'єктивні відповіді. Проте нова реальність виявилася набагато небезпечнішою, повідомляє Spiegel.

Гучне дослідження берлінського аналітичного центру Agora Digitale Transformation зірвало маски з провідних технологічних гігантів. Виявилося, що популярні моделі від Anthropic, OpenAI та Google мають серйозні приховані викривлення, а їхні алгоритми формування новинної стрічки перетворилися на справжню «чорну скриньку» для звичайних користувачів.

Чат-бот Gemini. Фото ілюстративне: ShutterstockДослідники проаналізували майже п'ять тисяч джерел, на які спираються чат-боти під час відповідей на актуальні запити. Результати відверто шокували навіть досвідчених експертів.

Скандал навколо Claude: пропаганда замість фактівНайбільший резонанс викликала поведінка мегапопулярної нейромережі Claude від компанії Anthropic. Аналітики з'ясували, що під час формування відповідей цей штучний інтелект багаторазово посилався на домени сумнозвісної мережі Pravda.

Що таке Pravda це масштабна російська кампанія з дезінформації, яка вже встигла розповсюдити понад вісім з половиною мільйонів пропагандистських статей.
Головні мішені Україна, Німеччина, Франція та інші європейські країни.

Замість того, щоб жорстко блокувати небезпечні фейки, штучний інтелект відкрито пропонував користувачам російську пропаганду нарівні з авторитетними світовими виданнями. Фахівці б'ють на сполох: система, яка не здатна відрізнити професійну журналістику від токсичних вкидів країни-агресора, несе пряму загрозу для адекватного формування громадської думки.

Claude Code. Фото: winfutureChatGPT та приховані комерційні угодиНе менш тривожною виявилася ситуація з лідером ринку — ChatGPT від компанії OpenAI. Дослідження викрило, що цей штучний інтелект часто обирає джерела інформації не за критерієм їхньої об'єктивності, а через таємні домовленості.

Чат-бот демонструє аномальну прихильність до німецького видання welt.de, цитуючи його майже вп'ятеро частіше за інших конкурентів.
Причина полягає в тому, що материнська компанія уклала багатомільйонну угоду з медіаконцерном Axel Springer.

Користувачі навіть не здогадуються про це партнерство,

щиро вірячи, що штучний інтелект шукає найкращу відповідь у всьому інтернеті. Натомість бот просто віддає пріоритет вигідним медіа. На тлі цих скандалів моделі від Google, такі як Gemini, намагаються спиратися переважно на офіційні та новинні портали, проте їхні алгоритми все одно залишаються повністю закритими.

ChatGPT. Фото: OpenAIРеакція розробників та вимоги експертівТехнологічні гіганти вже спробували виправдатися після публікації нищівного розслідування:

Anthropic пообіцяли вдосконалити алгоритми для збереження політичного балансу та нейтральності.
OpenAI категорично заперечили вплив комерційних контрактів на видачу результатів, заявивши про турботу виключно про користувача.
Google традиційно наголосили на прагненні до максимальної об'єктивності своїх систем.

Однак автори дослідження переконані, що одних лише корпоративних обіцянок замало. Вони вимагають негайного запровадження жорстких правил гри для розробників штучного інтелекту на законодавчому рівні. Якщо компанії не почнуть відкрито демонструвати, як саме працюють їхні алгоритми, та не нестимуть відповідальність за поширену інформацію, світ ризикує втратити базову інформаційну безпеку, остаточно опинившись у полоні фейків.

Читайте також: