ChatGPT и Claude знают, что такое политическая цензураАвторы исследования хотели узнать, может ли государственный контроль медиа влиять на ответы чатов.
С этой целью они внимательно сравнивают китайские тексты из медиа, подчиненных государству, с открытыми наборами данных, которые используются для обучения языковых моделей.
В общей сложности было обнаружено около 3,1 миллиона китайскоязычных документов со значительными совпадениями с такими текстами.
Более того, указано, что коммерческие модели фактически дублировали характерные фразы из государственных медиатекстов, что указало на вероятное присутствие подобных материалов в их тренировочных данных.
Похожую закономерность заметили и в коммерческих моделях ChatGPT от OpenAI и Claude от Anthropic. Когда им задавали одинаковые вопросы о политике Китая на китайском и английском, ответы на китайском чаще были благосклонны к власти Китая. А по сравнению 37 стран модели чаще давали приверженные местным властям ответы на языках стран с более сильным контролем медиа, чем на английском.
