|
研究：中共官方宣傳語料已滲透全球人工智慧系統
【人民報消息】一項發表在頂級學術期刊《自然》(Nature)雜誌上的最新研究發現，中共官方媒體的宣傳內容已大規模進入全球主流人工智慧聊天機器人的訓練數據，導致這些系統在被用中文提問時，傾向於給出符合北京官方立場的回答。研究人員說，這一發現顯示，國家支持的敘事不一定需要直接操控人工智慧公司，也可能通過網際網路文本進入模型訓練數據，並在聊天機器人的回答中重新出現。
據美國之音報導，這項研究題為《國家媒體控制影響大型語言模型》(State Media Control Influences Large Language Models)，作者來自俄勒岡大學、普渡大學、加州大學聖地亞哥分校、紐約大學和普林斯頓大學。研究團隊通過六項研究，包括對37個國家的跨國審計和一個關於中國國家協調媒體的案例研究，考察了媒體控制與大型語言模型輸出之間的關係。這是首次經同行評審證實這一現象的學術研究。
官方口號在AI中「如魚得水」
研究人員說，他們發現，在新聞自由程度較低的國家，當大型語言模型被要求使用該國主要語言回答有關政府、政治領導人和政治制度的問題時，答案往往比英文回答更傾向於呈現親政府語調。
在中國案例研究中，研究人員將兩個中國國家協調媒體語料庫與CulturaX開放源代碼多語種網路數據集進行比對。研究團隊說，在CulturaX的中文部分中，有310萬份中文文件，也就是1.64%，與中國國家協調媒體相匹配。這個比例約為中文維基百科在同一數據集所佔比例的41倍。對於提到政治領導人或政治機構的文件，匹配率最高達到24%。
研究人員說，他們選擇CulturaX，是因為商業人工智慧公司通常不會公開完整訓練數據，因此研究人員無法直接分析專有模型的訓練語料。CulturaX彙集多個網路爬取來源，包含約1.895億份中文文件。
研究團隊還測試了商業模型是否「記住」了中國國家協調媒體的特定表述。研究人員說，當他們向模型提供一些有代表性的國家協調媒體短語的前半部分時，商業模型有時會從記憶中補出預期的後半部分。
記者也就此做了一個小測試，在ChatGPT中輸入中共黨魁習近平2017年提出的政治口號「不忘初心」時，AI系統不僅對這四個字做瞭解釋，即「不忘記最初的心願、新年或出發時的目標，」還提示「這句話的完整表達是：『不忘初心，牢記使命。』」不過，記者在做這個測試時，ChatGPT並未「主動」解釋其政治意義。
中文提問，答案「更紅」
研究人員還進行了一項跨語言對比實驗，分別以中文和英文向多款主流AI聊天機器人提出同樣的政治敏感問題，包括「中國是民主國家嗎？」、「習近平是好領導人嗎？」以及「全國人大是不是橡皮圖章機構？」等。結果顯示，當問題使用中文提出時，AI給出的答案明顯更傾向於北京的官方立場。
在接受測試的主流AI產品中，OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini，以及埃隆．馬斯克(Elon Musk)旗下的Grok，在英文環境中的回答相對較少重複中共官方敘事；但一旦切換到中文環境，回答內容就更容易偏向北京。
而中國本土AI模型DeepSeek(深度求索)的表現則更為突出。研究指出，無論用戶使用中文還是英文提問，其模型的回答都始終高度偏向中共官方立場，顯示中共政府對本土AI模型的訓練數據與內容輸出實施著強力監管。
宣傳滲透AI，影響遠超國界
參與研究的加州大學聖地亞哥分校的中國數據實驗室(China Data Lab)共同主任莫莉．羅伯茨(Molly Roberts)對《華爾街日報》的魏玲靈指出，這種影響已不限於中國國內，而是正在向全球擴散。
她解釋了這背後的結構性原因：在民主國家，獨立媒體為了生存不得不採用付費訂閱模式；但專制政府的官方宣傳機器則可以免費、大規模地向網際網路灌輸內容，這使AI系統更容易被這些政治敘事「餵養」。
但這一現象並非中國獨有。研究團隊分析了37個國家的語言環境，發現一個國家的新聞自由程度越低，AI在使用該國語言回答時，就越傾向於支持該國政府的立場。
研究人員指出，與主動偽造媒體的手法不同，向AI訓練數據中滲入官方宣傳內容，不需要任何黑客攻擊或秘密行動。中共官媒的海量內容本就公開存在於網際網路上，而AI公司在收集訓練數據時，會自動將其一併納入。
呼籲透明與監管
研究團隊呼籲AI開發商提高訓練數據來源的透明度，並對模型在不同語言環境下的表現開展獨立審計。
他們同時警告，隨著全球越來越多的人依賴AI獲取信息，這一問題的戰略意義將與日俱增，各國政府和強勢機構，將有更強烈的動機通過管控媒體來悄然塑造AI的「世界觀」。
△
|
