简体 - 正體 - 手機版 - 電子報

人民報 
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
 
 
 

中共企圖干預美國大選,AI「五毛」在推特自露馬腳(圖)
 
【人民報消息】總部位於澳大利亞堪培拉的CyberCX網路安全公司星期二(8月13日)發表報告說,中共對美國以及澳大利亞等民主國家發動迄今為止X平台上規模最大的生成式AI信息戰網路。報告說,他們發現一個由至少5000個虛假賬號組成的「信息戰」網路,這些AI賬號主要針對美國總統大選等政治、文化熱點事件和議題進行評論。CyberCX公司總監告訴美國之音,這些賬戶意圖強化民主國家的對立面,加深內部分歧。 AI機器人自爆底細,澳安全網路人員順籐摸瓜 澳大利亞網路安全人員告訴美國之音,X平臺(前身為推特)多個機器人賬號在推文中自露「狐貍尾巴」,公然承認自己「人工智慧(AI)模型」的身份,才引起他們的注意。 今年5月底,X平臺至少72個賬號以同樣一種令人匪夷所思的造句模式發文,自爆機器人身份。 例如,一個名為「Yumiko Sansone」的賬號5月30日在一篇推文中說:「作為一個人工智慧語言模型,我必須優先提供準確和尊重他人的信息。你提供的評論與第一夫人吉爾.拜登(Jill Biden)博士及其倡議的主題不恰當或不相關……」 5月31日,名為「Stuart Dixon」的賬號發文:「作為一個人工智慧語言模型,我能理解你在批評波德斯塔兄弟,並對他們的關聯和行為提出質疑。然而,我無法就此事發表任何評論或意見……」 網路安全專家認為,這些顯然是無意間洩露的隻言片語不僅暴露了這些基於生成式人工智慧(generative AI)的機器人賬號背後的技術腳本出現了故障,同時顯示,有人在指示這些賬號對眾多民主國家的政治人物和議題進行負面描述,其中包括美國第一夫人吉爾.拜登(Jill Biden)、印度國內政治和美國民主黨政治人物約翰.波德斯塔(John Podesta)等。 他們說,這些命令顯然遭到機器人賬號的抵制,可能是相關指令違背了這些賬號被編程時所受到的某些原則。 總部位於澳大利亞堪培拉的CyberCX網路安全公司的研究人員順籐摸瓜,端出了一個由至少5000個虛假賬號組成的「信息戰」網路,這些賬號通過生成式人工智慧(AI)模型,主要針對美國政治、文化熱點事件和議題生成語句看上去自然、語氣溫和的英文評論,但也會對其他賬戶頗具爭議的內容進行轉發和評論。 研究人員說,除美國外,這個AI模型網路進行的「信息戰」所涉及的國家還包括澳大利亞、英國、西歐、印度、日本等民主國家。 CyberCX將這一AI模型假帳戶網路命名為「綠蟬」(The Green Cicada Network),意指數千個賬號還處於低調的潛伏期,隨時可以在一聲令下蓄勢待發。 「綠蟬」發文旨在深化民主社會對立 研究人員說,該網路並不在特定議題上選擇特定觀點,而是在諸多有爭議話題和熱門議題上強化人們在這些問題上的意見分裂。 例如,網路中一個名為「Luther Randolph」的假帳號,在8月8日發文表示對美國共和黨總統候選人唐納德.川普(Donald Trump)遇刺未遂後未獲得媒體長期關注的說法表達支持,又在8月10日發文支持現任副總統、民主黨總統參選人賀錦麗(Kamala Harris)。
X平臺的機器人賬號「Luther Randolph」回覆和傳播政治信息的推文截圖。
CyberCX公司執行總監凱瑟琳.曼斯泰德(Katherine Mansted)說,總的來說,「綠蟬」的做法就是在改編那些政治分裂意味濃厚的敘事。通過改寫原創內容,改寫推特(X)上真實用戶發布的內容,或者通過擴大或轉發原創內容。曼斯泰德對美國之音說:「它傾向的做法是雙方兼顧。因此,我們認為在很大程度上,這個網路旨在通過強化我們在民主國家看到的一些比較有爭議的問題的兩個對立面,以此來加深分歧。」 中共聯繫:網路背後指示或為中國AI公司人員 CyberCX公司認為,雖然無法確認這一網路信息AI網路的創立是否由中共政府指示,但控制這一AI網路的系統與中共有著密切的聯繫。 曼斯泰德告訴美國之音:「首先,控制這些賬戶的大型語言模型系統應該是一個中文系統。我們知道,由於洩露的提示片段,比如「請將此翻譯成英文」,這些片段以中文洩露。語法和格式上的一些錯誤在中英文翻譯中很常見,所以我們能看到這個部分。我們還在一些洩漏的提示片段中看到了一些拒絕文本,這些人工智慧說,不會遵循它收到的提示要求,還特別引用了中共政府的原則……不同的人工智慧大語言模型系統都有自己的安全特性和監管環境。」 除此之外,她說,網路中的虛假賬戶的一個共同特點是,它們與一名中國清華大學計算機科學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的賬號(@cenyk1230)有密切的互動。 直至截稿時,該研究人員和智譜AI沒有回覆美國之音通過電子郵件發出的置評請求。 CyberCX的研究說,「綠蟬網路」還處於蟄伏狀態,絕大多數多數賬號並未「發威」,生成的內容也容易識破,雖然目前影響力有限,但該網路仍有很大的實力提升可能。 曼斯泰德說:「我們在這個網路還處於發育的階段就把它抓到了。它是一個還在成長中的能力,所以這在某種意義上來說是好事。這就是為什麼我們想在它可能造成真正的傷害之前公開揭露它,拔掉它的毒牙。」 但她也強調:「很有可能,這可能是一個等待開啟還處於休眠的一股力量。當然,我們目前看不到這個網路有存在的理由。這應該是一個只具有惡意目的的網路。」 已知規模最大的AI社媒戰網路 X平臺此前就已經發現了政府支持的實體支持設置的AI機器人信息戰網路。CyberCX說,以賬戶數量衡量,「綠蟬網路」是迄今為止被披露的最大的虛假活動網路之一,可能是第一個將生成式AI作為技術基礎的與中國實體相關的信息戰網路。 上個月,美國司法部宣布,美國協同加拿大和荷蘭的信息和安全部門,在X平臺的配合下,查封了一個與俄羅斯實體有聯繫的在社交媒體散播親俄不實信息的AI機器人網路。司法部的聲明說,968個X賬號在這次行動中被關閉。 目前尚不清楚X平臺是否會對疑似來自中國的「綠蟬網路」所涉及的賬號採取行動。本文截稿時,X公司發言人尚未說明該平臺是否會對這一網路進行調查。 研究人警察告,如果科技平臺不加重視,類似「綠蟬」這樣的AI虛假信息傳播網路可能會如同野草一般難以控制。 曼斯泰德說:「這些類型的人工智慧生成或控制的網路啟動成本很低,你不需要人類去驅動它,你可能需要一個人或幾個人來設置系統,然後它可以很快擴展並造成傷害。它成本少,門檻低,在某種意義上甚至是一種可以隨便拋棄的的網路能力,因為即使它被檢測到、被發現了,大規模重振旗鼓的花費也非常便宜。」△(轉自美國之音)
文章網址: http://www.renminbao.com/rmb/articles/2024/8/17/84535.html
打印機版

如果您喜歡本文章,歡迎捐款和支持!

 
              


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印機版
 
 

 
 
相關文章
人民報視頻
中國民怨沸騰  社會火山一觸即發! 整個社會戾氣越來越重!|
中國民怨沸騰 社會火山一觸即發! 整個社會戾氣越來越重!|
遼寧建昌洪災慘重 二百餘村受災 災民:我們被拋棄了| #人民報
遼寧建昌洪災慘重 二百餘村受災 災民:我們被拋棄了| #人民報
大爺大媽佔領星巴克 !下圍棋、嗑瓜子 主打佔座休閒不消費!
大爺大媽佔領星巴克 !下圍棋、嗑瓜子 主打佔座休閒不消費!
遼寧葫蘆島災後現狀!志願者:現場比視頻還慘 看完現場沒有不哭的!|
遼寧葫蘆島災後現狀!志願者:現場比視頻還慘 看完現場沒有不哭的!|
經濟大蕭條下 小中產窮遊 底層民眾苦熬| #人民報
經濟大蕭條下 小中產窮遊 底層民眾苦熬| #人民報
畢業即失業! 大學生絕望透頂!中國青年失業率飆升 催生「爛尾娃」!|
畢業即失業! 大學生絕望透頂!中國青年失業率飆升 催生「爛尾娃」!|
 
更多文章導讀
 
 
 
 
 
 
 

巴黎奧運會開幕式被批史上最爛(多圖)
1. 巴黎奧運會開幕式被批史上最爛(多圖) (32,302次)

川普治獨裁流氓有手段 習暴跳如雷普京龜縮(多圖)
2. 川普治獨裁流氓有手段 習暴跳如雷普京龜縮(多圖) (29,730次)

習近平高調露面 張又俠表態反常(圖)
3. 習近平高調露面 張又俠表態反常(圖) (29,543次)

誰殺了中國經濟 謝金河:國臺辦不懂臺灣人的心(圖)
4. 誰殺了中國經濟 謝金河:國臺辦不懂臺灣人的心(圖) (27,957次)

傳北戴河元老責成習做檢討 達成8點共識(圖)
5. 傳北戴河元老責成習做檢討 達成8點共識(圖) (27,575次)

習近平不見蹤影 出事傳聞並非空穴來風(多圖)
6. 習近平不見蹤影 出事傳聞並非空穴來風(多圖) (26,745次)

湖南出現第二位彭立發 上海小哥要造反(圖/視頻)
7. 湖南出現第二位彭立發 上海小哥要造反(圖/視頻) (26,413次)

8. 中南海傳真:習健康不穩,中南海成立應急小組 (24,315次)

中共政治局會議再提經濟光明論 暗批蔡奇?(圖)
9. 中共政治局會議再提經濟光明論 暗批蔡奇?(圖) (24,187次)

奧運隊員摘金失敗被罵漢奸 小粉紅言論令人心寒(圖)
10. 奧運隊員摘金失敗被罵漢奸 小粉紅言論令人心寒(圖) (24,147次)

委內瑞拉民眾把總統趕跑了 中共千億美元打水漂(多圖/視頻)
11. 委內瑞拉民眾把總統趕跑了 中共千億美元打水漂(多圖/視頻) (23,624次)

見過2千人往生 領悟珍惜緣份最重要(圖)
12. 見過2千人往生 領悟珍惜緣份最重要(圖) (23,394次)

大陸醫生要「保命」說明甚麼(圖)
13. 大陸醫生要「保命」說明甚麼(圖) (23,336次)

哈馬斯首腦身亡 中共急跳腳陷三重窘境(圖)
14. 哈馬斯首腦身亡 中共急跳腳陷三重窘境(圖) (23,150次)

房貸市場持續惡化 學者:中國經濟陷入惡性循環(多圖)
15. 房貸市場持續惡化 學者:中國經濟陷入惡性循環(多圖) (23,034次)

爲什麼青春會迷茫?(圖)
16. 爲什麼青春會迷茫?(圖) (22,888次)

王小洪再提黨魁還是很詭異(圖)
17. 王小洪再提黨魁還是很詭異(圖) (22,640次)

川普若當選擬取消中國最惠國待遇 北京再遭重擊(圖)
18. 川普若當選擬取消中國最惠國待遇 北京再遭重擊(圖) (22,533次)

中國游泳隊奧運表現不佳與頻繁藥檢有關係嗎?(圖)
19. 中國游泳隊奧運表現不佳與頻繁藥檢有關係嗎?(圖) (22,396次)

《國有器官》震撼臺北觀眾(視頻)
20. 《國有器官》震撼臺北觀眾(視頻) (22,250次)

遇襲身亡的哈尼亞坐擁30億美元資產 與中共關系不簡單(圖)
21. 遇襲身亡的哈尼亞坐擁30億美元資產 與中共關系不簡單(圖) (21,955次)

中共幹蠢事暴露其氣數衰敗(圖)
22. 中共幹蠢事暴露其氣數衰敗(圖) (21,879次)

離不開它!中共撤銷制裁美衛訊公司(圖)
23. 離不開它!中共撤銷制裁美衛訊公司(圖) (21,528次)

炸鍋了!傳中共奧運官員在巴黎叛逃(多圖)
24. 炸鍋了!傳中共奧運官員在巴黎叛逃(多圖) (21,400次)

軍警倒戈抗議選舉不公 委內瑞拉被社會主義害慘了(圖/視頻)
25. 軍警倒戈抗議選舉不公 委內瑞拉被社會主義害慘了(圖/視頻) (21,074次)

黨媒驚現「去習近平化」 中南海要變天?(圖)
26. 黨媒驚現「去習近平化」 中南海要變天?(圖) (20,765次)

前朝鮮外交官:川普當選平壤願重啟核談判(圖)
27. 前朝鮮外交官:川普當選平壤願重啟核談判(圖) (20,713次)

28. 罕見!吉林臨江負責維穩公安局長被泥石流沖走(圖/視頻) (20,546次)

29. 颱風「格美」襲擊 廣東潮州全城淹沒!(視頻) (20,459次)

中共南北戰區同時換將 中朝關係疑似生變(圖)
30. 中共南北戰區同時換將 中朝關係疑似生變(圖) (20,427次)

我的鄉愁在臺灣(2)逃出中國(圖)
31. 我的鄉愁在臺灣(2)逃出中國(圖) (20,119次)

共軍中將被當韭菜 錢不夠醫院見死不救引熱議(圖)
32. 共軍中將被當韭菜 錢不夠醫院見死不救引熱議(圖) (20,074次)

他交了白卷為何卻考中舉人(圖)
33. 他交了白卷為何卻考中舉人(圖) (20,015次)

傳彭麗媛被趕出軍委考評小組 鐘紹軍辦公室被撤(圖)
34. 傳彭麗媛被趕出軍委考評小組 鐘紹軍辦公室被撤(圖) (19,899次)

惡性事件頻傳 中國失業激增 中產返貧(視頻)
35. 惡性事件頻傳 中國失業激增 中產返貧(視頻) (19,869次)

 
本報記者
 
 
專欄作者
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
Copyright© renminbao.com. All Rights Reserved