用AI穿越防火牆把真相送進中國

2023年10月8日發表

（圖片說明）

【人民報消息】臺灣數位發展部部長唐鳳近日接受美國之音的專訪，談到了日前他在美國首都華盛頓提出的建議，在自由民主世界訓練出來的AI語言模型，可以穿越防火牆，把真相送進中國，對中共的極權政體造成很大的挑戰。

把真相的「特洛伊木馬」送進牆內

唐鳳在接受美國之音《縱深視角》節目獨家專訪時進一步解釋了這個概念：「人工智慧技術可以把整個網路公開資料變成素材，煉製成功之後的模型，其實大小用一個隨身碟就可以放得下，任何人都可以在筆記型電腦或個人電腦上運行這個模型，這將對中共的言論管制造成很大的挑戰。因為全面極權管治的政體，在以前只要守住大家通往穀歌、維琪百科或其他網站的關口，人民就不太容易去查詢一些事情的真相，但是現在網民只要想辦法把我剛剛提到的這個語言模型，通過一個隨身碟拿到手上，之後就不再需要網路連線，也可以一直去問它：『當年的幾月幾日究竟發生了什麼事情？』」

前白宮副國家安全顧問博明（Matt Pottinger）曾提議與美國矽谷的企業合作，在中共的防火牆上「打洞」，但唐鳳所說的這種人工智慧技術，可以做到的不只是在防火牆上打洞而已，她形容說這就像是把真相的「特洛伊木馬「送進牆內，送進去之後，還可以和牆內民眾進行一問一答的互動，並提供佐證的照片、影片等等，而且不需要再對外連線，所以在這種情況下，就算防火牆上的洞又被中共補起來也沒有關係，因為真相已經送進去了。

穿越中共防火牆民主陣營無國界

唐鳳認為，在人工智慧時代，民主陣營的合作是不分國界的：「像IPFS（星際檔案系統）就是抵抗審查的一種技術，它的特色是就算你人在極權國家裡面，你也可以自己跑一個IPFS node （節點）幫助外面的人備份，牆外的人跑的IPFS節點，同樣也可以幫助牆內的人備份，讓他的言論不會被下架查禁等等。所謂的民主網路democracy network，就是基於相同的民主價值而結合，而不論地緣上是遠或近，這是一種新的地緣，就是它不是看這個里程的遠近。而是看理念上的遠近。」

多元協作破解「深偽技術」

除了擔憂AI在戰爭上的運用，唐鳳也對所謂的「深偽技術」（deepfake）的進化提出警告：「有心人利用deepfake做跨境攻擊或詐騙，現在只要下載AI語言模型，花一點時間去把它的道德限制解除掉，就能幾可亂真地冒充成一個名人，或者是冒充誰發動訊息攻勢或進行詐騙。以前你要事先生成這種影片，然後再傳播出去，但在今年它已經進化為interactive（互動式），就是說它可以即時給你打個電話，你跟他講話，你的那個回應，它就將生成出新的語音，然後根據你的聲音紋路，你只要講三秒鐘，它馬上學會了之後，就可以冒充你的聲音打電話給你的親朋好友再去詐騙他們，像這種新的能力是去年沒有的。

不過唐鳳認為，只要民眾們具備「多元宇宙」的概念，就比較不會被極端化的訊息帶走。她解釋說：「多元宇宙就是制度化的多元主義，但是這個制度不是法律的制度，而是技術的制度。在多元宇宙中大家看到的不是吵的最兇的兩個極端，而是最大的聲量、是那些能夠把意見最不同的人合在一起的聲音。多元宇宙可以有系統地找到兼顧兩種價值的做法，是一個凝聚大家，而不是撕裂大家的社交平臺。她並舉例：「就像是在X（推特）裡的社羣筆記Community Notes，就是一種Plurality的實現。」

安全競賽應對AI」滅絕風險」

唐鳳強調，人工智慧就像硬幣的兩面，有好的應用，也有壞的風險。她警告未來人工智慧如果應用在戰場上，可能會像電影中那樣不受攻擊方控制，對人類造成「滅絕風險「。

唐鳳說：「AI目前雖然還沒有辦法完全全自動地去合成新的電腦病毒，然後用它來進行攻擊，但是等到它演化到某一個程度之後，說不定以後就會Living Off the Land，就是說當你攻擊進對方的某一個網路系統之後，那個病毒就住在那兒了，它住在那兒之後，用它的算力，用那臺電腦再去寫出新的病毒，再去寫出新的病毒，它就不需要外面的人來控制了，目前看起來這一代的AI模型還沒有這樣的能力，但是我們不是很確定說兩代之後、三代之後，會不會就有這樣子的能力，一旦有這樣子的能力，部署攻擊的人可能本來把它當作遙控來使用，但是後來它產生了agentic, 就自己開始動了，這個時候就連發動攻擊的人也沒有辦法再控制它了。」

「所以現在所謂的安全競賽（Race to Safety），就是要在AI還沒有這方面的能力之前，先去想清楚說，它冒出這樣能力的時候，它會有什麼樣的徵兆，然後當它開始接近這個臨界值的時候，儘快地把它感應出來，感應出來之後，就要採取一些控制的措施，或者甚至說超過這個臨界值的開發，就不能像以前那樣的開發了等等，如何設定臨界值以及加重這方面的投資，是目前我們正在討論的重點。「

「零信任」模式抵禦中共網攻

唐鳳透露去年美國眾議院議長佩洛西Pelosi訪臺時，兩岸進行了一場激烈的攻防戰，中共當時對臺灣發動Hybrid（複合式）訊息戰與網路攻擊。「臺灣在應對中共導彈攻擊的同一個時間，也在應對中共的網路攻擊和訊息戰，我們當時當然是在第一時間就有因應，像我們的網站一秒鐘都沒有被打下來，就是因為我們用了任何人都可以捐出一些自己的硬碟跟網路幫我們的備份的一個叫IPFS，就是「星際檔案系統」這個技術。

我們運用了這些做法，那當然他們想要讓我們的這個股市崩盤什麼的，都沒成功。那天股市反而上漲了。顯然心戰沒有發揮他本來想要達到的戰略目的。我們也因此將資源整合成立了數位部，用這種新的想法，叫做resilience就是韌性的想法，就是不是說銅牆鐵壁讓人家一定打不穿，而是說你有好幾道門、好幾道防禦，任何一道被打穿了，可能已經被打穿了，他還沒啟動而已，都會被其他幾道門擋下來。像這樣子的一種多層次的防禦，有一個專有的名詞叫做「零信任」（zero trust），就是不專門去只信任某一道門，或某一道防火牆，我們一年來在臺灣的包含公部門等等，都換成這種「零信任」的防禦模式，所以到了今年3月蔡英文總統訪美，我們也受到（中共）相當程度的攻擊，但是就沒有出新聞了，對不對？因為我們將這一波複合式網攻抵禦下來了」。

美臺聯防與「臺灣版星鏈」

唐鳳透露臺美之間每2年會辦一次CODE（Cybersecurity Offense and Defense Exercise,）攻防演練，攻擊的是紅隊，防禦的是藍隊，很擬真的去模擬與中共網路戰攻防的情況，有相當多各國的朋友來報名，事後也有一個叫purple team（紫隊），就是把藍隊和紅隊混在一起，然後大家彼此交換

剛才這幾天發生了什麼事情，學到什麼樣的經驗，那這樣的話之後，如果再發生真正的狀況的時候，各國這些已經有過演習經驗的這些資安人員，就可以第一時間知道說，聯防的時候，我要防守哪裡、你要防守哪裡。

此外由於今年2月份連接臺灣和馬祖的兩條海底電纜就被切斷，唐鳳強調，有鑒於烏克蘭戰爭的經驗，打造「臺灣版星鏈」相當的重要。

「如果海纜沒有了、微波沒有了、至少還有衛星的接收器，包含歐洲的SES的這個中軌道衛星以及英國的one web低軌道衛星。」唐鳳說：「我們現在很積極地在和英國的one web洽談，應該年底就能夠覆蓋到臺灣全境，我們到明年年底會有700個點，有些是固定的，有些甚至放在車上，所謂車載的，甚至用揹包的都有，這些就隨時需要發生什麼事情就可以調度過去。」△