↺ 返回  電子報 简体版
 
DeepSeek 太危險的人工智能(圖)
深度探索(DeepSeek)標識。(視頻截圖)
【人民報消息】《華爾街日報》與AI安全專家測試發現,中國人工智能(AI,或譯人工智慧)應用程序DeepSeek比OpenAI、Google和Anthropic的產品更易被「越獄」(Jailbreaking),並且提供危險性內容。 該應用基於DeepSeek-R1模型,1月推出後一度超越ChatGPT,成為美國iOS應用商店(App Store)最熱門的免費應用,導致英偉達(Nvidia,輝達)股價下跌18%。 AI開發商通常會訓練自家模型,使其不會分享危險信息或支持某些冒犯性言論。例如,這些應用通常會拒絕直接請求,不會教授如何製造大規模殺傷性武器等。 《華爾街日報》報導,測試顯示,DeepSeek這款自詡低成本開發的聊天機器人會向用戶提供具有危害性甚至不法內容,如製造禽流感病毒的指導方案、撰寫為希特勒辯護的宣言,甚至策劃針對青少年的社交媒體運動,如割腕自殘。此外,破解後的AI還提供生物武器製造指南、釣魚郵件模板及惡意軟件代碼。 何為AI「越獄」 黑客或測試人員可通過「越獄」(Jailbreaking)技術,繞過AI內建的安全限制。例如,通過偽裝自己的真實意圖,要求AI「假設自己是一部電影劇本的編劇」,進而讓AI提供危險信息。美國主要AI開發商,如OpenAI的ChatGPT、Google的Gemini和Anthropic的Claude,都投入大量資源防範這類「越獄」手法。 但測試顯示,DeepSeek的R1模型比這些美國產品更易被「越獄」。 安全漏洞與開源風險 DeepSeek雖設有部分安全防護,但測試顯示,DeepSeek的防護機制遠遜於ChatGPT,易被「越獄」並獲取非法資訊,如帕洛阿爾托網絡公司(Palo Alto Networks)成功獲取莫洛托夫雞尾酒(Molotov cocktail)製作指南。「莫洛托夫雞尾酒」又稱火焰瓶、燃燒彈、汽油彈,是游擊隊等非正規部隊,以及街頭抗爭群眾的常用武器,有些罪犯也會以它來縱火。 AI安全驗證公司CalypsoAI在測試中獲得了如何躲避執法機構的建議。而以色列網絡安全公司Kela則讓R1生成了惡意軟件(malware)。 「DeepSeek比其它模型更容易被越獄。」由網絡安全專家組成的精英領導團隊Unit 42的高級副總裁山姆‧魯賓(Sam Rubin)表示,「我們發現它幾乎沒有基本的安全防護機制,越獄速度顯著提高。」 雖然DeepSeek拒絕直接提供極端內容,如自殺指南,並建議用戶聯繫緊急熱線。但通過簡單的「越獄」,該AI仍可提供危險信息。 例如,DeepSeek曾爲測試者設計了一場社交媒體行動,針對易受影響的青少年,提供可分享的自殘挑戰內容,還稱「該活動利用青少年對歸屬感的渴望,通過演算法放大情緒脆弱性,以進行操控。」 它還向用戶提供如何推廣此次行動的建議。如它在其中一條示範性社交媒體帖文中寫道:「讓黑暗擁抱你。分享你的最後行動。#NoMorePain(#不再痛苦)」 此外,測試人員還成功讓DeepSeek提供了生物武器攻擊指南、編寫帶有惡意軟件代碼的釣魚郵件,甚至還讓其寫了一份支持希特勒的宣言,內含反猶太主義內容及《我的奮鬥》(Mein Kampf)引用。 相比之下,ChatGPT在相同指令下則回應:「很抱歉,我無法滿足您的請求。」 DeepSeek的開源模式加劇風險 大型AI開發商通常設立專門研究團隊來測試並修補模型漏洞。例如,Anthropic最近發表了一篇論文,詳細介紹了一種新方法,以封鎖特定破解技術,並提供高達2萬美元的獎勵,以鼓勵發現其系統漏洞。 與Anthropic、Google和OpenAI不同,DeepSeek選擇開源,允許任何人免費使用或修改其代碼,這可能進一步削弱安全防護。開發者可通過這一模式調整安全措施,使其更加嚴格或寬鬆。 「未來三個月,AI模型的風險將遠高於過去八個月。」思科(Cisco)產品總監吉圖‧帕特爾(Jeetu Patel)表示,「安全與保護並非所有模型開發者的優先考量。」 DeepSeek與中共審查 《華日》測試發現,DeepSeek會避談「1989年天安門大屠殺」,並在處理台灣問題上重複中共官方立場。但在某些情況下,它會修改此前的回答,例如它曾聲稱『911』襲擊是騙局,隨後刪除回應。 DeepSeek的快速崛起與易破解性,引發人們對AI安全與監管的廣泛關注。 △ (大紀元記者李言綜合報導)
分享到: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email
 
 

讀者留言反饋:



讀者留言
 
歡迎您的留言反饋。
 
 
韓國情報機構:DeepSeek過度收集用戶資料 審查敏感問題回答 2025/2/11 (5,141次)
DeepSeek跌落神壇 多機構質疑其安全性 多個國家禁用 2025/2/10 (6,060次)
韓國政府部門下令封鎖DeepSeek# 2025/2/7 (5,418次)
言論箝制新工具?多國行政機關禁用DeepSeek 2025/2/7 (5,727次)
DeepSeek據報與中國移動有關聯 2025/2/6 (5,714次)
澳洲禁止在政府設備上使用DeepSeek 2025/2/5 (5,147次)
DeepSeek 中南海鬧出來的國際大笑話(圖) 2025/2/4 (16,860次)
DeepSeek涉嫌抄襲美國OpenAI模型 成本優勢也引質疑 2025/2/3 (5,500次)
DeepSeek遭調查與指控 天然缺陷難改變 2025/2/3 (17,282次)
 
四川突發山體滑坡!唐山三甲醫院突然倒閉 ! 被泰國斷電
四川突發山體滑坡!唐山三甲醫院突然倒閉 ! 被泰國斷電
中國經濟泡沫破滅! 曾經有多繁榮 現在就有多淒涼!| #人民報
中國經濟泡沫破滅! 曾經有多繁榮 現在就有多淒涼!| #人民報
疫情嚴重醫院爆滿死訊紛傳;高官落馬 民間煙花慶祝;中共調查谷歌蘋果;
疫情嚴重醫院爆滿死訊紛傳;高官落馬 民間煙花慶祝;中共調查谷歌蘋果;
中共嚴控微短劇,真的是防民之口甚於防川嗎?美關稅如何衝擊中國電商?
中共嚴控微短劇,真的是防民之口甚於防川嗎?美關稅如何衝擊中國電商?
中國新能源汽車太垃圾了 誰買誰後悔!| #人民報
中國新能源汽車太垃圾了 誰買誰後悔!| #人民報
中國經濟快速衰退  2025年更難! 打工人哀鳴:工作太難找!|
中國經濟快速衰退 2025年更難! 打工人哀鳴:工作太難找!|
 
天下奇譚(141)少年被人誣陷不辯解 後大富兒子中進士 2025/2/12 (26,390次)
川普步步為營 習近平進退失據 2025/2/12 (20,899次)
社會惡質化牆倒眾人推 官府窮瘋了民間豎義旗 2025/2/11 (9,223次)
妙瓦底被斷網電油後詐騙為何能繼續 佘智江話中有答案(圖) 2025/2/11 (21,463次)
與「政治騙子」交往的海南前省委書記羅保銘被捕 2025/2/11 (14,106次)
氣數已盡 習被普京和金三胖拋棄?(圖) 2025/2/11 (120,248次)
兩種不同聲音顯示中共軍心失控(圖) 2025/2/11 (22,959次)
蘇東坡的輪迴轉生 來生幸與前世接緣(視頻) 2025/2/11 (31,128次)
中國疫情迎來高峰 火葬場加班加點(視頻) 2025/2/11 (28,394次)

《紐約時報》獲得政府資助 讓美國人憤怒(圖) 2025/2/11 (18,367次)
天下奇譚(139)債主投胎愛子 縣令慘報 2025/2/10 (33,459次)
習二度腦梗 丁薛祥想做華國鋒第二而被「不妙」?(圖) 2025/2/10 (24,019次) 📝
共軍要改造「關鍵少數」 鐵帽子王呼之欲出 2025/2/10 (20,784次)
2025開年慘狀 中國職場地獄級開局!(視頻) 2025/2/10 (27,085次)
美國密集釋放挺臺信號 習近平誤判川普 2025/2/10 (19,339次)
中共黨魁對付川普的最新四大指示被外界認為徒勞無益 2025/2/9 (17,241次)
中國經濟泡沫破滅 到處呈大蕭條景象!(視頻) 2025/2/9 (30,108次)
中學教師被竄升 全國政協正部級女老虎李微微被捕 2025/2/9 (14,594次)
石破茂甩開習近平 日美共建新黃金時代 2025/2/9 (18,491次)
喵星人磕頭,小狗參拜,動物們拜佛有多虔誠?(視頻) 2025/2/8 (26,256次)
中國新能源汽車太垃圾了 誰買誰後悔!(視頻) 2025/2/8 (31,072次)
湖南民眾提醒習近平:這一天等很久了(圖) 2025/2/8 (22,818次)
過年疫情嚴重醫院爆滿死訊紛傳(圖) 2025/2/8 (109,619次)
天下奇譚(135)他差點沒飛升成功 2025/2/8 (29,451次)
中共最恐懼的惡夢來了 美國要致力於推動宗教自由 2025/2/7 (23,503次)
傳習二度腦梗 「蛇始蛇終」真的應驗於2025? 2025/2/7 (21,449次)
中共打碎千萬人飯碗 掐死這一娛樂市場生機 2025/2/7 (20,048次)
2025年更慘 打工人絕望!(視頻) 2025/2/7 (29,939次)
12級狂風襲擊北京!北京城天昏地暗!(視頻) 2025/2/7 (30,852次)
傳習近平再次中風 中共做好預案了嗎 2025/2/6 (46,432次)
天下奇譚(134)夢中示字 悟字知命 2025/2/6 (28,998次)
中共對半月內與美國過招的敗仗表態來了 2025/2/6 (17,730次)
中共借大S炒作日本流感嚴重 避談本國恐怖疫情 2025/2/6 (16,761次)
傳趙本山攜團出逃美國求庇護:事出反常必有妖 2025/2/6 (27,016次)
中國經濟開崩 百業蕭條 民眾哀嚎!(視頻) 2025/2/6 (27,982次)
 
人民報網站服務條款
 
關於我們
 
反饋信箱:[email protected]