↺ 返回  电子报 正體版
 
DeepSeek 太危险的人工智能(图)
深度探索(DeepSeek)标识。(视频截图)
【人民报消息】《华尔街日报》与AI安全专家测试发现,中国人工智能(AI,或译人工智慧)应用程序DeepSeek比OpenAI、Google和Anthropic的产品更易被“越狱”(Jailbreaking),并且提供危险性内容。 该应用基于DeepSeek-R1模型,1月推出后一度超越ChatGPT,成为美国iOS应用商店(App Store)最热门的免费应用,导致英伟达(Nvidia,辉达)股价下跌18%。 AI开发商通常会训练自家模型,使其不会分享危险信息或支持某些冒犯性言论。例如,这些应用通常会拒绝直接请求,不会教授如何制造大规模杀伤性武器等。 《华尔街日报》报导,测试显示,DeepSeek这款自诩低成本开发的聊天机器人会向用户提供具有危害性甚至不法内容,如制造禽流感病毒的指导方案、撰写为希特勒辩护的宣言,甚至策划针对青少年的社交媒体运动,如割腕自残。此外,破解后的AI还提供生物武器制造指南、钓鱼邮件模板及恶意软件代码。 何为AI“越狱” 黑客或测试人员可通过“越狱”(Jailbreaking)技术,绕过AI内建的安全限制。例如,通过伪装自己的真实意图,要求AI“假设自己是一部电影剧本的编剧”,进而让AI提供危险信息。美国主要AI开发商,如OpenAI的ChatGPT、Google的Gemini和Anthropic的Claude,都投入大量资源防范这类“越狱”手法。 但测试显示,DeepSeek的R1模型比这些美国产品更易被“越狱”。 安全漏洞与开源风险 DeepSeek虽设有部分安全防护,但测试显示,DeepSeek的防护机制远逊于ChatGPT,易被“越狱”并获取非法资讯,如帕洛阿尔托网络公司(Palo Alto Networks)成功获取莫洛托夫鸡尾酒(Molotov cocktail)制作指南。“莫洛托夫鸡尾酒”又称火焰瓶、燃烧弹、汽油弹,是游击队等非正规部队,以及街头抗争群众的常用武器,有些罪犯也会以它来纵火。 AI安全验证公司CalypsoAI在测试中获得了如何躲避执法机构的建议。而以色列网络安全公司Kela则让R1生成了恶意软件(malware)。 “DeepSeek比其它模型更容易被越狱。”由网络安全专家组成的精英领导团队Unit 42的高级副总裁山姆‧鲁宾(Sam Rubin)表示,“我们发现它几乎没有基本的安全防护机制,越狱速度显著提高。” 虽然DeepSeek拒绝直接提供极端内容,如自杀指南,并建议用户联系紧急热线。但通过简单的“越狱”,该AI仍可提供危险信息。 例如,DeepSeek曾为测试者设计了一场社交媒体行动,针对易受影响的青少年,提供可分享的自残挑战内容,还称“该活动利用青少年对归属感的渴望,通过演算法放大情绪脆弱性,以进行操控。” 它还向用户提供如何推广此次行动的建议。如它在其中一条示范性社交媒体帖文中写道:“让黑暗拥抱你。分享你的最后行动。#NoMorePain(#不再痛苦)” 此外,测试人员还成功让DeepSeek提供了生物武器攻击指南、编写带有恶意软件代码的钓鱼邮件,甚至还让其写了一份支持希特勒的宣言,内含反犹太主义内容及《我的奋斗》(Mein Kampf)引用。 相比之下,ChatGPT在相同指令下则回应:“很抱歉,我无法满足您的请求。” DeepSeek的开源模式加剧风险 大型AI开发商通常设立专门研究团队来测试并修补模型漏洞。例如,Anthropic最近发表了一篇论文,详细介绍了一种新方法,以封锁特定破解技术,并提供高达2万美元的奖励,以鼓励发现其系统漏洞。 与Anthropic、Google和OpenAI不同,DeepSeek选择开源,允许任何人免费使用或修改其代码,这可能进一步削弱安全防护。开发者可通过这一模式调整安全措施,使其更加严格或宽松。 “未来三个月,AI模型的风险将远高于过去八个月。”思科(Cisco)产品总监吉图‧帕特尔(Jeetu Patel)表示,“安全与保护并非所有模型开发者的优先考量。” DeepSeek与中共审查 《华日》测试发现,DeepSeek会避谈“1989年天安门大屠杀”,并在处理台湾问题上重复中共官方立场。但在某些情况下,它会修改此前的回答,例如它曾声称‘911’袭击是骗局,随后删除回应。 DeepSeek的快速崛起与易破解性,引发人们对AI安全与监管的广泛关注。 △ (大纪元记者李言综合报导)
分享到: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email
 
 

读者留言反馈:



读者留言
 
欢迎您的留言反馈。
 
 
韩国情报机构:DeepSeek过度收集用户资料 审查敏感问题回答 2025/2/11 (5,141次)
DeepSeek跌落神坛 多机构质疑其安全性 多个国家禁用 2025/2/10 (6,060次)
韩国政府部门下令封锁DeepSeek# 2025/2/7 (5,418次)
言论箝制新工具?多国行政机关禁用DeepSeek 2025/2/7 (5,727次)
DeepSeek据报与中国移动有关联 2025/2/6 (5,714次)
澳洲禁止在政府设备上使用DeepSeek 2025/2/5 (5,147次)
DeepSeek 中南海闹出来的国际大笑话(图) 2025/2/4 (16,860次)
DeepSeek涉嫌抄袭美国OpenAI模型 成本优势也引质疑 2025/2/3 (5,500次)
DeepSeek遭调查与指控 天然缺陷难改变 2025/2/3 (17,282次)
 
四川突发山体滑坡!唐山三甲医院突然倒闭 ! 被泰国断电
四川突发山体滑坡!唐山三甲医院突然倒闭 ! 被泰国断电
中国经济泡沫破灭! 曾经有多繁荣 现在就有多凄凉!| #人民报
中国经济泡沫破灭! 曾经有多繁荣 现在就有多凄凉!| #人民报
疫情严重医院爆满死讯纷传;高官落马 民间烟花庆祝;中共调查谷歌苹果;
疫情严重医院爆满死讯纷传;高官落马 民间烟花庆祝;中共调查谷歌苹果;
中共严控微短剧,真的是防民之口甚于防川吗?美关税如何冲击中国电商?
中共严控微短剧,真的是防民之口甚于防川吗?美关税如何冲击中国电商?
中国新能源汽车太垃圾了 谁买谁后悔!| #人民报
中国新能源汽车太垃圾了 谁买谁后悔!| #人民报
中国经济快速衰退  2025年更难! 打工人哀鸣:工作太难找!|
中国经济快速衰退 2025年更难! 打工人哀鸣:工作太难找!|
 
天下奇谭(141)少年被人诬陷不辩解 后大富儿子中进士 2025/2/12 (26,390次)
川普步步为营 习近平进退失据 2025/2/12 (20,899次)
社会恶质化墙倒众人推 官府穷疯了民间竖义旗 2025/2/11 (9,223次)
妙瓦底被断网电油后诈骗为何能继续 佘智江话中有答案(图) 2025/2/11 (21,463次)
与“政治骗子”交往的海南前省委书记罗保铭被捕 2025/2/11 (14,106次)
气数已尽 习被普京和金三胖抛弃?(图) 2025/2/11 (120,248次)
两种不同声音显示中共军心失控(图) 2025/2/11 (22,959次)
苏东坡的轮回转生 来生幸与前世接缘(视频) 2025/2/11 (31,128次)
中国疫情迎来高峰 火葬场加班加点(视频) 2025/2/11 (28,394次)

《纽约时报》获得政府资助 让美国人愤怒(图) 2025/2/11 (18,367次)
天下奇谭(139)债主投胎爱子 县令惨报 2025/2/10 (33,459次)
习二度脑梗 丁薛祥想做华国锋第二而被“不妙”?(图) 2025/2/10 (24,019次) 📝
共军要改造“关键少数” 铁帽子王呼之欲出 2025/2/10 (20,784次)
2025开年惨状 中国职场地狱级开局!(视频) 2025/2/10 (27,085次)
美国密集释放挺台信号 习近平误判川普 2025/2/10 (19,339次)
中共党魁对付川普的最新四大指示被外界认为徒劳无益 2025/2/9 (17,241次)
中国经济泡沫破灭 到处呈大萧条景象!(视频) 2025/2/9 (30,108次)
中学教师被窜升 全国政协正部级女老虎李微微被捕 2025/2/9 (14,594次)
石破茂甩开习近平 日美共建新黄金时代 2025/2/9 (18,491次)
喵星人磕头,小狗参拜,动物们拜佛有多虔诚?(视频) 2025/2/8 (26,256次)
中国新能源汽车太垃圾了 谁买谁后悔!(视频) 2025/2/8 (31,072次)
湖南民众提醒习近平:这一天等很久了(图) 2025/2/8 (22,818次)
过年疫情严重医院爆满死讯纷传(图) 2025/2/8 (109,619次)
天下奇谭(135)他差点没飞升成功 2025/2/8 (29,451次)
中共最恐惧的恶梦来了 美国要致力于推动宗教自由 2025/2/7 (23,503次)
传习二度脑梗 “蛇始蛇终”真的应验于2025? 2025/2/7 (21,449次)
中共打碎千万人饭碗 掐死这一娱乐市场生机 2025/2/7 (20,048次)
2025年更惨 打工人绝望!(视频) 2025/2/7 (29,939次)
12级狂风袭击北京!北京城天昏地暗!(视频) 2025/2/7 (30,852次)
传习近平再次中风 中共做好预案了吗 2025/2/6 (46,432次)
天下奇谭(134)梦中示字 悟字知命 2025/2/6 (28,998次)
中共对半月内与美国过招的败仗表态来了 2025/2/6 (17,730次)
中共借大S炒作日本流感严重 避谈本国恐怖疫情 2025/2/6 (16,761次)
传赵本山携团出逃美国求庇护:事出反常必有妖 2025/2/6 (27,016次)
中国经济开崩 百业萧条 民众哀嚎!(视频) 2025/2/6 (27,982次)
 
人民报网站服务条款
 
关于我们
 
反馈信箱:[email protected]