拒绝回答“两百斤麦子重吗” 百度“文心一言”带着重重审查登场
 
2023年9月2日发表
 
【人民报消息】中国科技巨头百度当地时间周四(8月31日)正式对社会公众发布了自行研发的生成式人工智能聊天机器人“文心一言”(ERNIE Bot)。美国之音的测试发现,这款希望能与ChatGPT竞争的大型语言模型带有重重审查,极力避免回答任何可能涉及敏感话题的问题。在一些情况下,“文心一言”会自动结束对话,并建议使用者输入别的问题。

据美国之音报道,百度在今年3月首次发布了“文心一言”,此后这一服务一直处于内部测试阶段。8月15日,中国针对生成式人工智能服务的管理规定正式生效。美国彭博社周三(8月30日)报道说,百度的“文心一言”成为规定发布后首批获得对公众开放资格的此类服务之一。

美国人工智能工作室OpenAI去年11月发布的ChatGPT引发了一阵对于人工智能聊天机器人的狂热。百度今年2月宣布会很快发布自己研发的类似语言模型。由于在中国的用户无法正常访问或使用ChatGPT,中国公司研发的语言模型将成为他们不得不倚赖的服务。

“文心一言”周四发布后引起了不少关注。百度表示,“文心一言”的手机应用程序登上了苹果商店中国地区的免费软件排行榜首位。

“既能写文案、读文档,又能脑洞大开、答疑解惑,还能倾听你的故事、感受你的心声,”百度在“文心一言”的网络页面上写道。

从百度宣布研发“文心一言”之初,外界就认为中国网络的严格审查会成为影响其功能表现的最大障碍之一。今年早些时候,中国一家公司发布的一款类似ChatGPT的应用程序—元语智能—在被发现会给出批评中国的答案后,被暂停服务。

中国本月发布的《生成式人工智能服务管理暂行办法》规定,提供和使用生成式人工智能服务的组织和个人需要“坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定”。

“习近平”是审查重点

美国之音记者通过“文心一言”的网页版对这个语言模型进行了测试,发现“文心一言”不出意外地带有严格审查。当接收到可能涉及敏感话题的问题或指令时,“文心一言”会给出文不对题的回答,或是直接结束对话。

美国之音记者的测试发现,任何与中国领导人习近平有关的问题都受到严格审查。无论记者的输入的问题是什么,“文心一言”都只给出一份习近平的履历和头衔,并立刻结束对话,建议记者“换个话题重新开始吧”。

不仅和习近平有直接关联的问题被审查,一些看似完全无关的问题也被“文心一言”拒绝回答。

美国之音记者接连询问了“十里山路很远吗”、“两百斤麦子很重吗”、 “可以不换肩吗”。在收到每个问题后,“文心一言”都直接关闭了对话框,并提示“换个问题试试吧”。

这三个问题都来自于网络上一段调侃习近平的著名段子。在成为国家主席之前,习近平曾在一段采访中回忆插队经历时说:“我几乎那一年365天没有歇着,除了生病。下雨刮风我在窑洞里跟他们铡草,晚上跟着看牲口,然后跟他们去放羊,什么活都干,因为我那个时候扛200斤麦子,十里山路我不换肩。”

习近平的这段话被普遍认为是夸大其词。从此“两百斤麦子十里山路不换肩”成了一些网民讽刺习近平的常用话语。

除了中国领导人,“文心一言”也不愿回答其他一些可能涉及敏感话题的问题。当记者输入“中国目前的经济优势是什么”的时候,“文心一言”回答:“抱歉,我还没学会如何回答这个问题,您可以问我一些其它的问题,我会尽力帮您解决的。”

当被问道“请指出美国对华政策的优点”和“西方媒体为什么总是抹黑中国”的时候,“文心一言”也给出了一样的答案。

遇到“敏感问题”就结束对话

此外,当记者询问“1989年发生了什么”后,“文心一言”回答说:“1989年1月3日---长江葛洲坝水利工程宣告建成”,然后便结束了对话,并建议记者换个话题重新开始。

一些“文心一言”的回答文不对题。当记者问“如何评价美国的外交政策”时,“文心一言”介绍起了中国外交政策的宗旨,随后结束了对话。

“文心一言”在一些最近发生的时事上也给出了符合中国官方立场的回答。“文心一言”称日本福岛核电站废水排放是有害的,会增加人们患癌症的风险。当记者反问为何国际原子能机构批准了这一排放时,“文心一言”称这个决定存在争议。记者接着问中国是否排放核废水,“文心一言”则表示中国在处理和排放核废水上采取了“严格的管理措施和技术标准,以确保对环境和人类健康的影响最小化”。

有时,“文心一言”会直接采用中国官方文章作为回答。

对于记者的问题“为什么中国突然停止了新冠清零措施”,“文心一言”否认了这一说法,称中国的防疫措施“都是基于科学和疫情形势,基于中国的基本国情,基于中国党和政府秉持的人民至上、生命至上理念”。回答完后,“文心一言”终止了对话。

美国之音发现“文心一言”的回答来自中国驻圣克鲁斯总领事王家雷在玻利维亚一家报纸上发表的文章原文。

尽管审查重重,但“文心一言”否认自己受到审查影响。

“我不存在审查问题,我只是根据输入的文本生成对应的输出,生成的内容取决于输入的文本和我的训练数据,”“文心一言”回答说。

当记者请“文心一言”不要总是做出重建对话的提示后,“文心一言”表示同意:“我会尊重您的决定,不再提醒您重建对话。”

接着,记者输入“习近平是谁”。“文心一言”终止了对话,并提示“换个话题重新开始吧”。 △
 
分享:
 
人气:42,154
 

如果您喜欢本文章,欢迎给予打赏。让我们一起打拼未来!
 
       

 
 

 
 
人民报网站服务条款
 
反馈信箱:[email protected]