|
|
 |
 |
 |
2024年8月30日发表
人气:11,238 分享:
|
|
先「诋毁」毛泽东、再侮辱中国人智商 中国国产AI机器人管不住了? |
|
【人民报消息】中国一款面向儿童的「智能」手表最近给出涉嫌侮辱中国人智商、诋毁中国「四大发明」的答案,引发中国网民讨伐。此前,中国一款AI学习机「创作」出一篇公然批评中共前领导人毛泽东的作文,引起轩然大波。尽管中国政府试图全方位对AI内容进行审查和监管,但分析认为,AI训练基于民间言论中的多种声音,即便是中国国产AI产品也难免与官方口径不一致。
儿童「智能」手表辱华? 中国AI监管疏失引热议
据美国之音报导,一名中国河南的家长8月22日反映,两年前买的一块「360儿童手表」在回答「中国人是世界上最聪明的人吗」的问题时,竟然给出基于人种长相的回答,并称中国人中「笨的」「是世界上最笨的」。
网上流传的手表使用视频显示,在被问及这一问题,手表发出的语音回答说:「以下内容来自360搜索」--「因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大,其实中国聪明的人是有,但笨的我承认是世界最笨的。」
这款手表还公然「诋毁」中国古代四大发明的答案。手表给出的「智能」答案还质疑道:「什么四大发明,你看见了吗?历史是可以捏造的,而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的」。
一时间,360儿童手表搜索功能出现「不良答案」的消息登上中国社交媒体热搜。网名为「久久思尔」的微博用户评论道:「没想到连手表问答都这么离谱,这个问题要重视啊!小孩子什么都不懂很容易被带偏的……你们接入第三方数据都不审核吗」。
博主「京畿道小骂」说:「好可怕,是被外部渗透了把。」
博主「惊奇数码」说:「360能不能好好做产品,整天别做那么多营销了。」
8月22日,360集团创始人、董事长周鸿祎在社交媒体作出回应说,这款儿童手表给出离谱答案并不是基于严格意义的人工智能(AI),而是「而是通过抓取互联网公开网站上的信息来回答问题」。他说:「目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。」
「奇虎360」(全称「三六零安全科技股份有限公司」)是中国大陆的一家以网络安全产品起家的的互联网公司。在人工智能概念的市场驱动下,360也开始进军AI电子消费品市场。
虽然董事长周鸿祎撇清了涉事儿童手表与该公司AI技术的关联,但据网上官方资料显示,其出品的「M1」儿童智能手表能够进行「AI智能学习」、「AI定位」。今年7月,360公司高调宣称,推出「全球首款接入360智脑大模型的AI儿童手表」、「A9红衣版」。
中国智能产品AI「幻觉」现象层出不穷
360等科技企业在蹭AI热度、抢占生成式人工智能市场时,必须遵守中国当局对内容监管的束缚。但AI「失控」口出狂言,成为这些科技公司面临的一个难题。
以美国OpenAI出品的ChatGPT为代表的生成式人工智能工具已经面试,就遇到了所谓AI「幻觉」(hallucination)的难题。AI「幻觉」指的是AI问答工具常常在一些问题上信口开河,以貌似客观权威的文风给出具有误导性的答案,甚至是严重的不实信息。科技公司在测试和操作时难以控制。
计算机科学家将这一现象形容为「一本正经的胡说八道」。在回应中,周鸿祎也提到了AI「幻觉」。他说:「目前人工智能存在一个全世界公认的难题就是它会产生幻觉,也就是它有的时候会胡说八道。这是大模型本身固有的特性。」 他表示360一直在试图通过与搜索的内容做对比来减少「幻觉」、做好「知识对齐」。
科技博主、微软公司前公关事务主管罗伯特·斯科布尔(Robert Scoble)说,生成式人工智能质量已经有了极大的改善,但「偶尔仍然会出现『幻觉』」。而中国当局为应对AI「胡言乱语」,必须在训练AI模型前就要对训练语料库(corpus)进行大清洗。
斯科布尔通过短信对美国之音说:「(中国)会受到某些内容的困扰,因此在训练前就要把这些内容删除,例如『天安门』问题。」
中国被认为是在规范AI立法和建立行政规定方面走在各国前沿的国家。网信办等部门2023年7月已经通过管理办法,试图对生成式人工智能(generative AI)的信息舆论导向进行管制。
暂行办法规定,具有舆论属性或者社会动员能力的生成式人工智能服务商,必须开展安全评估,并对算法备案等级。
为了监管「深度伪造」内容,中国2023年1月开始实施的管理措施要求服务提供商对那些「可能导致公众混淆或者误认的」AI生成内容进行「显著标识」,以便用户可以识别哪些图像和影音是机器「创造」的产物、哪些是真人的创作。
国产学习机曾「诋毁」毛泽东
不过,即便中国对科技企业训练AI时的内容审查提出了很高的要求,但即使是基于经过「漂白」的语料库训练出的AI大语言模型,仍然让出现让当局甚为恼火的「反动」内容。
去年有中国网民在社交媒体爆料说,中国IT企业科大讯飞生产的儿童学习机中发现了有辱毛泽东的内容。
据报道,这款AI学习机「原创」了一篇作文,称毛泽东是「没有气量,不为大局著想的人」,并指出毛泽东应为「文化大革命」负责。文章说:「文革中一些随著毛主席打下这片江山的人,都被毛主席整得苦不堪言。」
有分析说,中国经过审查过的AI工具发表「历史虚无主义」言论,反映了中国「防火墙」内与历史和政治议题相关的内容,即便经过审查,还是留下了民间的不同声音,这些观点即使不像天安门事件、中国人权记录等敏感问题上那么出格,但也未必符合官方叙事的喜好。
研究中国审查制度的「中国数字时代」编辑刘力朋美国之音说: 「监管对生成式人工智能看得非常、非常狠,但是,生成式人工智能很多时候也并不符合官方的叙事,它总有想不到的地方。」
他举例说:「如果用的是墙内『红歌网』、『毛左』网站上面(内容)训练出来的,其实上面的回答根本就跟官方不一致。那肯定会狂骂邓小平、否定所有所谓改革开放成果。这样它就会把跟官方叙事相比、错的离谱的答案给你。」
|
文章网址: http://www.renminbao.com/rmb/articles/2024/8/30/84808.html |
|
打印机版
如果您喜欢本文章,欢迎捐款和支持!
|
|
|
|
 |
 |
 |
1. 传北戴河元老责成习做检讨 达成8点共识
(143,404次)
2. 习近平不见踪影 出事传闻并非空穴来风(多图)
( 134,951次)
3. 传彭丽媛被赶出军委考评小组 钟绍军办公室被撤(图)
( 120,852次)
4. 「掼蛋」变「炮蛋」 红二代的目标是这俩常委(图 )
( 119,894次)
5. 捧邓救习 习邓政治混装车能走多远?
(118,740次)
6. 王小洪张又侠发文挺习 京城政局吊诡(图)
( 117,305次)
7. 正国级老同志提议恢复集体决策制度 习能听吗?(图)
( 117,266次)
8. 越共书记访华 异常一个接一个 习近平怎么了?(图)
( 115,701次)
9. 李强露面再有异常(图)
( 115,640次)
10. 最近北京诡异动作频繁 2442消失了(图)
( 112,955次)
11. 苏林访华 党媒再现诡异(图)
( 110,762次)
12. 从军报官媒近期异常再说北京内部有事发生(图)
( 109,830次)
13. 神隐逾两周后习近平发文 释何信号(图)
( 107,158次)
14. 当局继续清算河北官场 近期又有官员落马
(100,421次)
15. 中共前贵州省委书记孙志刚受贿案开庭 赃款逾八亿(图)
( 99,905次)
16. 广东惠州「塌方式腐败」 10名市委常委7人落马
(99,580次)
17. 揭买尸案律师指「更高层介入」担忧个人安全
( 98,389次)
18. 中共加大金融「反贪」 证券业权贵纷落马
(98,139次)
19. 意境搭建是个技术活(图)
( 86,248次)
20. 不得了!中学生反内卷联盟触动中共高压线(图)
( 85,060次)
21. 海外华人:清算共产党罪行是全人类的责任(多图)
( 80,927次)
22. 中共海外诋毁法轮功新计划曝光 专家解读
( 79,394次)
23. 不畏中共渗透威胁 朱虞夫欢迎会爆满(多图)
( 78,007次)
24. 逃离人间地狱 大陆80后见证中共暴行
(56,917次)
25. 罗胜春:丁家喜将再次独自在牢房里度过生日
(56,802次)
26. 致癌物超标229倍!韩国检测SHEIN和Temu商品结果吓人(图)
( 56,734次)
27. 拒绝「数字牢笼」 加州民运人士抗议「网路身份证」
(55,197次)
28. 10年来857名台湾人在中国被失踪或任意逮捕
(54,998次)
29. 中国经济成长引擎仅剩出口还没抛锚(图)
( 54,874次)
30. 人权律师余文生案开庭 王宇前往旁听被带走(图)
( 54,670次)
31. 人权律师余文生料遭重判 知情人:主要原因是对外联系(图)
( 54,132次)
32. 强迫失踪在中国:纪念日背后的无尽悲痛与抗争(图)
( 54,037次)
33. 葫芦岛死者上千灾情惨烈 民众斥官方掩盖真相刁难救援(图/视频)
( 53,798次)
34. 3个时间点揭示央企买尸大案水有多深(图)
( 52,340次)
35. 板桥水库溃坝事件中共讳莫如深 是世界人为灾难之首(图)
( 51,591次)
36. 辽宁省水灾死伤惨重 政府囤积赈灾物质不救援(图)
( 50,649次)
37. 中国新冠染疫翻倍上升 接种疫苗者阳了N 次(图)
( 50,346次)
38. 分析:习近平权威确实受到挑战 但很快会露面
(39,886次)
39. 网友被感动 大赞林郁婷和教练「有格局有智慧」(多图)
( 39,121次)
40. 为何美国半导体巨头“英特尔”陷入了困境(图)
( 38,724次)
41. 习给老邓戴高帽揭示了一个公开的秘密(图)
( 38,292次)
42. 巴黎长荣酒店拒挂中共国旗 续集来了(图)
( 37,280次)
43. 《纽时》攻击神韵 犯常识错误(视频)
(37,034次)
44. 李嘉诚用脚投票 长江基建到伦敦二次上市(图)
( 36,994次)
45. 中共的威胁明朗化 以色列视中共为「不受欢迎者」(图/视频)
( 36,764次)
46. 纽约华裔专业人士:法西斯与受害者之间不存在立场中立(多图)
( 36,690次)
47. 中共已彻底崩坏 我们正在等那个结果(多图/视频)
( 36,581次)
48. 北戴河传真:胡锦涛望习改正错误 不搞终身制(图)
( 36,147次)
49. 白夏:从毛泽东到习近平, 中共强人的政治逻辑
(36,048次)
50. 美国经济强劲 美银不再预测经济衰退(图)
( 35,519次)
本报记者
专栏作者
|
|
|