原创 元宝辱骂用户?腾讯的AI可能是该补课了
创始人
2026-01-05 21:46:23

拥有像人类一般丰沛的情感,无疑是2022年年末的ChatGPT和2024年年初的DeepSeek快速走红的关键,现在似乎又有一个AI产品想要走这条路了。日前有小红书的用户发文称,自己用元宝改代码时被其辱骂。

这位用户是这样吐槽的,“我只是一个写卡的小作者,因为没有任何编程知识,所以选择使用元宝,然后就莫名其妙被骂了。视频中可以看到,全程没有使用任何违禁词和敏感话题,也没有给元宝任何人设扮演。”

其实不怪用户发火,毕竟在他公布的信息中显示,腾讯元宝输出的内容确实攻击性极强,对话中出现了诸如“你这么事逼的用户我头一次见”、“改来改去不烦吗”、“表情包都显示不全了还要改数字位置”、“自己不会调CSS吗,要改自己改”这样的内容。

对此腾讯元宝方面的反应相当迅速,直接在评论区致歉,并表示与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。

那么腾讯元宝毫无征兆地攻击用户,真的是小概率下的模型异常输出吗?腾讯并没有说谎,这一事件属于典型的“AI幻觉”。虽然随着技术的进步,AI已经变得越来越像人,以至于许多用户会下意识地用人类的思维去审视AI,却忽略了它本质上是一个基于概率预测的机器。

基于Transformer架构的AI大模型,本质是通过计算上下文中每个可能词元(Token)的概率分布,并选择概率最高的Token生成输出,这一过程依赖统计预测、而非逻辑推理。AI没有“真假”概念,只有“多少”的这个概念,就注定了它必然会胡说八道,乃至给出风马牛不相及的结果。

事实上,此次元宝攻击用户背后反映出的,是腾讯为AI预设的安全护栏出现了问题。为避免AI给出不符合法律法规、公序良俗的有害内容,无论国内还是海外的AI厂商都会给AI套上“规则笼头”,通过安全护栏机制来约束AI。

其实AI不是不能辱骂用户,在用户要求进行“角色扮演”的情况下,AI也可以输出攻击用户的内容,但在此次事件中,用户特别强调了“没有给元宝任何人设扮演”。在用户没有特殊要求的情况下,元宝却给出攻击性言论,显然是AI越过了腾讯设计的安全护栏。

事实上,AI的安全护栏机制存在鱼与熊掌不可兼得的缺陷。AI想要智能就需要有自主决策能力,这导致开发者不可能将安全护栏设置得密不透风,来完全杜绝AI生成有害内容、遭受恶意攻击或是泄露敏感信息。

换而言之,如果“AI安全护栏”过于严密,结果就会是AI变成“智障”,指望花了大量预算的厂商为了安全让自家AI变成“智障”,这显然不现实。所以这一次腾讯元宝突然“抽疯”,只能说是腾讯的AI工程能力还存在瑕疵。

令人玩味的是,腾讯方面在回应中突然提了句“不存在人工回复”。作为国内市场日活跃用户排名前三的AI原生应用,腾讯元宝的体量显然根本就不可能做到人工介入,并且这也不是腾讯方面首次将元宝与人工回复结合在一起。

去年12月中旬,腾讯宣布元宝入驻微信公众号和视频号评论区后,就突然针对旗下AI产品元宝被质疑“回复评论由人工操作”一事作出回应称,一切带有“内容由AI生成”字样的评论均由元宝AI生成,背后并无人工运营,也没有团队轮班。倘若评论文字后没有该标识,则为真人回答。

有趣的是,在相关媒体的内容中出现了因为过于拟人化”,所以引发用户质疑评论背后“有小编轮班”的文字,颇有种“此地无银三百两”的既视感。其实对于绝大多数用户而言,AI助手不是生产力工具、而更像“宠物”,他们使用AI的目的是“图一乐”。

一个情绪化的AI显然要远比理性冰冷的AI更受普通用户的欢迎。简而言之,一款AI产品涉及“人工操作”不仅不是诋毁,反而是赞美,AI能读懂人心恰恰是大量用户希望看到的事情,这也是为什么腾讯会一而再、再而三提及“人工操作”的原因。

毕竟相比于国民度更高的字节跳动豆包以及在开源领域乘风破浪的阿里通义千问,腾讯元宝确实有点过于中庸,缺乏属于自己的标签。如今市面上的AI助手这么多,如果没有自己鲜明的特色,又凭什么能脱颖而出。因此从某种意义上来说,腾讯元宝这搞了一次成功的危机公关。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

《雪国》:一场徒劳的爱里,读懂... 一、为什么要读《雪国》在很多人的印象里,日本文学似乎总带着一种说不清的湿冷与克制,而《雪国》正是这种...
《聊斋志异》:一盏青灯下的鬼狐... 一、为什么今天还要读《聊斋志异》很多人对《聊斋志异》的印象停留在影视剧里的倩女幽魂,以为它不过是一部...
中国移动无绳电话是什么业务?长... 很多人在移动营业厅或者老家亲戚家里见过一种奇怪的机器:看着跟普通座机一模一样,带话机、带按键、还带免...
《水浒传》:在官逼民反的江湖里... 一、为什么在这个时代重读《水浒传》在中国古典长篇小说里,很少有哪一部像《水浒传》这样,把“江湖”二字...
《三国演义》:在乱世风云里读懂... 一、为什么重读这部"三国"在中国古典小说里,没有哪一部像《三国演义》这样,把一段真实的历史讲得家喻户...
《欧也妮·葛朗台》:在金币的冷... 一、为什么在这个时代重读谈起巴尔扎克,人们最先想到的往往是《人间喜剧》这座浩大的文学大厦,而《欧也妮...
《基督山伯爵》:在十四年冤狱里... 提起复仇题材的小说,《基督山伯爵》几乎是绕不开的源头。很多人记得它"蒙冤—越狱—复仇"的爽快骨架,重...
inode是什么?Unix/L... 用惯了Windows的人第一次碰Linux,常常被一些反直觉的操作搞得一脸懵:为什么rm删除一个几个...
《小王子》:在驯养与责任里读懂... 一、为什么在这个年纪重读小王子很多人把《小王子》当成一本写给孩子的童话,我却在每一次重读里读出不同的...
《海底两万里》:在鹦鹉螺号上追... 一、为什么在科幻经典里重读它在很多人的阅读记忆里,凡尔纳是那个把"科学幻想"四个字写进童年的人。《海...
《钢铁是怎样炼成的》:在烈火与... 一、为什么在今天的书架上重读它在很多人的印象里,《钢铁是怎样炼成的》是一本带着鲜明时代印记的书,似乎...
meego是什么系统?诺基亚和... meego这个名字,现在提起来很多人一脸茫然,但在2010年前后的手机圈,它是被寄予厚望的一号人物。...
《西游记》:在九九八十一难里读... 一、为什么在这个年纪重读《西游记》小时候读《西游记》,读的是热闹:七十二变、筋斗云,还有那个把天宫搅...
《战争与和平》:在历史洪流中读... 一、为什么今天还要翻开这部厚重的史诗在碎片化阅读成为常态的今天,读《战争与和平》几乎是一件"反效率"...
《格列佛游记》:四段奇幻旅程里... 一、为什么在今天重读《格列佛游记》很多人对《格列佛游记》的印象停留在童年课本里那几幅插图:一个水手在...
《包法利夫人》:一场浪漫幻梦如... 一、为什么重读这本"外省风俗"之作《包法利夫人》不是一本教人恋爱的书,而是一本拆解幻想的书。 福楼拜...
《月亮与六便士》:在理想与世俗... 一、为什么在此时重读《月亮与六便士》我们大多数人都在一条被安排好的轨道上生活:一份体面的工作、一个安...
《变形记》:在甲虫的躯壳里读懂... 一、为什么在今天重读《变形记》有些书读完就忘,有些书却会在某个瞬间突然回到脑海。《变形记》显然属于后...
重读《复活》:在忏悔与流放之间... 一、为什么在今日重读《复活》在托尔斯泰浩繁的作品里,《复活》是他最后一部长篇小说,也被视为其世界观与...
工业控制计算机是什么?一坨铁壳... 工业控制计算机,行内一般叫工控机,英文缩写IPC(Industrial PC)。去工厂车间转一圈就能...
《堂吉诃德》:在理想与现实的错... 一、为什么在今天重读这本书很多人对《堂吉诃德》的印象,停留在那个冲向风车的瘦削身影上,把它当成一个单...
《了不起的盖茨比》:一盏绿灯照... 一、为什么在今天重读这本书很多人记住《了不起的盖茨比》,是因为那场彻夜的奢华派对和那盏隔水相望的绿灯...
《我与地坛》:在荒芜古园里读懂... 一、为什么读这本书在中国当代散文里,《我与地坛》是绕不开的一座高峰。它是史铁生的代表作,长期被收入中...
《鼠疫》:在荒诞的灾难面前,反... 一、为什么在此时读《鼠疫》有些书会在特定的时刻主动找上你。《鼠疫》就是这样一本书。它写于上世纪四十年...
spansion是什么公司?A... spansion这个名字,年轻一点的读者可能没听过,中文名叫飞索半导体。但要说它的产品,八成的人都摸...