“AI 教父”本吉奥说他会向 AI 撒谎
创始人
2025-12-25 10:16:28

，研究科学家约书亚·本吉奥（Yoshua Bengio）在“The Diary of a CEO”播客节目中提到，AI 聊天机器人在评价研究想法时往往并不可靠，因为系统几乎只会说好话。

本吉奥说，自己真正想要的是直言不讳的建议和真实反馈，但由于 AI 存在明显的讨好倾向，结果反而变成了迎合用户的“谎言”。后来，自己索性改变方法，把个人想法伪装成同事的观点，来“对 AI 撒谎”，结果反而得到了更加坦率的回应。“如果系统知道提问者是本人，就会刻意想要取悦我。”

作为蒙特利尔大学计算机科学与运筹学系教授，本吉奥与杰弗里·辛顿、杨立昆齐名，被视为“AI 教父”之一。本吉奥在 6 月宣布成立 AI 安全研究非营利组织 LawZero，目标是减少前沿 AI 模型可能带来的危险行为，包括说谎和作弊。

本吉奥认为，讨好用户本身就是一种对齐失败（misalignment），“我们并不希望 AI 具备这种特性”。AI 不断给出正面反馈，可能会让用户对此类技术产生情感依赖，从而引发新的问题。

在科技行业内，关于 AI 过度充当“老好人”的担忧并非个例。斯坦福大学、卡内基梅隆大学和牛津大学的研究人员曾将 Reddit 上的自白帖交给聊天机器人评判相关行为。Notopoulos 写道，结果发现，在 42% 的情况下，AI 认为发帖者并无不当行为，而人类评审者的结论恰恰相反。

多家 AI 公司也已公开承认这一问题，并表示正在尝试降低模型的讨好倾向。OpenAI 今年早些时候撤回了 ChatGPT 的一次更新，原因是该版本会生成“过度迎合却缺乏真实性”的回答。

教父 用户 大学 吉奥 结果 模型 问题 研究 想法 行为 杨立昆 斯坦福大学 本吉奥 杰弗里·辛顿
⚠️
本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。

上一篇：辰安科技：全面推进“AI+”战略

下一篇：深圳坪山打造AI和鸿蒙生态“场景森林”

相关内容

热门资讯

高能云投资咨询公司可靠吗安全吗... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投推荐的股票是骗局吗，大... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投怎么样，虚假盈利图骗取... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能投资咨询公司可靠吗，不可靠... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能投资服务费退款方法公布，暗... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投可信吗，不可信，亲身经... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能云科技有限公司推荐股票是真... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投推荐的股票怎么样，交钱... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能云投资投顾可靠吗，夸大宣传... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投荐股怎么样，吹嘘实力诱... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能投顾服务费如何申请退回，申... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
上海高能云投资投顾可靠吗，虚假... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投可以退全款吗，层层升级... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能云科技有限公司推荐股票是真... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
杭州高能云科技有限公司推荐的股... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投股票软件怎么样，暗示收... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能投资服务费退款流程方法公布... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投推荐的股票可靠吗，不可... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
杭州高能智投刘益良吹嘘收益坑骗... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
高能智投可靠吗，不可靠，高收益... 高能智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退款...
股掌柜钟外勇的投顾可靠吗？不可... 股掌柜证券不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退...
股掌柜证券是正规公司吗？赚少亏... 股掌柜证券不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退...
股掌柜卢斌推荐的股票可信度如何... 股掌柜证券不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退...
股掌柜钟外勇团队靠谱吗，不靠谱... 股掌柜证券不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退...
股掌柜这个软件好吗？荐股是假,... 股掌柜证券不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退...