“AI 教父”本吉奥说他会向 AI 撒谎_科学探索

创始人

2025-12-25 10:16:28

，研究科学家约书亚·本吉奥（Yoshua Bengio）在“The Diary of a CEO”播客节目中提到，AI 聊天机器人在评价研究想法时往往并不可靠，因为系统几乎只会说好话。

本吉奥说，自己真正想要的是直言不讳的建议和真实反馈，但由于 AI 存在明显的讨好倾向，结果反而变成了迎合用户的“谎言”。后来，自己索性改变方法，把个人想法伪装成同事的观点，来“对 AI 撒谎”，结果反而得到了更加坦率的回应。“如果系统知道提问者是本人，就会刻意想要取悦我。”

作为蒙特利尔大学计算机科学与运筹学系教授，本吉奥与杰弗里·辛顿、杨立昆齐名，被视为“AI 教父”之一。本吉奥在 6 月宣布成立 AI 安全研究非营利组织 LawZero，目标是减少前沿 AI 模型可能带来的危险行为，包括说谎和作弊。

本吉奥认为，讨好用户本身就是一种对齐失败（misalignment），“我们并不希望 AI 具备这种特性”。AI 不断给出正面反馈，可能会让用户对此类技术产生情感依赖，从而引发新的问题。

在科技行业内，关于 AI 过度充当“老好人”的担忧并非个例。斯坦福大学、卡内基梅隆大学和牛津大学的研究人员曾将 Reddit 上的自白帖交给聊天机器人评判相关行为。Notopoulos 写道，结果发现，在 42% 的情况下，AI 认为发帖者并无不当行为，而人类评审者的结论恰恰相反。

多家 AI 公司也已公开承认这一问题，并表示正在尝试降低模型的讨好倾向。OpenAI 今年早些时候撤回了 ChatGPT 的一次更新，原因是该版本会生成“过度迎合却缺乏真实性”的回答。

教父用户大学吉奥结果模型问题研究想法行为杨立昆斯坦福大学本吉奥杰弗里·辛顿

⚠️

本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。

通报:一颗草莓被骗不能出金，平... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

是假的吗:海川星辰网约被骗，数... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

可信吗:海川星辰无资质!平台不... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

陷阱:升鑫缘起资本被骗该如何自... 升鑫缘起资本平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？升鑫缘...

不正规:融翼创客被骗不能提现出... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

限制出金:卓企文化传媒受骗不能... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

合法吗:QcOuE被骗无法出金... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

可信吗:君弘君融被骗是有内情!... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

不靠谱:卓企文化传媒被骗!不可... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

通报:CWzMwN被骗是有内情... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

限制出金:一颗草莓被骗不靠谱不... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

合法吗:韩文韩语图标软件不能提... 韩文韩语图标软件平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？韩...

通告:海川星辰受骗亏损无法出金... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

合法吗:一朵花图标软件数据修复... 一朵花图标软件平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？一朵...

不是真的:ttapAm被骗!不... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

可信吗:升鑫缘起资本不可信!不... 升鑫缘起资本平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？升鑫缘...

通报:QcOuE不能提款!不能... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

不靠谱:升鑫缘起资本被骗无法出... 升鑫缘起资本平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？升鑫缘...

无法提现:卓企文化传媒被骗无法... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

可信吗:lover爱心被骗无法... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

是不是真的:CWzMwN真相令... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

通告:MCMHtF被骗无法出金... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

可靠吗:ttapAm被骗该如何... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...

是不是真的:升鑫缘起资本被骗无... 升鑫缘起资本平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？升鑫缘...

被骗:君弘君融被骗真相曝光!受... 平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗？平台软件怎么样正规吗？平台软件[假冒]可...