“AI教父”辛顿:多模态聊天机器人已具有“意识”,各国应分享让AI“善良”的技术
创始人
2025-07-26 23:12:51

“AI教父”辛顿表示,现在的多模态AI(人工智能)聊天机器人在某种意义上“是有意识的”,各国应尽快分享让AI“善良”的方法。

7月26日,2025世界人工智能大会(WAIC)正式开幕。在上午的开幕仪式上发表主题演讲后,图灵奖得主、诺奖得主、“AI教父”杰弗里·辛顿(Geoffrey Hinton)出席了下午的科学前沿全体论坛,与上海AI Lab主任周伯文展开一场尖峰对话。在现场,辛顿受到了全体观众的热烈欢迎。

可以说AI“有意识”,各国应分享让AI善良的方法

首先,周伯文询问了辛顿对于“多模态和语言模型能发展出自己的主观体验”的观点的解读。辛顿表示,这严格来说并不是一个科学问题,而是取决于对“主观体验”或“意识”的定义,实际上,许多人对这些概念的理解存在系统性错误。

为解释这一观点,辛顿先谈到了自己在1987年发表的论文《The Horizontal-Vertical Delusion》中的经典案例,他指出,许多人在描述水平与垂直的概念时虽然能够正确区分,但在实际判断中存在系统性混淆,忽视了“垂直”其实是一种非常特殊的方向。

将其类比到“模型是否有主观意识”的论点,辛顿指出:“我认为,许多人对于‘主观体验(subjective experience)’这类术语的理解完全错误。他们的理论很有说服力,但完全错误。这并非一个科学问题,而是建立在一个错误的关于心理状态的模型上,关于这些术语的运用。所以,我的观点是,当今的多模态聊天机器人已经具有意识。”

在辛顿之前,2024图灵奖得主、阿尔伯塔大学教授Richard Sutton也在会上发表了视频演讲,称AI发展已进入一个模型能够在真实环境中持续学习和积累经验的新阶段。

关于主观体验,辛顿进一步阐释道,当AI以机器人等形式进入世界,它们就有了自己的“体验”,可以从自己的经验中学习:“我认为它们会有经验,但经验不是事物。而且经验不像照片,经验是你和一个物体之间的关系。”

关于AI安全,辛顿再次强调,让AI“聪明”和“善良”是两个截然不同的问题,为了实现这两者,即使是同一个大模型也需要两种训练技术:“所以,国家应该分享让模型善良的技术,即使他们不愿意分享让模型聪明的技术。”

辛顿补充道,可能存在让AI善良的通用训练方法,但当AI变得越来越智能时,保证其善良的现有方法也可能失效,所以需要在这个方面进行大量研究。

建议年轻研究者“着眼于那些你认为所有人都做错了的领域”

在对话中,辛顿还谈到,自己获得诺贝尔物理学奖是一个“错误”:“他们很想颁奖给AI领域,但没有AI领域的诺贝尔奖,所以他们只能将物理学奖颁给AI(的科学家)。”

关于AI对其他领域科学发展的影响,辛顿认为,AI确实为科学做出了许多贡献,最显著的一个例子是医药领域的蛋白质折叠,相信AI今后也能为科学带来更多突破。

最后,被问到对年轻研究者们的建议,辛顿表示,在进行原创研究时,要着眼于那些“认为其他所有人都做错了”的领域:“通常在这种情况下,你会钻研自己认为正确的更好的方法,并最终理解为什么其他人会那样做、为什么你是错的。但是,不要放弃,不要认为自己的方法很愚蠢,不要在意导师的意见,坚持自己的方法直到理解错在哪里。而有时,当你坚持自己所相信的,结果是你没有错。这就是出现重大突破的地方。轻易放弃的人无法成功,你需要在其他人反对时坚持下去。”

辛顿补充道,有一种逻辑能够支撑这一观点:“你要么拥有好的直觉,要么拥有坏的直觉。如果你的直觉好,你当然应该坚持自己的直觉;如果你的直觉不好,那么做什么都无关紧要,所以你依然应该坚持自己的直觉。”

在当天上午的演讲中,辛顿发表了一篇围绕AI安全的主题演讲。辛顿表示,人类实际上很像大语言模型。他将人类目前的处境比作养小老虎当宠物,如果人类想要生存,必须找到办法训练AI,不要让AI消灭人类,让一个真正聪明的AI不想接管世界:“我们目前根本不知道如何做到这一点,长远来看,这是人类面临的最重要的问题。好消息是,这是一个所有国家都应该能够合作解决的问题。”

2024年10月8日,瑞典皇家科学院宣布,将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普菲尔德和加拿大多伦多大学的杰弗里·辛顿,以表彰他们“为推动利用人工神经网络进行机器学习作出的基础性发现和发明”。辛顿是卷积神经网络理论的领军人物,也被视为由ChatGPT掀起的本轮AI技术跃进背后的奠基性科学家,被誉为“AI教父”。

本次世界人工智能大会以“智能时代 同球共济”为主题,共规划了超100场专业论坛,汇聚1200余位全球专家,12位图灵奖、诺奖得主,大会将持续至7月28日。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

阿里巴巴-W(09988.HK... 数据口径说明 事实:行情、技术指标、估值与评级数据来自腾讯自选股接口,截止 2026-11-19 港...
宁德时代(300750)走势与... 宁德时代(300750)走势与财报综合研判数据口径说明 事实:行情截至2026年11月19日收盘,来...
丰田汽车ADR(TM)走势与财... 数据口径说明事实:本文行情为 westock 数据接口 2026-11-19 快照(美股),最近有效...
《红与黑》:野心与尊严之间,一... 一、为什么重读《红与黑》在中国读者熟悉的经典里,《红与黑》常被贴上"个人奋斗"或"爱情悲剧"的标签,...
苹果(AAPL)走势与财报综合... 数据口径说明事实:行情截止 2026-11-19 收盘(行情数据接口);财报为美股单季口径、截至 2...
重读《穆斯林的葬礼》:玉与月之... 一、为什么重读这本书在中国当代长篇小说里,《穆斯林的葬礼》是一部气质独特的作品。它由回族作家霍达写成...
腾讯控股(00700.HK)走... 腾讯控股(00700.HK)走势与财报综合研判数据口径说明 事实:行情截止 2026 年 11 月 ...
指甲刮黑板的声音为什么刺耳:频... 很多人一听到指甲刮黑板的声音就浑身不自在,甚至光是想想都起鸡皮疙瘩。这不是矫情:刺耳感是频率、耳道和...
谷歌操作系统是什么?手机里的安... 提起谷歌,很多人第一反应就是那个搜索框。其实这家公司在操作系统上下的功夫比想象中大得多:你手机里的安...
手机镜头是圆的照片却是方的:成... 手机的摄像头明明是圆的,拍出的照片却规规矩矩是方形。有人以为是后期裁切,有人怀疑浪费边角。其实两处形...
贵州茅台(600519)走势与... 数据口径说明事实:行情来自腾讯自选股接口,截止 2026-11-19 收盘;财报为 A 股人民币合并...
诺华制药(NVS)走势与财报综... 诺华制药(NVS)走势与财报综合研判数据口径说明|事实:行情与技术指标截至 2026-11-19 美...
《简·爱》:在等级与偏见中守住... 一、为什么在今天还要读《简·爱》很多经典是被"知道"而非被"读过"的,《简·爱》大概是最典型的一种。...
强生(JNJ)走势与财报综合研... 数据口径说明事实:行情为 westock 数据接口 2026-11-19 快照,但当日 K 线与 1...
《人生》:城乡岔路口上,一个青... 一、为什么在四十多年后还要读《人生》路遥一生写农民与土地,写得最疼的一本,我以为是《人生》。这部发表...
联想集团(00992.HK)走... 数据口径说明事实:本文为联想集团(hk00992,中国香港注册)研究性分析。行情与技术指标来自腾讯自...
塑料杯装热水后杯壁上的小水珠其... 往塑料杯里倒热水,不少人发现水面以下的杯壁内侧挂着一层细密小水珠,像杯子在"冒汗"。有人担心是塑料析...
《倾城之恋》:倾城之下的爱情博... 一、为什么在七十多年后还要读《倾城之恋》在张爱玲浩繁的作品里,《倾城之恋》是最常被提起、也最容易被误...
重读《红高粱家族》:在血色高粱... 一、为什么在今天重读这本书莫言的名字早已和诺贝尔文学奖连在一起,但很多人对他的印象停留在"魔幻现实主...
红外线报警器是什么?工厂和仓库... 做工厂安保、仓库防盗的朋友应该对红外线报警器不陌生,围墙上面每隔几十米装一对,中间拉着看不见的红外光...
《儒林外史》:在功名富贵里照见... 一、为什么重读这部古典讽刺小说中学课本里那个"范进中举"的片段,曾让我以为《儒林外史》只是一本好笑的...
《日出》:损不足以奉有余的世道... 一、为什么读这本书读曹禺,很多人止步于《雷雨》。那一声惊雷劈开封建家庭的黑门,戏剧张力足到近乎密不透...
《城南旧事》:在童眼看不懂的离... 一、为什么读这本书在读过许多以宏大叙事见长的现代经典之后,我反而想回到一本薄薄的小书。《城南旧事》只...
《百年孤独》:七代人的轮回里,... 一、为什么重读这本书读《百年孤独》之前,我把它当作一部难啃的"魔幻现实主义"经典:人名冗长、世代交错...
山寨iPad是什么?2010年... 山寨iPad这个词,说的是2010年前后深圳华强北冒出来的一大批仿制平板电脑。2010年1月乔布斯发...