“AI教父”辛顿与姚期智对话:训练AI比自己养孩子还难
创始人
2025-07-28 08:13:18

21世纪经济报道记者章驰 上海报道

7月26日,2025世界人工智能大会暨人工智能全球治理高级别会议在上海举办。诺贝尔奖、图灵奖得主杰弗里·辛顿(Geoffrey Hinton)和图灵奖得主、中国科学院院士姚期智在人工智能发展与安全全体会议上进行了一场巅峰对话。

辛顿表示,AI最为严重的尚未解决的问题是怎么训练AI使它成为善意的AI。

“训练AI比自己养孩子还难,自己养孩子的时候可以告诉子女应该怎么做,可以奖励或惩罚,或者向子女展示好的范例。我们应该做的就是去养育AI,用非常精细调整过的数据去养育AI,让AI学习好的行为。”辛顿指出。

姚期智表示,训练AI让它变得完全善意,现在确实不知道该怎么去达成,甚至可能根本做不到。善意是受到环境影响的,在不好的环境下,也就很难成为一个好人,应该考虑所有的可能性,不管是正面还是负面。

他比喻训练AI就像养孩子,“如果出生在富有的家庭,很好的社区,就会成为一个绅士。但是在极大压力下,AI也会变得很冷血,做出不好的事情。最理想的方法是,我们生活的世界里善意能够战胜邪恶,没有人需要在极大的压力下做事,那时候再去训练AI,就会得到想要的结果。如果我们本身没有能力去创造出这样的环境,我们无法确保不会创造出恶意的机器人。”

最后,姚期智提醒大家,当科技进一步发展,机器人会接管整个世界,这让我们知道人类本身也具有局限性。宇宙整体并不是善意的,人类要珍惜现在的发展,珍惜过去几百年沉淀下来的智慧。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

红外线报警器是什么?工厂和仓库... 做工厂安保、仓库防盗的朋友应该对红外线报警器不陌生,围墙上面每隔几十米装一对,中间拉着看不见的红外光...
《儒林外史》:在功名富贵里照见... 一、为什么重读这部古典讽刺小说中学课本里那个"范进中举"的片段,曾让我以为《儒林外史》只是一本好笑的...
《日出》:损不足以奉有余的世道... 一、为什么读这本书读曹禺,很多人止步于《雷雨》。那一声惊雷劈开封建家庭的黑门,戏剧张力足到近乎密不透...
《城南旧事》:在童眼看不懂的离... 一、为什么读这本书在读过许多以宏大叙事见长的现代经典之后,我反而想回到一本薄薄的小书。《城南旧事》只...
《百年孤独》:七代人的轮回里,... 一、为什么重读这本书读《百年孤独》之前,我把它当作一部难啃的"魔幻现实主义"经典:人名冗长、世代交错...
山寨iPad是什么?2010年... 山寨iPad这个词,说的是2010年前后深圳华强北冒出来的一大批仿制平板电脑。2010年1月乔布斯发...
《尘埃落定》:傻子视角下土司王... 一、为什么读这本书在当代文学里,写藏族题材的作品并不少见,但真正能从内部写出一个民族的心理结构与历史...
《寒夜》:胜利之夜死去的小职员... 一、为什么在胜利叙事之外重读《寒夜》很多人知道巴金是因为《家》,那是一部充满青春激情、喊出反封建声音...
《茶馆》:小茶馆里的大时代与众... 一、为什么重读《茶馆》在老舍浩繁的作品中,《茶馆》是个异数。它不像《骆驼祥子》那样追踪一个人的坠落,...
《三体》:在星空与人性之间叩问... 一、为什么在众多科幻里选择《三体》提起中国科幻,刘慈欣的《三体》几乎是一座绕不开的高山。它由重庆出版...
医疗设备网是干什么的?医院采购... 医疗设备网不是一个具体站点的名字,而是一类网站的统称——专门给医疗器械行业做信息聚合和供需对接的门户...
朝花夕拾:在温馨回忆与理性批判... 一、为什么重读这本回忆之书很多人对鲁迅的印象,停留在横眉冷对、投枪匕首式的小说与杂文里,仿佛他只余愤...
四世同堂:小羊圈胡同里的家国浮... 一、为什么在这个时代重读老舍自己说过,《四世同堂》大概是他写得最长、也可能是最好的一本书。它写于抗战...
《许三观卖血记》:在重复卖血中... 一、为什么在《活着》之后还要读这一本余华的长篇里,《活着》和《许三观卖血记》常被放在一起谈,但两本书...
网通不能用路由器是怎么回事?早... 早年用过网通ADSL的朋友,估计都踩过这么一个坑:家里新买了台无线路由器,兴冲冲接上,设置半天,结果...
《白鹿原》:两大家族三代人的恩... 一、为什么读这本书在当代长篇小说里,有一类作品读起来像小说,合上书却更像一部地方志。《白鹿原》正是这...
《呐喊》:在吃人的历史缝隙里看... 一、为什么重读《呐喊》很多人对鲁迅的印象停留在课本里那个严厉的斗士形象,把《呐喊》当成需要背诵的考点...
《家》:一座高公馆里的青春、礼... 一、为什么今天还要读《家》在巴金的所有作品里,《家》是最容易被误读的一本。很多人以为它只是一个反封建...
显卡危机是怎么来的?从一张显卡... 2021年那波显卡涨价的噩梦,搞过装机的朋友应该都还有印象。RTX 3060刚出来的时候卖2499,...
《子夜》:民族资本家吴荪甫的野... 一、为什么读这本书在现当代文学的长廊里,有些作品值得反复阅读,并不只是因为故事动人,而是因为它像一台...
《雷雨》:雷雨之夜崩塌的封建大... 一、为什么要读《雷雨》在中国现代文学里,如果有一部作品能让"话剧"二字在读者心中立刻有了分量,那多半...
《呼兰河传》:后花园里的童年与... 一、为什么读这本书读《呼兰河传》,很容易生出一种错觉:这是一本写给童年的书。可越往后读越会发现,萧红...
《边城》:茶峒渡船上的纯净人性... 一、为什么在这个时代重读《边城》在中国现代文学的版图上,沈从文是一位风格极为独特的作家,而《边城》几...
《骆驼祥子》:一个车夫的三起三... 一、为什么重读这本书在中国现代文学的版图上,老舍是一位无法绕开的作家,而《骆驼祥子》几乎是他最广为人...
线性传感器是什么?输出跟着被测... 线性传感器这类器件的定义听着有点绕,其实道理特别朴素:被测的量变多少,它的输出就按比例跟着变多少,两...