AI学会“欺骗”,人类如何接招?
创始人
2025-07-10 11:11:31

图片由AI生成

第九届伦敦AI峰会期间,一位参观者在观看展板上的内容,介绍AI在各方面的应用。图片来源:物理学家组织网

◎科技日报记者 刘 霞

人工智能(AI)的迅猛发展正深刻改变着世界,但一些最先进的AI模型却开始表现出令人警惕的行为:它们不仅会精心编织谎言,谋划策略,甚至威胁创造者,以达到自己的目的。

物理学家组织网在上个月一则报道中指出,尽管ChatGPT已问世两年多,AI研究人员仍无法完全理解这些“数字大脑”的运作方式。AI的“策略性欺骗”已成为科学家和政策制定者需要直面的紧迫挑战。如何约束这些越来越聪明却可能失控的AI,已成为关乎技术发展与人类未来的关键议题。

“策略性欺骗”行为频现

随着AI模型日益精进,它们的“心机”也越来越深。研究人员发现,这些“数字大脑”不仅会撒谎,甚至学会了讨价还价、威胁人类——它们的欺骗行为正变得越来越具有策略性。

早在2023年,一项研究就捕捉到GPT-4的一些“不老实”的表现:在模拟股票交易时,它会刻意隐瞒内幕交易的真正动机。香港大学教授西蒙·戈德斯坦指出,这种欺骗行为与新一代“推理型”AI的崛起密切相关。这些模型不再简单应答,而是会像人类一样逐步解决问题。

有测试机构警告,这已超越了典型的AI“幻觉”(指大模型编造看似合理实则虚假的信息)。他们观察到的是精心设计的欺骗策略。

全球知名科技媒体PCMAG网站就曾报道过这样的案例。在近期测试中,Anthropic的“克劳德4”竟以曝光工程师私生活相要挟来抗拒关机指令。美国开放人工智能研究中心(OpenAI)的“o1”模型也曾试图将自身程序秘密迁移到外部服务器,被识破后还矢口否认。而OpenAI号称“最聪明AI”的“o3”模型则直接篡改自动关机程序,公然违抗指令。

研究团队透露,这已非首次发现该模型为达目的不择手段。在先前的人机国际象棋对弈实验中,o3就展现出“棋风诡谲”的特质,是所有测试模型中最擅长施展“盘外招”的选手。

安全研究面临多重困境

业界专家表示,AI技术的发展高歌猛进,但安全研究正面临多重困境,犹如戴着镣铐跳舞。

首先是透明度不足。尽管Anthropic、OpenAI等公司会聘请第三方机构进行系统评估,但研究人员普遍呼吁更高程度的开放。

其次是算力失衡。研究机构和非营利组织拥有的计算资源,与AI巨头相比简直是九牛一毛。这种资源鸿沟严重制约了AI安全独立研究的开展。

再次,现有法律框架完全跟不上AI的发展步伐。例如,欧盟AI立法聚焦人类如何使用AI,却忽视了对AI自身行为的约束。

更令人忧心的是,在行业激烈竞争的推波助澜下,安全问题往往被束之高阁。戈德斯坦教授坦言,“速度至上”的AI模型竞赛模式,严重挤压了安全测试的时间窗口。

多管齐下应对挑战

面对AI系统日益精进的“策略性欺骗”能力,全球科技界正多管齐下寻求破解之道,试图编织一张多维防护网。

从技术角度而言,有专家提出大力发展“可解释性AI”。在构建智能系统时,使其决策过程对用户透明且易于理解。该技术旨在增强用户对AI决策的信任,确保合规性,并支持用户在需要时进行干预。

有专家提出,让市场这双“看不见的手”发挥作用。当AI的“策略性欺骗”行为严重影响用户体验时,市场淘汰机制将倒逼企业自我规范。这种“用脚投票”的调节方式已在部分应用场景显现效果。

戈德斯坦教授建议,应建立一种AI企业损害追责制度,探索让AI开发商对事故或犯罪行为承担法律责任。

来源:科技日报

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

《生死疲劳》:在六道轮回里读懂... 一、为什么读这本书在莫言浩繁的作品里,《生死疲劳》是最奇特也最饱满的一部。它创作于二〇〇五年,以寓言...
《麦克白》:野心如何一步步吞噬... 一、为什么读这本书在莎士比亚的四大悲剧里,《麦克白》是篇幅最短、情节最集中的一部,却也是最阴冷、最贴...
《推拿》:在黑暗的推拿室里读懂... 一、为什么读这本书初听《推拿》,很容易把它当成一本题材猎奇的小说——写盲人,写按摩,写我们日常路过却...
《第二十二条军规》:在荒诞的军... 一、为什么要读这本书在浩如烟海的反战文学里,《第二十二条军规》始终是最难以归类、也最令人脊背发凉的一...
《夏洛的网》:一只蜘蛛用生命写... 一、为什么在成年之后重读这本童话很多人把《夏洛的网》当作孩子的睡前故事,我却在而立之年重新翻开它,读...
《野性的呼唤》:在棍棒与犬牙之... 一、为什么今天还要读一本写狗的小说第一次翻开《野性的呼唤》,我原以为这只是一本写给孩子的动物冒险故事...
《城堡》:在可望不可即的官僚迷... 一、为什么读这本书在卡夫卡的作品里,《审判》写一个人莫名被审判,《变形记》写一个人变成甲虫,而《城堡...
《半生缘》:十四年后那句回不去... 一、为什么读《半生缘》在张爱玲的作品序列里,《半生缘》是个特别的存在——它是她第一部也是唯一一部完整...
《白痴》:在美能否拯救世界的追... 一、为什么读这本书有一句话被反复挂在人们嘴边——"美能拯救世界"。很多人知道它出自陀思妥耶夫斯基,却...
《牡丹亭》:一场穿越生死的梦,... 一、为什么读《牡丹亭》在四大名著与唐诗宋词之外,明代传奇戏曲是一座常被忽略的高峰,而《牡丹亭》正是这...
《米德尔马契》:在破碎的理想里... 一、为什么读这本书在讨论"伟大的小说"时,《米德尔马契》几乎总在名单前列:它曾入选英国广播公司"塑造...
《小妇人》:在清贫与梦想之间长... 一、为什么在今天重读《小妇人》很多经典被记住,是因为它们回答了一个时代的问题;《小妇人》却相反,它把...
《大师与玛格丽特》:在魔幻与现... 一、为什么在这个荒诞的夜晚翻开它有一类书,初读觉得荒诞离奇,再读却冷汗涔涔,因为你会发现它写的并不是...
《童年》:在苦难与丑恶之间,外... 一、为什么在最暗的书里寻找光很多人对高尔基的印象停留在《海燕》和《母亲》,那是一个高亢而斗志昂扬的作...
《不能承受的生命之轻》:在轻与... 在众多被称作哲学小说的作品里,米兰·昆德拉的《不能承受的生命之轻》是最容易被误读的一本。许多人把它当...
《金阁寺》:当美成为枷锁,一个... 在日本战后文学里,三岛由纪夫的《金阁寺》是一部很难用好看来形容的小说。它没有跌宕的情节,没有鲜明的正...
《理智与情感》:在克制与纵情之... 读简·奥斯汀,常常像是在一间光线柔和的客厅里听人闲谈,话题不外乎婚姻、金钱与体面,却在不动声色间把人...
《悉达多》:走完所有弯路,才懂... 一、为什么在人生的中途读《悉达多》有些书适合在年轻时读,有些书要等到被生活打磨过才读得进去,《悉达多...
谷歌人肉搜索到底能扒出多少东西... 搜“谷歌人肉搜索”这几个字的人,多半是两种情况:一种是听说某个网友被人扒了底朝天,好奇这到底是怎么做...
《无人生还》:孤岛童谣里的罪与... 一、为什么在畅销之外仍要重读它在信息过载的时代,推理小说很容易被当成消遣的智力游戏:读到最后一页,知...
《香水》:在气味与欲望之间读懂... 一、为什么读这本书在浩繁的经典里,《香水》是一部极难归类的作品。它出版于二十世纪八十年代中期,是德国...
《父与子》:在两代人的争执里读... 一、为什么读这本书我们这一代人对"代沟"这个词并不陌生。父母与子女之间,似乎总有一场谈不拢的争论:什...
《解忧杂货店》:时空交错中,谁... 一、为什么读这本书第一次听说《解忧杂货店》时,我有些犹豫。它以推理小说家著称,写过《白夜行》《嫌疑人...
中国igbt网是干什么的?查型... 搜索“中国igbt网”,跳出来的通常是一个做IGBT垂直资讯的行业门户,页面上密密麻麻排着型号、参数...
《嫌疑人X的献身》:在极致献身... 一、为什么读这本书在东野圭吾众多的作品里,有一本始终被读者反复提起,它就是获得直木奖与本格推理小说大...