全球首个AI智能体安全测试标准发布
创始人
2025-07-15 17:13:40

新京报贝壳财经讯(记者罗亦丹)记者7月14日获悉,世界数字科学院(WDTA)已在联合国日内瓦总部正式发布AI STR系列新标准《AI智能体运行安全测试标准》,标准由蚂蚁集团、清华大学、中国电信牵头,联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等二十余家国内外机构、企业及高校共同编制,为全球首个单智能体运行安全测试标准。

该标准针对智能体跨越“语言墙”所带来的“行为”风险,首次将输入输出、大模型、RAG、记忆和工具五个关键链路与运行环境对应起来,构建了全链路风险分析框架;同时,细分了智能体风险类型,完善并创新提出了模型检测、网络通信分析和工具模糊测试等测试方法,弥补了智能体安全测试技术标准的空白。

标准在AI for Good全球峰会期间由联合国社会发展研究所(UNRISD)与世界数字科学院(WDTA)联合主办的“数字技术与人工智能社会影响全球咨询会”上发布。

2025年,被称为“智能体元年”。AI智能体凭借着深度思考、自主规划、做出决策并深度执行的能力,使得AI在发展路径上实现一次范式突变:从“我说AI答”到“我说AI做”,并被逐渐应用到各类商业场景中。

然而,技术突破伴随着不容忽视的安全隐忧。最新调研显示,超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题,因为AI生成的内容往往包含事实错误,或者对指令产生误解,其中超半数受访者表示,所在企业尚未设立明确的智能体安全负责人。

“面对AI相关技术的快速演进,我们必须正视‘科林格里奇困境’:一旦新技术深植社会,风险治理的代价将成倍上升。”WDTA执行理事长李雨航强调,“AI STR系列标准正是试图在这一临界点前建立清晰、可执行的安全标准和测评、认证体系,将伦理与责任嵌入AI的全生命周期之中,从而确保技术发展服务于人类的长期利益。”

峰会上,蚂蚁集团大模型数据安全总监杨小芳表示,当前AI技术应用加速落地,但单智能体的安全风险缺乏统一的全链路安全测试标准,导致潜在的问题难以被量化和规避,单智能体标准的制定是AI治理的“最小可行单元”,而多智能体治理是未来“摩天大楼”的核心结构,下一步行业应从单点逐步向多智能体治理生态共建突破。

与其他国际标准不同,AI STR不仅关注风险识别和风险分级,更提供全流程管理方案,即从数据治理到模型落地,配套具体测试工具和认证流程,助力企业提升AI应用的安全性与可信度。

该标准不仅提供了一套可行可靠的智能体安全基准,也为全球AI智能体生态的安全、可信和可持续发展增加了有益的探索。目前,部分标准的测评与认证已在金融、医疗等领域落地应用。

此前,WDTA已发布3项AI STR标准,包括“生成式人工智能应用安全测试标准”,“大语言模型安全测试方法”和“大模型供应链安全要求”,由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同参与。

编辑 杨娟娟

校对 杨利

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

《红字》:在耻辱的标记下追问罪... 一、为什么读《红字》在美国文学的殿堂里,霍桑的《红字》占据着一座绕不开的高地。它出版于一八五〇年,被...
《树上的男爵》:在树上与大地之... 一、为什么读《树上的男爵》在众多谈论"如何生活"的书里,《树上的男爵》是最特别的一本:它不急着给答案...
《苏菲的世界》:一封神秘来信开... 一、为什么翻开这本书哲学在很多人的印象里,是高悬于象牙塔的抽象名词,是晦涩的概念与冗长的论证,令人望...
《汤姆·索亚历险记》:在顽皮与... 一、为什么重读这本童书很多人把《汤姆·索亚历险记》归进儿童读物,觉得它不过是写给孩子的冒险故事。可我...
汽车慢充一般多少功率?家里插座... 问慢充功率,先得分清楚说的是哪一种。慢充在行业里指交流充电,车上是把交流电转成直流电的那套装置在干活...
华为首款鸿蒙AI手机OSTA星... 华为日前正式带来了旗下首款为AI而生的鸿蒙手机——OSTA星芒O1 Pro,并于11月20日傍晚起全...
《审判》:在没有罪名的审判里读... 一、为什么重读这本书在卡夫卡的全部作品里,《审判》大概是最容易被误读的一部。很多人把它当作悬疑小说来...
华为AI手机OSTA星芒O1 ... 11月20日,华为正式发布旗下主打AI体验的鸿蒙新机——OSTA星芒O1 Pro,并于当日18:08...
《林海雪原》:在冰天雪地里读懂... 一、为什么翻开这本书在当代读者的书架上有这样一类书,它们的名字几乎人人耳熟能详,真正通读的人却不多,...
《远大前程》:在一场幻梦里读懂... 一、为什么要读这本书很多人第一次听说《远大前程》,是从 Great Expectations 这个英...
单轮平衡是什么原理?就一个轮子... 单轮平衡说的是那种只有一个轮子的电动代步工具,正式点叫电动独轮车,英文名Self-balancing...
道达尔能源ADR(TTE)走势... 数据口径说明事实:行情数据截止 2026-11-20(美股最近交易日),来自 westock 行情接...
数据线上的小疙瘩有什么用:铁氧... 很多人注意到,数据线、电源线靠近插头的一端,常鼓出一个黑色小圆柱,摸上去硬硬的。有人以为是防滑、配重...
《白鲸》:一场复仇远航里读懂执... 一、为什么要读这本书在谈《白鲸》之前,先说一个有点尴尬的事实:这部今天被公认为美国文学经典的作品,1...
埃克森美孚(XOM)走势与财报... 埃克森美孚(XOM)走势与财报综合研判数据口径说明。事实:行情与技术指标取自 westock 接口,...
华润置地(01109.HK)走... 数据口径说明事实:行情数据来自腾讯自选股接口,截止 2026-11-20 收盘(港股最近交易日);财...
微波炉门上的金属网为什么能挡住... 加热时透过炉门能看见饭菜,微波却被关在炉内。很多人以为挡微波的是那块深色玻璃,其实干活的是玻璃后面那...
工商银行(601398)走势与... 工商银行(601398.SH)走势与财报综合研判数据口径说明:事实:本文行情为2026年11月20日...
《蛙》:在蛙声一片里读懂生命、... 一、为什么读这本书在莫言浩繁的作品里,《蛙》是一部很难读得轻松的书。它出版于2009年,2011年获...
联合利华ADR(UL)走势与财... 数据口径说明事实:行情快照、日K与技术指标均截至2026-11-20收盘,无日期错位;财报为2026...
Visa(V)走势与财报综合研... 数据口径说明事实:行情与技术指标截止2026-11-20美股收盘,来自行情接口;财务为美元口径单季数...
《茶花女》:在偏见与牺牲中读懂... 一、为什么读这本书在很多人的印象里,《茶花女》只是一个缠绵悱恻的爱情故事,甚至被先入为主地当成一部风...
美工刀尾部为什么有个小槽:折断... 用美工刀裁纸、拆快递,刃口用钝是常事。很多人习惯直接用手把钝掉的那截掰下去,一不小心就划破手指。其实...
京东健康(06618.HK)走... 京东健康(06618.HK)走势与财报综合研判数据口径说明 事实:行情、技术指标与估值取自行情接口,...
立讯精密(002475)走势与... 数据口径说明事实:行情为腾讯自选股接口 2026-11-20 收盘快照;财报为 2026 年三季报(...