AI智能体敲门时,如何安全应答
创始人
2025-12-10 21:14:42

对AI智能体失控的恐惧至今仍阻碍了这些数字化工作助手的大规模部署,Okta公司Auth0业务总裁Shiv Ramji告诉The Register。

"这是安全和隐私方面的担忧,比如这些系统准备好了吗?我们是否已经建立了正确的措施和可见性?"他说。"正是这种洞察促使我们真正加快了产品开发进度,更快地推向市场,因为我们意识到客户需要我们的帮助。"

随着AI智能体开始进入工作环境,为这些数字自动化工具建立护栏的复杂性阻碍了它们的发展,Forrester分析师Andras Cser也同意这一观点。

"瓶颈主要是授权管理和部署的可扩展性,"他说。

这让Okta、Ping Identity和Microsoft Entra ID等身份访问管理供应商处于建立安全、可重复架构的主导地位,Cser和其他Forrester分析师在11月发布的研究报告中写道。

"企业和面向客户的IT环境中的AI智能体将带来前所未有的生产力收益,同时也会带来身份和访问管理方面的麻烦,"研究人员写道。"由于AI智能体的自主性和非确定性行为,它们代表了一种既非完全机器也非人类的新型身份。AI智能体提出了新的治理、认证和授权挑战——因此IAM架构和实施它们的IAM解决方案必须将AI智能体作为一种新的独特身份类型和保护面来处理。"

在报告中,Forrester建议组织为AI机器人分配尽可能少的代理权,包装在持续风险管理中,同时通过符合现有IAM框架的可重复架构来保护机器人背后的意图。他们还建议部署一个能够服务于所有智能体类型的单一IAM架构,并使用模型上下文协议作为构建块。

Ramji表示,Okta的Auth0 for Agents满足了这些要求,为组织提供了智能体代表用户所做工作的完整可审计性,这也可以与安全平台相关联。

这很关键,因为让首席信息安全官夜不能寐的最新恐惧是保护内部系统免受一群过度热情、讨好用户的机器人的侵害。

"一切都被记录下来,即使是代表你执行任务的智能体。我们记录智能体采取的所有活动和行动。然后这些事件被输入到客户使用的我们的系统中,"他说。"我们还将这些事件流式传输到客户可能使用的其他安全系统中。所以有时会有一个工具来观察所有这些。我们将这些事件传输到那里。"

Okta是Gartner身份访问管理领域的领导者,该公司上个月发布了其工具——Auth0 for AI Agents,此前Ramji表示已经与开发者和用户在幕后合作了一年。虽然公司看到智能体的用例在增长,但随着AI智能体访问内部工具和资源,包括数据库、共享文件夹中的文件以及内部知识管理系统,有时会重复访问并持续到完成任务为止,恐惧也在增长。

"这些AI应用程序和AI智能体,特别是生成式AI,它们使用非确定性模式。我的意思是,你可以要求智能体做你会做的同样的事情,比如'嘿,帮我订一张机票,或者找一家酒店,'"他说。"或者它可以为你做一些相当复杂的任务。"

虽然让人类参与其中很关键,但没有智能体应该拥有比它为之工作的人更大的权限,他说。随着智能体代表用户在不同系统中工作,Auth0构建了所谓的Token库来管理和跟踪智能体执行任务的过程。

"它的作用是让你能够安全地将智能体连接到不同的应用程序,这样开发人员就不必管理那个基础设施,"他说。"我们来做这件事,而且我们安全可靠地做这件事,这样你就可以构建这些智能体可以代表你做事的体验。我们的思考方式是,我们正在让客户从第一天起就能够安全地构建智能体。"

Forrester表示,随着AI智能体使用包括密码、API密钥和PKI证书在内的凭据对后端系统进行认证,像"1Kosmos、Microsoft、Okta和Ping Identity这样的身份访问管理供应商将在智能体认证和智能体提供者注册表维护中发挥越来越重要的作用。"

Ramji表示,访问管理产品正在为AI智能体在工作场所的重要一年奠定基础——但经历了几个技术周期后,他不愿意说2026年是"AI智能体之年"。

"我认为你会看到更多的用例投入生产,部分原因是我认为现在有安全产品可以用来设置护栏和可见性,而且我认为消费者的采用已经到位,"他说。"人们会说,'好吧,我要与智能体互动。那么智能体能为我做什么?'"

Q&A

Q1:什么是Auth0 for AI Agents?它能做什么?

A:Auth0 for AI Agents是Okta公司推出的AI智能体身份管理工具,它为组织提供智能体代表用户所做工作的完整可审计性,记录智能体的所有活动和行动,并可以与安全平台相关联,让企业能够安全地构建和管理AI智能体。

Q2:为什么AI智能体的部署面临安全挑战?

A:因为AI智能体具有自主性和非确定性行为,它们代表了一种既非完全机器也非人类的新型身份。当智能体访问内部工具和资源时,如数据库、共享文件等,会带来新的治理、认证和授权挑战,企业担心智能体失控或权限过大。

Q3:如何确保AI智能体的安全性?

A:Forrester建议为AI智能体分配尽可能少的代理权,包装在持续风险管理中,确保智能体权限不超过它为之工作的人。同时使用Token库来管理和跟踪智能体执行任务的过程,并建立可重复的安全架构。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

指南针擒龙版用了几个月怎么退款... 指南针擒龙版用了几个月怎么退款?老师承诺稳赚全是骗局,交29800费用亏损,全额可追回! 投资有风险...
股掌柜2988元是真的吗投顾服...   股掌柜证券财富赢家亏损内幕大曝光!投顾服务不靠谱,背后真相曝光已退费。荐股收费常见陷阱公开。股掌...
杭州高能智投靠谱吗?怂恿购买荐... 其实用一句话形容高能智投:空手套白狼,这个形容再合适过了,高能智投需要支出的就是之前给你宣传的股票,...
和众汇富1980课程买完赚得到... 和众汇富1980课程买完赚得到钱吗?刚开始接触众赢财富通的时候,我其实特别相信学习的力量。因为在我的...
海能投顾交29800元能退款吗... 海能投顾交29800元能退款吗?退费恶意刁难不用怕,股民真实维权经历曝光!投资有风险,投资需谨慎!针...
四川大决.策退费好退吗? 五花...   投资有风险,投资需谨慎!针对网上素未谋面的网友、网上老师推荐网上投资理财、炒期货的、做外汇的、炒...
和众汇富1980课程买完赚得到... 和众汇富1980课程买完赚得到钱吗?刚开始接触众赢财富通的时候,我其实特别有学习热情。每当看到新的课...
海能投资顾问有限公司怎么样投顾...   海能证券投资顾问怎么样?虚假宣传欺诈消费者荐高位股!股民交费炒股真的很后悔!服务费可以退!  投...
和众汇富1980课程买完赚得到... 和众汇富1980课程买完赚得到钱吗?刚开始接触众赢财富通的时候,我其实特别相信认知的力量。每当接触到...
亚商投资怎么样?能退费流程详解... 如果你知道哪只股票会涨,你会把这只股票分享给别人吗?那些老师要是炒股真的那么精准,早就自己做股票了,...
众赢财富通牛股实战班靠谱吗?业... 众赢财富通牛股实战班靠谱吗?业务员违规承诺收益骗交费,想退费止损抓紧时机! 投资有风险,投资需谨慎!...
和众汇富1980课程买完赚得到... 和众汇富1980课程买完赚得到钱吗?刚开始接触众赢财富通的时候,我其实特别重视思路。因为很多时候,一...
海能投顾收费29800可信吗能...   海能证券投资顾问怎么样?虚假宣传欺诈消费者荐高位股!股民交费炒股真的很后悔!服务费可以退!  投...
顶点财经怎么退费?推荐劣质股票... 顶点财经怎么退费?推荐劣质股票不满意,投顾服务费均可追回!投资有风险,投资需谨慎!针对网上素未谋面的...
天相.财富半年58000, 花...   投资有风险,投资需谨慎!针对网上素未谋面的网友、网上老师推荐网上投资理财、炒期货的、做外汇的、炒...
在杭州高能智投交的服务费可以退... 其实用一句话形容高能智投:空手套白狼,这个形容再合适过了,高能智投需要支出的就是之前给你宣传的股票,...
海能投顾怎么样?投顾服务费退费...   海能证券投资顾问怎么样?虚假宣传欺诈消费者荐高位股!股民交费炒股真的很后悔!服务费可以退!  投...
和众汇富1980课程买完赚得到... 和众汇富1980课程买完赚得到钱吗?刚开始接触众赢财富通的时候,我其实特别希望找到答案。遇到问题的时...
金.证投顾股民买了炒股会员服务... 金.证投顾股民买了炒股会员服务,投顾服务费被骗真相曝光!全是套路!已退费! 证券投资咨询行业的本质在...
中富金石服务费能退吗?交598... 中富金石服务费能退吗?交59800全年投顾费全程亏损,未到期均可退费! 投资有风险,投资需谨慎!针对...
和众汇富1980课程买完赚得到... 和众汇富1980课程买完赚得到钱吗?刚开始接触众赢财富通的时候,我其实也思考过类似的问题。因为很多人...
上海汇正财经收费如何追回?交费... 汇正财经确实是一家正规的财经公司。但这并不能说明他们公司的宣传就符合实际,从案例中不难看出,业务员完...
和众汇富1980卖的只有几节课... 和众汇富1980卖的只有几节课?刚开始接触众赢财富通的时候,我其实特别喜欢比较。看到优秀的人会思考差...
顶点财经荐股可靠吗投顾费退还有...   在杭州顶点财经交的服务费能退吗?投顾服务费误导真相曝光!被误导交费后亏损皆可退费!  杭州顶点财...
广州万隆证券怎么退费?记住三个... 广州万隆证券怎么退费?记住三个核心要点,股民退费省时又省力!投资有风险,投资需谨慎!针对网上素未谋面...