近半公司不了解员工在用AI:AI办公普及加速,企业安全监管仍然滞后
创始人
2025-05-26 12:49:04

21世纪经济报道记者肖潇 北京报道

从AI聊天机器人,到今年迅速蹿红的AI智能体,人工智能正被视为提升生产力的关键引擎,快速渗透到各类办公场景中。但企业真的准备好了吗?思科最新发布的2025年《全球网络安全就绪指数》给出了一份略显冷静的答卷:可能还没有。

在企业安全中,AI的“双刃剑”属性表现得尤为明显。一方面,越来越多将AI应用在安全防护策略里:报告指出,大多数国内企业在安全运营中已初步使用AI,90%以上的受访者把生成式AI用到了威胁情报收集、威胁检测的环节中;

另一方面,企业也面临更复杂的AI安全风险。报告数据显示,全球86%的企业在过去一年里经历了至少一次AI相关的安全事件,放在中国大陆市场环境中,这一数字是92%。

(中国大陆市场的网络安全就绪指数,今年仍然只有5%的企业属于“成熟”|图《全球网络安全就绪指数2025》)

《全球网络安全就绪指数》特别提及了“员工使用AI”带来的不确定性和监管难题。几乎一半的国内员工正在使用公司批准的AI工具,但同时,也有约20%的员工能够不受限制地访问ChatGPT等公网AI工具——而有46%的企业对这一使用情况毫不知情。

工作中使用AI,可能无意中将企业的商业机密或用户数据暴露给外部AI模型。更严重的情况是,生成内容中可能被嵌入恶意指令。这类员工绕过公司合规体系、自行下载或使用AI工具的行为,被称为“影子AI(Shadow AI)”。

《全球网络安全就绪指数》指出,由于企业安全系统难以覆盖所有AI使用路径,大多数安全团队甚至无法追踪员工在生成式AI工具中的输入内容,更无法及时发现是否有敏感信息泄露、数据滥用或异常行为,成了企业AI管理中的一大盲区。整体来看,只有48%的国内受访者表示能够充分理解AI带来的安全威胁。不足一半的企业认为自家安全团队真正了解攻击者是如何利用AI发动攻击的。

在跟21记者交流的过程中,报告发布方思科公司的安全事业部总经理卜宪录介绍,该报告是由第三方进行的双盲调查,样本来自全球30个市场、8000多名私营企业的安全负责人,已经进行到第三年。

卜宪录特别指出,近两年来网络安全最大的变化之一,就是生成式AI的迅猛普及。“一方面,员工对AI的认知和理解还不够;另一方面,企业层面还处于‘AI赋能’的初级阶段,但与之配套的安全保障能力还没有跟上。”

中国市场在AI合规层面并不缺乏法规参照,比如《数据安全法》《个人信息保护法》以及2023年《生成式人工智能服务暂行管理办法》等都已出台。据卜宪录的了解,国内企业普遍最关注两个问题:第一就是AI的合规性,第二是业务连续性——尤其担心网络攻击、业务中断带来的影响。但挑战在于,AI系统往往分散部署在多个业务部门之间,涉及的数据链条复杂,使得统一管理难度加大。

针对企业如何系统性加强AI安全防护,卜宪录给出了一个“三步走”的路线图:第一步是“发现”,明确公司内部网络中,存在哪些AI应用?包括员工是否使用了未经授权的AI工具;第二步是“检测”:识别这些AI系统可能存在的漏洞、风险点;第三步是“防护”:构建系统的安全机制,重点应对AI带来的新型攻击手法,比如提示词攻击、幻觉内容生成、敏感数据在对话中被无意泄露等。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

恍惚:oFfhmg被骗亏损大曝... oFfhmg平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?oFf...
怅惘!国融证券兜兜满荐股真的赚... 怅惘!国融证券兜兜满荐股真的赚钱吗?层层升级诱骗交费,频频亏损真相曝光,98000已退费!投资有风险...
恍惚:韩文韩语图标软件被骗亏损... 韩文韩语图标软件平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?韩...
愤怒!杭州顶点财经投顾服务费能... 愤怒!杭州顶点财经投顾服务费能退吗?答案是:能退的,高利益荐股圈套揭晓!98000已挽回!投资有风险...
不可信:一个橘子图标被骗不可信... 一个橘子图标平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?一个橘...
可怕:韩文韩语图标软件不正规!... 韩文韩语图标软件平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?韩...
愤怒!万隆证券投顾服务费能退吗... 愤怒!万隆证券投顾服务费能退吗?答案是:能退的,高利益荐股圈套揭晓!98000已挽回!投资有风险,投...
被骗!大决策证券是真的吗投顾服... 被骗!大决策证券是真的吗投顾服务费误导真相曝光!被误导交费后亏损皆可退费!投资有风险,投资需谨慎!针...
被骗!大决策证券是真的吗投顾服... 被骗!大决策证券是真的吗投顾服务费误导真相曝光!被误导交费后亏损皆可退费!投资有风险,投资需谨慎!针...
顶点财经服务费骗局曝光!被误导... 顶点财经服务费骗局曝光!被误导交费导致亏损!可以退费!投资有风险,投资需谨慎!针对网上素未谋面的网友...
港澳资讯荐股怎么样?不靠谱,能... 港澳资讯荐股怎么样?不靠谱,能退费,合法合规退费方法正式公布!退款流程公布!  港澳资讯不可靠,港澳...
股掌柜荐股怎么样亏损惨重可以追... 股掌柜荐股怎么样亏损惨重可以追责吗?收费实为陷阱!真相震惊人民!已退费!  股掌柜证券财富赢家亏损内...
港澳资讯VIP投顾服务垃圾的,... 港澳资讯VIP投顾服务垃圾的,黑幕曝光!为骗服务费不择手段!已追回!投资有风险,投资需谨慎!针对网上...
港澳资讯VIP投顾服务垃圾的,... 港澳资讯VIP投顾服务垃圾的,黑幕曝光!为骗服务费不择手段!已追回!投资有风险,投资需谨慎!针对网上...
震惊:ZXpRHR花间隐虎勿轻... ZXpRHR平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?ZXp...
 高能智投怎么样投顾服务费套路...   高能智投怎么样投顾服务费套路,股民被骗后,2026退款攻略奉上  高能智投服务费是可以退的。如果...
高能智投服务费19800能退吗... 高能智投服务费19800能退吗?误导性宣传欺骗股友,被骗交费已成功退款投资有风险,投资需谨慎!针对网...
高能智投服务费19800能退吗... 高能智投服务费19800能退吗?误导性宣传欺骗股友,被骗交费已成功退款投资有风险,投资需谨慎!针对网...
怅惘!杭州高能云科技证券交费后... 怅惘!杭州高能云科技证券交费后投顾服务缩水,合理退费途径,详细介绍,流程全解析投资有风险,投资需谨慎...
股掌柜荐股怎么样亏损惨重可以追... 股掌柜荐股怎么样亏损惨重可以追责吗?收费实为陷阱!真相震惊人民!已退费!  股掌柜证券财富赢家亏损内...
目测:假冒亿投传媒騙局在此曝光... 假冒亿投传媒平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?假冒亿...
不靠谱:一朵花图标软件各种行骗... 一朵花图标软件平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?一朵...
愤怒!杭州顶点财经荐股行业黑幕... 愤怒!杭州顶点财经荐股行业黑幕曝光!服务费能挽回!投资有风险,投资需谨慎!针对网上素未谋面的网友、网...
震惊:oFfhmg警惕不要入局... oFfhmg平台软件怎么样?平台软件怎么样靠谱吗?平台软件怎么样可信吗?平台软件怎么样正规吗?oFf...
愤怒!福建中讯证券资选股可靠吗... 愤怒!福建中讯证券资选股可靠吗?误导性宣传!缴费亏损推脱市场部好!交费荐股套路防不胜防!退费流程我来...