近半公司不了解员工在用AI:AI办公普及加速,企业安全监管仍然滞后
创始人
2025-05-26 12:49:04

21世纪经济报道记者肖潇 北京报道

从AI聊天机器人,到今年迅速蹿红的AI智能体,人工智能正被视为提升生产力的关键引擎,快速渗透到各类办公场景中。但企业真的准备好了吗?思科最新发布的2025年《全球网络安全就绪指数》给出了一份略显冷静的答卷:可能还没有。

在企业安全中,AI的“双刃剑”属性表现得尤为明显。一方面,越来越多将AI应用在安全防护策略里:报告指出,大多数国内企业在安全运营中已初步使用AI,90%以上的受访者把生成式AI用到了威胁情报收集、威胁检测的环节中;

另一方面,企业也面临更复杂的AI安全风险。报告数据显示,全球86%的企业在过去一年里经历了至少一次AI相关的安全事件,放在中国大陆市场环境中,这一数字是92%。

(中国大陆市场的网络安全就绪指数,今年仍然只有5%的企业属于“成熟”|图《全球网络安全就绪指数2025》)

《全球网络安全就绪指数》特别提及了“员工使用AI”带来的不确定性和监管难题。几乎一半的国内员工正在使用公司批准的AI工具,但同时,也有约20%的员工能够不受限制地访问ChatGPT等公网AI工具——而有46%的企业对这一使用情况毫不知情。

工作中使用AI,可能无意中将企业的商业机密或用户数据暴露给外部AI模型。更严重的情况是,生成内容中可能被嵌入恶意指令。这类员工绕过公司合规体系、自行下载或使用AI工具的行为,被称为“影子AI(Shadow AI)”。

《全球网络安全就绪指数》指出,由于企业安全系统难以覆盖所有AI使用路径,大多数安全团队甚至无法追踪员工在生成式AI工具中的输入内容,更无法及时发现是否有敏感信息泄露、数据滥用或异常行为,成了企业AI管理中的一大盲区。整体来看,只有48%的国内受访者表示能够充分理解AI带来的安全威胁。不足一半的企业认为自家安全团队真正了解攻击者是如何利用AI发动攻击的。

在跟21记者交流的过程中,报告发布方思科公司的安全事业部总经理卜宪录介绍,该报告是由第三方进行的双盲调查,样本来自全球30个市场、8000多名私营企业的安全负责人,已经进行到第三年。

卜宪录特别指出,近两年来网络安全最大的变化之一,就是生成式AI的迅猛普及。“一方面,员工对AI的认知和理解还不够;另一方面,企业层面还处于‘AI赋能’的初级阶段,但与之配套的安全保障能力还没有跟上。”

中国市场在AI合规层面并不缺乏法规参照,比如《数据安全法》《个人信息保护法》以及2023年《生成式人工智能服务暂行管理办法》等都已出台。据卜宪录的了解,国内企业普遍最关注两个问题:第一就是AI的合规性,第二是业务连续性——尤其担心网络攻击、业务中断带来的影响。但挑战在于,AI系统往往分散部署在多个业务部门之间,涉及的数据链条复杂,使得统一管理难度加大。

针对企业如何系统性加强AI安全防护,卜宪录给出了一个“三步走”的路线图:第一步是“发现”,明确公司内部网络中,存在哪些AI应用?包括员工是否使用了未经授权的AI工具;第二步是“检测”:识别这些AI系统可能存在的漏洞、风险点;第三步是“防护”:构建系统的安全机制,重点应对AI带来的新型攻击手法,比如提示词攻击、幻觉内容生成、敏感数据在对话中被无意泄露等。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

华-通-交易交易平台是正规吗?... 华-通-交易交易平台是正规吗?在华-通-交易交易平台合法吗?答案能退!已协助数万人追回,咨询不收费!...
可怕!北京和众汇富科技怎么样荐... 可怕!北京和众汇富科技怎么样荐股不赚反亏欺骗股友!可以能退!怎么退款流程及注意事项公布!误导性宣传欺...
必看』北京和众汇富科技交费后与... 必看』北京和众汇富科技交费后与宣传差距大,详细处理步骤分享投资有风险,投资需谨慎!针对网上素未谋面的...
当心!海能投顾怎么样?吹嘘收益... 当心!海能投顾怎么样?吹嘘收益诱骗交费,已维权退费!投资有风险,投资需谨慎!针对网上素未谋面的网友、...
金鳞订购APP交易平台是正规吗...   金鳞订购APP交易平台是正规吗?在金鳞订购APP亏损了怎么追回来?可以退!教你一招快速追回!  ...
金.证投顾股民买了炒股会员服务... 金.证投顾股民买了炒股会员服务,交费荐股被能退款!29800元已退费! 证券投资咨询行业的本质在于为...
当心!北京和众汇富科技误导性宣... 当心!北京和众汇富科技误导性宣传、承诺收益、无证投顾提供服务,交费股民赶紧申请退费!投资有风险,投资...
掌-上-银牛APP交易平台合法...   掌-上-银牛APP交易平台合法吗?在掌-上-银牛APP输的钱可以要回来吗安全吗?可以全额!全额被...
智易购APP交易平台正规吗?在...  智易购APP交易平台正规吗?在智易购APP亏损可以要白银吗安全吗?可以全额!教你1招追回损失,咨询...
惊异』神光投顾正规合法吗?忽悠... 惊异』神光投顾正规合法吗?忽悠投资者购买服务后一直推荐烂股!服务费已追回!投资有风险,投资需谨慎!针...
微银订购APP交易软件合法吗?... 微银订购APP交易软件合法吗?在微银订购APP亏损能退款吗?当然可以依法退款!退款流程详解!投资者投...
被骗!海能投资退款怎么退?虚假... 被骗!海能投资退款怎么退?虚假宣传欺骗股民,交会员费真相揭秘,有内部票都是的投资有风险,投资需谨慎!...
上海海能投顾打广告荐牛股的,从... 上海海能投顾打广告荐牛股的,从被骗到成功退款,我经历了这些步骤! 在监管的灰色边缘,众多投资顾问依然...
富禄订购app交易平台合法吗?... 富禄订购app交易平台合法吗?在富禄订购app亏损了怎么退?可以退!教您如何止损/快速追金!我们是资...
举报!海能投顾荐股票真相曝光,... 举报!海能投顾荐股票真相曝光,29800换来的都是垃圾股,被骗亏损真相曝光已退费投资有风险,投资需谨...
掌-上-生财APP交易平台是正...   掌-上-生财APP交易平台是正规吗?在掌-上-生财APP亏损了怎么追回来?可以全额!全额被骗追回...
当心!云南约牛证券靠谱吗?事实... 当心!云南约牛证券靠谱吗?事实清楚依法追回服务费!所有股民引以为戒。投资有风险,投资需谨慎!针对网上...
上海汇正财经业务员夸大荐股收益... 上海汇正财经业务员夸大荐股收益,投顾服务费误导真相曝光!被误导交费后亏损皆可退费! 可以退!很多投资...
雪花订购APP交易平台正规吗?... 雪花订购APP交易平台正规吗?在雪花订购APP亏损了怎么退?可以退!教你一招快速追回! 期货和现货的...
必看』云南约牛软件夸大不实宣传... 必看』云南约牛软件夸大不实宣传诱导消费者,交费炒股被骗经历讲述!服务费能退投资有风险,投资需谨慎!针...
拇指订购APP交易软件是正规吗... 拇指订购APP交易软件是正规吗?在拇指订购APP输的钱可以要回来吗安全吗?当然可以依法退款!退款流程...
哈易购APP交易平台是合法吗?...  哈易购APP交易平台是合法吗?在哈易购APP交易平台合法吗?答案能退!教你一个简单方法找回!投资有...
被骗!山东神光服务费被骗怎么办... 被骗!山东神光服务费被骗怎么办?简单方法,帮你追回!投资有风险,投资需谨慎!针对网上素未谋面的网友、...
震惊』云南约牛证券行业黑幕曝光... 震惊』云南约牛证券行业黑幕曝光,误导股民交费,费用可依法追回!投资有风险,投资需谨慎!针对网上素未谋...
萝卜订购APP交易平台合法吗?... 萝卜订购APP交易平台合法吗?在萝卜订购APP交易平台合法吗?当然可以依法退款!全额被骗追回损失!现...