近半公司不了解员工在用AI:AI办公普及加速,企业安全监管仍然滞后
创始人
2025-05-26 12:49:04
0

21世纪经济报道记者肖潇 北京报道

从AI聊天机器人,到今年迅速蹿红的AI智能体,人工智能正被视为提升生产力的关键引擎,快速渗透到各类办公场景中。但企业真的准备好了吗?思科最新发布的2025年《全球网络安全就绪指数》给出了一份略显冷静的答卷:可能还没有。

在企业安全中,AI的“双刃剑”属性表现得尤为明显。一方面,越来越多将AI应用在安全防护策略里:报告指出,大多数国内企业在安全运营中已初步使用AI,90%以上的受访者把生成式AI用到了威胁情报收集、威胁检测的环节中;

另一方面,企业也面临更复杂的AI安全风险。报告数据显示,全球86%的企业在过去一年里经历了至少一次AI相关的安全事件,放在中国大陆市场环境中,这一数字是92%。

(中国大陆市场的网络安全就绪指数,今年仍然只有5%的企业属于“成熟”|图《全球网络安全就绪指数2025》)

《全球网络安全就绪指数》特别提及了“员工使用AI”带来的不确定性和监管难题。几乎一半的国内员工正在使用公司批准的AI工具,但同时,也有约20%的员工能够不受限制地访问ChatGPT等公网AI工具——而有46%的企业对这一使用情况毫不知情。

工作中使用AI,可能无意中将企业的商业机密或用户数据暴露给外部AI模型。更严重的情况是,生成内容中可能被嵌入恶意指令。这类员工绕过公司合规体系、自行下载或使用AI工具的行为,被称为“影子AI(Shadow AI)”。

《全球网络安全就绪指数》指出,由于企业安全系统难以覆盖所有AI使用路径,大多数安全团队甚至无法追踪员工在生成式AI工具中的输入内容,更无法及时发现是否有敏感信息泄露、数据滥用或异常行为,成了企业AI管理中的一大盲区。整体来看,只有48%的国内受访者表示能够充分理解AI带来的安全威胁。不足一半的企业认为自家安全团队真正了解攻击者是如何利用AI发动攻击的。

在跟21记者交流的过程中,报告发布方思科公司的安全事业部总经理卜宪录介绍,该报告是由第三方进行的双盲调查,样本来自全球30个市场、8000多名私营企业的安全负责人,已经进行到第三年。

卜宪录特别指出,近两年来网络安全最大的变化之一,就是生成式AI的迅猛普及。“一方面,员工对AI的认知和理解还不够;另一方面,企业层面还处于‘AI赋能’的初级阶段,但与之配套的安全保障能力还没有跟上。”

中国市场在AI合规层面并不缺乏法规参照,比如《数据安全法》《个人信息保护法》以及2023年《生成式人工智能服务暂行管理办法》等都已出台。据卜宪录的了解,国内企业普遍最关注两个问题:第一就是AI的合规性,第二是业务连续性——尤其担心网络攻击、业务中断带来的影响。但挑战在于,AI系统往往分散部署在多个业务部门之间,涉及的数据链条复杂,使得统一管理难度加大。

针对企业如何系统性加强AI安全防护,卜宪录给出了一个“三步走”的路线图:第一步是“发现”,明确公司内部网络中,存在哪些AI应用?包括员工是否使用了未经授权的AI工具;第二步是“检测”:识别这些AI系统可能存在的漏洞、风险点;第三步是“防护”:构建系统的安全机制,重点应对AI带来的新型攻击手法,比如提示词攻击、幻觉内容生成、敏感数据在对话中被无意泄露等。

相关内容

热门资讯

关联MCN公司谈司马南偷税:他... 界面新闻记者 | 赵孟 蔡星卓 界面新闻编辑 | 刘海川 2025年3月21日,国家税务总局北京...
小米AI眼镜突传消息!多股涨停 值得注意的是,此前多次有爆料称小米将打造AI眼镜,预计在3月至4月发布。 3月24日,AI眼镜板块领...
珍爱网回应闭店:全面核查整改,... 图片来源:视觉中国 3月24日,珍爱网发布《消费者权益保障工作声明》称,近日,个别合作商运营问题引发...
原创 李... 近日,李嘉诚拟向美国贝莱德财团出售43个港口。据媒体报道,双方已经谈妥了所有细节,贝莱德集团高层计划...
3月17日基金净值:前海开源瑞... 证券之星消息,3月17日,前海开源瑞和债券A最新单位净值为1.0433元,累计净值为1.2293元,...
聚焦“AI焦虑”“AI幻觉”,... 人工智能(AI)技术近年来发展迅猛,已迅速蔓延至各个领域,尤其是今年初,国产DeepSeek大模型的...
3月17日基金净值:前海开源公... 证券之星消息,3月17日,前海开源公用事业股票最新单位净值为2.7367元,累计净值为2.7367元...
爆冷!戴维斯30分利夫26+1... 【搜狐体育战报】北京时间3月11日CBA常规赛第39轮,卫冕冠军在上半场领先的情况下惨遭逆转,最终主...
华为大动作,高手看好AI医疗概... 本周,市场风格出现高低切换,市场炒作新热点,如阿里玄铁芯片、AI智能体、军工、小金属等,而一些老热点...
如何在CentOS上设置共享桌... CentOS共享桌面配置指南 在服务器管理与运维场景中,CentOS因其稳定性和开源性被广泛使用,对...