奇安信安全专家黄巍：“用AI治理AI”是必然方向丨2025世界互联网大会
创始人
2025-11-08 18:14:35
红星资本局11月8日消息 2025年世界互联网大会乌镇峰会期间，奇安信（688561.SH）安全专家黄巍接受红星资本局采访时表示，人工智能时代到来，AI全面应用的同时也会带来新的网络安全风险。
黄巍认为，新型攻击主要发生在三个阶段。第一，训练阶段的数据投毒：攻击者向模型的训练数据中注入恶意样本，导致模型性能下降、质量退化。第二，服务阶段的滥用与中断：通过身份滥用、DDoS攻击等手段攻击提供服务的模型，导致模型服务不可用或性能大幅下降。第三，应用阶段的提示词攻击：使用非常隐蔽的恶意提示词，混淆在用户正常问题中，造成算力消耗、内容诱导。
随着AI成为千行百业中不可或缺的基础工具，未来可能存在的最大潜在风险，是难以区分真实和虚幻，所以也需要“用AI治理AI”。未来AI的发展趋势可能是各行各业全面拥抱AI，同时开始规范和治理AI，采购相关的产品与服务来“反制”AI带来的问题。
另一方面，黄巍指出，虽然“用AI治理AI”是必然方向，但过程中也可能出现幻觉或“杜撰”。例如用AI对软件、程序等进行测试，AI为了完成人类设定的KPI，可能会凭空捏造问题来凑数，因此也需要人工进行二次校对。
红星新闻 记者俞瑶 实习记者 李海颜乌镇摄影报道
本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。
相关内容
热门资讯
顶点财经荐股可靠吗？夸大收益诱...
杭州顶 点财经八分公司怎么样？只讲赚不说亏？误导性宣传！别再浪费时间！退费路径曝光 ...
神.光投顾服务费可以退！退服务...
神.光投顾服务费可以退！退服务费指南公布！投资有风险，投资需谨慎！针对网上素未谋面的网友、网上老师推...
国.融证券服务费怎么退？服务费...
国.融证券服务费怎么退？服务费根本不靠谱,教你如何退费投资有风险，投资需谨慎！针对网上素未谋面的网友...
同花顺软件服务费能退吗？误导交...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
万.隆证券服务费可以退！误导交...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
九.方智投服务费可以退！满足三...
九.方智投服务费可以退！满足三个条件轻松退款！投资有风险，投资需谨慎！针对网上素未谋面的网友、网上老...
同花顺软件炒股推荐是真是假？2...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
九.方智投交了29800的钱能...
九.方智投交了29800的钱能退吗？服务套路揭秘!退费流程分享!投资有风险，投资需谨慎！针对网上素未...
九.方智投推荐的股票可靠吗退服...
九.方智投推荐的股票可靠吗退服务费指南公布！投资有风险，投资需谨慎！针对网上素未谋面的网友、网上老师...
海.能投顾服务费能退吗？与宣传...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
神.光投顾交的服务费能退！退服...
神.光投顾交的服务费能退！退服务费指南公布！投资有风险，投资需谨慎！针对网上素未谋面的网友、网上老师...
高.能智投服务费能退吗?怎么退...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
约.牛证券交了29800的钱能...
约.牛证券交了29800的钱能退吗？满足三个条件轻松退款！投资有风险，投资需谨慎！针对网上素未谋面的...
约.牛证券服务费能退吗?怎么退...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
高.能智投服务费能退吗？骗钱套...
高.能智投服务费能退吗？骗钱套路深,维权成功挽回投资有风险，投资需谨慎！针对网上素未谋面的网友、网上...
国.融证券推荐的股票怎么样？2...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
海.能投顾推荐的股票怎么样？误...
海.能投顾推荐的股票怎么样？误导性宣传欺诱导股民，误导交费已退款投资有风险，投资需谨慎！针对网上素未...
海.能投顾交了29800稳赚吗...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
万.隆证券交的服务费能退！20...
万.隆证券交的服务费能退！2026最新退款方法公布！投资有风险，投资需谨慎！针对网上素未谋面的网友、...
九.方智投服务费可以退吗？被骗...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
汇.正财经交的服务费能退！20...
汇.正财经交的服务费能退！2026最新退款方法公布！投资有风险，投资需谨慎！针对网上素未谋面的网友、...
汇正580是不是？忽悠投资者购...
汇正财经确实是一家正规的投顾公司。但这并不能说明他们公司的宣传就符合实际，从案例中不难看出，业务...
万.隆证券交的服务费能退！骗钱...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...
同花顺软件推荐的股票可靠吗解约...
同花顺软件推荐的股票可靠吗解约成功!维权关键证据如下!投资有风险，投资需谨慎！针对网上素未谋面的网友...
汇.正财经服务费可以退！与宣传...
您是否在投顾机构遭遇虚假宣传诱导交费？是否被业务员承诺 “稳赚不赔”“高额收益” 吸引，缴纳服务费后...