中国AI治理方案亮相联合国峰会 击退超六成“AI换脸”
扬子晚报讯（记者 徐晓风）办理金融业务，刷脸支付，你担心遭遇“换脸”诈骗吗？精准识别击退类似于“AI换脸”之类的深度伪造技术，中国技术正在为全球AI安全治理贡献中国力量。近日，联合国在瑞士日内瓦召开全球AI for Good（人工智能向善）峰会，蚂蚁集团相关负责人在会上分享了中国在金融场景中对抗“深度伪造”的技术成果，同时披露，蚂蚁数科服务的东南亚银行伪造人脸攻击频率已从高峰期的10%大幅击退至4%，识别准确率保持在99.9%，成为全球AI安全治理可复用的"中国方案"。
蚂蚁集团技术战略与发展部副总经理彭晋在AI for Good峰会分享中国技术成果
全球AI for Good人工智能向善峰会由联合国下属国际电信联盟（ITU）与 40 多个联合国姊妹机构合作举办，并与瑞士政府共同承办。大会旨在推动人工智能促进健康、气候、性别、包容性繁荣、可持续基础设施和其他全球发展优先事项。
随着生成式AI工具的普及应用，全球范围内利用“AI换脸”进行欺诈的恶性事件屡见不鲜，尤其在金融机构的用户注册、交易等环节，身份伪造可能导致银行、支付平台错误判断，带来直接经济损失。据介绍，2024年，东南亚银行的Deepfake（深度伪造）攻击率，在高峰时期达到了10%，即每100次人脸验证中有10次为虚假人脸。在蚂蚁数科技术支持下，东南亚银行Deepfake攻击率已击退至4%。这些银行用户身份认证的拦截率从原本50%降低至3%。业务提效的同时，识别准确率保持在99.9%。同时，技术人员也表示，人脸识别算法攻防是一个与黑产对抗博弈的过程，算法依然需要以“天”为单位不断更新，来对抗及预判新型的伪造手法。
据介绍，目前金融机构面临的主流“换脸欺诈”方式包括两大类，一类是呈现式攻击，即在相机前呈现虚假图像以绕过活体检测。另一类是注入式攻击，即从系统层面破解相机，注入预录图像/视频以替换相机捕获的面部画面。蚂蚁数科旗下ZOLOZ金融级的身份安全认证，可以在设备端实施环境安全检测，在应用端利用动态深度学习模型精准识别活体特征，有效抵御各类攻击。目前，ZOLOZ的相关技术产品已经服务全球超25个国家和地区。