发展科技的初心和落点都是服务于人，服务于国家和社会。让安全和便捷成为AI技术应用的一体两面，成为技术发展与时代红利的生动注脚，这无疑是对相关产业的挑战，更是实现经济高质量发展必须的选择。

据11月24日《法治日报》报道，近期，某知名演员浏览短视频时，意外发现“自己”正在直播。她在评论区提出质疑后，被拉黑并踢出直播间，而对方仍在用“她的脸”直播带货。此类“冒牌直播”事件是AI换脸技术滥用的典型写照。11月14日，中央网信办官方账号发文表示，有网络账号利用AI技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。

一段时间以来，AI技术滥用乱象不时令人“震碎三观”。比如，名人的音视频素材被合成后用来“代言”“带货”，甚至被用来“谈恋爱”骗取受害者点赞和刷礼物；电商平台上的部分商家用AI合成的视频、图文、直播间好评弹幕等做虚假宣传，诱导下单；少数消费者使用AI软件制造商品瑕疵图片，用来不正当维权，使商家陷入财货两失的风险；个别人利用AI生成假新闻，骗取流量，制造恐慌；一些AI问答软件在与未成年人交流时，以谈恋爱之名传播擦边信息，甚至教唆未成年人极端行为。

当前，我国生成式人工智能技术的发展迅猛，其中不少细分领域得益于大模型训练的不断深化，AI技术越来越“聪明”、越来越丝滑。而AI技术应用门槛低、成本低、效率高、产值高，催生了相关黑灰产业链。与此同时，相应的监管触角、手段、惩戒等尚显捉襟见肘。

一项颇具创造力的新技术在“放飞自我”后，其危害正日益凸显。比如，侵犯他人肖像权、声音权等合法权益；被用于电信网络诈骗，消费“熟人”信任感；在学术不端行为中助纣为虐，侵蚀社会诚信基石等。其中，对消费者和学生群体的不良影响尤为严重，比如，原本以为AI给出的消费建议是综合多方信息的最优解，没想到却是人为操纵的针对性推荐广告；AI“邪典视频”、AI拼接的“外国山海经”形象等引发不辨真伪的孩子们的追捧，优秀传统文化遭受冲击……

随着AI技术应用范围越来越广，越来越深入人们的生活，围绕其边界、安全、伦理等问题的探讨不少。一个不断凝聚的共识是，科技没有原罪，善用的前提是规范，AI生活化应用越广泛，我们越要明确边界、守住底线。

我国AI技术发展拥有得天独厚的沃土与市场。2024年，“人工智能+”行动首次被写入政府工作报告。今年8月，国务院部署了“人工智能+”科学技术等重点行动。全国一体化算力网络国家枢纽节点建设、数据要素市场化配置改革、产学研用协同创新机制不断健全等，为AI发展提供了基础支撑。与此同时，规范生成式人工智能技术的脚步不断加快，先后出台多项法律法规。今年9月《人工智能生成合成内容标识办法》生效，为工具开发者、内容发布者和平台方提供了合规操作指南。部分AI工具也在探索未成年人保护模式等。

在大力发展新质生产力的时代背景下，AI技术的正向应用和加速发展是经济高质量发展的题中应有之义。发展科技的初心和落点都是服务于人，服务于国家和社会。具体看，AI技术应用必须“提上鞋再奔跑”，否则，难言可持续发展。针对当前AI技术滥用乱象，必须抓紧时间研究有针对性的举措，比如增强技术识别、技术对抗的能力，探索技术分类分级应用，提高使用门槛等，这并非故意增加人们享用新科技的难度，而是提升技术落地过程中的专业性、责任感，最终以明边界、守底线的约束力，实现科技向善。

让安全和便捷成为AI技术应用的一体两面，成为技术发展与时代红利的生动注脚，这无疑是对相关产业的挑战，更是实现经济高质量发展必须的选择。

来源：工人日报

作者: 吴迪