用AI流浪汉骗老公：警惕AI整蛊形成示范效应
▲女子“用AI流浪汉骗老公”，结果丈夫信以为真，当即报警求助。图/都市快报视频截图
女子用AI制作“流浪汉闯入家中”图片，丈夫吓到报警。这不是小说情节，而是真实发生的现实。
据安徽商报报道，近日，安徽一女子用AI工具生成了高度逼真的“流浪汉卧坐餐厅”等图片，发给在外聚餐的丈夫想测试其反应，没想到丈夫信以为真，当即报警求助。而在媒体的相关报道中，用AI制作“流浪汉闯入家中”图片、视频来整蛊家人的帖子，也在社交平台走红。
需明确的是，这不是什么好玩的事，AI的使用是有边界的，夫妻或者家人之间的感情，也没必要用AI来测试。AI整蛊，这种看似荒诞的操作，实则存在不少隐患。
如今，AI换脸、语音合成等技术正在改变人们生活的方方面面，但同时也让制造虚假信息变得轻而易举。“流浪汉闯入家中”这类谎言，之所以能起到以假乱真的效果，一方面说明AI工具的生成功能强大，足够以假乱真，另一方面也意味着，AI的使用门槛在变低，使得人们可以轻易用AI整蛊、开玩笑。
技术本是中性的，一种技术的被发明创造，初衷总是为服务于人。但当其可以被大范围、低门槛地使用时，就面临着“异化”的风险。
用AI流浪汉骗老公或者其他亲人事件的出现，就发出了这样一种警示。使用者或许只是出于好奇、好玩的心理，想着开个玩笑、无伤大雅。但这类玩笑本身已是对双方信任关系的消耗，也是对家庭成员的不尊重。
而这类玩笑中，AI的工具属性从“服务人”变成了“戏弄人”。此举一旦引发模仿效应，无疑将带来更多的AI滥用问题。
事实上，据新闻报道可知，近期多地已出现类似AI整蛊引起的闹剧，有的引发整栋楼逐层排查，有的导致亲属紧急“奔袭”。
从法律层面看，这种“玩笑”也暗藏巨大风险。根据《中华人民共和国治安管理处罚法》相关规定，对谎报警情的违法行为有着明确的罚款、拘留规定。而刑法中也有“编造、故意传播虚假信息罪”，规定“造成严重后果的，处3年以上7年以下有期徒刑。”
今年7月，就有一男子为博取关注使用AI大模型生成了“女儿被人抱走”的“寻人启事”并发布到社交平台，最终被行政拘留。
这类法律规定、处罚教训足以说明，技术滥用的代价从来不是 “一句玩笑”就能抹平的。
遏制AI滥用乱象，需要多维度的协同发力。此前，中央网信办部署开展“清朗·整治AI技术滥用”专项行动取得显著成效，但技术治理的长效机制仍需持续完善。
相应的制度规范要“长出牙齿”，对滥用技术造成危害的行为依法严惩。平台层面也需加强对AI生成内容的标识管理，一旦这种AI整蛊的图片、视频在平台出现，就得及时予以核实规制，防止其扩散后产生示范效应。
AI的价值不在于制造虚假，而在于赋能真实。而让AI真正服务于生活，而非成为破坏信任、伤害感情的工具，或许是AI时代每个人都须具备的“媒介素养”。
来源 | 新京报评论
撰稿 | 流水（媒体人）
值班编辑 | 王可
主编推荐