“完美案例”竟是AI编造！司法公正容不得算法谎言_科学探索

“完美案例”竟是AI编造！司法公正容不得算法谎言

创始人

2025-11-18 08:44:35

孔德淇

一份书面意见中援引的两起“权威案例”，事实细节与涉案情况高度契合，却在司法审查中露出马脚——据近日《法治日报》报道，日前，北京市通州区人民法院审结的一起股权代持纠纷中，原告代理人为佐证观点而提交的最高法案例及上海一中院相关判例，竟为AI编造的虚假信息。

司法审判的核心是以事实为依据、以法律为准绳，而案例援引作为法律论证的关键环节，其真实性关乎裁判结果的公正性。AI虚假案例由算法基于关键词拼接而成，其危害显而易见：一方面可能对法官构成误导，干扰事实认定与法律适用；另一方面则浪费司法资源，增加法官核查成本。更严重的是，若虚假案例蒙混过关，可能损害另一方当事人合法权益，动摇公众对司法的信任。

虚假案例为何能进入司法程序？一方面，部分法律从业者将AI视为“减负神器”，过度依赖其生成文书、检索案例，忽视真实性核查义务。另一方面，AI生成法律内容的甄别技术尚不完善，司法实践中也缺乏对此类案例的核查机制与惩戒标准，这给了虚假信息可乘之机。

AI技术并非洪水猛兽，其在法律检索、文书起草等方面的高效性，可为司法实践提供有益助力。需要思考的是，如何为AI应用划定边界，从而扬其长避其短。就此而言，法律从业者必须坚守职业底线，在援引案例、撰写文书时严格履行核查义务，通过裁判文书网、权威法律数据库等渠道核实信息真伪。此外，AI的迅猛发展也提醒法院，可将案例援引真实性纳入庭审审查范围，借助技术手段构建虚假信息甄别系统。

司法审判容不得半点虚假，每一份法庭材料、每一个援引案例，都关乎当事人权益与社会公平正义。所以，技术进步不能替代职业责任，效率提升绝不能以牺牲真实性为代价。唯有各方协力、筑牢防线，才能既发挥AI技术的正向价值，又守住司法公正的生命线，让每一次审判都经得起检验。

来源：工人日报

核查算法真实性技术信息司法审判事实法律案例孔德淇上海一中院

上一篇：资管巨头操作现分歧海外AI泡沫之辩白热化

下一篇：AI算力迈进“万卡”时代　算力竞争转向集群效率

“完美案例”竟是AI编造！司法公正容不得算法谎言

相关内容

热门资讯