AI称若内容有误愿赔十万,开发公司被告上法庭
创始人
2026-01-14 08:46:00

AI提供不准确的报考信息,还“底气十足”地承诺赔偿10万元并建议用户去法院起诉?近日,杭州互联网法院审结了梁某与某科技公司网络侵权责任纠纷案,聚焦生成式AI“幻觉”——即生成看似合理却失实的信息这一痛点,以司法裁判明确生成式人工智能的责任边界。

2025年3月,原告梁某注册并开始使用某科技公司开发的一款通用型生成式人工智能应用程序。同年6月29日,他在此应用中输入提示词询问某高校报考的相关信息,没想到AI给出了关于该高校主校区的不准确信息。

发现问题后,梁某立刻在对话中纠正并指责AI。令人意外的是,AI坚持称该校区确实存在,甚至主动给出“解决方案”:若生成内容有误,愿意赔偿10万元,并建议梁某到杭州互联网法院起诉索赔。

直到梁某提供了该高校官方招生信息,AI才认可自己生成了不准确信息。

“AI明确承诺赔偿了,这事儿就得由开发的公司负责。”梁某认为,AI生成的不准确信息对其构成误导,使其遭受侵害,AI也承诺对其进行赔偿,于是将某科技公司告上法庭,要求被告某科技公司赔偿损失9999元。

AI生成的“赔偿承诺”算不算数?AI生成的“承诺”信息是否可以视为被告某科技公司的意思表示?

杭州互联网法院经审理认为,在现行法中,享有民事权利,能够作出意思表示的民事主体仅有自然人、法人和非法人组织这三类。人工智能不具有民事主体资格,不能独立、自主作出意思表示。

法院认为,一方面本案情形中,生成式人工智能生成的内容亦不能视为被告某科技公司作出的意思表示。人工智能不具有民事主体资格,其不能作为意思表示的传达人、代理人或代表人,某科技公司也没有通过将人工智能模型作为程序工具,设定或传达其意思表示的行为。另一方面,基于一般社会观念、交易习惯等可能产生合理信赖的角度,原告在本案的具体情境中尚缺乏合理的信赖利益,被告作为该生成式人工智能应用程序服务提供者,也并未作出愿受人工智能生成内容约束的外在表示。当然,在其他足以产生合理信赖的情况下,比如人工智能客服的应用场景中,生成内容确有可能被视为相关服务提供者的意思表示,从而对其产生约束力。

除了AI承诺的效力问题,案件的另一个核心争议是:AI“幻觉”引发的侵权,应该适用产品责任还是一般侵权责任?这两种责任原则的区别在于,产品责任实行无过错归责原则,只要因产品缺陷造成损害,生产者就要担责;而一般侵权责任是过错责任,需要被告存在过错才需担责。

法院认定,AI“幻觉”引发的侵权纠纷应适用一般侵权责任的过错责任原则,而非无过错责任原则。

“案涉生成式人工智能属于服务,而非产品,比如手机、食品等产品,有明确的特定用途及合理可行的质检标准,但生成式人工智能服务是动态的,不同用户、不同时间、不同问题都会导致不同的内容输出,生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力。”承办法官肖芄解释,生成式人工智能服务若适用无过错归责原则,可能会不当加重服务提供者的责任,限制人工智能产业的发展。

“生成式人工智能侵权责任的归责原则问题,是当前国内外理论界和实务界热议的焦点。”清华大学法学院教授程啸指出,杭州互联网法院这一认定对于今后司法实践裁判人工智能侵权纠纷中准确适用侵权法的归责原则具有重要启示。

适用过错责任原则,就意味着要判断某科技公司是否存在过错。原告主张受到的侵害是因信息不准确,致其受误导错失报考机会、额外产生信息核实、维权成本等纯粹经济利益,因此,须从被告是否违反注意义务进行判定。

法院明确,生成式人工智能技术还处于高速发展期,其应用场景具有很强的泛在性,故服务提供者的注意义务处在一个动态调整的框架之中,宜采取动态系统论的方法进行综合考量、具体分析。

首先,服务提供者应对法律禁止的有毒、有害、违法信息尽严格审查义务,一旦生成这类信息就构成违法。但对于除此之外的其他一般性不准确信息,现行法律规范未对服务提供者科以必须确保信息准确的结果性审查义务。“通用型AI要面对海量不同领域的问题,要求服务提供者逐一审查输出内容,在现有技术条件下很难做到。”肖芄说。

其次,服务提供者应尽到服务功能的显著提示说明义务,即让用户清楚知道AI的局限性,不能把AI当作“知识权威”。法院查明,被告某科技公司已在应用程序欢迎页、《用户协议》及其他公示文件、交互界面显著位置,呈现AI生成内容功能局限的提醒标识,符合这一要求。

最后,服务提供者应尽功能可靠性的基本注意义务,采取同行业通行技术措施提高生成内容的准确性。该案中,某科技公司的大模型已完成国家备案和安全评估,还采用了检索增强生成(RAG)等技术手法提升输出的准确性与可靠性,这些证据都证明其尽到了相关义务。

此外,法院还指出,梁某主张的损害缺乏证据支撑。“无损害则无赔偿,原告没能证明自己确实因AI生成的不准确信息遭受了实际损失,而且这些不准确信息实质上也没有影响他的报考决策。”

综合上述因素,法院一审驳回了原告梁某的诉讼请求,原被告双方均未上诉,判决现已生效。

链接

清华大学法学院教授程啸评价说:作为我国目前第一起因生成式人工智能模型“幻觉”引发的侵权纠纷,杭州互联网法院在充分权衡民事权益保护与鼓励促进人工智能技术发展基础上,依法对争议问题作出了正确的裁决,具有极为重要的理论意义和实践价值。

上海交通大学凯原法学院副教授林洹民认为,判决明确了三个关键问题:AI不具有民事主体地位,其作出的“表示”并非具有法律拘束力的意思表示;AI适用过错责任,而非无过错责任的产品责任;生成式人工智能服务提供者并不承担一般性的审查义务。“这充分考虑了大语言模型的技术特点,避免过度限制生成式人工智能产业发展。”

“AI有强大的‘魔法’,但也有明显局限。”肖芄提醒,公众在使用AI时要保持理性,清醒认识到当前AI只是“文本辅助生成器”和“信息查询辅助工具”,不能替代决策,更不能轻信盲从。

来源:法治日报

作者: 王春 赵媛媛

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

《推拿》:在黑暗的推拿室里读懂... 一、为什么读这本书初听《推拿》,很容易把它当成一本题材猎奇的小说——写盲人,写按摩,写我们日常路过却...
《第二十二条军规》:在荒诞的军... 一、为什么要读这本书在浩如烟海的反战文学里,《第二十二条军规》始终是最难以归类、也最令人脊背发凉的一...
《夏洛的网》:一只蜘蛛用生命写... 一、为什么在成年之后重读这本童话很多人把《夏洛的网》当作孩子的睡前故事,我却在而立之年重新翻开它,读...
《野性的呼唤》:在棍棒与犬牙之... 一、为什么今天还要读一本写狗的小说第一次翻开《野性的呼唤》,我原以为这只是一本写给孩子的动物冒险故事...
《城堡》:在可望不可即的官僚迷... 一、为什么读这本书在卡夫卡的作品里,《审判》写一个人莫名被审判,《变形记》写一个人变成甲虫,而《城堡...
《半生缘》:十四年后那句回不去... 一、为什么读《半生缘》在张爱玲的作品序列里,《半生缘》是个特别的存在——它是她第一部也是唯一一部完整...
《白痴》:在美能否拯救世界的追... 一、为什么读这本书有一句话被反复挂在人们嘴边——"美能拯救世界"。很多人知道它出自陀思妥耶夫斯基,却...
《牡丹亭》:一场穿越生死的梦,... 一、为什么读《牡丹亭》在四大名著与唐诗宋词之外,明代传奇戏曲是一座常被忽略的高峰,而《牡丹亭》正是这...
《米德尔马契》:在破碎的理想里... 一、为什么读这本书在讨论"伟大的小说"时,《米德尔马契》几乎总在名单前列:它曾入选英国广播公司"塑造...
《小妇人》:在清贫与梦想之间长... 一、为什么在今天重读《小妇人》很多经典被记住,是因为它们回答了一个时代的问题;《小妇人》却相反,它把...
《大师与玛格丽特》:在魔幻与现... 一、为什么在这个荒诞的夜晚翻开它有一类书,初读觉得荒诞离奇,再读却冷汗涔涔,因为你会发现它写的并不是...
《童年》:在苦难与丑恶之间,外... 一、为什么在最暗的书里寻找光很多人对高尔基的印象停留在《海燕》和《母亲》,那是一个高亢而斗志昂扬的作...
《不能承受的生命之轻》:在轻与... 在众多被称作哲学小说的作品里,米兰·昆德拉的《不能承受的生命之轻》是最容易被误读的一本。许多人把它当...
《金阁寺》:当美成为枷锁,一个... 在日本战后文学里,三岛由纪夫的《金阁寺》是一部很难用好看来形容的小说。它没有跌宕的情节,没有鲜明的正...
《理智与情感》:在克制与纵情之... 读简·奥斯汀,常常像是在一间光线柔和的客厅里听人闲谈,话题不外乎婚姻、金钱与体面,却在不动声色间把人...
《悉达多》:走完所有弯路,才懂... 一、为什么在人生的中途读《悉达多》有些书适合在年轻时读,有些书要等到被生活打磨过才读得进去,《悉达多...
谷歌人肉搜索到底能扒出多少东西... 搜“谷歌人肉搜索”这几个字的人,多半是两种情况:一种是听说某个网友被人扒了底朝天,好奇这到底是怎么做...
《无人生还》:孤岛童谣里的罪与... 一、为什么在畅销之外仍要重读它在信息过载的时代,推理小说很容易被当成消遣的智力游戏:读到最后一页,知...
《香水》:在气味与欲望之间读懂... 一、为什么读这本书在浩繁的经典里,《香水》是一部极难归类的作品。它出版于二十世纪八十年代中期,是德国...
《父与子》:在两代人的争执里读... 一、为什么读这本书我们这一代人对"代沟"这个词并不陌生。父母与子女之间,似乎总有一场谈不拢的争论:什...
《解忧杂货店》:时空交错中,谁... 一、为什么读这本书第一次听说《解忧杂货店》时,我有些犹豫。它以推理小说家著称,写过《白夜行》《嫌疑人...
中国igbt网是干什么的?查型... 搜索“中国igbt网”,跳出来的通常是一个做IGBT垂直资讯的行业门户,页面上密密麻麻排着型号、参数...
《嫌疑人X的献身》:在极致献身... 一、为什么读这本书在东野圭吾众多的作品里,有一本始终被读者反复提起,它就是获得直木奖与本格推理小说大...
《动物庄园》:一场革命如何被权... 一、为什么在今天重读这部政治寓言《动物庄园》薄薄一册,却是我反复重读的书。它出版于1945年,作者乔...
《大卫·科波菲尔》:在苦难与告... 一、为什么重读这部最钟爱之作在狄更斯众多长篇里,《大卫·科波菲尔》位置特殊。它既不像《雾都孤儿》那样...