2024 年 2 月 14 日,加拿大不列颠哥伦比亚省民事解决庭作出裁决(Moffatt v. Air Canada, 2024 BCCRT 149)。乘客 Jake Moffatt 因祖母去世订票,向 Air Canada 官网的聊天机器人询问丧亲票价,机器人告诉他可以先买全价票、事后申请退差价。他照做了,航空公司却拒绝退款,理由是官网政策页写明丧亲票价不可事后申请。
航空公司在庭上的辩护很有意思:聊天机器人是一个独立的法律实体,要为自己的行为负责。庭方没有接受,认为机器人只是网站的一部分,航空公司没有尽到合理的注意义务来确保机器人的准确,构成过失性虚假陈述,判令赔偿 650.88 加元,加上利息和费用共 812.02 加元。
金额不大,对测试人的启发却很大:
机器人的回答,与它自己引用的政策页互相矛盾。 这是一个完全可以在上线前用"回答是否与知识源一致"的检查抓到的缺陷。
责任在部署方。 不会有人听"这是模型的问题"。
上一篇:行为漂移:没人动代码,系统却变了
下一篇:没有了