大模型发展纪侧记·04现场特写

机器人答应了退票

2024 年 2 月，加拿大民事法庭裁定：航司聊天机器人承诺的 bereavement 票价，航司必须兑现。

2024 年 2 月 14 日，BC 民事争议解决法庭裁定：Air Canada 须按聊天机器人承诺的 bereavement 票价退差价。机器人说可以，人工说不行——法庭站在机器人那边。

先给答案

对外部署 AI 客服，对话里的承诺可视为公司陈述；不能以「那是机器人说的」拒履行。流畅语气在这里是合同风险，不是演示特效。

当时现场

2022 年 11 月，乘客 Jake Moffatt 在官网咨询丧亲票价；机器人称可在航班后 90 天内申请 retroactive bereavement rate。他购票后申请被拒。2024 年 2 月裁决公布，成为全球法务与科技媒体常引用的「AI 客服第一案」。

发生了什么

法庭认为：聊天机器人是加航官网服务的一部分；公司对其网站信息负责，包括机器人输出；加航未能证明用户被充分告知机器人可能出错。判赔差价、利息与部分诉讼费。加航称已更新机器人，但判例已公开。

谁的工作因此变了

客服上线前审查「机器人被允许承诺什么」；法务从免责声明转向可执行陈述管理；产品默认 RAG——先查政策库再生成；品牌面临「错误承诺即法庭证据」的双重风险。

当时看错的地方

误判一：加一句「AI 可能出错」就免责。 机器人仍是官方渠道时，笼统免责不够。

误判二：只有航司会遇到。 电商、金融、电信的报价与退款解释同样适用。

误判三：换更聪明模型就解决。 核心是权限与知识源，不是单点智商。

今天还能核对什么

  • BC CRT 裁决 PDF（2024-02-14，Moffatt v Air Canada，案件号 2022 CRT 814）。
  • Air Canada bereavement fare 政策页面历史版本。
  • 2024 年 2 月加拿大主流媒体跟进报道。

延伸阅读