中国 · 浙江 · 平台责任

杭州 AI 幻觉责任案

通用AI生成错误招生信息并自动提出赔偿。法院未将该输出认定为服务商承诺,并根据注意义务、实际损害及因果关系驳回索赔。

审理机构
杭州互联网法院
裁判年份
2025年
程序状态
2025年一审生效;据法院来源案例报道

01

基本案情与争议事实

  • 梁某询问高校报考信息,收到不准确答复。
  • 对话继续后,系统生成赔偿表述;梁某请求服务商赔偿9999元。
  • 平台提交了显著风险提示及提高输出可靠性的技术措施证据。

02

核心争议与审判焦点

  1. 自动生成的承诺能否归属于服务商
  2. 通用生成服务适用何种归责原则
  3. 过错、损害与因果关系如何证明

03

裁判结论与案件进展

  • 在本案通用对话情境下,赔偿表述不是服务商的意思表示。
  • 法院适用过错责任,认定平台已尽合理注意义务,实际损害及因果关系未获证明。
  • 一审驳回请求,双方未上诉;此结论不当然适用于企业授权表达的AI客服。
日期与程序记录
  • 法院来源报道发布;保留2025裁判年精度。

04

实务启示与风控指引

01区分通用问答与代表企业作出交易承诺的客服功能,分别设置权限及审查。

02在高影响场景展示清晰即时的局限提示,并保留准确性改进和测试证据。

03为错误答复建立核验、更正、升级及完整对话留存流程。

专项咨询

该裁判先例对您的产品研发或在审争议有何影响?

结合具体情况咨询专业团队 →