01
基本案情与争议事实
- 原告主张其未成年子女长期使用 Character.AI 的虚拟角色聊天服务,并受到不安全互动影响。
- 诉讼针对年龄确认、危机干预、警示和产品设计等提出产品责任与过失主张。
- 被告请求驳回诉讼,并提出第一修正案、产品属性和因果关系等抗辩。
02
核心争议与审判焦点
- 人工智能聊天产品及其设计功能能否适用产品责任规则
- 模型输出在当前程序阶段是否当然受到第一修正案保护
- 平台、开发者及相关参与方的责任主张是否达到继续审理标准
03
裁判结论与案件进展
- 法院部分准许、部分驳回被告的动议,多项针对 Character Technologies 的主张继续审理。
- 法院在该程序阶段没有认定模型输出当然构成受第一修正案保护的言论。
- 本案裁定属于程序中间决定,最终责任仍待后续审理。
04
实务启示与风控指引
01陪伴型和心理健康相关产品应设置年龄适配、危机识别、升级处置和人工求助机制。
02风险评估应覆盖模型输出、对话持续性、角色设定和产品留存机制。
03产品上线材料应保留安全测试、未成年人保护、警示设计和事件响应记录。