重点议题 · 06
AI 证据、诉讼与律师执业
审查 AI 生成内容与电子数据的真实性、关联性及证明作用，防范算法幻觉与虚假先例援引，全流程保全模型版本、交互提示词、运行日志与人工复核凭据。
AI 辅助检索、分析或生成法律事实与技术材料后，如何确保司法真实性与证据链完整？
适用情形
- 律师或企业法务团队使用大模型开展案例检索、法规比对、合同草拟或翻译校对
- 案件争议核心涉及算法决策逻辑、底层系统日志、代码溯源或 AI 生成内容权属
- 诉讼相对方提交来源存疑、疑似大模型伪造或缺乏真实性支撑的电子材料
- 涉 AI 产品纠纷爆发后，需对高频迭代的模型权重、知识库版本及 API 日志实施应急保全
审查重点与准备材料
- 01保存原始素材、完整输入指令、各批次生成输出及人工修改痕迹
- 02对 AI 生成的司法引证、事实陈述、主体身份及关键数据开展原文核验
- 03完整记录基础模型版本号、知识源时间截点、系统运行环境及主办律师核签记录
- 04依托公证、可信时间戳或司法区块链技术，保存动态更新的技术日志与交互记录
相关案例
案例分析
以下案例涉及不同技术和程序阶段。可结合各案事实比较责任认定与处理结果，并留意其适用范围。
美国
美国律师引用虚构判例案
律师向法院提交了由生成式人工智能编造的判例和引文，并在质疑出现后继续提供失实材料。法院据此作出制裁。
制裁裁定
- 法院对相关律师和律所作出制裁，并要求通知受影响的法官及当事人。
- 裁定强调工具使用者继续对提交内容负责。
澳大利亚人工智能品格证明案
法院在刑事量刑中审查一份疑似由大型语言模型生成或改写的品格证明。由于证明的形成方式无法查明，法院仅赋予其很低权重，并要求出庭律师主动核实品格证明是否使用大型语言模型或自动翻译工具。
量刑判决
- 法院认为量刑程序中的品格证明不宜由大型语言模型生成或辅助生成，自动翻译也可能损失评价品格所需的语言细节。
- 法院要求出庭律师就证明是否使用大型语言模型或自动翻译工具进行适当询问，并能够向法院作出说明。
哥伦比亚法官使用 ChatGPT 案
下级法官在判决理由中加入 ChatGPT 回答。宪法法院认定本案决定由法官事先独立作出，程序没有因此失效，并为司法使用人工智能提出透明、核验、隐私和人类控制等要求。
宪法法院判决
- 法院认定本案没有发生人工智能替代法官作出决定的情形。
- 法院指出具体使用在透明和责任方面仍有不足。
南非虚构判例与律师责任案
律师团队提交的上诉材料包含多项不存在或错误的判例。法院认定团队没有完成最基本的核验，判令律所承担额外开庭费用，并把判决移送法律执业委员会。
高等法院判决
- 法院驳回上诉许可申请。
- 律所被判自行承担两次额外开庭产生的费用。
印度 ANI v. OpenAI 案
印度新闻机构 ANI 主张 OpenAI 未经许可使用新闻内容训练模型，并关注模型输出与虚假归属。德里高等法院已就临时禁令申请完成辩论，实体结论仍待公布。
临时禁令申请已完成辩论，等待裁判
- 法院已经完成临时禁令申请的当事人和法院协助人员陈述。
- 2026 年 3 月 27 日，法院宣布保留裁判。
配套专项服务
相关专项服务
适用法规与治理指引
相关法规与治理文件
研究团队