Anthropic 的律师因 Claude 编造法律引文被迫道歉

据周四在加州北部法院提交的一份文件显示，Anthropic 公司的一名律师在与音乐出版商的诉讼中，承认引用了该公司 AI 聊天机器人 Claude 虚构的法律引文。

Anthropic 在文件中称，Claude“凭空捏造了一个错误的标题和错误的作者”。据彭博社最早报道，Anthropic 的律师解释说，他们的“人工引文核查”未能发现该错误，以及 Claude 编造的其他几个错误引用。

Anthropic 为此错误道歉，称这是“一次诚实的引用错误，而非蓄意伪造法律依据”。

本周早些时候，代表环球音乐集团（Universal Music Group）及其他音乐出版商的律师指控 Anthropic 的专家证人——该公司员工 Olivia Chen 在证词中使用 Claude 提供的虚假文章作为引文。联邦法官 Susan van Keulen 随后要求 Anthropic 就这一指控做出回应。

音乐出版商的这起诉讼，是多个版权方与科技公司围绕生成式 AI 工具是否“滥用”其作品的法律争议之一。

这是律师使用 AI 工具打官司后“后悔不已”的比较新案例。本周早些时候，加州一位法官严厉批评两家律师事务所在庭审中提交了“虚假的 AI 生成研究材料”。今年 1 月，澳大利亚一位律师在准备法庭文件时使用了 ChatGPT，结果引用了错误的法律文献。

尽管如此，这类失误并未阻止初创企业在自动化法律工作领域吸引巨额融资。据报道，致力于用生成式 AI 辅助律师工作的初创公司 Harvey 正在洽谈一轮超过 2.5 亿美元的融资，估值高达 50 亿美元。