Claude AI 生成假法庭引文，律师道歉承认犯下错误

在涉及特朗普政府大規模聯邦裁員的聯邦法院訴訟中，律師 Jason Grieves 於 5 月 16 日提交聲明，承认向法庭提交的动议文件中包含虛假引文，这些引文是他使用 Anthropic 企业 AI 平台 Claude Console 協助起草动议后生成的。

已確认的事件时序：Grieves 聲明的完整过程

5 月 6 日上午（已確认）： 因时间緊迫，Grieves 使用 Claude Console 創建动议初稿，並將初稿发送給一位助理律師，同时明確作出口头指示：「这份初稿是由人工智能生成的，需要她仔細核查引文。」

5 月 6 日下午（已確认）： 助理律師告知 Grieves 她已審查並核实了每一條引文。助理发现两个案例引用不正確，並找到另一个替換案例；然而，虛假引文仍出现在最終提交的文件中。

Grieves 在聲明中確认两点责任：「確保引文準確无誤完全是我的责任，我对此负全部责任」；「引用的案例可能總體上支持了我們的立场，但允許納入虛假引文是不可原諒的错誤。」

Claude Console 的已確认定位

Claude Console（原 Anthropic Developer Console）於 2023 年 3 月推出，是 Anthropic 的企业 AI 平台，供企业和專业人士与 Claude AI 模型互动，用途包括起草文件、摘要、編碼和研究。Grieves 在聲明中將其描述为「企业級、數據隔离的人工智能平台」，区別於面向消费者的 Claude.ai。

AI 幻覺进入法庭的確认先例背景

2026 年 4 月，Sullivan & Cromwell 律師事務所的律師已因向法庭提交 AI 生成的虛假法律引文而受到正式處罰。Grieves 案涉及的特朗普政府大規模聯邦裁員訴訟，範圍包括 FEMA 人員削減及擬议的公務員保護改革，法院对后续處理決定尚未公布。

常见问題

Grieves 如何解釋虛假引文出现的责任歸屬？

依據 Grieves 的聲明，他明確向助理律師口头说明草稿是 AI 生成的並要求核查，助理確认已審查但仍有虛假引文通过。Grieves 明確表示自己作为主管合夥人和訴狀簽署人承擔全部责任，不推卸至助理或 AI 工具本身。

Claude Console 与一般 Claude AI 使用有何不同？

Claude Console（Anthropic Developer Console）是企业版 AI 平台，採用數據隔离设计，面向企业和專业用戶；与消费者版 Claude.ai 在數據處理和合規架構上有所不同。Grieves 特別強调使用的是「企业級、數據隔离的人工智能平台」，但这並不能防止 AI 幻覺（生成错誤引文）的发生。

法庭如何處理 AI 生成虛假引文的情況？

2026 年 4 月 Sullivan & Cromwell 案中，律師已因類似问題受到正式處罰。Grieves 案中，律師已向法庭正式道歉；法庭对后续的具體處理結果目前尚未公布。