ในการยื่นฟ้องต่อศาลรัฐบาลกลางที่เกี่ยวข้องกับการเลิกจ้างพนักงานของรัฐบาลชุดของทรัมป์อย่างจำนวนมาก ทนายความ Jason Grieves ได้ยื่นคำให้การเมื่อวันที่ 16 พฤษภาคม โดยยอมรับว่ามีการอ้างอิงที่เป็นเท็จอยู่ในเอกสารคำร้องที่ส่งต่อศาล ซึ่งคำอ้างอิงเหล่านี้ถูกสร้างขึ้นหลังจากที่เขาใช้แพลตฟอร์ม AI ระดับองค์กรของ Anthropic อย่าง Claude Console เพื่อช่วยร่างคำร้อง
ไทม์ไลน์เหตุการณ์ที่ได้รับการยืนยันอย่างครบถ้วน: กระบวนการทั้งหมดในคำให้การของ Grieves
6 พฤษภาคม ช่วงเช้า (ยืนยันแล้ว): เนื่องจากเวลามีจำกัด Grieves ใช้ Claude Console เพื่อสร้างร่างคำร้อง และส่งร่างนั้นให้ทนายความผู้ช่วย พร้อมระบุคำสั่งทางวาจาชัดเจนว่า: “ร่างนี้ถูกสร้างโดยปัญญาประดิษฐ์ ต้องให้เธอตรวจสอบคำอ้างอิงอย่างละเอียด”
6 พฤษภาคม ช่วงบ่าย (ยืนยันแล้ว): ทนายความผู้ช่วยแจ้ง Grieves ว่าเธอได้ตรวจสอบและยืนยันคำอ้างอิงแต่ละรายการแล้ว ผู้ช่วยพบว่ามีการอ้างอิงคดี 2 คดีที่ไม่ถูกต้อง และได้หาคดีอื่นมาแทนทว่าคำอ้างอิงที่เป็นเท็จยังคงปรากฏอยู่ในเอกสารฉบับสุดท้ายที่ยื่นต่อศาล
Grieves ยืนยันในคำให้การ 2 ประเด็นความรับผิดชอบ: “การทำให้คำอ้างอิงถูกต้องและแม่นยำ 100% เป็นความรับผิดชอบของฉันแต่เพียงผู้เดียว ฉันรับผิดชอบทั้งหมดสำหรับเรื่องนี้”; “คำอ้างอิงคดีที่ยกมานั้นอาจโดยรวมสนับสนุนจุดยืนของเรา แต่การยอมให้มีการใส่คำอ้างอิงที่เป็นเท็จถือเป็นความผิดพลาดที่ให้อภัยไม่ได้”
ตำแหน่งที่ได้รับการยืนยันของ Claude Console
Claude Console (เดิมคือ Anthropic Developer Console) เปิดตัวในเดือนมีนาคม 2023 เป็นแพลตฟอร์ม AI ระดับองค์กรของ Anthropic สำหรับให้บริษัทและผู้เชี่ยวชาญโต้ตอบกับโมเดล Claude AI โดยมีการใช้งานรวมถึงการร่างเอกสาร สรุปข้อมูล เขียนโค้ด และทำงานวิจัย Grieves ในคำให้การได้อธิบายว่าเป็น “แพลตฟอร์ม AI ระดับองค์กรที่แยกข้อมูลอย่างเป็นสัดส่วน” ซึ่งต่างจาก Claude.ai สำหรับผู้บริโภค
เบื้องหลังเหตุการณ์ก่อนหน้าที่เป็นตัวอย่าง: AI hallucination เข้าสู่ศาล
ในเดือนเมษายน 2026 ทนายความจากสำนักงานกฎหมาย Sullivan & Cromwell ถูกลงโทษอย่างเป็นทางการแล้ว หลังจากยื่นคำอ้างอิงทางกฎหมายที่เป็นเท็จซึ่งสร้างด้วย AI ต่อศาล กรณีของ Grieves ที่เกี่ยวข้องกับการเลิกจ้างพนักงานของรัฐบาลชุดทรัมป์อย่างจำนวนมาก ครอบคลุมถึงการลดตำแหน่งบุคลากรของ FEMA และแผนการปฏิรูปเพื่อคุ้มครองข้าราชการ ศาลยังไม่ได้ประกาศว่าการดำเนินการสำหรับเรื่องที่เกิดขึ้นในภายหลังจะเป็นอย่างไร
คำถามที่พบบ่อย
Grieves อธิบายอย่างไรเกี่ยวกับการแบ่งความรับผิดชอบเมื่อมีคำอ้างอิงที่เป็นเท็จ?
ตามคำให้การของ Grieves เขาระบุอย่างชัดเจนด้วยคำพูดกับทนายความผู้ช่วยว่าร่างถูกสร้างโดย AI และขอให้ตรวจสอบ ผู้ช่วยยืนยันว่าตรวจสอบแล้วแต่ยังมีคำอ้างอิงที่เป็นเท็จที่ผ่านเข้าไป Grieves ระบุอย่างชัดเจนว่าเขาในฐานะหุ้นส่วนผู้ดูแลและผู้ลงนามในเอกสารฟ้อง รับผิดชอบทั้งหมด และไม่ยกความรับผิดไปให้ทนายความผู้ช่วยหรือเครื่องมือ AI เอง
Claude Console แตกต่างจากการใช้ Claude AI ทั่วไปอย่างไร?
Claude Console (Anthropic Developer Console) เป็นแพลตฟอร์ม AI รุ่นองค์กรที่ออกแบบด้วยการแยกข้อมูล และมุ่งสำหรับองค์กรและผู้ใช้งานเชิงวิชาชีพ ต่างจาก Claude.ai เวอร์ชันสำหรับผู้บริโภคที่แตกต่างกันในด้านการจัดการข้อมูลและโครงสร้างด้านการปฏิบัติตามข้อกำหนด Grieves เน้นเป็นพิเศษว่ามีการใช้ “แพลตฟอร์ม AI ระดับองค์กรที่แยกข้อมูลอย่างเป็นสัดส่วน” แต่สิ่งนี้ก็ไม่ได้ช่วยป้องกันไม่ให้เกิด AI hallucination (การสร้างคำอ้างอิงที่ผิดพลาด)
ศาลจัดการกับกรณีคำอ้างอิงที่เป็นเท็จซึ่งสร้างด้วย AI อย่างไร?
ในคดีของ Sullivan & Cromwell เดือนเมษายน 2026 ทนายความได้รับโทษอย่างเป็นทางการแล้วจากปัญหาลักษณะเดียวกัน ในกรณีของ Grieves ทนายความได้ขอโทษต่อศาลอย่างเป็นทางการแล้ว ขณะที่ผลการดำเนินการอย่างเฉพาะเจาะจงจากศาลสำหรับเรื่องดังกล่าวนั้นยังไม่ถูกเปิดเผยในตอนนี้
