Pengacara AS dikenai sanksi karena menggunakan AI yang menghasilkan halusinasi, Thomson Reuters: tingkat kesalahan alat tersebut lebih dari 17%

Pengacara AS Tyrone Blackburn kembali dicela oleh hakim federal setelah untuk ketiga kalinya dikenai sanksi terkait masalah halusinasi AI. Kali ini, ia diduga mengutip kutipan palsu buatan AI dalam berkas pengadilan perusahaan hiburan Roc Nation. Pengujian terhadap alat AI Lexis+ AI dan Thomson Reuters menunjukkan lebih dari 17% muncul informasi keliru, dan pada sebagian pengujian angka tingkat kesalahan bahkan mencapai 34%.

Kutipan palsu AI dalam gugatan Roc Nation dan catatan pelanggaran sebelumnya

(Sumber: Court Listener)

Berdasarkan perintah hakim Jennifer Willis, pengacara Tyrone Blackburn memasukkan kutipan yang diduga dihasilkan AI palsu dalam naskah bantahan yang diajukan saat mewakili Terence Dixon (mitra/kolaborator artis rapper Fat Joe) yang menggugat Roc Nation dan Fat Joe atas dugaan pelanggaran terkait pekerjaan. Willis menilai tindakan tersebut “secara serius melanggar kode etik dan kewajiban profesionalnya”, serta menyebut penjelasan Blackburn “secara terang-terangan meremehkan” tindakannya.

Catatan pelanggaran Blackburn sebelumnya mencakup: tahun lalu pada bulan Desember di Pengadilan Federal di New Jersey, ia dihukum karena mengutip kasus palsu buatan AI; hakim federal di Pennsylvania menjatuhkan denda 5.000 dolar AS kepada dirinya karena perbuatan memalsukan sitasi.

Blackburn mengatakan akan menanggapi perintah pengadilan, namun tetap menyangkal tuduhan; Roc Nation dan Fat Joe juga membantah semua tuduhan terhadap Dixon.

Data halusinasi pengadilan AI global: 1.667 kasus

Berdasarkan basis data global yang dilacak oleh peneliti Damien Charlotin, data kejadian halusinasi di pengadilan AI dan contoh kasus perwakilannya adalah sebagai berikut:

Jumlah kasus pertengahan 2026: 1.667 kasus (naik sekitar tujuh kali lipat dibanding tahun sebelumnya yang 230 kasus)

Kasus di Mississippi: Empat pengacara dicabut izin untuk bertindak sebagai kuasa setelah mengajukan dokumen yang berisi halusinasi AI oleh hakim Sharion Aycock, masing-masing didenda 1.000–3.500 dolar AS; Williams dan Wilson dilarang tampil di pengadilan selama dua tahun, di mana salah satu di antaranya mengaku “tidak tahu AI bisa memalsukan kasus”

Permintaan maaf Sullivan & Cromwell: Pada April 2026, firma tersebut mengirim surat permintaan maaf kepada hakim karena menyerahkan dokumen yang memuat kesalahan halusinasi dalam perkara kepailitan Prince Group. Surat tersebut mencakup kutipan yang keliru terhadap Kode Kepailitan AS dan kutipan kasus yang keliru

Pertanyaan yang sering diajukan

Mengapa pengacara tetap menggunakan output AI yang belum diverifikasi setelah mengetahui masalah halusinasi?

Menurut laporan, alasannya meliputi: sebagian pengacara tidak memahami fenomena halusinasi AI (seorang pengacara dalam kasus Mississippi mengaku “tidak tahu AI bisa memalsukan kasus”); alat AI dipakai untuk menyusun dokumen secara rutin tanpa menetapkan prosedur verifikasi (seperti dalam kasus Sullivan & Cromwell, “kebijakan AI tidak dipatuhi”); serta pemeriksaan ulang sebelum pengajuan tidak cukup ketat. American Bar Association pada Juni 2025 telah memperingatkan bahwa tidak memverifikasi output AI dapat melanggar kewajiban sebagai kuasa yang beretika.

Seberapa tinggi tingkat kesalahan alat hukum Thomson Reuters dan Lexis+ AI?

Berdasarkan pengujian terhadap alat AI Lexis+ AI dan Thomson Reuters (NYSE: TRI), lebih dari 17% kondisi menunjukkan informasi yang keliru; pada beberapa pengujian, tingkat kesalahan bahkan mencapai 34%. Metode dan kondisi pengujian spesifik mengikuti laporan penelitian terkait.

Apakah menyusun dokumen hukum dengan alat AI melanggar hukum?

Berdasarkan laporan, hukum tidak melarang pengacara menggunakan AI; namun mereka memiliki kewajiban etis untuk memastikan semua dokumen yang diajukan benar. Pada Februari 2026, National Courts Center memperingatkan bahwa halusinasi AI menjadi ancaman yang kian serius bagi sistem peradilan; berbagai kasus menunjukkan bahwa pengacara yang gagal memverifikasi output AI menghadapi konsekuensi seperti denda, pencabutan izin beracara, hingga perintah larangan dari pengadilan.