Sullivan & Cromwell Meminta Maaf atas Halusinasi AI dalam Berkas Pengadilan dengan 40 Sitasi Keliru

Pesan Gate News, 23 April — Sullivan & Cromwell, firma hukum besar di Wall Street, meminta maaf kepada seorang hakim federal setelah mengajukan berkas pengadilan yang berisi sekitar 40 sitasi yang tidak benar dan kesalahan lain yang disebabkan oleh halusinasi AI. Andrew Dietderich, rekan kepala tim restrukturisasi global firma tersebut, menulis kepada Hakim Ketua Martin Glenn dari Pengadilan Kepailitan AS untuk Distrik Selatan New York pada Jumat lalu, dengan menyatakan “Kami sangat menyesal bahwa hal ini telah terjadi” serta mengambil tanggung jawab atas kegagalan untuk memastikan akurasi.

Menurut sebuah basis data yang dikelola oleh praktisi teknologi hukum Damien Charlotin, terdapat 1.334 insiden halusinasi AI yang tercatat dalam berkas pengadilan di seluruh dunia, dengan lebih dari 900 terjadi di AS. Sebagian besar halusinasi ini melibatkan sitasi yang dibuat-buat, meskipun argumen hukum yang dihasilkan AI juga telah diidentifikasi dalam beberapa kasus.

Dietderich mencatat bahwa Sullivan & Cromwell memiliki kebijakan untuk penggunaan alat AI, termasuk proses peninjauan sitasi, tetapi kebijakan-kebijakan tersebut tidak diikuti dalam kasus ini. Ia menyatakan: “Sayangnya, proses peninjauan ini tidak mengidentifikasi sitasi yang tidak akurat yang dihasilkan oleh AI, maupun tidak mengidentifikasi kesalahan lain yang tampaknya diakibatkan, seluruhnya atau sebagian, oleh kesalahan manual.” Firma tersebut sedang melakukan investigasi internal dan mengevaluasi peningkatan pada proses pelatihan dan peninjauannya.

Kesalahan ditemukan oleh firma hukum saingan Boies Schiller Flexner. Sullivan & Cromwell, yang berada di peringkat ke-30 dalam AmLaw Global 200, sebelumnya mewakili bursa kripto FTX dalam kasus kepailitannya.