Sullivan & Cromwell entschuldigt sich für KI-Halluzinationen in einem Gerichts-Schriftstück mit 40 fehlerhaften Zitaten

Gate News-Meldung, 23. April — Sullivan & Cromwell, eine große Anwaltskanzlei aus Wall Street, hat sich bei einem Bundesrichter entschuldigt, nachdem sie einen Schriftsatz eingereicht hatte, der etwa 40 falsche Zitate und andere Fehler enthielt, die durch KI-Halluzinationen verursacht wurden. Andrew Dietderich, Co-Leiter des globalen Restrukturierungsteams der Kanzlei, schrieb am Freitag an den Vorsitzenden Richter Martin Glenn vom US-Insolvenzgericht für den Southern District of New York und erklärte: “Wir bedauern zutiefst, dass dies passiert ist” und übernahm die Verantwortung für das Versäumnis, die Richtigkeit sicherzustellen.

Laut einer Datenbank, die der Legal-Technologie-Experte Damien Charlotin betreibt, gab es weltweit 1.334 dokumentierte Vorfälle von KI-Halluzinationen in Gerichts-Schriftstücken, wobei mehr als 900 davon in den USA auftraten. Die meisten dieser Halluzinationen betreffen erfundene Zitate, obwohl in einigen Fällen auch KI-generierte juristische Argumente identifiziert wurden.

Dietderich stellte fest, dass Sullivan & Cromwell Richtlinien für die Nutzung von KI-Tools hat, einschließlich von Prozessen zur Zitaturprüfung, diese Richtlinien jedoch in diesem Fall nicht befolgt wurden. Er sagte: “Bedauerlicherweise hat dieser Prüfprozess die unzutreffenden Zitate, die von der KI generiert wurden, nicht erkannt, und auch andere Fehler nicht identifiziert, die ganz oder teilweise auf einen manuellen Fehler zurückzuführen zu sein scheinen.” Die Kanzlei führt eine interne Untersuchung durch und prüft Verbesserungen für ihre Trainings- und Prüfprozesse.

Die Fehler wurden von der rivalisierenden Anwaltskanzlei Boies Schiller Flexner entdeckt. Sullivan & Cromwell, das auf Platz 30 der AmLaw Global 200 rangiert, hatte zuvor den Krypto-Kryptobörsenbetreiber FTX in dessen Insolvenzverfahren vertreten.