Un prestigioso despacho de abogados cobra más de 2.000 dólares por hora; documentos judiciales quedaron expuestos por “alucinaciones de IA y errores por todas partes”

El prestigioso despacho de abogados estadounidense Sullivan & Cromwell (Sullivan & Cromwell) pidió recientemente disculpas públicamente ante un juez federal, debido a que los documentos de su presentación al tribunal de quiebras estaban plagados de errores generados por IA, incluyendo casos falsos, citas inventadas y disposiciones inexistentes, fallas que incluso fueron señaladas por abogados externos. Irónicamente, sus socios facturan 2,000 dólares por hora, pero no lograron aplicar ni siquiera una revisión y corrección básica.

¡Despacho de abogados de élite metió la pata! Se reveló que usaron IA para redactar documentos y que había errores por todas partes

El incidente ocurrió en un caso de quiebra en el Tribunal de Quiebras del estado de Manhattan, Estados Unidos, relacionado con el grupo del príncipe camboyano (Prince Group). Sullivan & Cromwell representó ante el tribunal a los liquidadores designados por las autoridades de las Islas Vírgenes Británicas, pero en los documentos presentados apareció una gran cantidad de errores generados por IA, aproximadamente más de treinta.

Estos errores ni siquiera fueron descubiertos internamente por el propio despacho, sino que el despacho de la parte contraria en el mismo caso, Boies Schiller Flexner, los reveló en un documento público. Los tipos de errores incluyen citar nombres de casos falsos que ni siquiera existen, afirmaciones inventadas en el documento que nunca se dijeron ni se escribieron, e incluso la invención completa de parte de los artículos de la Ley de Quiebras de los Estados Unidos.

El director global de reestructuración de Sullivan & Cromwell, Andrew Dietderich, reconoció en una carta del 18 de abril al juez Martin Glenn que algunos errores se debían a alucinaciones de IA (hallucinations).

¡La revisión interna es casi inexistente! ¿Los socios del bufete cobran más de dos mil dólares por hora?

Por su parte, en la carta Dietderich admite que el despacho cuenta con políticas “completas” y requisitos de capacitación para el uso de herramientas de IA; antes de que los abogados obtengan autorización para usar herramientas de IA, también deben completar cursos de capacitación, que de forma explícita exigen “no confiar en cualquier contenido, y todo debe verificarse personalmente”. Sin embargo, dichas políticas no se aplicaron al preparar ese documento, y el procedimiento de segunda revisión encargado de vigilar tampoco logró interceptar ningún error.

En comparación con la tarifa de más de 2,000 dólares por hora que cobra el socio del despacho, el caso ha suscitado un amplio debate en círculos legales nacionales e internacionales. En la carta, el despacho indicó que, tras detectar los errores, realizó una revisión integral de todos los demás documentos del caso, confirmó que las alucinaciones de IA solo aparecían en ese documento y, posteriormente, presentó una versión corregida.

Las alucinaciones de IA sacuden al sector legal; se vuelve a examinar la responsabilidad ética de los abogados

Este incidente no es la primera vez que el ámbito legal aparece en primera plana por meteduras de pata relacionadas con la IA. En 2023, dos abogados en Manhattan, Nueva York, fueron multados por un juez federal con 5,000 dólares por presentar al tribunal un resumen legal repleto de casos inventados por ChatGPT. En los últimos años, ha habido decenas de casos en los que jueces sancionaron a abogados por usar IA para la investigación legal y la redacción de documentos, sin verificar suficientemente el contenido.

La Asociación Americana de Abogados (ABA) ya ha exigido de manera explícita que los abogados mantengan cautela al usar modelos de IA, y que moralmente también tienen la responsabilidad de garantizar la exactitud de todos los documentos presentados ante el tribunal. En la actualidad, la ley no prohíbe el uso de IA por parte de los abogados, pero la obligación de verificación después del uso recae aún en el propio abogado.

¡A Trump le encanta! El veterano despacho de gran reputación se disculpó

Sullivan & Cromwell, fundado hace más de cien años, es uno de los despachos de abogados más antiguos y de mayor prestigio en la historia de Estados Unidos, con más de 900 abogados, y es conocido mundialmente por operaciones de fusiones y adquisiciones, litigios de gobierno corporativo y negocios de capital privado. Recientemente, el despacho ha estado bajo el foco de atención de manera continua por representar al presidente Trump en múltiples casos de apelación.

Este incidente de “troleo” con IA, sin duda, añade una grieta difícil de ignorar al emblema de este despacho de élite, y vuelve a servir como una advertencia para toda la industria legal.

Este artículo “El despacho de abogados cobra más de dos mil dólares por hora; el documento judicial fue destapado por ‘alucinaciones de IA y errores por todas partes’” apareció por primera vez en 鏈新聞 ABMedia.