Claude AI generó citas falsas de un tribunal simulado; el abogado se disculpa y admite haber cometido errores

En una demanda ante un tribunal federal relacionada con despidos federales masivos durante la administración Trump, el abogado Jason Grieves presentó una declaración el 16 de mayo en la que admite que los documentos de moción presentados al tribunal contienen citas falsas, generadas después de que utilizara la plataforma de IA empresarial Anthropic Claude Console para ayudar a redactar la moción.

Cronología de hechos confirmada: proceso completo de la declaración de Grieves

6 de mayo por la mañana (confirmado): Por la urgencia del tiempo, Grieves utilizó Claude Console para crear el primer borrador de la moción y lo envió a un abogado asistente, junto con instrucciones orales explícitas: «Este borrador ha sido generado por inteligencia artificial; necesitas revisar cuidadosamente las citas».

6 de mayo por la tarde (confirmado): El abogado asistente le informó a Grieves que había revisado y verificado cada una de las citas. El asistente encontró dos casos citados de forma incorrecta y halló otro caso de reemplazo; aun así, las citas falsas permanecieron en el documento final presentado.

Grieves confirma en su declaración dos aspectos de la responsabilidad: «Asegurar que las citas sean precisas y completamente correctas es enteramente mi responsabilidad; asumo toda la responsabilidad por ello»; «Los casos citados podrían, en general, respaldar nuestra postura, pero permitir la inclusión de citas falsas es un error imperdonable».

Ubicación confirmada de Claude Console

Claude Console (antes Anthropic Developer Console) se lanzó en marzo de 2023. Es la plataforma de IA empresarial de Anthropic para que empresas y profesionales interactúen con el modelo de IA Claude. Sus usos incluyen redactar documentos, resumir, codificar e investigar. En su declaración, Grieves lo describe como «una plataforma de inteligencia artificial a nivel empresarial, con aislamiento de datos», en contraste con Claude.ai, orientado a consumidores.

Antecedentes con precedentes confirmados sobre cómo la alucinación de la IA llega al tribunal

En abril de 2026, los abogados del despacho Sullivan & Cromwell ya fueron sancionados formalmente por presentar ante el tribunal citas legales falsas generadas por IA. La demanda de Grieves sobre despidos federales masivos de la administración Trump incluye recortes de personal de la FEMA y una reforma propuesta de protección de funcionarios públicos. El tribunal aún no ha anunciado las decisiones sobre el manejo posterior.

Preguntas frecuentes

¿Cómo explica Grieves la atribución de la responsabilidad por la aparición de citas falsas?

De acuerdo con la declaración de Grieves, informó claramente de forma oral al abogado asistente que el borrador era generado por IA y le pidió que verificara las citas. El asistente confirmó que las había revisado, pero aun así pasaron citas falsas. Grieves afirma explícitamente que, como socio director y firmante de la demanda, asume toda la responsabilidad y no la traslada al asistente ni a la propia herramienta de IA.

¿En qué se diferencia Claude Console del uso general de Claude AI?

Claude Console (Anthropic Developer Console) es una plataforma de IA de nivel empresarial con un diseño de aislamiento de datos, orientada a empresas y usuarios profesionales; se diferencia de la versión para consumidores de Claude.ai en el procesamiento de datos y en las estructuras de cumplimiento. Grieves destaca especialmente el uso de «una plataforma de inteligencia artificial a nivel empresarial, con aislamiento de datos», pero esto no puede impedir la ocurrencia de alucinaciones de IA (generación de citas incorrectas).

¿Cómo maneja el tribunal el caso de citas legales falsas generadas por IA?

En el caso de Sullivan & Cromwell de abril de 2026, los abogados ya recibieron sanciones formales por problemas similares. En el caso de Grieves, el abogado se disculpó formalmente ante el tribunal; el tribunal aún no ha publicado el resultado específico del manejo posterior.