Uno de los bufetes de abogados más prestigiosos del mundo, Sullivan & Cromwell, ha tenido que disculparse ante un juez federal de Nueva York por presentar documentos legales con errores generados por inteligencia artificial. El incidente tuvo lugar en el marco de un caso de quiebra vinculado a Prince Group, una empresa constituida en las Islas Vírgenes Británicas y cuyo propietario, Chen Zhi, está acusado por la fiscalía federal estadounidense de fraude electrónico y lavado de dinero a gran escala.
Andrew Dietderich, responsable del departamento de reestructuración de la firma, envió el pasado sábado una carta al juez Martin Glenn en la que pedía disculpas por los fallos detectados en un documento presentado el 9 de abril. Según la carta, el texto incluía citas erróneas del código de quiebras estadounidense y referencias incorrectas a resoluciones judiciales previas. En algunos casos, los documentos resumían de forma inexacta las conclusiones de otros fallos; en otros, se citaba como precedente lo que en realidad era una decisión de un circuito judicial completamente diferente.
Un fallo que nadie en la firma debería haber pasado por alto
Lo más llamativo del asunto no es que la IA cometiera errores, sino que nadie los detectó antes de presentar los documentos ante el tribunal. La propia firma reconoció que no se habían seguido sus protocolos internos sobre el uso de herramientas de inteligencia artificial. S&C afirma tener una política explícita que obliga a sus abogados a "no confiar en nada y verificar todo" cuando usan IA, y advierte que no hacerlo "constituye una violación de la política de la firma". Sin embargo, en este caso esa supervisión no se produjo.
Según personas cercanas a las operaciones internas de la firma, S&C dispone de una licencia corporativa de ChatGPT. Los errores fueron detectados, paradójicamente, por el bufete contrario: Boies Schiller Flexner, que representa a Prince y a Zhi, señaló en un escrito que algunas palabras citadas por S&C "no aparecen en el Capítulo 15 del Código de Quiebras de Estados Unidos". El escándalo, por tanto, llegó desde fuera.
Dietderich no identificó en su carta a los abogados concretos responsables de los documentos, ni aclaró si siguen trabajando en la firma. S&C declinó hacer declaraciones públicas al respecto.
Un problema que se repite en el sector legal
Este episodio no es un caso aislado. En los últimos meses, varios bufetes estadounidenses han protagonizado incidentes similares relacionados con el uso descuidado de herramientas de IA generativa. El año pasado, Latham & Watkins admitió que uno de sus abogados utilizó el modelo Claude de Anthropic para redactar un documento que incluía un autor y un título apócrifos para un artículo académico. En otro caso, un tribunal federal de Nueva Orleans multó con 2.500 dólares a un abogado que presentó un escrito con 21 errores o invenciones generadas por IA.
Incluso el propio Boies Schiller Flexner, que ahora señala los errores de S&C, tiene sus propias cuentas pendientes con la IA. En septiembre pasado, uno de sus entonces socios reconoció ante un tribunal, en un caso contra Amazon, que un documento que había elaborado con herramientas de IA contenía errores de citación graves por no haber verificado los resultados. "Me avergüenzo de estos errores", declaró en el escrito presentado.
Lo que estos casos evidencian es una tensión estructural en el sector: los grandes despachos están bajo presión para adoptar tecnología que agilice los procesos y reduzca costes operativos, pero la velocidad de implantación no siempre va acompañada de los controles necesarios para garantizar la calidad. El problema es especialmente delicado en el ámbito jurídico, donde una cita incorrecta puede tener consecuencias reales para los clientes y para la credibilidad del bufete ante el tribunal.
El contexto del caso Prince Group
El caso en el que se han producido estos errores tiene una envergadura considerable. S&C representa a los liquidadores de Prince Group designados por los tribunales de las Islas Vírgenes Británicas, quienes buscan que la justicia estadounidense reconozca formalmente su autoridad para actuar en nombre de acreedores y víctimas en suelo norteamericano, a través del mecanismo previsto en el Capítulo 15 del Código de Quiebras de Estados Unidos. Paralelamente, la fiscalía federal ha presentado una demanda de decomiso civil para incautar casi 9.000 millones de dólares en bitcoins que, según las autoridades, representan las ganancias ilícitas de las operaciones de Prince Group.
Chen Zhi fue arrestado en Camboya a principios de este año y posteriormente extraditado a China a petición de Pekín, lo que añade una dimensión geopolítica a un caso que ya de por sí mueve cifras extraordinarias. No es casualidad que al menos cinco socios de alto nivel de S&C estén asignados al caso, ni que los honorarios de la firma en casos de quiebra superen los 2.000 dólares por hora. El bufete acumuló varios cientos de millones de dólares en honorarios por su representación de FTX durante su proceso de liquidación.
Que en este contexto de altísimas exigencias y visibilidad pública se hayan colado errores de IA sin supervisión adecuada dice mucho sobre los riesgos que asumen las firmas que implantan estas herramientas sin los controles internos apropiados. La tecnología puede ser un aliado valioso para el trabajo legal, pero en ningún caso puede sustituir la responsabilidad del abogado de revisar cada palabra antes de presentarla ante un juez.