El principal bufete de abogados admite "alucinaciones" de IA en una presentación de quiebra relacionada con una red de estafas presunta

En resumen

• La firma de abogados Sullivan & Cromwell ha admitido que una presentación reciente en un caso de alto perfil incluyó “alucinaciones” de IA.
• La firma dijo que la salida de IA no fue debidamente verificada e incluyó citas fabricadas.
• El caso involucra esfuerzos de liquidadores designados por el tribunal para perseguir reclamaciones relacionadas con la organización sancionada Prince Group.

La firma de abogados Sullivan & Cromwell ha admitido ante un tribunal de quiebras de EE. UU. que una presentación reciente en un caso de alto perfil contenía errores generados por inteligencia artificial, incluyendo citas fabricadas. “Lamentamos profundamente que esto haya ocurrido”, escribió Andrew Dietderich, jefe de reestructuración de la firma, al juez Martin Glenn, diciendo que el documento incluía “alucinaciones” de IA que produjeron autoridades ficticias y distorsionaron las existentes. La revelación se hizo en una carta al Tribunal de Quiebras de EE. UU. para el Distrito Sur de Nueva York, donde la firma representa a liquidadores designados por el tribunal de las Islas Vírgenes Británicas. Los errores aparecieron en una moción del 9 de abril y la firma dijo que no se siguieron sus reglas sobre el uso de IA durante la preparación.

El caso involucra esfuerzos de esos liquidadores para perseguir reclamaciones vinculadas a Prince Group y su propietario, Chen Zhi. Los fiscales alegan que Chen dirigió compuestos fraudulentos que atacaron a víctimas en todo el mundo y han buscado recuperar miles de millones de dólares en criptomonedas que, según dicen, están vinculadas a la actividad. Fue detenido a principios de este año en Camboya y posteriormente repatriado a China. A través de procedimientos del Capítulo 15 en EE. UU., los liquidadores buscan el reconocimiento de su autoridad para actuar en nombre de los acreedores y víctimas presuntas. Prince Group, incorporada en las Islas Vírgenes Británicas, ha sido vinculada por las autoridades estadounidenses a operaciones de fraude a gran escala en el Sudeste Asiático y sancionada por los gobiernos del Reino Unido y EE. UU. Según una presentación corregida, la presentación del 9 de abril tergiversó la jurisprudencia en varios lugares e incluyó citas que no respaldaban las proposiciones atribuidas a ellas, mientras que algunas parecían no tener base alguna. La firma retiró la moción original y ha presentado una versión revisada. Los abogados de Prince Group y Chen en Boies Schiller Flexner identificaron inicialmente los errores. Dijeron que no se podía encontrar el lenguaje atribuido al Código de Quiebras de EE. UU. y que varias autoridades estaban mal caracterizadas o mal identificadas. En un caso, dijeron, una sentencia citada hacía referencia a una decisión diferente en otro circuito.

 En una presentación separada, los acusados dijeron que al menos 28 citas eran erróneas, incluyendo citas atribuidas al tribunal que no existen. Argumentaron que el momento de la corrección fue perjudicial porque la presentación revisada llegó después de que habían presentado objeciones, y pidieron al tribunal que aplazara una audiencia programada y celebrara una conferencia de estado. Sullivan & Cromwell dijo que sus políticas requieren que los abogados completen capacitación antes de usar herramientas de IA y que verifiquen de manera independiente toda la salida. “Antes de que a cualquier abogado del bufete se le conceda acceso a herramientas de IA generativa, el abogado debe completar dos módulos de capacitación requeridos, cuyo cumplimiento se rastrea y verifica. La capacitación enfatiza repetidamente el riesgo de ‘alucinaciones’ de IA, incluyendo la fabricación de citas de casos, la mala interpretación de autoridades y citas inexactas,” dijo. “Instrúye a los abogados a ‘confiar en nada y verificar todo’ y deja claro que no verificar de manera independiente la salida generada por IA constituye una violación de la política del bufete.” La firma dijo que una revisión más amplia encontró problemas menores adicionales en otros archivos, que atribuyó a errores humanos en lugar de IA. No identificó a los abogados que prepararon la moción original. IA en el banquillo El incidente se suma a una lista creciente de errores relacionados con IA en la práctica legal, ya que las firmas prueban herramientas diseñadas para acelerar la investigación y la redacción. Los tribunales han sancionado o criticado recientemente a abogados por presentar archivos con referencias fabricadas o inexactas producidas por IA. En Australia, un abogado fue privado de su capacidad para ejercer como abogado principal debido al uso de IA el año pasado. Las facultades de derecho están comenzando a requerir instrucción sobre la tecnología, mientras que jueces superiores han advertido que el uso indebido podría afectar la integridad de los procedimientos.

Las decisiones recientes también han abordado cómo encaja la IA dentro de los marcos legales existentes, incluyendo si las interacciones con tales herramientas están protegidas por privilegio. Al mismo tiempo, algunos tribunales están pilotando sistemas de IA para ayudar a gestionar cargas de trabajo pesadas.