Bufete de Wall Street Sullivan & Cromwell se disculpa por errores judiciales causados por «alucinaciones» de IA

El prestigioso bufete de abogados Sullivan & Cromwell ha emitido una disculpa formal a un juez federal tras presentar un documento judicial que contenía decenas de citas legales falsas generadas por inteligencia artificial. El incidente, descubierto por un bufete rival, evidencia los riesgos de la IA en el ámbito legal sin una supervisión humana estricta.

El Incidente y la Disculpa Formal

El error ocurrió en una moción de emergencia presentada ante el Tribunal de Quiebras de los Estados Unidos para el Distrito Sur de Nueva York. El documento contenía aproximadamente 40 citas incorrectas y otros errores atribuidos a alucinaciones de una herramienta de inteligencia artificial.

En respuesta, Andrew Dietderich, co-director del equipo global de reestructuración de Sullivan & Cromwell, envió una carta de disculpa al Juez Principal Martin Glenn. En la misiva, Dietderich asumió la responsabilidad personal y de la firma.

«La Firma y yo somos muy conscientes de nuestra responsabilidad… y asumo la responsabilidad», señaló Dietderich en referencia a la Regla Local de Quiebras 9011-1(d), que exige precisión en las presentaciones ante el tribunal.

La firma también extendió una disculpa al bufete rival Boies Schiller Flexner LLP, que detectó y señaló los errores, lo que precipitó la rectificación formal.

Fallos en los Protocolos y Medidas Correctivas

Políticas Existentes pero No Cumplidas

En su comunicación al juez, Andrew Dietderich confirmó que Sullivan & Cromwell cuenta con políticas internas para el uso de inteligencia artificial, que incluyen procedimientos de revisión de citas legales. Sin embargo, admitió que dichos protocolos no se siguieron de manera efectiva en este caso.

«Lamentablemente, este proceso de revisión no identificó las citas inexactas generadas por la IA, ni identificó otros errores…», reconoció Dietderich.

Esta admisión subraya la brecha entre tener políticas escritas y su correcta implementación en la práctica legal diaria.

Investigación Interna y Acciones Tomadas

Tras el incidente, el bufete implementó medidas correctivas inmediatas, incluyendo una revisión completa de las circunstancias que llevaron al error. La firma evalúa posibles mejoras en la formación interna de sus abogados y en los procesos de revisión de documentos para prevenir casos similares. Paralelamente, se lleva a cabo una investigación interna para determinar los detalles exactos del fallo.

Contexto Amplio: La Problemática de las Alucinaciones de IA en Tribunales

Una Tendencia Global Documentada

El caso de Sullivan & Cromwell no es un incidente aislado. Según datos compilados por el tecnólogo legal Damien Charlotin, se han registrado 1,334 incidentes de alucinaciones de IA en documentos judiciales a nivel mundial, de los cuales más de 900 han ocurrido en tribunales de Estados Unidos.

Charlotin señala que la mayoría de estos incidentes involucran citas legales fabricadas por la inteligencia artificial, aunque ocasionalmente también se han identificado argumentos legales completos generados de manera falsa.

Riesgos en Trabajos Profesionales de Alto Riesgo

El incidente con uno de los bufetes más grandes de Wall Street ejemplifica el peligro concreto que supone el uso de IA sin salvaguardias adecuadas en el sector legal. Enfatiza la necesidad imperiosa de una supervisión humana experta y de un escepticismo crítico al emplear herramientas generativas, incluso en firmas de élite con recursos considerables.

Perfil de Sullivan & Cromwell y Relevancia para Cripto

Sullivan & Cromwell es una de las firmas de abogados más grandes de Estados Unidos por ingresos, ocupando el puesto 30 en el ranking AmLaw Global 200. Su perfil hace que este incidente resuene con fuerza en el mundo legal y financiero.

La firma tiene una conexión directa con el sector de las criptomonedas y blockchain, ya que representó al exchange FTX en su complejo caso de quiebra. Esta vinculación hace que el caso sea de particular interés para la audiencia involucrada en la industria cripto.

El incidente sirve como una advertencia práctica para todo el ecosistema legal y financiero, incluidos los actores de la industria cripto, sobre los riesgos de implementar herramientas de inteligencia artificial sin establecer y hacer cumplir protocolos de verificación humana estricta y múltiples capas de revisión.