Defensores legales buscan claridad sobre el uso de la IA para dictámenes

En un movimiento que ha generado controversia y preocupaciones dentro de la comunidad legal de Taiwán, el Yuan Judicial anunció recientemente su intención de integrar la inteligencia artificial (IA) en la redacción de dictámenes judiciales. Mientras que los partidarios argumentan que esta tecnología podría agilizar y mejorar la eficiencia del sistema legal, los profesionales legales y los defensores de la justicia están pidiendo transparencia, responsabilidad y salvaguardas para prevenir juicios erróneos y sesgados.

Llamados a la divulgación pública

Varios grupos prominentes, incluida la Asociación de Abogados de Taiwán y la Fundación de Reforma Judicial, han expresado su preocupación por la decisión del Yuan Judicial. Enfatizan la necesidad de una comunicación clara con el público sobre cómo la IA ayudará a los jueces a redactar dictámenes y qué medidas se implementarán para prevenir errores y sesgos potenciales. 

Expansión del papel de la IA

Inicialmente, el Yuan Judicial tiene la intención de emplear IA generativa en casos de fraude, lavado de dinero y conducción peligrosa, después de completar las pruebas del sistema. Además, planean expandir la participación de la IA a demandas civiles relacionadas con compensaciones por accidentes de tráfico y cancelaciones y liquidaciones de deudas. El Yuan Judicial afirma que su sistema de IA está específicamente diseñado para producir borradores de dictámenes y no solo generar contenido genérico. Se le considera una “herramienta inteligente” capaz de generar contenido basado en acusaciones relevantes y analizar rápidamente los hechos y pruebas penales.

Preguntas sin respuesta

A pesar del entusiasmo del Yuan Judicial por integrar la IA, la comunidad legal sigue siendo escéptica. Hay varias preguntas urgentes que exigen respuestas:

Fuentes de datos y entrenamiento

El Yuan Judicial no ha revelado el rango de tiempo del cual se obtuvieron los documentos legales para entrenar el sistema de IA. Los profesionales legales están preocupados por la capacidad del sistema para analizar instantáneamente los hechos y pruebas penales, especialmente si depende principalmente de fallos judiciales y acusaciones en lugar de expedientes específicos del caso.

Contratista externo y gestión de datos

El Yuan Judicial no ha proporcionado claridad sobre cómo un contratista externo construyó la base de datos utilizada para entrenar el sistema de IA. Además, sigue siendo incierto si los datos son almacenados y gestionados por el contratista o por el Yuan Judicial.

El público tiene derecho a entender cómo el contratista abordará los problemas derivados de información incompleta o sesgada en la base de datos al ajustar los parámetros de la IA. Además, existe la necesidad de transparencia sobre cómo se resolverán las disputas de responsabilidad entre el Yuan Judicial y el contratista.

Autoridad de los jueces y supervisión

Mientras que el Yuan Judicial afirma que los jueces retendrán la autoridad final sobre la determinación de los hechos, la aplicación de la ley y la emisión de sentencias, hay preocupaciones sobre la precisión de los cambios realizados en el contenido generado. Se necesita claridad sobre si los jueces tendrán la última palabra sobre los factores que conducen a sus juicios.

Exigencias de transparencia

Los profesionales legales y los defensores argumentan a favor de una mayor transparencia y acceso a la base de datos de entrenamiento de la IA. Permitir que abogados, fiscales y otras partes interesadas examinen la base de datos permitiría un escrutinio colectivo de los posibles sesgos y riesgos inherentes al sistema.

Precedentes internacionales y preocupaciones

Si bien la IA se ha utilizado en otros países para ayudar a compilar pruebas para casos legales, su uso para ayudar a los jueces a redactar dictámenes y tomar decisiones sigue siendo un territorio relativamente inexplorado a nivel internacional. Se plantean preocupaciones por un estudio de la Universidad de Purdue que muestra que una parte significativa de las personas puede no detectar errores en el contenido de la IA con una tasa de precisión inferior al 50%, un fenómeno conocido como “alucinación artificial”.

Riesgos de la IA en la justicia

Existe una creciente conciencia de los riesgos asociados con el uso extensivo de la IA en el sistema de justicia, particularmente en los Estados Unidos. El papel de la IA en ayudar a los jueces a sentenciar basándose en el riesgo de reincidencia de los acusados puede reforzar inadvertidamente los prejuicios existentes y las desigualdades raciales. La IA, aunque poderosa, puede pasar por alto factores culturales cruciales, situaciones de las partes interesadas e intenciones, elementos esenciales que los jueces deben considerar al tomar decisiones que no pueden ser replicados por la IA.

La integración de la IA en el sistema judicial promete un aumento de la eficiencia, pero también plantea preguntas complejas sobre transparencia, sesgo, responsabilidad y el papel de los jueces. La comunidad legal en Taiwán está pidiendo un enfoque cauteloso que priorice la divulgación pública, las salvaguardas contra el sesgo y preserve el papel esencial del juicio humano en el proceso legal. A medida que el uso de la IA en el campo legal continúa evolucionando, abordar estas preocupaciones será esencial para garantizar resultados justos y equitativos para todos.