Es absolutamente necesario que la nueva judicatura mexicana tome decisiones en materia del uso de la Inteligencia Artificial (IA) en los procesos judiciales; si bien nos falta aún una ley en la materia y una política nacional, esto no exime a los tribunales mexicanos para tomar decisiones, a la brevedad, sobre la materia.
Mi objetivo en este texto es mostrar algunos principios que pueden seguirse, por parte del futuro órgano de administración judicial, para enfrentar pronta y adecuadamente este reto.
La IA se puede definir de varias formas, en general, podemos verla como un conjunto de sistemas capaces de realizar funciones similares a las de la inteligencia humana, como el razonamiento, la resolución de problemas o incluso la creación de nuevos contenidos, opera por medio de algoritmos, que básicamente son un conjunto de instrucciones que permiten a un programa realizar diversas acciones. Esta se considera generativa cuando va más allá de dar información, siendo capaz de generar nuevos productos, como imágenes, audios o escritos.
Los sistemas de IA pueden ser de dos tipos: generalistas y especializados; un ejemplo del primero es Meta IA, o Chat GPT, y no se ocupan de algún tema o área del conocimiento en concreto. Los especializados son aquellos que se centran en una disciplina o materia, por ejemplo, Pretoria, en el caso de la Corte Constitucional Colombiana, para la sistematización de nuevos casos, así como la identificación de precedentes.
En materia procesal, y siguiendo solamente la experiencia de países iberoamericanos[1], la IA se ha implementado para atender dos tipos de cuestiones:
- Administración de los asuntos: turnos, manejo de agendas, asignación de fechas para desahogo de audiencias, distribución de cargas de trabajo, etc.
2. Apoyo jurídico: clasificación de nuevas demandas, identificación de líneas jurisprudenciales o precedentes, análisis de documentos, elaboración de propuestas de textos, asesoría básica para los justiciables, anonimización de datos reservados, conversión de textos en lenguaje jurídico a lenguaje ciudadano, etc.
No me ocupo de las IA diseñadas para atender el primero de los puntos, sino el segundo: el apoyo a la labor judicial.
El nuevo Órgano de Administración Judicial, que conforme al artículo cien constitucional y la vigente Ley Orgánica del Poder Judicial de la Federación, se encargará de la administración judicial, contará con importantes atribuciones que abren la puerta a que sea la autoridad tribunicia que pueda tomar las más importantes decisiones en materia de lA judicial.
Esta nueva autoridad establecerá las normas y criterios para los sistemas y procedimientos administrativos; y fijará las bases de la política informática judicial; además, conforme el Código Nacional de Procedimientos Civiles y Familiares, deberá tomar importantes decisiones para implementar la justicia digital.
De esta manera, este Órgano de Administración deberá tomar conciencia, muy rápidamente, de que se debe ordenar el uso de la IA por parte del personal judicial. Para hacerlo, podría tomar en cuenta diversos elementos de soft law y de Derecho comparado relevantes, como:
- El Reglamento Europeo de Inteligencia Artificial
- La Carta Latinoamericana de Inteligencia Artificial en la Administración Pública
- Las Directrices de la UNESCO para el uso de sistemas de inteligencia artificial en juzgados y tribunales
- Los Lineamientos para el uso de herramientas de Inteligencia Artificial en la Rama Judicial, de Colombia
No pretendo ofrecer una síntesis de esos documentos, pero de los mismos se pueden desprender algunos principios que ofrezco para empezar a trabajar en el Reglamento o Lineamiento para el uso de la Inteligencia Artificial en los órganos jurisdiccionales del Poder Judicial de la Federación:
Protección de derechos humanos: el uso de la IA en sede judicial debe tener por objetivo la tutela y protección de los derechos humanos, con plena conciencia de los riesgos en su uso y minimizándolos. Se deberán realizar, además de auditorias técnicas, auditorias jurídicas de los sistemas que se utilicen, a fin de detectar esos riesgos y tomar oportunamente las medidas pertinentes para neutralizarlos, con particular énfasis en identificar sesgos en la programación así como alucinaciones en los resultados.
Entendimiento de la IA: el funcionariado que utilice la IA para su labor judicial deberá tener los conocimientos necesarios para entender su naturaleza, función, límites, riesgos y aplicaciones.
Responsabilidad institucional: el Poder Judicial debe determinar las reglas aplicables en la contratación, desarrollo, implementación, ejecución y supervisión de la IA judicial. Por tanto, le compete proporcionar los sistemas que se podrán utilizar, o precisar aquellos que, no proveyéndolos, sea lícito utilizar; deberá poner particular cuidado en la contratación de proveedores externos, a fin de garantizar el respeto al marco legal aplicable.
Responsabilidad personal: el uso de la IA es atribuible al funcionariado que recurre a ella. Siempre deberá utilizar la que sea proporcionada o aprobada por el Órgano de Administración, absteniéndose de usar IA de tipo generalista; en todos los casos, deberá usarla con absoluto respeto por los derechos humanos de las partes y terceros, con el cuidado debido a la información en términos de las normas aplicables. Siempre deberá indicar en el expediente el uso de la IA, con la identificación de la misma, el cuestionamiento (prompt) que le formuló, y la respuesta obtenida.
Capacitación permanente: es obligación del Poder Judicial brindar la capacitación y actualización necesaria, y deber del funcionariado judicial, tomarla.
Interoperabilidad: se realizarán las acciones pertinentes para que la interoperabilidad de los sistemas informáticos del Poder Judicial facilite el uso de la IA, buscando también que se articule con las bases de datos externas que se utilicen.
Comprensión: sólo podrá hacerse uso de la IA por parte del funcionariado judicial, si comprende a cabalidad la manera en que arribó a una respuesta.
Juicio humano: la toma de decisiones que impliquen acoger pretensiones, excepciones o defensas, debe ser producto del razonamiento humano del funcionariado judicial a quien compete tomarlas.
Los elementos anteriores me parecen los mínimos indispensables para tomar decisiones en la materia, como base para lograr dos cosas: primero, una política judicial acerca del uso de la IA; segundo, la regulación y puesta en práctica de dicha política.
Vamos tarde, debemos apurarnos.
[1] En concreto, España, México, Colombia, Argentina.
