“Es fundamental que las y los abogados utilicen herramientas como un complemento a su trabajo no especializado y nunca como fuente definitiva de la ‘verdad’. La responsabilidad profesional implica verificar y corroborar cualquier información obtenida mediante la IA antes de utilizarla en un contexto legal.”
De 6 meses a 6 años de prisión y de 50 a 200 días de multa a quien simule un acto jurídico o escrito judicial o altere elementos de prueba y los presente en juicio. De este delito previsto en el Código Nacional de Procedimientos Penales fue acusada mi colega por presentar una jurisprudencia inexistente en una demanda ante un juzgado. Ante la prisa de cumplir con un término y confiando ciegamente en ChatGPT, copio y pegó la respuesta para terminar lo más rápido posible.
El resultado: ChatGPT generó una jurisprudencia perfectamente plausible en forma y fondo, pero inexistente en el sistema legal mexicano. Sin duda, es una obligación verificar la información que se presenta ante un juzgado, pero ¿realmente las y los abogados en México sabemos qué es la Inteligencia Artificial generativa?, ¿por qué crea alucinaciones? o lo que esto significa. ¿Tiene sentido sancionar penalmente el desconocimiento? ¿En qué grado podemos confiar en los sistemas de IA? ¿En qué responsabilidades se puede incurrir al usarla?
La enorme carga de información que tenemos que procesar en tan poco tiempo es una constante en la abogacía a nivel mundial, los casos de Estados Unidos en los que se ha multado y obligado a tomar cursos de IA a abogados por presentar escritos con “alucinaciones” creadas por el uso de ChatGPT en procesos jurisdiccionales han sido muy difundidos. Pero no tenemos que irnos tan lejos, esta es una realidad que también está sucediendo en México.
La Responsabilidad de la Abogacía
Es fundamental que las y los abogados utilicen herramientas como un complemento a su trabajo no especializado y nunca como fuente definitiva de la “verdad”. La responsabilidad profesional implica verificar y corroborar cualquier información obtenida mediante la IA antes de utilizarla en un contexto legal. También las más especializadas que automatizan resoluciones judiciales[1] pero, incluso, en esos casos en donde los textos se generan de manera automática con un entrenamiento conforme a derechos humanos y en un contexto muy especializado, la responsabilidad de firmar el documento recae en la persona que firma la decisión.
Mientras que en México se resuelven este tipo de asuntos penales debemos, al menos, atender a las determinaciones como la de Roberto Mata v. Avianca sancionado con la orden de implementar cursos sobre el uso de la IA en su despacho por el uso de información falsa proporcionada por Chat GPT en una contestación de demanda[2]. En lugar de pagar multas (en ese caso de 5,000 dólares, mejor invirtamos en educación sobre uso ético de IA generativa, es imprescindible actualizarse para usar eficientemente la IA generativa con responsabilidad sobre sus implicaciones.
Uno de los problemas más notorios de los modelos generativos es el fenómeno conocido como “alucinación”. Esta tendencia de las herramientas de IA generativa a producir resultados que, aunque suenan plausibles, son completamente falsos. Este problema, generalmente, no surge de una intención macabra de desinformar, sino que se debe a la naturaleza probabilística de la generación de texto en estos modelos.
“Uno de los problemas más notorios de los modelos generativos es el fenómeno conocido como ‘alucinación’, la tendencia de las herramientas de IA generativa a producir resultados que, aunque suenan plausibles, son completamente falsos. Este problema no surge de una intención macabra de desinformar, sino que se debe a la naturaleza probabilística de la generación de texto en estos modelos.”
ChatGPT de Open AI, Gemini de Google y Bing de Microsoft son algunas de las herramientas que utilizan IA generativa, funcionan seleccionando datos, en este caso letras y palabras basadas en probabilidades. Por ejemplo, en la frase “el cielo es” la siguiente palabra más probable será “azul”. Sin embargo, cuando las probabilidades aprendidas durante el entrenamiento no reflejan con precisión la realidad, o si la probabilidad asignada es incorrecta, el resultado generado será incorrecto.
Este enfoque probabilístico puede generar predicciones basadas en contextos ambiguos o insuficientes, lo que lleva a interpretaciones y respuestas erróneas. Además, el lenguaje natural (humano) usado por estos modelos es complejo y a menudo ambiguo. Una misma palabra o frase puede tener múltiples significados dependiendo del contexto, lo que puede llevar a malinterpretaciones. Así, la forma en la que se generan las respuestas constituye una limitante inherente a los “grandes modelos de lenguaje” o Large Lenguaje Models LLMs,[3] sobre todo cuando no son modelos especializados en derecho.
Es importante diferenciar entre modelos especializados en derecho y modelos generales como ChatGPT. No hay una sola IA, hay muchos sistemas que usan IA generativa, ChatGPT es uno de ellos, tan popular que se considera el nuevo Google, pero no es un sistema pensado para profesionales del derecho. Las herramientas como ChatGPT, Gemini, Bing, etc. son modelos con información general que las y los abogados deben aprender a usar de manera ética y efectiva, tal y como aprendieron a usar Google, también pueden optar por usar modelos expertos en derecho.
Los datos utilizados para entrenar a ChatGPT, por ejemplo, incluyen una amplia gama de información disponible en internet, que puede contener errores, sesgos y desinformación. Dado que el modelo no puede discernir automáticamente entre información precisa e imprecisa, puede generar respuestas basadas en datos incorrectos. Pero también, desde hace décadas, existen “sistemas expertos”[4] construidos con la ayuda de especialistas que utilizan como ayudas intelectuales de alto nivel para abogadas y abogados. De ahí que les llamen asistentes inteligentes, pues han demostrado tener una precisión más alta que el 90% de las y los abogados humanos.[5]
En el derecho, la complejidad y actualización continua de la normatividad vigente y su interpretación hacen que sea necesario usar modelos expertos diseñados para manejar tareas en dominios específicos con una mayor precisión. Estos modelos se entrenan con datos especializados e incorporan conocimiento jurídico de su campo de aplicación proporcionando respuestas más precisas y fiables para cuestiones jurídicas. Los modelos expertos como Harvey a nivel global, CoCounsel en Estados Unidos o IA LucIA en México.
“En el derecho, la complejidad y actualización continua de la normatividad vigente y su interpretación hacen que sea necesario usar modelos expertos diseñados para manejar tareas en dominios específicos con una mayor precisión. Estos modelos se entrenan con datos especializados e incorporan conocimiento jurídico de su campo de aplicación proporcionando respuestas más precisas y fiables para cuestiones jurídicas.”
La IA tiene el potencial de revolucionar la práctica legal, eficienta los tiempos de búsqueda y de redacción de argumentos, pero su uso debe venir acompañado de una comprensión clara de sus limitaciones, riesgos e integridad profesional. Actualizarse es indispensable, no solo para prevenir sanciones, comprender su uso ético y eficiente es el primer paso esencial para aprovechar una herramienta que por sí misma no nos va a sustituir, pero sin duda da una ventaja competitiva abismal a quien sabe usar las herramientas adecuadas.
[1] L. Márquez. 2024 Inteligencia Artificial en las decisiones jurisdiccionales. Centro de estudios Constitucionales de la SCJN.
[2] Case 1:22-cv-01461-PKC, 22/06/2023 United States District Court Southern of New York. Disponible en https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.54.0_3.pdf
[3] A. Radford, et. All., 2028. Improving Language Understanding by Generative Pre-Training. Opena AI. Disponible en: https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf
[4] R.E. Susskind. Expert Systems In Law: A Jurisprudential Approach To Artificial Intelligence And Legal Reasoning. The Modern Law Review, 49, 168-194, 1986. Disponible en: https://onlinelibrary.wiley.com/doi/pdf/10.1111/j.1468-2230.1986.tb01683.x
[5] D.M. Katz, et. al. GPT-4 Passes the Bar Exam. Disponible en: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4389233
