Entrevista con Christian Paredes, Coordinador de la Comisión de Tecnologías de la Información y Derechos Digitales de la BMA, realizada por Marco V. Herrera, Socio Líder de Servicios de Consultoría en Abogado Digital, para LegalX Podcast.
“De acuerdo con su capacidad cognitiva las IA se clasifican en: IA estrecha, diseñada para ejecutar tareas específicas; IA general, realiza cualquier tarea cognitiva que un ser humano pueda hacer; SuperIA, supera las capacidades cognitivas humanas en todos los aspectos.”
¿Qué es la Inteligencia Artificial?
La Inteligencia Artificial (IA) es la capacidad de una máquina para llevar a cabo tareas que tradicionalmente requieren inteligencia humana. Esto incluye actividades como el reconocimiento de voz, la toma de decisiones o la traducción de idiomas. Existen diferentes tipos de IA, clasificadas según su capacidad cognitiva:
- IA estrecha: Está diseñada para ejecutar tareas específicas, como el reconocimiento de imágenes o la gestión de datos en sistemas determinados. No puede realizar funciones fuera de su área programada.
- IA general: Tiene la capacidad de realizar cualquier tarea cognitiva que un ser humano pueda hacer. Modelos como ChatGPT entran en esta categoría, ya que son capaces de comprender y generar respuestas en lenguaje natural sobre una amplia gama de temas.
- SuperIA: Este tipo de IA supera las capacidades cognitivas humanas en todos los aspectos, desde la creatividad hasta la toma de decisiones complejas. Aún es un concepto teórico y no ha sido alcanzado.
Dentro de la IA General, se encuentra la IA Generativa, que se destaca por su habilidad para crear contenido original a partir de datos existentes. Un ejemplo claro de esto es el servicio MetaAI integrado en WhatsApp, que permite generar respuestas o contenido a través de preguntas simples o complejas. Además, con esta tecnología podemos solicitar a la IA tareas más complejas, como crear presentaciones basadas en conceptos específicos.
Es importante destacar que, aunque las IAs generativas tienen un alto grado de capacidad cognitiva, la calidad de los resultados depende en gran medida de la manera en que se entrenan y se interactúa con ellas. En mi experiencia con el uso de diversos modelos de IA, he notado que entienden una misma pregunta de manera diferente, lo que resalta la importancia de entrenar adecuadamente a estas máquinas para obtener respuestas óptimas. La IA no solo está transformando la manera en que interactuamos con la tecnología, sino también cómo generamos y procesamos información en el ámbito profesional, académico y creativo.
Retos de la Inteligencia Artificial
Estamos en una etapa en la que todos los sistemas de IA están orientados a aprender, uno de los principales desafíos se encuentra en el ámbito de la propiedad intelectual. Existen crecientes preocupaciones, especialmente en Estados Unidos, sobre el uso indiscriminado de información pública disponible en internet para entrenar modelos de IA. Los reclamos apuntan a que esta información no debería ser utilizada de manera arbitraria por los servicios de IA sin el consentimiento de sus creadores o titulares de derechos.
A este problema se suma otro de gran relevancia: la responsabilidad del usuario. Cuando interactuamos con estas herramientas, debemos ser cautelosos de no utilizar datos confidenciales o personales, ya que las IA pueden almacenar y procesar esta información de manera no siempre transparente, lo que plantea riesgos para la privacidad y la seguridad.
Un desafío adicional y crucial es el de los sesgos presentes en los modelos de IA. Las bases de datos que alimentan estos sistemas, en muchos casos, tienen décadas de antigüedad. Por ejemplo, muchos modelos de IA han sido entrenados con datos creados por individuos de un perfil específico, como hombres caucásicos, lo que puede generar sesgos que se reflejan en las decisiones y resultados que ofrecen las máquinas. Este tipo de sesgos, que a menudo pasan desapercibidos, pueden perpetuar estereotipos o discriminar a grupos marginados, lo que plantea retos éticos y sociales importantes.
“Debemos ser cautelosos de no utilizar datos confidenciales o personales, ya que las IA pueden almacenar y procesar esta información de manera no siempre transparente, lo que plantea riesgos para la privacidad y la seguridad.”
El uso de la IA no solo implica una profunda transformación tecnológica, sino también un compromiso con la ética, la responsabilidad y la inclusión. La sociedad deberá enfrentar estos retos para garantizar que su desarrollo y aplicación se realicen de manera justa, transparente y segura.
Riesgos y Responsabilidad de los Abogados Frente a la IA
Los abogados que han comenzado a integrar la Inteligencia Artificial (IA) en su práctica conocen los beneficios que estas herramientas ofrecen: mayor eficiencia en la revisión de documentos, análisis de contratos, facilidades para investigaciones e incluso la capacidad de predecir decisiones judiciales. Sin embargo, estos avances traen consigo importantes responsabilidades y riesgos. Como en todo proceso de innovación, mientras mayor sea el poder de la herramienta, mayor será la responsabilidad en su uso. A continuación, se detallan algunos de los principales aspectos a tener en cuenta.
1. Capacidad de competencia. Es fundamental que los abogados comprendan las capacidades y limitaciones de las herramientas de IA. No basta con utilizar estas tecnologías, sino que debemos ser competentes para gestionarlas adecuadamente, especialmente cuando estamos manejando información confidencial de nuestros clientes. El entendimiento de cómo funcionan estas herramientas y el uso adecuado de la información es una responsabilidad clave. No se trata solo de aprovechar sus beneficios, sino también de conocer cómo y cuándo estas herramientas pueden fallar o generar resultados erróneos.
2. Confidencialidad. Los abogados tenemos la obligación de proteger la información que nuestros clientes nos confían. Esto es aún más relevante cuando se utilizan herramientas de IA, que requieren procesar grandes volúmenes de datos. La IA puede implicar riesgos adicionales en cuanto a la divulgación no autorizada de información. Es crucial que los abogados no solo evaluemos los riesgos de seguridad, sino que también tengamos en cuenta principios básicos de la gestión de la información: confidencialidad, integridad y disponibilidad. Además, debemos ser muy cuidadosos con quién tiene acceso a la información dentro de un despacho o una empresa, estableciendo controles claros para evitar brechas de seguridad.
3. Comunicación transparente. La transparencia en el uso de la IA es esencial. Los clientes deben estar plenamente informados de que su información será procesada mediante IA para mejorar los resultados de su consulta. No se puede utilizar una herramienta de IA sin primero obtener el consentimiento expreso de los clientes y comunicarles cómo y para qué se usará su información. Esta es un área que aún está en desarrollo, la falta de cultura en torno a la transparencia puede generar situaciones ambiguas sobre el uso de estas tecnologías.
4. Revisión y verificación. El uso de la IA no debe reemplazar el juicio crítico del abogado. Aunque estas herramientas pueden ser extremadamente útiles, no debemos caer en la trampa de confiar ciegamente en los resultados que proporcionan. La capacidad de revisar y verificar la información es vital para evitar ofrecer asesoramiento incorrecto. Es importante recordar que los abogados tradicionales, que aún recurren a fuentes físicas y verifican manualmente la información, tienen una ventaja en este aspecto. La revisión rigurosa de los datos generados por la IA es esencial para evitar errores que puedan perjudicar a nuestros clientes o incluso resultar en consecuencias legales graves, como la pérdida de un caso por información errónea generada por el sistema.
“Las principales responsabilidades que deben tener los abogados en cuanto al manejo de la IA son: capacidad de competencia en su uso, confidencialidad de los datos de clientes, comunicación a los clientes de las políticas de uso y revisión y verificación de la información generada por IA.”
Directrices Éticas y Regulatorias
La Barra Mexicana de Abogados y otros organismos internacionales, como la Unión Europea y las autoridades de Estados Unidos, han establecido directrices sobre el uso de la IA en la práctica legal que se centran en principios de transparencia, competencia y ética. Los abogados debemos estar al tanto de estas normativas y adaptarnos a ellas, pues los marcos regulatorios están evolucionando rápidamente. En particular, la Unión Europea está evaluando los riesgos de la IA, clasificándolos en categorías que van de medios a altos, lo que podría tener un impacto significativo en el sector legal.
El Futuro de la Profesión Legal
La responsabilidad no solo recae sobre el uso correcto de la IA, sino también en cómo los abogados manejamos el riesgo de su implementación. El derecho, como disciplina, no busca transformar la realidad, sino reflejarla; por ello, debemos mantener la integridad y ética de la profesión frente a los avances tecnológicos. El uso de la IA debe ir de la mano con la transparencia y el respeto a los principios éticos, buscando siempre que los beneficios de la tecnología se alineen con la responsabilidad social y profesional.
Finalmente, es urgente actualizar los códigos de ética de los colegios de abogados en México para estar a la vanguardia de los avances tecnológicos. La ética no está reñida con la rentabilidad, y debe ser el cimiento sobre el cual se construya el futuro de la práctica legal. A medida que la IA sigue desarrollándose, es previsible que los despachos de abogados comiencen a incluir avisos sobre el uso de estas herramientas, explicando cómo se procesará la información del cliente y con qué limitaciones, garantizando así un servicio más eficiente y seguro, pero siempre dentro de los principios éticos que rigen nuestra profesión.
“Es urgente actualizar los códigos de ética de los colegios de abogados en México para estar a la vanguardia de los avances tecnológicos. La ética no está reñida con la rentabilidad, y debe ser el cimiento sobre el cual se construya el futuro de la práctica legal.”
