(Comentarios a una sentencia)[i]
El objetivo de este texto es analizar la reciente sentencia T-067 de 2025, resolución de la Corte Constitucional colombiana, en la que se aborda el tema relativo a la Inteligencia Artificial (IA) y la transparencia algorítmica en el servicio público.
Si bien el tema de la resolución se vincula con el acceso a la información, no me enfocaré en el mismo más allá de lo necesario, pues el estudio de dicha cuestión rebasa el sentido de estas líneas.
El asunto tiene como origen la petición de un ciudadano para conocer el código fuente de la aplicación CoronApp, que fue utilizada por el gobierno colombiano para atender cuestiones relativas con la pandemia del COVID-19, que permitía a la ciudadanía registrar su estado de salud, así como realizar autodiagnósticos y conocer medidas de prevención.
Las autoridades requeridas, pertenecientes tanto al área de salud así como informática, negaron obsequiar la solicitud, situación que fue confirmada en las sentencias de amparo en primera y segunda instancia, llegando entonces el asunto a la Corte Constitucional.
En esta sentencia se reconoce el uso de la IA en la administración pública, para cuestiones como otorgamiento de subsidio, acceso a espacios en las instituciones educativas, expedición de visas o selección de medidas de aseguramiento; y que estos usos impactan en los derechos de las personas.
Las IA requieren, para funcionar, de algoritmos, que se afirma en la resolución, se sirven de un código fuente para contar con la estructura e instrucciones necesarias para funcionar. Son fundamentales entonces para la toma de decisiones
Estos códigos pueden ser abiertos o cerrados, los primeros al ser conocidos permiten a terceras personas modificarlos e incluso mejorarlos. Los segundos no se dan a conocer a fin de proteger el producto comercial propio de la IA.
Los códigos abiertos facilitan su revisión, así como la rápida corrección de los problemas que presenten. Estos pueden incluir, afirmo, alucinaciones (respuestas claramente equivocadas) o sesgos, con el potencial de impactar en los derechos humanos.
La administración pública puede, afirma la Corte colombiana, utilizar códigos cerrados, cuando su publicidad ponga en riesgo la seguridad nacional. Sin embargo, el uso de IA de código abierto por las instancias gubernamentales se considera como una garantía para el uso adecuado y razonable de los datos personales (que se encuentran en las bases de datos con las que trabajan las IA) y evitar decisiones arbitrarias o discriminatorias.
Lo anterior, se afirma, da lugar al concepto de transparencia algorítmica, que permite la disponibilidad de información cobre sistemas algorítmicos para conocer su funcionamiento y evaluarlo.
De forma muy relevante, la sentencia relaciona lo anterior con un fin constitucional, que es el de democratización, en una vertiente aplicada a la toma de decisiones automatizadas, a fin de que sea entendible por la ciudadanía.
Aquí me detengo: este punto es central en el argumento de la sentencia, pues afirma sin ambages que las decisiones de las autoridades deben ser entendibles para las personas. Dicho de otra manera, hay un derecho a entender cómo procesan la información los sistemas de IA que usa la administración pública y de qué manera llegan a las decisiones o sugerencias a las que arriban.
Por tanto, en ninguna forma una autoridad podría responder que ni puede explicar cómo llegó la IA a la conclusión que arribó, ni tampoco dar a conocer el código fuente, que permitiría al particular conocer cómo funciona dicha IA.
La Corte Constitucional de la República de Colombia deja claro que la transparencia algorítmica va de la mano con el entendimiento de la actuación pública, así como el control de la misma.
Así, se entiende que en los resolutivos se ordene la entrega del código fuente al solicitante; pero más aún, se instruye a la Agencia Nacional Digital para que emita unos lineamientos en materia de transparencia algorítmica para los sistemas de IA utilizados por el Estado.
En esta sentencia, como en la anterior resolución T-323 de 2024 en que se ordenó al Consejo de la Magistratura emitir lineamientos para el uso de la IA en sede judicial, la Corte Constitucional colombiana va marcando un camino que, ojalá pronto, sigan nuestras autoridades mexicanas en la materia.
[i] Sentencia T-067 de 2025, de la Corte Constitucional de Colombia, Sala Novena de Revisión, dictada el 26 de febrero de 2025, magistrada ponente Natalia Ángel Cabo; puede leerse en https://www.corteconstitucional.gov.co/relatoria/2025/T-067-25.htm
