Inteligencia Artificial y protección de datos

La Red Iberoamericana de Protección de Datos Personales (RIPD) aprobó y publicó, el 21 de junio de 2019 en la CDMX, el documento Recomendaciones Generales para el Tratamiento de Datos en la Inteligencia Artificial (IA).

La RIPD establece que la IA son técnicas computacionales y procesos encaminados a mejorar la capacidad de las máquinas para realizar muchas actividades; y van desde modelos algorítmicos, sistemas de machine learning, hasta las técnicas de deep learning.

En ese sentido, el uso de datos personales en la IA es relevante pues son el insumo principal para el funcionamiento de algunos sistemas de inteligencia artificial, señala el documento.

[Te puede interesar: Inteligencia Artificial y la Automatización de la Justicia]

De ahí surge la preocupación “que el uso de información personal para el desarrollo de la IA sea respetuoso de los derechos humanos y del marco normativo aplicable al tratamiento de datos personales” dice la RIPD.

El objetivo de la normatividad va encaminado a la protección de los usuarios y evitar la vulneración de los derechos de los titulares de los datos.

En específico, este documento tiene el objetivo de emitir recomendaciones a los desarrolladores de IA para que desde el diseño del producto se tome en cuenta la regulación del uso de datos personales, siguiendo los Estándares de protección de datos personales para los Estados Iberoamericanos de la Red.

Las recomendaciones son:

1.- Cumplir las normas locales sobre el Tratamiento de datos personales (TDP), así mitigar riegos, ganar y mantener la confianza de los usuarios y generar una buena reputación; y evitar ser investigados por las autoridades locales.

2.- Efectuar estudios de impacto de privacidad con el fin de implementar un sistema de manejo de riesgos y controles internos efectivos, así garantizar el uso correcto de los datos personales.

3.- Incorporar la privacidad, la ética y la seguridad desde el diseño y por defecto para garantizar el correcto tratamiento de los datos utilizados en procesos de IA, tomar la privacidad como componente esencial mitiga riesgos.

[Te puede interesar: Reto Legal: Inteligencia Artificial y Ciberseguridad]

En general, tomar en cuenta el derecho a la privacidad, la confidencialidad de la información, la naturaleza de los datos, las consecuencias que se derivan de la vulneración de información para los usuarios, incluso para la sociedad; además de cuestiones técnicas como el tamaño de la organización, el monitoreo de confiabilidad de los algoritmos, alcance, contexto y finalidad del tratamiento de la información, la circulación transfronteriza de los datos y la complejidad de cada IA.

4.- Materializar el principio de responsabilidad demostrada, creador de la IA debe cumplir con sus obligaciones legales. Crear un sistema de Compliance respecto a programas y políticas de protección de datos personales que permitan monitorear su cumplimiento para mitigar riesgos.

5.- Diseñar esquemas apropiados de gobernanza sobre TDP para empresas que desarrollan IA, garantizar un buen gobierno corporativo, respetuoso de las normas de protección y derechos de los usuarios.

En este mismo sentido van las recomendaciones 6 y 7, adoptar medidas que garanticen los principios TDP en el desarrollo de IA; y respetar los derechos de los titulares del os datos e implementar mecanismos efectivos para el ejercicio de los mismos.

[Te puede interesar: Necesario desmitificar la Inteligencia Artificial y aprovechar sus beneficios]

8.- Asegurar la calidad de los datos, reducir el riesgo de sesgo de la IA, registrar la procedencia de la información, realizar auditorías de los datos utilizados en los algoritmos para descubrir y corregir errores o limitaciones inherentes a los algoritmos utilizados en la toma de decisión de la máquina, actualizar los datos constantemente y tener sets de datos separados en las pruebas y validaciones de las tomas de decisiones.

9.- Utilizar herramientas de anonimización, a menos que la información deba ser asociada al titular, se debe asegurar que el titular de los datos no pueda ser identificado.

10. Incrementar confianza y transparencia con los titulares de los datos personales, mantener canales de comunicación abiertos, evaluar el modelo de toma de decisiones y corregir problemas, dar la opción al titular de los datos de excluir su información de los algoritmos, y que los humanos puedan siempre revisar, ratificar y rectificar las decisiones que toma la máquina.

 

COMPARTIR

Share on facebook
Share on twitter
Share on linkedin
Share on whatsapp
Artículos

RELACIONADOS

EL FORO DONDE SE DIFUNDEN Y ANALIZAN LAS NOTICIAS

Recibe noticias semanales

Suscríbete a nuestro boletín

Aviso de Privacidad

Foro Jurídico © 2021