Innovación Responsable en la Empresa de Tecnología Meta

Entrevista con Paula Vargas, Directora de Privacidad y Políticas Públicas para América Latina y Canadá de Meta.

En esta entrevista conducida por el Maestro Julio César Bonilla Gutiérrez, la Directora de Privacidad y Políticas Públicas para América Latina y Canadá de Meta, Paula Vargas, detalla las medidas implementadas por esta empresa de tecnología social para garantizar la innovación responsable de sus productos. En primer lugar, habla sobre el programa global de privacidad de Meta, sometido a actualización en 2019, donde los equipos de legales, políticas públicas, diseño, ingenieros de privacidad analizan y certifican los productos y controles de privacidad de Meta. Luego viene el proceso de privacy review, este consiste en que cada producto o modificación de producto que implica un uso o procesamiento de datos, debe pasar por todos los expertos para identificar riesgos y decidir cómo se van a mitigar. El proceso está guiado por las expectativas de privacidad internas que responden a las expectativas de cómo deben ser protegidos los datos de las personas.

Paula Vargas detalla que una de las formas de mitigar los riesgos es desarrollar herramientas de privacidad, para esto Meta creó los controles de privacidad con los cuales los usuarios pueden configurar el nivel de privacidad con el que se sientan cómodos, entre los que se encuentran la comprobación rápida de privacidad, ¿Por qué estoy viendo esto?, entre otros. Uno de los controles de privacidad más importantes es el Centro de privacidad, una herramienta en donde encuentran temas privacidad y publicidad para jóvenes, seguridad de las cuentas, etc., explicados de una manera educativa.

De acuerdo con Paula Vargas, otro de los aspectos más relevantes de Meta es el marco para desarrollar IA de forma responsable que se guía por los siguientes pilares: privacidad y seguridad, robustez del sistema, gobernanza y responsabilidad demostrada, transparencia y control, system cards y equidad e inclusión. Presentamos a nuestros lectores la parte esencial de esta entrevista

“El uso responsable de datos es la actividad que nos permite seguir innovando y prestando nuestros servicios. Las personas, los reguladores, los anunciantes esperan que podamos proteger los datos de las personas, que seamos transparentes respecto de nuestras prácticas y demos controles a las personas para tomar decisiones informadas sobre su privacidad.”

JULIO CÉSAR BONILLA GUTIÉRREZ (JCBG): ¿CÓMO TRABAJA META EN LA PRIVACIDAD DE SUS PRODUCTOS?

PAULA VARGAS (PV): El programa global de privacidad de Meta fue sometido a actualización en 2019, lo que nos llevó a una escala sin precedentes en la compañía. Para todos los que trabajamos en esto debemos entender cómo es la práctica de la protección de la privacidad, cómo una empresa que hace productos donde se utilizan datos personales embebe la privacidad en sus decisiones de producto. Nosotros continuamos revisando nuestro programa a medida que evoluciona la tecnología, las expectativas sociales, las regulaciones, los servicios. La privacidad es algo en permanente evolución y clave para la subsistencia de nuestro servicio. El uso responsable de datos es la actividad que nos permite seguir innovando y prestando nuestros servicios. Las personas, los reguladores, los anunciantes esperan que nosotros podamos proteger los datos de las personas, que seamos transparentes respecto de nuestras prácticas y demos controles a las personas para tomar decisiones informadas sobre su privacidad.

¿Cómo se lleva a cabo en la práctica? En la práctica lo primero que tenemos es un marco, un programa sobre el cual se toman decisiones de privacidad entre varios equipos especializados a cargo. La privacidad es responsabilidad de cada uno de los empleados en Meta. Tenemos un equipo especializado encargado de entender cuáles son los riesgos de tener un producto o la modificación de un producto y cómo se pueden mitigar.

Cada día interdisciplinariamente o crossfuncionalmente nos reunimos equipos de legales, políticas públicas, diseño, ingenieros de privacidad y analizamos; cada trimestre certificamos que nuestros productos y los controles de privacidad estén funcionando como deben y resolvemos los problemas que pueden existir. Cada año nuestro CEO certifica que nosotros hayamos realizado nuestro trabajo acordado. Esto está controlado por un comité específico de privacidad a nivel de board y por un asesor independiente.

Primero, hay un equipo que se ocupa de esto, luego viene un proceso denominado privacy review que abarca a muchos equipos de la compañía y en donde cada producto o modificación de producto, que implica un uso o procesamiento de datos, tiene que pasar por todos los expertos para identificar riesgos y decidir cómo se van a mitigar. Si no hay acuerdo entre todos los expertos, el tema escala hasta el CEO si fuera necesario, es decir, no se lanza un producto si no ha pasado este proceso. Nosotros revisamos un promedio de 1200 productos mensuales en el proceso de privacy review. El proceso se desenvuelve teniendo en cuenta las siguientes expectativas:

Finalidad. El tratamiento debe tener finalidades específicas y claramente establecidas.

Minimización. ¿Cuál será la retención?, es decir, los datos se retienen mientras sea necesario para ser usados para la finalidad que se estableció claramente.

Expectativa para el mal uso externo de esos datos. ¿Qué pasa con ese producto si alguien externo tiene un acceso indebido a esos datos, si alguien abusa del uso de esos datos, si hay una pérdida?

Transparencia y control. Algo de lo que escuchamos hablar frecuentemente porque las personas deben saber cómo son utilizados sus datos.

Controles apropiados. Se deben proporcionar a los usuarios los controles apropiados para que puedan tomar sus propias decisiones.

Acceso y gestión de datos. Cómo le damos a las personas capacidad para gestionar sus datos, acceder a sus datos.

Equidad. La equidad está presente en muchos de los pilares y de los estándares que guían nuestro accionar interno. Es cómo identificamos y mitigamos riesgos para poblaciones vulnerables cuando desarrollamos un producto y nos aseguramos que ese producto realmente cree valor para las personas.

“La equidad está presente en muchos de los pilares y de los estándares que guían nuestro accionar interno. Es cómo identificamos y mitigamos riesgos para poblaciones vulnerables cuando desarrollamos un producto y nos aseguramos que ese producto realmente cree valor para las personas.”

Responsabilidad demostrada. Cómo mantenemos procesos internos y controles técnicos en nuestras decisiones, productos y prácticas.

JCBG: ¿QUÉ SON LOS CONTROLES DE PRIVACIDAD?

PV: Una de las formas de mitigar los riesgos de los que hablamos es desarrollar herramientas de privacidad. Los controles son herramientas concretas con las cuales las personas nos dicen cómo podemos usar sus datos. Se trata de que las personas puedan configurar a nivel de privacidad con el que se sientan cómodas. No todos tenemos, o no todos en todo momento, o no todos para todos los usos, niveles de privacidad, por ejemplo, en Facebook hay gente que hace posteos públicos, otros solo para amigos, amigos de amigos, es decir, elegir las audiencias tiene que ver con los niveles de privacidad con los que uno se siente cómodo.

Una herramienta que agrupa los controles que deberíamos revisar con mayor frecuencia es la comprobación rápida de privacidad, un link que permite checar las opciones de privacidad y el uso de esos datos. También permite revisar las opciones de seguridad de la cuenta, si tiene el factor de autenticación activado, cómo pueden encontrarte las personas, controlar la actividad y las preferencias de anuncios.

Tenemos otras herramientas como acceder, obtener o eliminar tu información. Cuando recibes un post en Facebook o Instagram, puedes ir al menú de los tres puntos y puedes ver una opción que dice ¿Por qué estoy viendo esto?, donde explica por qué llegó esa publicidad y cuáles son los controles para bloquearla, reportarla y cómo controlar y entender por qué recibiste eso.

Otra herramienta recomendable es el Centro de privacidad que se lanzó en paralelo con la actualización de política de privacidad. Algo novedoso es que desde la política de privacidad puedes acceder a los controles mencionados. Cuando la política de privacidad explica cómo puedes acceder a tu información, ahí está el link, no solo lo explica, también facilita ahí mismo la herramienta, esta es una opción de diseño porque la privacidad también tiene que ver con el diseño, es decir, cómo hacer más comprensible una política de privacidad y cómo poder accionar desde ahí mismo. El Centro de privacidad también es una herramienta educativa porque la educación en privacidad es clave. Lo que encontramos en este sitio son temas, por ejemplo, privacidad y publicidad para jóvenes, seguridad de las cuentas, etc., explicado de una manera educativa.

“Hay una inversión muy fuerte en tecnología de la privacidad por parte de Meta, lo que significa embeber la privacidad en nuestra estructura para que las decisiones de privacidad se automaticen.”

Hay una inversión muy fuerte en tecnología de la privacidad por parte de Meta, lo que significa embeber la privacidad en nuestra estructura para que las decisiones de privacidad se automaticen. Por ejemplo, si decidimos usar ciertos datos para una finalidad, pero no para otra, en lugar de hacerlo manualmente, lo hace la misma infraestructura, lo que garantiza consistencia en las estructuras de privacidad.

JCBG: ¿CÓMO SE REFLEJAN ESTOS PROCESOS EN AMÉRICA LATINA?

PV: Mi equipos global y regional son parte de este proceso, el avance de la tecnología nos propone preguntas difíciles todo el tiempo y nadie va a tener unilateralmente la respuesta única a esas preguntas. El equipo de Políticas Públicas realiza una interacción permanente con el ecosistema de privacidad, reguladores, expertos, academia, sociedad civil. Al momento de analizar productos y el impacto y mitigación de los riesgos hay un enfoque regional, una mirada regional hacia identificar y entender esos riesgos y cómo mitigarlos. Tratamos de entender las expectativas que tienen sobre nuestros productos y, por supuesto, llevar esos comentarios a la compañía, a los ingenieros y participar nosotros en esas discusiones.

Por ejemplo, tenemos un grupo de expertos en privacidad que se reúne cada dos meses con expertos de la región para presentarles productos aún no lanzados que generan discusiones valiosas. Hemos hecho cambios en los productos gracias a los comentarios de los expertos. En estas reuniones se da un aprendizaje mutuo para entender estándares legales y cómo funcionan la tecnología y un producto en la práctica. También hemos financiado research independiente en temas como inteligencia artificial (IA), metaverso, etc. Hay una interacción constante con diversas herramientas desde los grupos, desde los workshops específicos, por tema, cuando hay un tema innovador, poco discutido es necesario traer a los expertos y escucharlos.  

JCBG: ¿CUÁL ES SU OPINIÓN ACERCA DE INNOVACIÓN RESPONSABLE EN CUANTO A TECNOLOGÍAS EMERGENTES?

PV: La IA es un tema popular en la actualidad, con la cual Facebook trabaja desde 2006 en los inicios del feed de Facebook donde se utilizaba machine learning e IA para varios propósitos como hacer el ranking de contenido, para que las personas puedan encontrar contenido o nuevos grupos, para el sistema de publicidad y para el sistema de integridad con el fin de mantener a las personas seguras en la plataforma. Podemos hacer trillones de operaciones al día para nuestros billones de usuarios en las plataformas. A una persona le podrían llegar miles de contenidos, lo que nos permite la IA es predecir cuáles pueden ser los contenidos de mayor interés para esa persona, cómo se hizo esa predicción de un contenido o de una publicidad que podía ser interesante para la persona.

La IA soporta nuestro producto de ranking y nuestro producto de publicidad. Difícilmente podríamos tener hoy el sistema de integridad y seguridad en nuestra plataforma si no estuvieran soportados por la IA. Por ejemplo, detectar contenido ilegal, que no está permitido por nuestras normas comunitarias encargadas de regular lo que puede y no hacerse en la plataforma para, por ejemplo, tratar de entender la edad de un usuario y eventualmente prevenir que pueda acceder a servicios no adecuados.  

La IA tiene dos áreas en la compañía, la primera es la enorme infraestructura de recomendaciones y de ranking, la segunda es de, feed, reels, sistema de publicidad y de moderación de contenido. La segunda área es la de los modelos generacionales generativos que es lo que permite tener nuevos tipos de productos y nuevas clases de experiencia.  

Contamos con un marco para desarrollar IA de forma responsable, es un privilegio desarrollar estas tecnologías, pero este privilegio incluye hacer una renovación responsable. También tenemos pilares encargados de guiar a la IA, por ejemplo, uno de los pilares es privacidad y seguridad, nuestro programa global de privacidad analiza todos nuestros productos, incluidos los que son soportados por IA para comprender los riesgos de la privacidad y cómo mitigarlos. La IA también genera oportunidades para la privacidad porque las nuevas tecnologías de privacidad están desarrolladas a partir de IA, por un lado, la IA es un soporte de la privacidad, por otro lado, nosotros estamos enseñando a la comunidad cómo implementarla, tenemos un área de investigación que interactúa con los expertos y con la comunidad investigadora. Luego tenemos un programa global de privacidad que abarca todos los productos soportados por IA.

“La IA también genera oportunidades para la privacidad porque las nuevas tecnologías de privacidad están desarrolladas a partir de IA, por un lado, la IA es un soporte de la privacidad, por otro lado, nosotros estamos enseñando a la comunidad cómo implementarla.”

El segundo pilar es la seguridad, la robustez del sistema, es decir, cómo se comporta este sistema, esta IA, cuál es su performance, si se está comportando de manera segura. Para esto tenemos una metodología que se llama Red Tim, es la forma de textear cómo se comporta un modelo o sistema ante una reacción adversaria, cuando alguien está intentando que no funcione de manera segura.

Luego tenemos gobernanza y responsabilidad demostrada, que se traduce en cuál es el marco de gobernanza del desarrollo de IA en la compañía, los equipos dedicados a esto, reglas y procedimientos.

Otro pilar es transparencia y control, cómo vamos a implementar medidas de transparencia para que las personas entiendan cómo se usan sus datos en el contexto de IA, actualizamos la herramienta de ¿Por qué estoy viendo esto? para dar más transparencia de cómo esa información se usa para entrenar modelos.

El siguiente pilar son los system cards, la transparencia algorítmica es uno de los temas de los que más se habla actualmente relacionado con cómo las personas pueden entender cómo son usados sus datos por un algoritmo. Los system cards explican de una forma detallada y comprensible para cualquier persona cómo funciona determinado modelo, usamos esa metodología para dar transparencia a nivel sistema porque muchas veces una tarea de la plataforma no la realiza un solo modelo, la realiza un sistema de modelo, es un sistema de algoritmos que producen un determinado resultado.

Por último, tenemos el pilar de equidad e inclusión, otro de los temas relevantes es la posibilidad de que los algoritmos discriminen negativamente, este pilar se vincula con cómo desarrollamos a nuestros desarrolladores para mitigar el riesgo de no inclusividad o de inequidad.

JCBG: ¿QUÉ ES EL METAVERSO Y QUÉ ESTÁN HACIENDO PARA DESARROLLARLO DE MANERA RESPONSABLE?

PV: El metaverso es el futuro lejano y cercano a la vez. Para nosotros es una visión de 10 a 15 años, las tecnologías que lo harán realidad ya están desarrollándose. Una de las cosas necesarias para reforzar cuando hablamos del metaverso es que nada se compara con estar juntos, todos preferimos encontrarnos, pero en realidad a veces no podemos y la tecnología nos ayuda a conectarnos. La evolución tecnológica permite mejorar nuestras experiencias digitales, es decir, que el tiempo que pasemos sea mejor experimentado, el metaverso puede ayudar a que las conexiones sean mejor a las actuales.

El metaverso es la evolución de las tecnologías sociales, es el sucesor del internet móvil, la primera internet nos permitió enviar textos, luego audios y videos, hoy esa evolución nos va a permitir una experiencia más inmersiva con una sensación de presencialidad, la posibilidad de sentir que estamos en el mismo lugar, aunque no lo estemos físicamente.  

El metaverso no es necesariamente solo realidad virtual, podemos pensar en él como un espectro en donde la realidad virtual es donde uso un dispositivo que aísla del mundo físico y da el sentido de inmersión. En realidad, el metaverso tendrá distintos tipos de tecnología: realidad aumentada que permite proyectar imágenes digitales para, por ejemplo, cómo llegar a una dirección; realidad mixta que permite insertar la realidad aumentada en el mundo físico. Podemos hablar de un espectro con distintos tipos de ingreso al metaverso.

Es importante hacer entender a la gente que el metaverso no es de Meta, el objetivo de Meta es desarrollar para el metaverso que es de distintas organizaciones en distintas capas de interoperabilidad. La experiencia de gobernabilidad en el metaverso necesariamente debe ser colaborativa y colectiva, cómo vamos a garantizar entre todos, reguladores, expertos, desarrolladores, usuarios, que sea desarrollado responsablemente y no solo para el interés de las grandes compañías tecnológicas, sino para el interés de la sociedad y de los individuos.

El metaverso puede tener usos revolucionarios en áreas importantes como educación y salud, por ejemplo, estamos acostumbrados a recibir educación de forma pasiva, con el metaverso podemos comprender en un contexto inmersivo donde incluso podemos salvar barreras de distancia, recursos económicos, por ejemplo, alguien que no puede visitar un museo, pero sí recorrerlo virtualmente.

En cuanto a innovación responsable, ¿cómo nos aseguramos que sea desarrollado y gobernado responsablemente? Primero, con la colaboración de todos, reguladores, expertos en distintas áreas, con una conversación permanente y con el desarrollo de estándares de industria y estándares que permitan la interoperabilidad, además de estandarizar seguridad y otros aspectos. El metaverso es distinto a algunos aprendizajes de internet o de las redes sociales, pero otras cuestiones no son directamente transferibles, por ejemplo, la comunicación por el metaverso es instantánea y no hay expectativa de que haya una empresa moderando lo que hablas con otra persona en el ámbito privado que puede ser tu creación en el metaverso. El dueño de ese espacio impone las reglas, lo cual requiere pensar en esos estándares.

Meta ha financiado investigación con un fondo creado específicamente cuando se lanzó el metaverso para tener conversaciones globales en áreas específicas, una fue privacidad, investigación en los nuevos usos de datos que esto puede generar, los nuevos riesgos en ese uso de datos, incluso los nuevos datos que se pueden generar. Seguridad e integridad, equidad e inclusión, y desde luego la oportunidad económica porque esto es una gran oportunidad para educadores, para el área de la salud, pero también para creadores y desarrolladores.