Cómo enfocar la privacidad para mejorar la rendición de cuentas y la confianza.

No, me temo que no. Ya no tienes el derecho legítimo a protestar cuando alguien usa tus datos. Hace mucho tiempo lo aceptaste como parte del contrato social de Internet. Es el precio de vivir en la era digital. Diste tus datos a cambio de una app, de un test de personalidad o incluso a cambio de descargarte un informe sobre la evolución de la digitalización en Botsuana.

[Tiempo estimado de lectura: 9 min. Fuente: Read-O-Meter]

Lee el post original en bernardocrespo.com.

A. ¿Propiedad o uso?

Tus datos ya no son solo tuyos. Los regalaste y recibiste algo a cambio. Ahora bien, entiendo que tu frustración no viene del concepto de propiedad (en la era digital esa propiedad ya es compartida), entiendo que tu mayor frustración se deriva del uso que otras compañías están haciendo de los datos agregados construidos a partir de tus datos personales.

En la nueva economía digital dejamos al libre albedrío de un data scientist o de un matemático recién licenciado la decisión sobre si el color de mis ojos es válido para calcular la prima de renovación del seguro de mi coche. Hemos dejado que un experto en modelos predictivos decida si mi estatura, dónde vivo o mi descendencia tienen una relación directa con mi solvencia crediticia. En realidad vivimos en la tiranía de las correlaciones. Las matemáticas son el nuevo engranaje que define desde el precio de los productos y servicios que otorgan los modelos de dynamic pricing hasta la justicia que se aplica cuando se concede una subvención. Estamos subvencionados por un modelo de Monte Carlo, la teoría de juegos o las cadenas de Markov.

Desde el primer borrador del Reglamento General de Protección de Datos (RGPD) allá por abril de 2016, he sido un ferviente detractor de las consecuencias derivadas de la necesidad de permiso constante en la recogida y el tratamiento de datos personales. He ayudado a cientos de directivos a entender el papel de la tecnología, los datos y las personas como palancas de transformación digital tanto en la explotación de los modelos de negocio actuales como en la exploración de otros nuevos. Es más, he criticado las regulaciones de privacidad por alterar el panorama competitivo europeo en términos de recogida, procesamiento y optimización de datos. En mi opinión, el error no estuvo en proteger la propiedad, sino en el uso de los datos personales como parte de inferencias a nivel agregado.

Fuente: https://www.digitalinformationworld.com/2018/12/here-is-what-the-big-tech-companies-know-about-you.html#postimages-1

B. Gobernar el algoritmo: hacia el validador experto en datos

He cambiado de opinión. Desde que The Guardian publicó el primer artículo sobre Cambridge Analytica (The great British Brexit robbery: how our democracy was hijacked) allá por mayo de 2017, algo ha cambiado en todo el mundo respecto a la privacidad de los datos. Nuestros datos ya no son nuestros; las inferencias y las decisiones que se toman a partir de modelos en los que nuestros datos personales son un input deberían tener cierto nivel de escrutinio, análisis y auditoría.

No es una cuestión de justicia, es una cuestión de sensibilidad hacia un modelo en el que es posible inferir conclusiones erróneas y responsabilidades derivadas en función de cómo se construyeron esos modelos. La supervisión de la calidad y de la frecuencia de los modelos predictivos es y debería ser el foco de cierto nivel de vigilancia de la privacidad. Y hablo de regulación en lo que a responsabilidad civil se refiere. Vivimos en una era en la que los datos y la tecnología han alterado a la humanidad. Y aun así, son las personas, a mi juicio, quienes deben seguir siendo responsables de las decisiones que se toman cuando se infieren consecuencias evolutivas.

La afirmación “no sin mi permiso”, “no sin mi consentimiento” quizá no tenga que referirse al uso de mis datos personales. Ya di permiso + consentimiento al navegar por tu web, al descargarme ese informe, al hacer ese test de personalidad o simplemente al descargarme una app para medir los decibelios en un concierto de Justin Bieber. Sí, acepto que uses mis datos personales, te los di a cambio de algo. Fue un intercambio legítimo. Sin embargo, nunca retiré mi consentimiento para usar mis datos personales en un modelo predictivo cuya definición de constructos y variables acaba perjudicándome. Retiro mi consentimiento para ese uso. Ya no tienes mi permiso.

Emerge un nuevo concepto de responsabilidad social corporativa. Y consiste precisamente en controlar, monitorizar y validar el buen uso de la caja negra corporativa que maneja grandes cantidades de datos. La nueva normalidad debería ser incorporar validación externa a todos los modelos predictivos y a todo el trabajo algorítmico que llevan a cabo las grandes organizaciones para conseguir transparencia y rendición de cuentas. Todos aceptamos que vivimos en la 4ª revolución industrial, una era en la que los datos y la tecnología cambian la forma en la que dibujamos el progreso. Los usuarios finales deben tener derecho a actuar sobre el resultado de los modelos predictivos. Eso no solo tiene que ver con el derecho de rectificación, sino también con la transparencia.

Las corporaciones dispuestas a ejercer la transparencia sobre el output de los modelos predictivos generarán confianza. La guerra no va de la propiedad. Ese ha sido el objetivo engañoso de todas las regulaciones de privacidad. La batalla está en el diseño, el gobierno y la rectificación de los algoritmos. Si no, podríamos caer en el error de perpetuar sesgos y aceptar decisiones cuando un algoritmo se convierte en el conjunto de datos de un algoritmo recién creado.

Esto es una invitación a un trabajo colectivo hacia un mayor grado de escrutinio sobre el diseño de los modelos predictivos y el trabajo con datos agregados. Lo que significa crear la figura de un supervisor independiente para tareas como los inputs de datos, los modelos de salida, el diseño y las definiciones. Emerge el rol de “IDEA” (Independent Data Expert Auditor).

Un cuerpo de profesionales que valide y garantice que las compañías hacen un uso equilibrado e imparcial del modelado predictivo. Si hemos sido capaces de certificar agile coaches, podemos ocuparnos de la calidad y de la derivación de ciertas conclusiones en materia de datos. Si no, correremos el riesgo de que ese trabajo tan valioso de los data engineers y los data scientists solo lo valide el criterio ejecutivo más oportunista. Y ya sabemos cómo acaba esa historia. Crecimiento o eficiencia como únicos indicadores de éxito.

C. La tiranía de los algoritmos

¿Tiene algún sentido que un vehículo autónomo priorice la vida de los ocupantes sobre la de los peatones? ¿Vamos a confiar en un algoritmo para resolver el dilema del tranvía (Wikipedia (EN): trolley problem) cuando ya sabemos que es un experimento mental de ética?

Si dejamos pensar a las correlaciones y a los algoritmos, corremos el riesgo de premiar los rasgos masculinos y blancos cuando buscamos modelos de éxito empresarial. Un algoritmo no puede cambiar las series históricas ni la falta de diversidad. Solo los humanos pueden hacer la pregunta adecuada cuando se buscan nuevas derivas en el “algoritmo”.

Si buscásemos un modelo predictivo de delincuencia juvenil en Estados Unidos, concluiríamos que ser negro, formar parte de una familia desestructurada y vivir en barrios de renta baja lo explicaría todo. ¿Estamos creando de verdad modelos predictivos o perpetuando sesgos? Un modelo predictivo nunca encontrará una solución para la igualdad de género. Solo reforzaría los sesgos e intensificaría las desigualdades existentes. Solo la intervención creativa de los humanos puede cambiar el sesgo histórico e introducir nuevas hipótesis que validar. Los humanos pueden crear un mundo mejor a partir del uso de los datos. Hace mucho tiempo que las escuelas de negocio incorporaron el razonamiento ético para evitar ese tipo de sesgos. Sin embargo, siempre habrá un espacio oculto cuando el criterio de maximizar resultados sea la única métrica de desempeño de los data scientists.

Mi amigo Gam Dias me ilustró con este caso sobre el canje de cupones de alimentos en EE. UU., un ejemplo perfecto de sesgo algorítmico en la lucha contra el uso fraudulento de los food stamps. El USDA expulsó a pequeños negocios del programa de cupones de alimentos bajo la presunción de fraude. Los canjes múltiples y consecutivos en periodos cortos de tiempo, causados por la necesidad de compartir el transporte hasta las tiendas de alimentación dada la distancia desde sus casas y la falta de vehículo privado entre los titulares de los cupones, se detectaron como fraude. Como consecuencia, algunas tiendas quedaron excluidas de por vida del programa de cupones de alimentos. Está claro que alguien dejó de monitorizar el modelo y la realidad se convirtió en un sesgo. ¡Maldita realidad cuando no encaja en mi modelo!

La idea de diseñar un marco que refuerce la transparencia estableciendo ciertas reglas de gobierno que permitan a los usuarios “re-accionar” sobre el resultado de los datos agregados que producen las corporaciones establece un nuevo terreno de juego justo en el que las compañías responden por el uso agregado de los datos personales. ¿Estamos hablando de Responsabilidad Social Corporativa en el uso de los datos? Puede. Mi visión es que deberíamos hablar de sostenibilidad en la 4ª revolución industrial. No se trata de transformar cajas negras de datos en cajas transparentes de datos, sino en cajas responsables de datos. La diferenciación a través de los datos como fuente de ventaja competitiva es una realidad, y mi propuesta es abogar por una realidad en la que las organizaciones deban responder por las implicaciones derivadas del uso de los datos a nivel agregado.

Hace unos días Mark Zuckerberg reconoció en un post de Facebook (A Privacy-Focused Vision for Social Networking - March 6, 2019) que su compañía no tenía buena reputación en la construcción de servicios basados en la privacidad. En el mismo post admitía que el nuevo foco de Facebook sería una gama de nuevos servicios que salvaguardasen la privacidad:

“Entiendo que mucha gente no cree que Facebook pueda, ni siquiera quiera, construir este tipo de plataforma centrada en la privacidad, porque, francamente, ahora mismo no tenemos una reputación sólida construyendo servicios que protejan la privacidad y nos hemos centrado históricamente en herramientas para compartir de forma más abierta. Pero hemos demostrado repetidamente que podemos evolucionar para construir los servicios que la gente realmente quiere, incluidos la mensajería privada y las stories.” (...)

“Planeamos construir esto igual que desarrollamos WhatsApp: centrarnos en el caso de uso más fundamental y privado, la mensajería, hacerlo lo más seguro posible y después construir encima más formas de que la gente interactúe, incluidas llamadas, videollamadas, grupos, stories, negocios, pagos, comercio y, en última instancia, una plataforma para muchos otros tipos de servicios privados.”

¡Promesa hecha! Facebook está irrumpiendo en los pagos digitales y el e-commerce. ¿Para qué? ¿Vamos a permitir que se vuelvan a alterar las elecciones presidenciales de EE. UU. o el referéndum del Brexit sin supervisar el uso que hace de los datos cualquier compañía tecnológica?

Es hora de abrir las puertas y permitir que un tercero controle el valor obtenido de los datos personales. Y ese es, en mi opinión, el nuevo enfoque de la regulación de la privacidad (no de la propiedad). La propiedad de los datos ya la cedimos hace mucho tiempo. Espero sinceramente que esto no se quede en una “idea”, sino que sea la proliferación de “IDEAs” (Auditor of Independent Data Experts).

Nos guste o no, la regulación es un sustituto imperfecto de la rendición de cuentas y la confianza. Después de Trump y del Brexit, me temo que somos muchos los que desconfiamos de aquellos a quienes damos nuestros datos a cambio de lo que en ese momento consideramos valioso. Es hora de monitorizar el uso de los datos agregados y dejar de tener debates vacíos sobre la propiedad.

“No me molesta que me hayas mentido, me molesta que de ahora en adelante no pueda creerte.” . ― atrib. a Friedrich Nietzsche

“Nicht daß du mich belogst, sondern daß ich dir nicht mehr glaube, hat mich erschüttert.”

POST original:

______________________________________

Sobre mí:

Coach ontológico certificado por Newfield Network (ACTP ICF Colombia). Licenciado en Administración y Dirección de Empresas y último año del grado en Dirección de Empresas y Economía (BA Honors in Management and Economics), University of St Andrews, Reino Unido. Máster en Marketing Relacional, CRM y Comercio Electrónico.

Miembro del Digital Advisory Board de IE Business School y director académico de transformación digital en IE Executive Education. Fundador e inspirador de esc-XL.com (Executive Digital Detox), ha sido reconocido por el diario EXPANSIÓN en 2016 como uno de los 50 mayores expertos en Transformación Digital de España.

Ver recopilación de keynotes en YouTube