Predicciones sobre privacidad para 2022

Ya no utilizamos Internet exclusivamente para acceder a contenido de entretenimiento y conversar con amigos. La conectividad global respalda las funciones más básicas de nuestra sociedad, como la logística, los servicios estatales y las actividades bancarias. Los consumidores se vinculan con empresas desde aplicaciones de mensajería y piden comida a domicilio en vez de ir a las tiendas físicas; las conferencias científicas se llevan a cabo en plataformas de conferencias virtuales y el trabajo remoto se convirtió en la nueva normalidad para un número creciente de industrias.

Todos estos procesos tienen consecuencias para la privacidad. Las empresas quieren más visibilidad de la actividad en línea de sus clientes para mejorar sus servicios y procedimientos de conocimiento del cliente más rigurosos para poder evitar el fraude. Los Gobiernos de muchos países presionan para que sea más sencillo identificar a los usuarios de Internet y así poder combatir el delito cibernético y los delitos “tradicionales” que se coordinan en línea. Los personas, por su parte, están más preocupadas por el capitalismo de vigilancia, la falta de anonimato y la dependencia de los servicios en línea.

Si pensamos en la presentación anterior de las predicciones sobre privacidad, observamos que, de hecho, la mayoría fueron grandes tendencias este año. Principalmente, uno de los temas de tecnología más discutidos fueron las tecnologías para preservar la privacidad, a pesar de que las opiniones sobre algunas implementaciones, como NeuralHash o Federated Learning of Cohorts (aprendizaje federado de cohortes), estaban divididas. No obstante, desarrollos como el procesamiento de sonido en los dispositivos para Siri y Private Compute Core en Android fueron grandes pasos hacia la privacidad del usuario. También vimos muchos servicios privados nuevos, varias empresas enfocadas en la privacidad dando sus primeros pasos hacia la monetización, así como un aumento de la presión por la privacidad (tanto en tecnología como en marketing) en iOS y en Android. Facebook (ahora Meta) también aumentó la privacidad de sus usuarios, con copias de seguridad cifradas de extremo a extremo en WhatsApp y la eliminación del sistema de reconocimiento facial en Facebook.

Si bien deseamos que 2022 sea el último año de pandemia, creemos que esto no será suficiente para revertir las tendencias de privacidad. ¿Cuáles serán las consecuencias de estos procesos? A continuación, presentamos algunas de nuestras ideas sobre las principales fuerzas que forjarán el panorama de privacidad en 2022.

1. BigTech ofrecerá a las personas más herramientas para controlar su privacidad, pero con ciertas limitaciones.

   Como las empresas deben cumplir con regulaciones de privacidad cada vez más estrictas y diversas en todo el mundo, ofrecen a los usuarios más herramientas para controlar la privacidad mientras usan sus servicios. Con más botones y controles, los usuarios experimentados podrán configurar la privacidad de acuerdo a sus necesidades. En cuanto a los usuarios menos experimentados, no deben confiar en la privacidad de manera predeterminada. Aunque las empresas tengan la obligación legal de ofrecerla, aquellas cuyos resultados dependen de la recopilación de datos seguirán encontrando bucles para engañar a las personas para que escojan ajustes menos privados.

2. Los Gobiernos están atentos al creciente poder de la tecnología y del acaparamiento digital, que ocasionará conflictos y compromisos.

   Los Gobiernos desarrollan su propia infraestructura digital para permitir un acceso más sencillo y amplio a los servicios estatales, más transparencia y responsabilidad, además de mayor conocimiento de la población y más control sobre ella. Por ello, no es casualidad que muestren interés en los datos de sus ciudadanos que fluyen por los grandes ecosistemas comerciales. Esto hará que aumenten las regulaciones, como las leyes de privacidad, las leyes sobre localización de datos y las normativas sobre qué datos y en qué casos serán accesibles para la aplicación de las leyes. La controversia por la privacidad que generó el sistema de escaneo CSAM de Apple es el reflejo de cuán difícil puede ser hallar el equilibrio entre el cifrado y la privacidad del usuario por un lado y la detección de comportamientos criminales por el otro.

3. Sin lugar a dudas, el aprendizaje automático es increíble, pero se empezará a hablar sobre el desaprendizaje automático.

   A menudo, el aprendizaje automático moderno implica entrenar a enormes redes neuronales con una cantidad impresionante de parámetros (si bien no es del todo correcto, podríamos comparar dichos parámetros con las neuronas del cerebro), en ocasiones, cerca de los miles de millones. Gracias a estas redes neuronales, puede aprender relaciones simples y memorizar bloques completos de datos, lo que puede derivar en la fuga de datos privados y de materiales con derechos de autor o en la recitación de las tendencias sociales. Esto nos conduce a una pregunta legal interesante: si un modelo de aprendizaje automático se entrenó con mis datos, ¿puedo, conforme el Reglamento General de Protección de Datos (RGPD), por ejemplo, demandarlos para que eliminen toda la influencia que mis datos hayan tenido en el modelo? Si la respuesta es sí, ¿qué implicancias tiene para las industrias impulsadas por datos? Una respuesta simple es que una empresa tendría que volver a entrenar el modelo desde cero, lo que sería muy costoso. Por ello, esperamos un desarrollo más interesante de las tecnologías que evitan la memorización (como el entrenamiento privado diferenciado) y que permiten a los investigadores eliminar los datos de los sistemas ya entrenados (desaprendizaje automático).

4. Las personas y los legisladores exigirán más transparencia de los algoritmos.

   El uso de algoritmos complejos, como el aprendizaje automático, para tomar decisiones sobre nosotros en distintas situaciones, desde la calificación crediticia hasta el reconocimiento facial, está en aumento. Si bien algunos disfrutan de la personalización, para otros puede ser una experiencia frustrante y discriminatoria. Imagine una tienda en línea en la que se divida a los usuarios en más o menos valiosos según un oscuro algoritmo de predicción de LTV (valor de la vida) y que les ofrezca a los más valiosos un servicio de asistencia al cliente con chat en vivo, mientras que los compradores menos afortunados deben conformarse con un bot de chat deficiente. Si una computadora determina que usted es un cliente de nivel inferior, ¿no le gustaría saber por qué? ¿Y si le negaran una tarjeta de crédito? ¿Una hipoteca? ¿Un trasplante de riñón? Frente al avance de los algortimos en distintas esferas, esperamos más debates y regulaciones sobre la explicación, la contestación y la enmienda de decisiones tomadas por los sistemas automáticos, así como más investigaciones sobre las técnicas de explicabilidad del aprendizaje automático.

5. Gracias al trabajo desde casa, muchas personas estarán más atentas a la privacidad, con la ayuda de sus empleadores.

   Si ha estado trabajando desde su casa por la pandemia, es probable que haya aprendido muchos términos de TI nuevos, como infraestructura de escritorio virtual, contraseña de un solo uso, claves de seguridad de dos factores, etc. (aunque trabaje en el mundo bancario o en el comercio minorista en línea). Es posible que la cultura del trabajo desde casa perdure, aunque la pandemia llegue a su fin. Teniendo en cuenta que las personas utilizan los mismos dispositivos para el trabajo y para actividades personales, los servicios de seguridad corporativos necesitan usuarios más conscientes de la seguridad para proteger su perímetro más extenso de los ataques y las fugas. Esto implica más capacitaciones sobre seguridad y privacidad, y, por ende, que más personas trasladen estas habilidades laborales, como el uso de la autenticación multifactor, a su vida personal.

A modo de conclusión, la privacidad ya no es un tema exclusivo de “cerebritos” y cypherpunks. Se ha convertido es uno de los principales temas del debate público, junto con los temas de derechos humanos y personales, seguridad y ética empresarial. Esperamos que este debate entre la sociedad, las empresas y los Gobiernos genere más transparencia, responsabilidad y un uso equilibrado y justo de los datos personales, y que se encuentren soluciones legales, sociales y tecnológicas a los problemas de privacidad más apremiantes.