Internet se está convirtiendo en una caja negra de datos. Una 'API de inspeccionabilidad' podría abrirla

Surya Mattu

En el mundo digital actual, la injusticia acecha en las sombras de las publicaciones de Facebook que se envían a ciertos grupos de personas excluyendo a otras, el algoritmo oculto utilizado para perfilar a los candidatos durante las entrevistas de trabajo y los algoritmos de evaluación de riesgos utilizados para las sentencias penales y el bienestar. detención por fraude. A medida que los sistemas algorítmicos se integran en todos los aspectos de la sociedad, los mecanismos regulatorios luchan por mantenerse al día.

Durante la última década, investigadores y periodistas han encontrado formas de revelar y examinar estos sistemas discriminatorios, desarrollando sus propias herramientas de recopilación de datos. Sin embargo, a medida que Internet ha pasado de los navegadores a las aplicaciones móviles, esta transparencia crucial está desapareciendo rápidamente.

El análisis de sistemas digitales por parte de terceros ha sido posible en gran medida gracias a dos herramientas aparentemente banales que se utilizan comúnmente para inspeccionar lo que sucede en una página web: complementos del navegador y herramientas de desarrollo del navegador.

Los complementos del navegador son pequeños programas que se pueden instalar directamente en un navegador web, lo que permite a los usuarios mejorar la forma en que interactúan con un sitio web determinado. Si bien los complementos se usan comúnmente para operar herramientas como administradores de contraseñas y bloqueadores de publicidad, también son increíblemente útiles para permitir a las personas recopilar sus propios datos dentro del jardín amurallado de una plataforma tecnológica.

De manera similar, se crearon herramientas de desarrollo de navegadores para permitir a los desarrolladores web probar y depurar las interfaces de usuario de sus sitios web. A medida que Internet evolucionó y los sitios web se volvieron más complejos, estas herramientas también evolucionaron, agregando funciones como la capacidad de inspeccionar y cambiar el código fuente, monitorear la actividad de la red e incluso detectar cuándo un sitio web accede a su ubicación o micrófono. Estos son mecanismos poderosos para investigar cómo las empresas rastrean, perfilan y se dirigen a sus usuarios.

He utilizado estas herramientas como periodista de datos para mostrar cómo una empresa de marketing registró los datos personales de los usuarios incluso antes de que hicieran clic en "enviar" en un formulario y, más recientemente, cómo la herramienta Meta Pixel (anteriormente la herramienta Facebook Pixel) rastrea usuarios sin su conocimiento explícito en lugares sensibles como sitios web de hospitales, solicitudes de préstamos federales para estudiantes y sitios web de herramientas de declaración de impuestos.

Andy Greenberg

Ngofeen Mputubwele

Julian Chokkattu

Cathy Alterar

Además de exponer la vigilancia, las herramientas de inspección de navegadores brindan una forma poderosa de recopilar datos para estudiar la discriminación, la difusión de información errónea y otros tipos de daños que las empresas de tecnología causan o facilitan. Pero a pesar de las poderosas capacidades de estas herramientas, su alcance es limitado. En 2023, Kepios informó que el 92 por ciento de los usuarios globales accedieron a Internet a través de sus teléfonos inteligentes, mientras que solo el 65 por ciento de los usuarios globales lo hicieron utilizando una computadora de escritorio o portátil.

Aunque la gran mayoría del tráfico de Internet se ha trasladado a los teléfonos inteligentes, no contamos con herramientas para el ecosistema de teléfonos inteligentes que ofrezcan el mismo nivel de "inspectabilidad" que los complementos de navegador y las herramientas de desarrollo. Esto se debe a que los navegadores web son implícitamente transparentes, mientras que los sistemas operativos de los teléfonos móviles no lo son.

Si desea ver un sitio web en su navegador web, el servidor debe enviarle el código fuente. Las aplicaciones móviles, por otro lado, son archivos ejecutables compilados que normalmente se descargan de lugares como iOS App Store de Apple o Google Play. Los desarrolladores de aplicaciones no necesitan publicar el código fuente para que la gente pueda utilizarlas.

De manera similar, monitorear el tráfico de la red en los navegadores web es trivial. Esta técnica suele ser más útil que inspeccionar el código fuente para ver qué datos recopila una empresa sobre los usuarios. ¿Quieres saber con qué empresas un sitio web comparte tus datos? Querrá monitorear el tráfico de la red, no inspeccionar el código fuente. En los teléfonos inteligentes, el monitoreo de la red es posible, pero generalmente requiere la instalación de certificados raíz que hacen que los dispositivos de los usuarios sean menos seguros y más vulnerables a ataques de intermediarios por parte de malos actores. Y estas son sólo algunas de las diferencias que hacen que la recopilación de datos de forma segura desde los teléfonos inteligentes sea mucho más difícil que desde los navegadores.

La necesidad de una recaudación independiente es más apremiante que nunca. Anteriormente, las herramientas proporcionadas por la empresa, como la API de Twitter y CrowdTangle de Facebook, una herramienta para monitorear las tendencias en Facebook, eran la infraestructura que impulsaba una gran parte de la investigación y los informes en las redes sociales. Sin embargo, a medida que estas herramientas se vuelven menos útiles y accesibles, se necesitan nuevos métodos de recopilación de datos independientes para comprender qué están haciendo estas empresas y cómo las personas utilizan sus plataformas.

Para informar de manera significativa sobre el impacto que los sistemas digitales tienen en la sociedad, debemos poder observar lo que sucede en nuestros dispositivos sin pedir permiso a una empresa. Como alguien que ha pasado la última década creando herramientas que recopilan datos para exponer los daños algorítmicos, creo que el público debería tener la capacidad de echar un vistazo bajo el capó de sus aplicaciones móviles y dispositivos inteligentes, tal como puede hacerlo en sus navegadores. Y no soy solo yo: el Integrity Institute, una organización sin fines de lucro que trabaja para proteger la Internet social, publicó recientemente un informe que deja al descubierto la importancia de la transparencia como palanca para lograr objetivos de interés público como la responsabilidad, la colaboración, la comprensión y la confianza.

Para exigir transparencia a las plataformas tecnológicas, necesitamos un marco de transparencia independiente de la plataforma, algo que me gusta llamar API de inspeccionabilidad. Un marco de este tipo permitiría incluso a las poblaciones más vulnerables capturar pruebas de daños causados ​​por sus dispositivos y, al mismo tiempo, minimizaría el riesgo de que sus datos se utilicen en investigaciones o informes sin su consentimiento.

Andy Greenberg

Ngofeen Mputubwele

Julian Chokkattu

Cathy Alterar

Una interfaz de programación de aplicaciones (API) es una forma que tienen las empresas de poner sus servicios o datos a disposición de otros desarrolladores. Por ejemplo, si estás creando una aplicación móvil y quieres usar la cámara del teléfono para una función específica, usarías la API de cámara de iOS o Android. Otro ejemplo común es una API de accesibilidad, que permite a los desarrolladores hacer que sus aplicaciones sean accesibles para personas con discapacidades al hacer que la interfaz de usuario sea legible para lectores de pantalla y otras herramientas de accesibilidad que se encuentran comúnmente en los teléfonos inteligentes y computadoras modernos. Una API de inspeccionabilidad permitiría a las personas exportar datos de las aplicaciones que utilizan todos los días y compartirlos con investigadores, periodistas y defensores de sus comunidades. Se podría exigir a las empresas que implementen esta API para cumplir con las mejores prácticas de transparencia, del mismo modo que se les exige que implementen funciones de accesibilidad para que sus aplicaciones y sitios web sean utilizables para personas con discapacidades.

En EE.UU., los residentes de algunos estados pueden solicitar los datos que las empresas recopilan sobre ellos, gracias a las leyes de privacidad a nivel estatal. Si bien estas leyes tienen buenas intenciones, los datos que las empresas comparten para cumplirlas suelen estar estructurados de una manera que confunde detalles cruciales que expondrían daños. Por ejemplo, Facebook tiene un servicio de exportación de datos bastante granular que permite a las personas ver, entre otras cosas, su "actividad fuera de Facebook". Sin embargo, como descubrió Markup durante una serie de investigaciones sobre el uso de Pixel, aunque Facebook les dijo a los usuarios qué sitios web estaban compartiendo datos, no reveló cuán invasiva era la información que se compartía. Citas médicas, información sobre declaraciones de impuestos e información sobre préstamos estudiantiles eran solo algunas de las cosas que se enviaban a Facebook. Una API de inspeccionabilidad facilitaría a las personas monitorear sus dispositivos y ver cómo las aplicaciones que usan los rastrean en tiempo real.

Ya se están realizando algunos trabajos prometedores: la introducción por parte de Apple del Informe de privacidad de aplicaciones en iOS 15 marcó la primera vez que los usuarios de iPhone pudieron ver información de privacidad detallada para comprender las prácticas de recopilación de datos de cada aplicación e incluso responder preguntas como: "¿Instagram está escuchando mi micrófono?". ?”

Pero no podemos confiar en que las empresas hagan esto a su discreción: necesitamos un marco claro para definir qué tipo de datos deben ser inspeccionables y exportables por los usuarios, y necesitamos una regulación que penalice a las empresas por no implementarlo. Un marco de este tipo no sólo permitiría a los usuarios exponer los daños, sino que también garantizaría que no se viole su privacidad. Las personas podrían elegir qué datos compartir, cuándo y con quién.

Una API de inspeccionabilidad permitirá a las personas luchar por sus derechos compartiendo la evidencia del daño al que han estado expuestos con personas que puedan generar conciencia pública y abogar por el cambio. Permitiría a organizaciones como el Digital Witness Lab de Princeton, que cofundé y dirigí, realizar investigaciones basadas en datos colaborando estrechamente con comunidades vulnerables, en lugar de depender de empresas de tecnología para el acceso. Este marco permitiría a los investigadores y a otras personas realizar este trabajo de una manera segura, precisa y, lo más importante, que priorice el consentimiento de las personas perjudicadas.