Ocho estudios de caso sobre la regulación de la tecnología biométrica nos muestran un camino a seguir

Amba Kak estaba en la facultad de derecho en India cuando el país implementó el proyecto Aadhaar en 2009. El sistema nacional de identificación biométrica, concebido como un programa de identidad integral, buscaba recolectar las huellas dactilares, escaneos del iris y fotografías de todos los residentes. No pasó mucho tiempo, recuerda Kak, antes de que las historias sobre sus devastadoras consecuencias comenzaran a extenderse. “De repente escuchamos informes de cómo los trabajadores manuales que trabajan con sus manos, cómo sus huellas dactilares fallaron en el sistema, y ​​luego se les negó el acceso a las necesidades básicas”, dice ella. “De hecho teníamos muertes por hambre en la India que estaban vinculados a las barreras que estos sistemas de identificación biométrica estaban creando. Así que fue un tema realmente crucial “.

Esos casos la llevaron a investigar los sistemas biométricos y las formas en que la ley podría hacerlos responsables. El 2 de septiembre, Kak, quien ahora es el director de estrategia global y programas del AI Now Institute, con sede en Nueva York, publicó un nuevo reporte detallando ocho estudios de caso de cómo se regulan los sistemas biométricos en todo el mundo. Abarcan esfuerzos municipales, estatales, nacionales y globales, así como algunos de organizaciones sin fines de lucro. El objetivo es desarrollar una comprensión más profunda de cómo funcionan o se quedan cortos los diferentes enfoques. Hablé con Kak sobre lo que aprendió y cómo deberíamos seguir adelante.

Esta entrevista ha sido editada y condensada para mayor claridad.

¿Qué motivó este proyecto?

La tecnología biométrica es proliferando y normalizándose, tanto en el ámbito gubernamental como en nuestra vida privada. El seguimiento de las protestas mediante el reconocimiento facial ocurrió solo este año en Hong Kong, Delhi, Detroit y Baltimore. Los sistemas de identificación biométrica, de los que se habla menos, donde la biometría se utiliza como condición para acceder a sus servicios de asistencia social, también proliferaron en países de ingresos bajos y medios en Asia, África y América Latina.

Pero lo interesante es que el retroceso contra estos sistemas también está en su apogeo. La promoción a su alrededor está recibiendo más atención que nunca. Entonces, la pregunta es: ¿Dónde figuran las leyes y las políticas? Ahí es donde entra este compendio. Este informe intenta extraer lo que podemos aprender de estas experiencias en un momento en el que parece que hay mucho apetito por parte de los gobiernos y de los grupos de defensa de una mayor regulación.

¿Cuál es la situación actual de la regulación biométrica a nivel mundial? ¿Qué tan maduros son los marcos legales para manejar esta tecnología emergente?

Hay alrededor de 130 países en el mundo que tienen leyes de protección de datos. Casi todos cubren datos biométricos. Entonces, si solo nos preguntamos si existen leyes para regular los datos biométricos, entonces la respuesta sería que en la mayoría de los países sí.

Pero cuando profundiza un poco más, ¿cuáles son las limitaciones de una ley de protección de datos? Una ley de protección de datos en su máxima expresión puede ayudarlo a regular cuándo se usan los datos biométricos y asegurarse de que no se usen para fines para los que no se otorgó el consentimiento. Pero cuestiones como la precisión, la discriminación, esas cuestiones aún han recibido muy poca atención legal.

Por otro lado, ¿qué hay de prohibir completamente la tecnología? Hemos visto que eso se concentra en los EE. UU. A nivel de ciudad y estado. Creo que la gente olvida a veces que la mayor parte de esta actividad legislativa se ha concentrado en el uso público y, más concretamente, en la policía.

Por lo tanto, tenemos una combinación de leyes de protección de datos que ofrece algunas salvaguardias, pero es inherentemente limitada. Y luego tenemos una concentración de estas moratorias completas a nivel local de ciudad y estado en los EE. UU.

¿Cuáles fueron algunos de los temas comunes que surgieron de estos estudios de caso?

Para mi, la mas clara fue el capítulo sobre la India por Nayantara Ranganathan, y el capítulo sobre la base de datos australiana de reconocimiento facial por Monique Mann y Jake Goldenfein. Ambas son arquitecturas estatales masivas centralizadas donde el objetivo es eliminar los silos técnicos entre diferentes estados y otros tipos de bases de datos, y asegurarse de que estas bases de datos estén vinculadas de forma centralizada. Así que está creando esta enorme arquitectura de datos biométricos centralizada y vinculada de forma centralizada. Luego, como una curita sobre este enorme problema, está diciendo: “Está bien, tenemos una ley de protección de datos, que dice que los datos nunca deben usarse para un propósito que no fue imaginado o anticipado”. Pero mientras tanto, está cambiando la expectativa de lo que se puede anticipar. Hoy en día, la base de datos que se utilizó en un contexto de justicia penal ahora se utiliza en un contexto de inmigración.

Por ejemplo, [in the US] ICE ahora está usando o tratando de usar bases de datos del DMV en diferentes estados en el proceso de aplicación de la ley de inmigración. Entonces, estas son bases de datos creadas en un contexto civil y están tratando de usarlas para la inmigración. De manera similar, en Australia, tiene esta base de datos gigante, que incluye datos de licencias de conducir, que ahora se utilizará para fines ilimitados de justicia penal, y donde el departamento de asuntos del interior tendrá un control total. Y de manera similar en India, crearon una ley, pero la ley básicamente puso la mayor parte de la discreción en manos de la autoridad que creó la base de datos. Entonces creo que a partir de estos tres ejemplos, lo que me queda claro es que hay que leer la ley en el contexto de los movimientos políticos más amplios que están ocurriendo. Si tuviera que resumir la tendencia más amplia, es la securitización de todos los aspectos de la gobernanza, desde la justicia penal hasta la inmigración y el bienestar, y coincide con el impulso de la biometría. Ese es uno.

La segunda, y esta es una lección que seguimos repitiendo, el consentimiento como herramienta legal está muy roto, y definitivamente está roto en el contexto de los datos biométricos. Pero eso no significa que sea inútil. Woody Hartzog capítulo sobre BIPA de Illinois [Biometric Information Privacy Act] dice: Mire, es genial que hayamos tenido varias demandas exitosas contra empresas que usan BIPA, la más reciente con Clearview AI. Pero no podemos seguir esperando que “el modelo de consentimiento” produzca un cambio estructural. Nuestra solución no puede ser: el usuario sabe más; el usuario le dirá a Facebook que no quiere que se recopilen sus datos faciales. Tal vez el usuario no haga eso, y la carga no debería recaer sobre el individuo para tomar estas decisiones. Esto es algo que la comunidad de privacidad realmente ha aprendido por las malas, razón por la cual las leyes como el RGPD no se basan solo en el consentimiento. También hay reglas estrictas que dicen: Si ha recopilado datos por un motivo, no puede utilizarlos para otro propósito. Y no puede recopilar más datos de los absolutamente necesarios.

¿Hubo algún país o estado que pensó que demostró ser particularmente prometedor en su enfoque de la regulación de la biometría?

Sí, como era de esperar, no es un país ni un estado. En realidad, es el Comité Internacional de la Cruz Roja. [ICRC]. En el volumen, Ben Hayes y Massimo Marelli (ambos son en realidad representantes del CICR)escribió una pieza reflexiva sobre cómo decidieron que existía un interés legítimo para ellos en utilizar la biometría en el contexto de la distribución de ayuda humanitaria. Pero también reconocieron que había muchos gobiernos que los presionarían para acceder a esos datos con el fin de perseguir a estas comunidades.

Así que tenían un enigma muy real y lo resolvieron diciendo: Queremos crear una política biométrica que minimice la retención real de los datos biométricos de las personas. Entonces, lo que haremos es tener una tarjeta en la que los datos biométricos de alguien se almacenen de forma segura. Pueden usar esa tarjeta para acceder al bienestar o la asistencia humanitaria que se les brinda. Pero si deciden tirar esa tarjeta, los datos no se almacenarán en ningún otro lugar. La política básicamente decidió no establecer una base de datos biométrica con los datos de refugiados y otras personas que necesitan ayuda humanitaria.

Para mí, la lección más amplia de eso es reconocer cuál es el problema. El problema en ese caso fue que las bases de datos estaban creando un honeypot y un riesgo real. Así que pensaron tanto en una solución técnica como en una forma para que las personas retiraran o borraran sus datos biométricos con una agencia completa.

¿Cuáles son las principales lagunas que observa en los enfoques de la regulación biométrica en todos los ámbitos?

Un buen ejemplo para ilustrar ese punto es: ¿Cómo está lidiando la ley con todo este tema de sesgo y precisión? En los últimos años, hemos visto muchas investigaciones fundamentales de personas como Joy Buolamwini, Timnit Gebru y Deb Raji que desafían existencialmente: ¿Funcionan estos sistemas? ¿Contra quién trabajan? E incluso cuando pasan estas llamadas pruebas de precisión, ¿cómo se desempeñan realmente en un contexto de la vida real?

La privacidad de los datos no se preocupa por este tipo de problemas. Entonces, lo que hemos visto ahora, y esto son principalmente esfuerzos legislativos en los EE. UU., Son proyectos de ley que exigen auditorías de precisión y no discriminación para los sistemas de reconocimiento facial. Algunos de ellos dicen: Estamos pausando el uso del reconocimiento facial, pero una condición para levantar esta moratoria es que pases esta prueba de precisión y no discriminación. Y las pruebas a las que a menudo se refieren son pruebas de estándares técnicos como la prueba de proveedores de reconocimiento facial del NIST.

Pero como argumento en eso primer capitulo, estas pruebas están evolucionando; se ha demostrado que tienen un rendimiento inferior en contextos de la vida real; y lo más importante, tienen una capacidad limitada para abordar el impacto discriminatorio más amplio de estos sistemas cuando se aplican a la práctica. Por eso, me preocupa mucho que estos estándares técnicos se conviertan en una especie de casilla de verificación que debe marcarse y que luego ignora u oculta las otras formas de daño que estas tecnologías tienen cuando se aplican.

¿Cómo cambió este compendio su forma de pensar sobre la regulación biométrica?

Lo más importante que hizo por mí fue no pensar en la regulación solo como una herramienta que ayudará a limitar estos sistemas. Eso lata ser una herramienta para hacer retroceder a estos sistemas, pero igualmente puede ser una herramienta para normalizar o legitimar estos sistemas. Solo cuando miramos ejemplos como el de la India o el de Australia, empezamos a ver la ley como un instrumento multifacético, que se puede utilizar de diferentes maneras. En el momento en que realmente estamos presionando para decir “¿Es necesario que existan estas tecnologías?” la ley, y especialmente la regulación débil, realmente pueden convertirse en armas. Ese fue un buen recordatorio para mí. Debemos tener cuidado con eso.

Esta conversación definitivamente ha sido reveladora para mí porque, como alguien que cubre la forma en que se arma la tecnología, a menudo me preguntan: “¿Cuál es la solución?” y siempre digo, “Regulación”. Pero ahora está diciendo: “La regulación también se puede convertir en un arma”.

¡Eso es muy cierto! Esto me hace pensar en estos grupos que solían trabajar sobre la violencia doméstica en India. Y recuerdo que dijeron que al final de décadas de lucha por los derechos de las sobrevivientes de violencia doméstica, el gobierno finalmente dijo: “Está bien, hemos aprobado esta ley”. Pero después de eso, nada cambió. Recuerdo haber pensado incluso entonces, a veces glorificamos la idea de aprobar leyes, pero ¿qué sucede después de eso?

Y esta es una buena transición, incluso cuando leo el libro de Clare Garvie y Jameson Spivack capítulo sobre prohibiciones y moratorias, señalan que la mayoría de estas prohibiciones se aplican solo al uso del gobierno. Todavía existe esta enorme industria privada multimillonaria. Así que todavía se usará en el concierto de Taylor Swift de formas muy similares a las que la policía usaría: para mantener a la gente fuera, para discriminar a la gente. No detiene la máquina. Ese Este tipo de intervención legal requeriría una defensa sin precedentes. No creo que sea imposible tener esa supuesta prohibición completa, pero todavía no lo hemos logrado. Entonces, sí, debemos ser más circunspectos y críticos sobre la forma en que entendemos el papel de la ley.

¿Qué pasó con el compendio que le hizo tener esperanzas sobre el futuro?

Esa es siempre una pregunta muy difícil, pero no debería serlo. Fue probablemente Capítulo de Rashida Richardson y Stephanie Coyle. Su capítulo era casi como una etnografía sobre este grupo de padres de Nueva York que se sentían muy convencidos del hecho de que no querían que vigilaran a sus hijos. Y dijeron: “Vamos a ir a todas las reuniones, aunque no esperan que lo hagamos. Y vamos a decir que tenemos un problema con esto “.

Fue realmente reconfortante conocer una historia en la que fue el grupo de padres el que cambió por completo el discurso. Dijeron: No hablemos de si es necesaria la biometría o la vigilancia. Hablemos solo de los daños reales que esto causa a nuestros hijos y si este es el mejor uso del dinero. Un senador luego tomó esto y presentó un proyecto de ley, y solo en agosto, el senado del estado de Nueva York aprobó este proyecto de ley. Lo celebré con Rashida porque estaba como, “¡Yay! ¡Historias como esta suceden! ” Está muy relacionado con la historia de la promoción.

Recent Articles

TSX se une a la venta masiva del mercado de valores mundial mientras los temores del coronavirus se niegan a desaparecer

El TSX se unió a los mercados de valores de todo el mundo en una nueva ronda de liquidación el lunes, ya que los...

Microsoft decide “caso por caso” sobre los juegos de Bethesda en PS5, Switch

Un día antes de que se publiquen los pedidos anticipados de Xbox Series X y Series S, Microsoft ha anunciado un argumento...

Webchat de Thurston Moore: ¡publique sus preguntas ahora! | Música

10.41 a. M. EDT10:41 Laura Snapes Vivimos, como habrás escuchado, en tiempos sin precedentes. Y, sin embargo, persisten algunas constantes tranquilizadoras. Las estaciones seguirán cambiando. Disco...

Los descuentos grupales le permiten llevar al equipo a TC Sessions: Mobility 2020 – TechCrunch

Hay una gran cantidad de terreno virtual que una persona debe cubrir, y oportunidades reales que descubrir, durante los dos días de Sesiones de...

Related Stories

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí