IBM abandona los productos de reconocimiento facial y condena la vigilancia sesgada racialmente: NPR

IBM ya no proporcionará tecnología de reconocimiento facial a los departamentos de policía para vigilancia masiva y perfil racial, Arvind Krishna, director ejecutivo de IBM, escribió en una carta al Congreso

Krishna escribió que dicha tecnología podría ser utilizada por la policía para violar los “derechos humanos y libertades básicos”, y eso estaría fuera de sintonía con los valores de la compañía.

“Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deberían emplear la tecnología de reconocimiento facial y cómo”, dijo Krishna.

Las manifestaciones a nivel nacional luego del asesinato policial de George Floyd ya han llevado a cambios en los departamentos de policía de todo el país. uso de políticas de fuerza, mala conducta policial y contratos policiales.

El momento de calcular la relación del país con las fuerzas del orden público también se produce cuando los investigadores de inteligencia artificial y los expertos en tecnología continúan advertir sobre el software de reconocimiento facial, particularmente cómo algunos de los sistemas basados ​​en datos tienen sido mostrado ser racialmente parcial. Por ejemplo, el MIT Media Lab descubrió que la tecnología a menudo es menos exitosa para identificar el género de los rostros de piel oscura, lo que podría conducir a identificaciones erróneas.

“Este es un reconocimiento positivo de que la tecnología de reconocimiento facial, especialmente la implementada por la policía, se ha utilizado para socavar los derechos humanos y para dañar a los negros específicamente, así como los pueblos indígenas y otras personas de color “, dijo Joy Buolamwini, quien realizó el estudio del MIT y es el fundador de la Liga de Justicia Algorítmica.

Nate Freed Wessler, abogado del Proyecto de Discurso, Privacidad y Tecnología de la ACLU, dijo que aunque se sintió alentado por las noticias de IBM, otras grandes compañías tecnológicas aún están de pie con el software.

“Es bueno que IBM haya dado este paso, pero no puede ser la única compañía”, dijo Freed Wessler a NPR. “Amazon, Microsoft y otras corporaciones están tratando de ganar mucho dinero vendiendo estas herramientas peligrosas y dudosas a los departamentos de policía. Eso debería detenerse ahora”.

En IBM, Krishna, quien asumió el cargo de CEO en abril, señaló el riesgo de la tecnología de producir resultados discriminatorios en su anuncio de dejar caer el software de reconocimiento facial de “propósito general”.

“La inteligencia artificial es una herramienta poderosa que puede ayudar a las fuerzas del orden a mantener a los ciudadanos seguros”, escribió a los demócratas del Congreso, quienes presentó la legislación de reforma policial el lunes eso prohibiría a las fuerzas del orden federales usar la tecnología de reconocimiento facial. “Pero los vendedores y usuarios de los sistemas de IA tienen la responsabilidad compartida de garantizar que la IA sea probada por sesgo, en particular cuando se usa en la aplicación de la ley, y que tales pruebas de sesgo sean auditadas e informadas”.

IBM había probado El software de reconocimiento facial con el Departamento de Policía de Nueva York, pero su adopción por parte de otras agencias policiales parece ser limitada. Los analistas que rastrean a IBM han notado que el reconocimiento facial de la compañía no generó muchos ingresos, lo que sugiere que la decisión tal vez tenía sentido comercial.

Los críticos de la tecnología de vigilancia que han pedido a Microsoft y Amazon que hagan compromisos similares dicen que confiar en herramientas de minería de datos para tomar decisiones de seguridad pública podría poner en peligro a los ciudadanos.

“Los sistemas de reconocimiento facial tienen tasas de falla mucho más altas cuando se trata de personas de color y mujeres y personas más jóvenes, lo que puede someterlos a un gran daño por parte de la policía”, dijo Freed Wessler de la ACLU. “Si usar la fuerza, arrestar a alguien, detener a alguien en la calle”.

Amazon es un jugador importante en el software de reconocimiento facial. Su producto Rekognition ha sido utilizado por los departamentos de policía locales en Florida y Oregon.

La ACLU descubrió en 2018 que el software identificó erróneamente a 28 miembros del Congreso como personas que habían sido arrestadas por delitos.

Y Buolamwini ha descubierto que cuando las fotos de varias mujeres negras prominentes, incluidas Oprah y Michelle Obama, son escaneadas por la tecnología de Amazon de que el sistema afirma erróneamente que son hombres.

Amazon tiene defendido públicamente su software de reconocimiento facial dice que los estudios que desafían su precisión han contenido percepciones erróneas sobre cómo funciona la tecnología.

“Sabemos que la tecnología de reconocimiento facial, cuando se usa de manera irresponsable, tiene riesgos”, escribió Matt Wood, gerente general de inteligencia artificial de Amazon Web Services. “Pero seguimos siendo optimistas sobre el bien que esta tecnología proporcionará en la sociedad, y ya estamos viendo puntos de prueba significativos con reconocimiento facial que ayudan a frustrar el tráfico de niños, reunir a los niños desaparecidos con los padres, proporcionar una mejor autenticación de pagos o disminuir el fraude con tarjetas de crédito”.

Amazon no devolvió una solicitud de comentarios sobre la decisión de IBM de retirarse del software de reconocimiento facial.

Microsoft, que usa tecnología de reconocimiento facial a través de sus servicios de computación en la nube de Azure, tampoco respondió una solicitud de comentarios.

El uso de reconocimiento facial por parte de Big Tech ha provocado controversia y acciones legales por su uso más allá de la aplicación de la ley.

En enero, Facebook acordado pagar 500 millones de dólares para resolver una demanda colectiva por presuntamente violar las leyes de privacidad del consumidor de Illinois en su uso de la tecnología de reconocimiento facial que utilizaba un software de coincidencia facial para adivinar quién aparece en las fotos publicadas en la red social.