Forbes India - Facebook está cerrando el sistema de reconocimiento facial después de una década

Una aplicación de reconocimiento facial en un teléfono inteligente en Nueva York, 1 de agosto de 2019. Facebook planea cerrar este mes su sistema de reconocimiento facial de una década, eliminando los datos de escaneo facial de más de mil millones de usuarios y eliminando efectivamente una característica que ha alimentó preocupaciones de privacidad, investigaciones gubernamentales, una demanda colectiva y problemas regulatorios.
Imagen: Amr Alfiky / The New York Times

Facebook planea cerrar este mes su sistema de reconocimiento facial de una década, eliminando los datos de escaneo facial de más de mil millones de usuarios y eliminando efectivamente una característica que ha alimentado preocupaciones de privacidad, investigaciones gubernamentales, una demanda colectiva y problemas regulatorios.

Jerome Pesenti, vicepresidente de inteligencia artificial de Meta, la empresa matriz recién nombrada de Facebook, dijo en una publicación de blog el martes que la red social estaba haciendo el cambio debido a «las muchas preocupaciones sobre el lugar de la tecnología de reconocimiento facial en la sociedad». Añadió que la empresa aún veía el software como una herramienta poderosa, pero «cada nueva tecnología trae consigo un potencial tanto de beneficio como de preocupación, y queremos encontrar el equilibrio adecuado».

La decisión cierra una función que se introdujo en diciembre de 2010 para que los usuarios de Facebook pudieran ahorrar tiempo. El software de reconocimiento facial identificaba automáticamente a las personas que aparecían en los álbumes de fotos digitales de los usuarios y les sugería que los «etiquetaran» a todos con un clic, vinculando sus cuentas a las imágenes. Facebook ahora ha construido uno de los repositorios de fotos digitales más grandes del mundo, en parte gracias a este software.

La tecnología de reconocimiento facial, que ha avanzado en precisión y potencia en los últimos años, ha sido cada vez más objeto de debate debido a la forma en que los gobiernos, las fuerzas del orden y las empresas pueden utilizarla de forma indebida. En China, las autoridades utilizan la capacidad para rastrear y controlar a los uigures, una minoría mayoritariamente musulmana. En los Estados Unidos, las fuerzas del orden han recurrido al software para ayudar a la policía, lo que genera temores de extralimitaciones y arrestos erróneos. Algunas ciudades y estados han prohibido o limitado la tecnología para evitar posibles abusos.

Facebook solo utilizó sus capacidades de reconocimiento facial en su propio sitio y no vendió su software a terceros. Aun así, la función se convirtió en un dolor de cabeza regulatorio y de privacidad para la empresa. Los defensores de la privacidad plantearon repetidamente preguntas sobre cuántos datos faciales había acumulado Facebook y qué podía hacer la empresa con esa información. Las imágenes de rostros que se encuentran en las redes sociales pueden ser utilizadas por startups y otras entidades para entrenar software de reconocimiento facial.

Cuando la Comisión Federal de Comercio multó a Facebook con un récord de $ 5 mil millones para resolver quejas de privacidad en 2019, el software de reconocimiento facial estaba entre las preocupaciones. El año pasado, la compañía también acordó pagar $ 650 millones para resolver una demanda colectiva en Illinois que acusó a Facebook de violar una ley estatal que requiere el consentimiento de los residentes para usar su información biométrica, incluida su «geometría facial».

La red social hizo su anuncio de tecnología de reconocimiento facial, ya que también lidia con un intenso escrutinio público. Los legisladores y reguladores se han enfrentado a la compañía en los últimos meses después de que una ex empleada de Facebook, Frances Haugen, filtró miles de documentos internos que mostraban que la firma era consciente de cómo permitía la difusión de información errónea, discursos de odio y contenido que incitaba a la violencia. .

Las revelaciones han llevado a audiencias en el Congreso e investigaciones regulatorias. La semana pasada, Mark Zuckerberg, el director ejecutivo, cambió el nombre de la empresa matriz de Facebook a Meta y dijo que cambiaría los recursos hacia la creación de productos para la próxima frontera en línea, un mundo digital conocido como metaverso.

El cambio afecta a más de un tercio de los usuarios diarios de Facebook que tenían el reconocimiento facial activado en sus cuentas, según la compañía. Eso significaba que recibían alertas cuando se subían nuevas fotos o videos de ellos a la red social. La función también se ha utilizado para marcar cuentas que podrían estar haciéndose pasar por otra persona y se incorporó en un software que describe fotos a usuarios ciegos.

“Hacer este cambio nos obligó a sopesar los casos en los que el reconocimiento facial puede ser útil frente a las crecientes preocupaciones sobre el uso de esta tecnología en su conjunto”, dijo Jason Grosse, portavoz de Meta.

Aunque Facebook planea eliminar más de mil millones de plantillas de reconocimiento facial, que son escaneos digitales de rasgos faciales, para diciembre, no eliminará el software que alimenta el sistema, que es un algoritmo avanzado llamado DeepFace. La compañía tampoco descartó incorporar tecnología de reconocimiento facial en productos futuros, dijo Grosse.

No obstante, los defensores de la privacidad aplaudieron la decisión.

“La salida de Facebook del negocio del reconocimiento facial es un momento crucial en el creciente malestar nacional con esta tecnología”, dijo Adam Schwartz, abogado senior de Electronic Frontier Foundation, una organización de libertades civiles. «El uso corporativo de la vigilancia facial es muy peligroso para la privacidad de las personas».

Facebook no es la primera gran empresa de tecnología que se retira del software de reconocimiento facial. Amazon, Microsoft e IBM han detenido o dejado de vender sus productos de reconocimiento facial a las fuerzas del orden en los últimos años, al tiempo que expresan su preocupación por la privacidad y el sesgo algorítmico y piden una regulación más clara.

El software de reconocimiento facial de Facebook tiene una historia larga y costosa. Cuando el software se lanzó a Europa en 2011, las autoridades de protección de datos dijeron que la medida era ilegal y que la empresa necesitaba el consentimiento para analizar fotos de una persona y extraer el patrón único de un rostro individual. En 2015, la tecnología también llevó a la presentación de la demanda colectiva en Illinois.

Durante la última década, el Electronic Privacy Information Center, un grupo de defensa de la privacidad con sede en Washington, presentó dos quejas sobre el uso del reconocimiento facial por parte de Facebook ante la FTC. Cuando la FTC multó a Facebook en 2019, nombró la confusa configuración de privacidad del sitio en torno al reconocimiento facial como una de las razones de la sanción.

“Este era un problema conocido que denunciamos hace más de 10 años, pero se prolongó durante mucho tiempo”, dijo Alan Butler, director ejecutivo de EPIC. Dijo que estaba contento de que Facebook hubiera tomado la decisión, pero agregó que el episodio prolongado ejemplifica la necesidad de protecciones de privacidad más sólidas en Estados Unidos.

“Todas las demás sociedades y países democráticos modernos tienen un regulador de protección de datos”, dijo Butler. “La ley no está bien diseñada para abordar estos problemas. Necesitamos reglas y principios legales más claros y un regulador que esté investigando activamente estos temas día tras día ”.

Butler también pidió a Facebook que haga más para evitar que sus fotos se utilicen para impulsar los sistemas de reconocimiento facial de otras empresas, como Clearview AI y PimEyes, nuevas empresas que han extraído fotos de la web pública, incluso de Facebook y de su aplicación hermana. Instagram.

En la publicación del blog de Meta, Pesenti escribió que el «rol a largo plazo en la sociedad en la sociedad debe ser debatido abiertamente» y que la empresa «continuará participando en esa conversación y trabajando con los grupos de la sociedad civil y los reguladores que lideran esta discusión. . «

Meta ha discutido agregar capacidades de reconocimiento facial a un producto futuro. En una reunión interna en febrero, un empleado preguntó si la compañía permitiría que las personas «marquen sus rostros como inescrutables» si las versiones futuras de un dispositivo de anteojos inteligentes planificado incorporan tecnología de reconocimiento facial, según los asistentes. BuzzFeed News informó por primera vez de la reunión.

En la reunión, Andrew Bosworth, un ejecutivo de la compañía desde hace mucho tiempo que se convertirá en el director de tecnología de Meta el próximo año, dijo a los empleados que la tecnología de reconocimiento facial tenía beneficios reales, pero reconoció sus riesgos, según los asistentes y sus tweets. En septiembre, la compañía presentó un par de anteojos con cámara, parlantes y un chip de procesamiento de computadora en asociación con Ray-Ban; no incluía capacidades de reconocimiento facial.

«Estamos teniendo discusiones externa e internamente sobre los posibles beneficios y daños», dijo Grosse, portavoz de Meta. «Nos reuniremos con legisladores, organizaciones de la sociedad civil y defensores de la privacidad de todo el mundo para comprender plenamente sus perspectivas antes de introducir este tipo de tecnología en cualquier producto futuro».

Haga clic aquí para ver la cobertura completa de Forbes India sobre la situación de Covid-19 y su impacto en la vida, los negocios y la economía.