Un destacado investigador de ética en IA dice que Google la despidió

Antes de unirse a Google en 2018, Gebru trabajó con la investigadora del MIT Joy Buolamwini en un proyecto llamado Tonos de género que reveló que la tecnología de análisis facial de IBM y Microsoft era muy precisa para los hombres blancos pero muy inexacta para las mujeres negras. Ayudó a impulsar a legisladores y tecnólogos estadounidenses a cuestionar y prueba la precisión del reconocimiento facial en diferentes datos demográficos, y contribuyó a que Microsoft, IBM y Amazon anunciaran que detendrían las ventas de la tecnología este año. Gebru también cofundó una influyente conferencia llamada Black in AI que intenta aumentar la diversidad de investigadores que contribuyen al campo.

La partida de Gebru se puso en marcha cuando colaboró ​​con investigadores dentro y fuera de Google en un artículo de investigación sobre cuestiones éticas planteadas por los avances recientes en software de lenguaje de IA.

imagen del artículo

La guía WIRED de inteligencia artificial

Los algoritmos súper inteligentes no tomarán todos los trabajos, pero están aprendiendo más rápido que nunca, haciendo de todo, desde diagnósticos médicos hasta publicar anuncios.


Los investigadores han logrado avances en problemas como la generación de texto y la respuesta a preguntas mediante la creación de modelos gigantes de aprendizaje automático entrenados en grandes franjas del texto en línea. Google ha dicho que la tecnología ha hecho que su lucrativo motor de búsqueda epónimo sea más poderoso. Pero los investigadores también han demostrado que la creación de estos modelos más poderosos consume grandes cantidades de electricidad debido a los vastos recursos informáticos requeridos, y documentaron cómo los modelos pueden replicar el lenguaje sesgado sobre género y raza que se encuentra en línea.

Gebru dice que su documento preliminar discutió esos temas e instó al uso responsable de la tecnología, por ejemplo, documentando los datos utilizados para crear modelos de lenguaje. Se preocupó cuando el gerente senior insistió en que ella y otros autores de Google eliminaran sus nombres del documento o lo retractaran por completo, especialmente cuando no podía aprender el proceso utilizado para revisar el borrador. “Sentí que nos estaban censurando y pensé que esto tenía implicaciones para toda la investigación ética de la IA”, dice.


Gebru dice que no logró convencer al gerente senior de que resolviera los problemas con el periódico; dice que el gerente insistió en que eliminara su nombre. El martes, Gebru respondió por correo electrónico ofreciendo un trato: si recibía una explicación completa de lo que sucedió y el equipo de investigación se reunía con la gerencia para acordar un proceso para el manejo justo de la investigación futura, eliminaría su nombre del documento. De lo contrario, haría arreglos para dejar la empresa en una fecha posterior, dejándola libre de publicar el periódico sin la afiliación de la empresa.

Gebru también envió un correo electrónico a una lista más amplia dentro del grupo de investigación de IA de Google diciendo que los intentos de los gerentes para mejorar la diversidad habían sido ineficaces. Incluyó una descripción de su disputa sobre el documento sobre el idioma como un ejemplo de cómo los gerentes de Google pueden silenciar a las personas de los grupos marginados. Platformer publicado una copia del correo electrónico del jueves.

El miércoles, Gebru dice que supo por sus subordinados directos que les habían dicho que Gebru había renunciado a Google y que su renuncia había sido aceptada. Descubrió que su cuenta corporativa estaba deshabilitada.

Un correo electrónico enviado por un gerente a la dirección personal de Gebru decía que su renuncia debería entrar en vigencia de inmediato porque había enviado un correo electrónico que reflejaba “un comportamiento que no concuerda con las expectativas de un gerente de Google”. Gebru recurrió a Twitter y la indignación creció rápidamente entre los investigadores de inteligencia artificial en línea.

Silueta de un humano y un robot jugando a las cartas

¿El secreto del aprendizaje automático? Maestros humanos

Muchos criticaron a Google, tanto desde dentro como fuera de la empresa, notaron que la empresa había dañado de un plumazo la diversidad de su fuerza laboral de IA y también había perdido a un destacado defensor de la mejora de esa diversidad. Gebru sospecha que su trato fue en parte motivado por su franqueza en torno a la diversidad y el trato de Google a las personas de grupos marginados. “Hemos estado pidiendo representación, pero apenas hay personas negras en Google Research, y por lo que veo a ninguna en el liderazgo”, dice.

Related Stories

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí