Google busca una nueva medida de los tonos de piel para frenar el sesgo en los productos

Lo que está en juego es una escala de seis colores conocida como Fitzpatrick Skin Type (FST), que los dermatólogos han utilizado desde la década de 1970. Las empresas de tecnología ahora confían en él para categorizar a las personas y medir si productos como los sistemas de reconocimiento facial o los sensores de frecuencia cardíaca de los relojes inteligentes funcionan igual de bien en todos los tonos de piel.

Los críticos dicen que FST, que incluye cuatro categorías para piel “blanca” y una para “negra” y “morena”, ignora la diversidad entre las personas de color. Investigadores del Departamento de Seguridad Nacional de EE. UU., Durante una conferencia de estándares de tecnología federal en octubre pasado, recomendaron abandonar FST para evaluar el reconocimiento facial porque representa de manera deficiente la gama de colores en diversas poblaciones.

En respuesta a las preguntas de Reuters sobre FST, Google, por primera vez y por delante de sus pares, dijo que ha estado buscando silenciosamente mejores medidas.

“Estamos trabajando en medidas alternativas, más inclusivas, que podrían ser útiles en el desarrollo de nuestros productos, y colaboraremos con expertos científicos y médicos, así como con grupos que trabajan con comunidades de color”, dijo la compañía, declinando ofrecer detalles. en el esfuerzo.

La controversia es parte de un reconocimiento más amplio sobre el racismo y la diversidad en la industria tecnológica, donde la fuerza laboral es más blanca que en sectores como las finanzas. Asegurar que la tecnología funcione bien para todos los colores de piel, así como para diferentes edades y géneros, está adquiriendo mayor importancia a medida que los nuevos productos, a menudo impulsados ​​por inteligencia artificial (IA), se extienden a áreas sensibles y reguladas como la atención médica y la aplicación de la ley.

Las empresas saben que sus productos pueden ser defectuosos para los grupos que están infrarrepresentados en los datos de investigación y pruebas. La preocupación sobre FST es que su escala limitada para pieles más oscuras podría conducir a una tecnología que, por ejemplo, funciona para la piel de color marrón dorado, pero falla para los tonos rojos espresso.

Numerosos tipos de productos ofrecen paletas mucho más ricas que FST. Crayola lanzó el año pasado 24 crayones de tono de piel, y las muñecas Barbie Fashionistas de Mattel Inc. este año cubren nueve tonos.

El tema está lejos de ser académico para Google. Cuando la compañía anunció en febrero que las cámaras de algunos teléfonos Android podían medir la frecuencia del pulso con la yema del dedo, dijo que las lecturas de https://www.youtube.com/watch?v=scahO3HtMOM en promedio errarían en un 1.8% independientemente de si los usuarios habían piel clara u oscura.

Posteriormente, la compañía otorgó https://drive.google.com/file/d/1A32_1Dwuh8JmmilCvKwosgQJj8M1Q3kT/view similares garantías de que el tipo de piel no afectaría notablemente los resultados de una función para filtrar fondos en videoconferencias de Meet, ni de una próxima herramienta web para identificar condiciones de la piel, informalmente denominado Derm Assist https://blog.google/technology/health/ai-dermatology-preview-io-2021.

Las conclusiones derivadas de las pruebas con el FST de seis tonos.

‘PUNTO DE PARTIDA’

El fallecido dermatólogo de la Universidad de Harvard, el Dr. Thomas Fitzpatrick https://jamanetwork.com/journals/jamadermatology/fullarticle/479610 inventó la escala para personalizar el tratamiento con radiación ultravioleta para la psoriasis, una afección que pica. Agrupó la piel de las personas “blancas” como números romanos del I al IV al preguntar cuántas quemaduras solares o bronceado desarrollaban después de ciertos períodos de exposición al sol.

Una década más tarde vino el tipo V para piel “morena” y VI para “negra”. La escala todavía forma parte de las regulaciones de EE. UU. Para probar los productos de protección solar, y sigue siendo un estándar dermatológico popular para evaluar el riesgo de cáncer de los pacientes y más.

Algunos dermatólogos dicen que la escala es una medida de atención deficiente y que se usa en exceso, y que a menudo se combina con la raza y la etnia.

“Mucha gente asumiría que soy del tipo de piel V, que rara vez o nunca se quema, pero yo quemo”, dijo la Dra. Susan Taylor, dermatóloga de la Universidad de Pensilvania que fundó Skin of Color Society en 2004 para promover la investigación en comunidades marginadas. “Mirar el tono de mi piel y decir que soy del tipo V no me hace ningún favor”.

Las empresas de tecnología, hasta hace poco, no estaban preocupadas. Unicode, una asociación de la industria que supervisa los emojis, se refirió a FST en 2014 como su base para adoptar cinco tonos de piel más allá del amarillo, diciendo http://www.unicode.org/L2/L2014/14213-skin-tone-mod.pdf la escala fue “sin asociaciones negativas”.

Un estudio de 2018 titulado “Gender Shades”, https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf, que encontró que los sistemas de análisis facial con mayor frecuencia confundían a las personas con piel más oscura, popularizado usando FST para evaluar la IA. La investigación describió la FST como un “punto de partida”, pero los científicos de estudios similares que se realizaron más tarde dijeron a Reuters que utilizaron la escala para mantener la coherencia.

“Como primera medida para un mercado relativamente inmaduro, cumple su propósito de ayudarnos a identificar señales de alerta”, dijo Inioluwa Deborah Raji, investigadora de Mozilla dedicada a la auditoría de IA.

En un estudio de abril https://scontent-sjc3-1.xx.fbcdn.net/v/t39.8562-6/166944269_1101759557004334_1049316558312568671_n.pdf que prueba la IA para detectar deepfakes, los investigadores de Facebook Inc escribieron FST “claramente no abarca la diversidad dentro tonos de piel marrón y negra “. Aún así, lanzaron videos de 3,000 personas para ser utilizados para evaluar sistemas de IA, con etiquetas FST adjuntas basadas en las evaluaciones de ocho evaluadores humanos.

El juicio de los evaluadores es fundamental. El año pasado, la startup de software de reconocimiento facial AnyVision dio ejemplos de celebridades https://arxiv.org/pdf/2009.07838.pdf a los evaluadores: el ex gran jugador del béisbol Derek Jeter como tipo IV, la modelo Tyra Banks a V y el rapero 50 Cent a VI.

AnyVision dijo a Reuters que estaba de acuerdo con la decisión de Google de revisar el uso de FST, y Facebook dijo que está abierto a mejores medidas.

Microsoft Corp y los fabricantes de relojes inteligentes Apple Inc y Garmin Ltd hacen referencia a FST cuando trabajan en sensores relacionados con la salud.

Pero el uso de FST podría estar alimentando “falsas garantías” sobre las lecturas de frecuencia cardíaca de relojes inteligentes en pieles más oscuras, escribieron médicos de la Universidad de California en San Diego, inspirados en el movimiento de igualdad social Black Lives Matter, en la revista Sleep https: //academic.oup .com / sleep / article / 43/10 / zsaa159 / 5902283 el año pasado.

Microsoft reconoció las imperfecciones de FST. Apple dijo que prueba en humanos a través de tonos de piel usando varias medidas, FST solo en ocasiones entre ellas. Garmin dijo que debido a una amplia gama de pruebas, cree que las lecturas son confiables.

Victor Casale, quien fundó la compañía de maquillaje Mob Beauty y ayudó a Crayola en los nuevos crayones, dijo que desarrolló 40 tonos para la base, cada uno diferente del siguiente en aproximadamente un 3%, o lo suficiente para que la mayoría de los adultos los distingan.

La precisión del color en la electrónica sugiere que los estándares tecnológicos deberían tener de 12 a 18 tonos, dijo, y agregó que “no se pueden tener solo seis”.

Esta historia se ha publicado desde un feed de una agencia de noticias sin modificaciones en el texto. Solo se ha cambiado el título.

Suscribirse a Boletines de menta

* Introduzca un correo electrónico válido

* Gracias por suscribirse a nuestro boletín.

¡Nunca te pierdas una historia! Manténgase conectado e informado con Mint. Descarga nuestra aplicación ahora !!

Related Stories