Sesgos en el seguimiento de caras y emociones
Parece que suscribimos la simplificación popular de que las máquinas son menos parciales que los humanos; sin embargo, si está familiarizado con las formas en que se entrena a las máquinas para leer y centrarse en diferentes aspectos de los datos, lo sabrá: No es tan sencillo.
Las máquinas no están libres de prejuicios si son entrenadas por humanos.
A continuación se presentan los distintos tipos de sesgos que pueden producirse en el seguimiento facial y el etiquetado de expresiones. Muchos de estos sesgos pueden reducirse, por lo que también he incluido sugerencias para mejorar los métodos. Si trabajas en cualquier tipo de seguimiento de caras y emociones, es tu responsabilidad ser consciente de estos sesgos.
Vea las diapositivas a continuación O el vídeo enlazado aquí: Vídeo en YouTube
Texto: Muchos seguimientos de caras y emociones empresas pruebe para utilizar la Sistema de codificación de acciones faciales (FACS)
- pero muchos no se toman la molestia de utilizarlo bien.
Texto: ¿Qué ocurre cuando no se utiliza correctamente el FACS?
- clasificación incorrecta de expresiones
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza FACS correctamente, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: clasificación incorrecta de expresiones
- Las acciones faciales son sutiles y difíciles de diferenciar sin un estudio intensivo.
- La mayoría de las referencias FACS (excluyendo el Manual FACS original) proporcionan imágenes FACS incorrectas, incluso fuentes consideradas creíbles.
- A pesar de estas imprecisiones, estas fuentes son utilizadas a menudo como referencia por los ingenieros e investigadores del seguimiento facial.
- Dado que las empresas tecnológicas no invierten lo suficiente en funciones basadas en datos, es probable que no cuenten con el personal ni los recursos adecuados para diferenciar las acciones faciales importantes.
Texto: clasificación incorrecta de expresiones
- Formas básicas como "tensor labial" se confunden a menudo con acciones como "presionador labial"y/o "labio fruncido."
- Tensor labial es importante en: expresiones de emoción & producción del habla
Texto: clasificación incorrecta de expresiones
- Arriba se muestra una representación real del tensor labial.
- Ésta es sólo una de las muchas formas que pasan desapercibidas cada vez que se presentan:
– mal enseñado – mal clasificado – mal utilizado
Texto: ¿Qué ocurre cuando no se utiliza correctamente el FACS?
- clasificación incorrecta de expresiones
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza FACS correctamente, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: clasificación incorrecta de expresiones
Los mismos problemas de clasificación incorrecta también contribuyen a una clasificación incoherente.
Texto: clasificación de expresiones incoherentes
Si las empresas tecnológicas no invierten a fondo en la calidad de los datos, sus normas de clasificación de datos no pueden normalizarse.
Debido a:
- falta de inversión en la contratación y/o formación de empleados para funciones basadas en datos
- falta de recursos FACS de calidad
- una dificultad inherente para diferenciar las acciones faciales
→ Los etiquetadores clasifican las expresiones de forma incoherente.
→ Los rastreadores desarrollan extrañas manías, relacionando expresiones incorrectas entre sí y confundiendo a los demás.
Texto: clasificación de expresiones incoherentes
NOTA: Este diagrama se hizo para explicar los problemas en la activación de formas para avatares, pero los mismos conceptos básicos se aplican al seguimiento de caras y emociones.
Texto: ¿Qué ocurre cuando no se utiliza correctamente el FACS?
- clasificación incorrecta de expresiones
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza FACS correctamente, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Cuando las etiquetas de expresión están mal definidas y no se entienden bien, los pequeños errores pueden crear grandes sesgos.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Antes de entrar en los sesgos que pueden existir en la tecnología de rastreo facial, consideremos los sesgos ya existentes en la tecnología de identificación de rasgos: el reconocimiento facial.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Si ni siquiera podemos detectar bien los rasgos, imagínese lo complicado que puede ser el sesgo en el seguimiento de la expresión. El seguimiento de la expresión exige una comprensión que va más allá de los rasgos faciales. Exige comprender los sutiles movimientos faciales.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Culture Shapes How We Look at Faces. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- Las personas extraen información de forma diferente al mirar las caras y buscan pistas distintas al interpretar las emociones.
- La cultura influye profundamente en lo que consideramos información y pistas valiosas.
Los estudios han descubierto:
- Asia Oriental participantes tienden a centrarse en la parte central del rostro, alrededor de la nariz, dando más importancia a los ojos y a la dirección de la mirada.
- Caucásico occidental los participantes tienden a buscar expresiones de emoción en las cejas y en la zona de la boca
- Estas diferencias en la atención crean sesgos cuando los participantes miran caras con expresiones contradictorias
Por ejemplo, cuando hay unos ojos tristes con una boca alegre:
- Los participantes japoneses dan más importancia a la emoción mostrada en los ojos
- Los participantes estadounidenses se preocupan más por la zona de la boca.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D., y Caldara, R. (2008). Culture shapes how we look at faces. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022
2. Elfenbein, H. A., y Ambady, N. (2003). Universals and cultural differences in recognizing emotions. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). American-Japanese cultural differences in judgements of expression intensity and subjective experience. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., y Ekman, P. (1989). American-Japanese cultural differences in intensity ratings of facial expressions of emotion. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Nonverbal "accents" cultural differences in facial expressions of emotion. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). ¿Son iguales las ventanas del alma en Oriente y Occidente? Cultural differences in using the eyes and mouth as cues to recognize emotions in Japan and the United States. Journal of Experimental Social Psychology, 43(2), 303-311.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Ahora considere lo que entra en el etiquetado de expresión. . .
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- Si depresor de labios no se entiende correctamente, es más probable que los etiquetadores clasifiquen incorrectamente cualquier forma con comisuras labiales caídas como depresor de labios. Estas formas mal clasificadas suelen deberse a los efectos de elevador de mentón – pero también pueden incluir algo peorcaras neutras (caras sin expresión).
- Un resultado probable de esta idea errónea es: sobredetección de depresor de labios en personas con comisuras labiales caídas. A menudo, las personas mayores tienen comisuras labiales caídas debido a los efectos a largo plazo de la gravedad.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- A partir de prácticas de etiquetado inadecuadas, los grupos demográficos de mayor edad pueden ser objeto de una detección excesiva de depresor de labios.
- El depresor de comisuras labiales es un componente clave de la tristeza. ¿Podría este error llevar a una sobredetección de la tristeza en los grupos demográficos de más edad?
- ¿Qué ocurre con otros grupos cuyos rasgos faciales se caracterizan por tener comisuras labiales caídas? ¿Se interpretarán erróneamente como "tristes"?
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- Puede que no parezca un gran problema que un rastreador detecte incorrectamente depresor de labios o tristeza...pero..: ¿Qué ocurre cuando el seguimiento facial se utiliza para cosas más importantes, como evaluaciones de salud mental o de posibles candidatos a un puesto de trabajo?
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- La IA ya analiza la expresión facial de los candidatos durante las entrevistas de trabajo en vídeo - Unilever, IBM, Dunkin Donuts y muchas otras ya utilizan esta tecnología
- La tecnología de reconocimiento de emociones no funciona, pero los profesionales de la contratación y otros la utilizan de todos modos: informe
- La IA de "detección de emociones" es una industria de $20 mil millones. Una nueva investigación afirma que no puede hacer lo que dice.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Hablamos de cómo un etiquetado incorrecto puede incitar a prejuicios contra las poblaciones mayores . . . Pero, ¿qué ocurre con otros prejuicios hacia las personas con determinados rasgos faciales?
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
". . . los programas de reconocimiento facial presentan dos tipos distintos de sesgo.
Primero, los rostros negros se puntuaron sistemáticamente como más enfadados que los blancos en cada sonrisa. Face++ mostró este tipo de sesgo. Segundo, las caras negras siempre se puntuaban como más enfadadas si había alguna ambigüedad sobre su expresión facial. Face API mostró este tipo de disparidad. Incluso si las caras negras son parcialmente sonrientes, mi análisis mostró que la asumieron más emociones negativas en comparación con sus homólogos blancos con expresiones similares. Las puntuaciones emocionales medias eran mucho más parecidas en todas las razas, pero seguía habiendo diferencias notables en los rostros blancos y negros."
Comprender el sesgo oculto de las IA que leen las emociones
-Lauren Rhue
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Cómo ¿podría ocurrir esto?
Repasemos POR QUÉ ES IMPORTANTE INVERTIR MÁS EN DATOS.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Considere la forma FACS "elevador del labio superior." Elevador del labio superior es un componente clave de emociones como asco, ira, y desprecio.
Entre las características del elevador del labio superior se incluyen:
- labio superior levantado
- región del surco nasolabial superior redondeada
(línea de la risa - ver foto)
NOTA: Además de los posibles sesgos en el etiquetado de las acciones faciales, también existe una gran controversia sobre la Teoría de las Emociones Básicas (por ejemplo, los prototipos de emociones básicas como el desprecio, la ira, etc.) en general. Véase "'Todo está en los ojos" y otras mentiras.“
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Algunas personas tienen más curvatura en el surco nasogeniano.
Esto es simplemente un producto de la estructura natural de su cara.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Un etiquetador poco versado en el Sistema de Codificación de Acciones Faciales puede fácilmente etiquetar erróneamente a personas con curvas de surco nasolabial no basadas en la expresión como si tuvieran elevador del labio superior.
Estas etiquetas incorrectas hacen nacer un rastreador entrenado para identificar rostros con determinadas estructuras como expresando elevador del labio superior - incluso cuando son neutrales o sonríen.
Conseguir un "conjunto de datos diverso" es irrelevante si sus etiquetas son inexactas.
Esta formación explica los hallazgos de Lauren Rhue de Comprender el sesgo oculto de las IA que leen las emociones.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
La presencia de un etiquetado de emociones sesgado persistirá incluso si se aleja de un enfoque basado en FACS e intenta que los etiquetadores clasifiquen las emociones de forma holística.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Por si no queda claro por qué el etiquetado holístico de emociones tiene las mismas probabilidades de fracasar (si no, más)... AQUÍ UN REPASO:
- Las personas extraen información de forma diferente al mirar las caras y buscan pistas distintas al interpretar las emociones.
- La cultura influye profundamente en lo que consideramos información y pistas valiosas.
Los estudios han descubierto:
- Asia Oriental los participantes tienden a centrarse en la parte central de la cara, alrededor de la nariz, dando más importancia a los ojos y a la dirección de la mirada.
- Caucásico occidental los participantes tienden a buscar expresiones de emoción en las cejas y en la zona de la boca
- Estas diferencias en la atención crean sesgos cuando los participantes miran caras con expresiones contradictorias
Por ejemplo, cuando hay unos ojos tristes con una boca alegre:
- Los participantes japoneses dan más importancia a la emoción mostrada en los ojos
- Los participantes estadounidenses se preocupan más por la zona de la boca.
Texto: ¿Qué ocurre cuando no se utiliza correctamente el FACS?
- clasificación incorrecta de expresiones
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza FACS correctamente, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: anarquía
Si...
- la cultura influye en cómo interpretamos las expresiones y las emociones
- las condiciones ambientales influyen en las pistas en las que nos fijamos para evaluar los rostros
- el conocimiento de las acciones faciales influye en cómo etiquetamos las expresiones
. . . ¿Qué pueden hacer las empresas tecnológicas para reducir estos errores humanos y evitar que se filtren? en algoritmos?
Texto: ¿Qué pueden hacer las empresas tecnológicas para reducir los sesgos en el seguimiento facial?
- Las empresas tecnológicas deben reconocer que El seguimiento facial ha avanzado más allá del alcance de la ingeniería.
- Las empresas tecnológicas deben aceptar la vulnerabilidad de la tecnología a los prejuicios y educar a los empleados sobre estas vulnerabilidades.
- Las empresas tecnológicas deben invertir más en la calidad de los datos.
Texto: Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
- En realidad asignación de efectivos hacia funciones centradas en la calidad de los datos, aunque para ello haya que restar espacio al personal de ingeniería.
- Gastar tiempo, energía, y recursos a encontrar especialistas en datos. Si esto no es posible, sigue siendo tarea de la empresa dedicar tiempo, energía y recursos a FORMAR especialistas en datos. Clasificar expresiones faciales es mucho más complicado que clasificar objetos básicos como señales de tráfico y debe tratarse como tal.
Texto: Reducción de los sesgos en el seguimiento facial
Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
- La ingeniería, la investigación y el producto no deben limitarse a decir a los datos lo que necesitan, sino que deben ESCUCHAR. a lo que necesitan los equipos de datos. Los equipos de datos son los que mejor conocen el trabajo entre bastidores necesario para que los algoritmos funcionen. AQUÍ ES DONDE MUCHAS EMPRESAS FRACASAN.
- Exigir a los empleados con funciones basadas en datos que interactúen regularmente con los equipos de ingeniería, investigación y producto.
Texto: Reducción de los sesgos en el seguimiento facial
Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
- Educar a los empleados sobre la realidad de los prejuicios en la tecnología.
- Tomar las precauciones adecuadas para normalizar y definir el etiquetado.
- Siempre considerar cuándo y dónde pueden aparecer los prejuicios.
- ¿Quién etiqueta?
- ¿Qué etiquetan?
- ¿Qué factores pueden influir en su etiquetado?
* humor * cultura * experiencia
Texto: Reducción de los sesgos en el seguimiento facial
Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
SIDENOTE: DEJAR DE ETIQUETAR EXPRESIONES A PARTIR DE IMÁGENES ESTÁTICAS.
- La precisión del FACS y del etiquetado de emociones depende en gran medida de la visión del movimiento.
- Si se hiciera más hincapié en el movimiento, los rasgos faciales estáticos como las comisuras labiales caídas y el surco nasolabial curvado tendrían menos probabilidades de activar la detección de depresor de labios y elevador del labio superior (respectivamente).
Texto: Reducción de los sesgos en el seguimiento facial
Notas finales . . .
Texto: Reducción de los sesgos en el seguimiento facial
Cuanto más creemos y confiamos en la tecnología, más ramificaciones tendrán estos prejuicios.
Texto: Reducción de los sesgos en el seguimiento facial
"... el software de reconocimiento facial interpreta las emociones de forma diferente en función de la raza de la persona. ...Este hallazgo tiene implicaciones para los individuos, las organizaciones y la sociedad, y contribuye a la creciente literatura sobre sesgo y/o impacto dispar en la IA."
Rhue, Lauren, Influencia racial en la percepción automática de las emociones (9 de noviembre de 2018). Disponible en SSRN: https://ssrn.com/abstract=3281765 o http://dx.doi.org/10.2139/ssrn.3281765
Texto: Reducción de los sesgos en el seguimiento facial
Asume tu responsabilidad.
Esfuércese por reducir los prejuicios.
Invierta más en datos.
Texto:
En respuesta a la prevalencia de referencias FACS imprecisas y de baja calidad, He creado una "Hoja de trucos FACS" gratuita para servir de guía a artistas, investigadores e ingenieros. Está disponible en mi sitio de recursos FACS, Afrontar el FACS. También estoy abierto a la consultoría.
1 comentarios en “Bias In Emotion Tracking”
Los comentarios están cerrados.