Sesgos en el seguimiento de rostros y emociones
Parece que nos adherimos a la simplificación popular de que las máquinas son menos parciales que los humanos; sin embargo, si usted está familiarizado con las formas en que las máquinas son entrenadas para leer y enfocar diferentes aspectos de los datos, lo sabrá: No es tan sencillo.
Las máquinas no están libres de prejuicios si son entrenadas por humanos.
A continuación se presentan los diferentes tipos de sesgos que pueden producirse en el seguimiento de rostros y el etiquetado de expresiones. Muchos de estos sesgos pueden reducirse, por lo que también he incluido sugerencias para mejorar los métodos. Si estás trabajando en el seguimiento de caras y emociones de cualquier tipo, es tu responsabilidad ser consciente de estos sesgos.
Vea las diapositivas a continuación O el vídeo enlazado aquí: Vídeo de YouTube
Texto: Numerosos seguimientos de rostros y emociones empresas pruebe con para utilizar la frase de Paul Ekman Sistema de codificación de acción facial (FACS)
- pero muchos no se toman la molestia de utilizarlo bien.
Texto: ¿Qué ocurre cuando no se utiliza bien el FACS?
- clasificación de expresiones incorrectas
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza correctamente el FACS, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: clasificación de expresiones incorrectas
- Las acciones faciales son sutiles y difíciles de diferenciar sin un estudio intensivo.
- La mayoría de las referencias de FACS (excluyendo el manual original de la FACS) proporcionan imágenes incorrectas de la FACS, incluso de fuentes consideradas creíbles.
- A pesar de estas inexactitudes, estas fuentes son utilizadas a menudo como referencia por los ingenieros e investigadores del seguimiento facial.
- Dado que las empresas tecnológicas no invierten lo suficiente en funciones basadas en datos, es probable que no cuenten con el personal o los recursos adecuados para diferenciar las acciones faciales importantes.
Texto: clasificación de expresiones incorrectas
- Formas básicas como "tensor de labios" se confunden regularmente con acciones como "Presionador de labios" y/o "labio fruncir el ceño.”
- Tensor de labios es importante en: expresiones de emoción & producción del habla
Texto: clasificación de expresiones incorrectas
- Arriba hay una representación real de los tensores de labios.
- Esta es una de las muchas formas que pasan desapercibidas cada vez que se presentan:
– equivocada – clasificado erróneamente – mal uso de
Texto: ¿Qué ocurre cuando no se utiliza bien el FACS?
- clasificación de expresiones incorrectas
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza correctamente el FACS, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: clasificación de expresiones incorrectas
Los mismos problemas que rodean la clasificación incorrecta también contribuyen a una clasificación incoherente.
Texto: clasificación de expresiones incoherentes
Si las empresas tecnológicas no invierten a fondo en la calidad de los datos, sus reglas de clasificación de datos no pueden ser estandarizadas.
Debido a:
- falta de inversión en la contratación y/o formación de empleados para funciones basadas en datos
- la falta de recursos de calidad de la FACS
- una dificultad inherente para diferenciar las acciones faciales
→ Los etiquetadores clasifican las expresiones de forma inconsistente.
→ Los rastreadores desarrollan extraños caprichos, vinculando expresiones incorrectas entre sí y confundiendo a los demás.
Texto: clasificación de expresiones incoherentes
NOTA: Este diagrama se hizo para explicar los problemas de activación de la forma para los avatares, pero los mismos conceptos básicos se aplican al seguimiento de caras y emociones.
Texto: ¿Qué ocurre cuando no se utiliza bien el FACS?
- clasificación de expresiones incorrectas
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza correctamente el FACS, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Cuando las etiquetas de expresión están mal definidas y no se entienden bien, los pequeños errores pueden crear grandes prejuicios.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Antes de entrar en los sesgos que pueden existir en la tecnología de seguimiento facial, considere los sesgos ya existentes en la tecnología de identificación de rasgos: el reconocimiento facial.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Si ni siquiera podemos acertar en la detección de rasgos, imagínese lo complicado que puede ser el sesgo en el seguimiento de la expresión. El seguimiento de la expresión exige una comprensión que va más allá de los rasgos faciales. Exige una comprensión de los movimientos faciales sutiles.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Culture Shapes How We Look at Faces. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- Las personas extraen la información de forma diferente cuando miran las caras y buscan pistas distintas cuando interpretan las emociones.
- La cultura influye profundamente en lo que consideramos información y pistas valiosas.
Los estudios han descubierto:
- Asia Oriental participantes tienden a centrarse en el centro de la cara, alrededor de la nariz, dando más importancia a los ojos y a la dirección de la mirada.
- Caucásico occidental los participantes tienden a buscar expresiones de emoción en las cejas y las zonas de la boca
- Estas diferencias de atención crean sesgos cuando los participantes miran caras con expresiones conflictivas
Por ejemplo, cuando hay ojos tristes con una boca alegre:
- Los participantes japoneses dan más importancia a la emoción mostrada en los ojos
- Los participantes estadounidenses se preocupan más por la zona de la boca.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D., y Caldara, R. (2008). Culture shapes how we look at faces. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022
2. Elfenbein, H. A., y Ambady, N. (2003). Universales y diferencias culturales en el reconocimiento de las emociones. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). American-Japanese cultural differences in judgements of expression intensity and subjective experience. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., y Ekman, P. (1989). American-Japanese cultural differences in intensity ratings of facial expressions of emotion. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Diferencias culturales de "acentos" no verbales en las expresiones faciales de emoción. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., y Masuda, T. (2007). ¿Son iguales las ventanas del alma en Oriente y Occidente? Cultural differences in using the eyes and mouth as cues to recognize emotions in Japan and the United States. Journal of Experimental Social Psychology, 43(2), 303-311.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Ahora considere lo que entra en el etiquetado de la expresión...
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- Si Depresor de la esquina de los labios no se entiende correctamente, es más probable que los etiquetadores clasifiquen incorrectamente cualquier forma con las comisuras de los labios caídas como Depresor de la esquina de los labios. Estas formas erróneas suelen estar causadas por los efectos de elevador de la barbilla – pero también pueden incluir algo peor: caras neutras (caras sin expresión).
- Un resultado probable de esta idea errónea es: sobredetección de Depresor de la esquina de los labios en personas con comisuras labiales caídas. A menudo, las personas mayores tienen las comisuras de la boca caídas debido a los efectos a largo plazo de la gravedad.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- A partir de prácticas de etiquetado inadecuadas, los grupos demográficos de mayor edad pueden estar sujetos a la sobredetección de Depresor de la esquina de los labios.
- El depresor de las comisuras de los labios es un componente clave de la tristeza. ¿Podría este error llevar a una sobredetección de la tristeza en los grupos demográficos de mayor edad?
- ¿Qué pasa con otros grupos cuyos rasgos faciales se caracterizan por tener las comisuras de los labios caídas? ¿Se interpretarán incorrectamente como "tristes"?
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- Puede no parecer un gran problema que un rastreador detecte incorrectamente Depresor de la esquina de los labios o tristezapero..: ¿Qué ocurre cuando el seguimiento facial se utiliza para cosas más importantes, como las evaluaciones de salud mental o la valoración de posibles candidatos a un puesto de trabajo?
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
- La IA ya analiza la expresión facial de los candidatos durante las entrevistas de trabajo en vídeo - Unilever, IBM, Dunkin Donuts y muchos otros ya están utilizando esta tecnología
- La tecnología de reconocimiento de emociones no funciona, pero los profesionales de la contratación y otros la utilizan de todos modos: informe
- La IA de "detección de emociones" es una industria de $20 mil millones. Una nueva investigación dice que no puede hacer lo que dice.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Hablamos de cómo un etiquetado inadecuado puede incitar a los prejuicios contra las poblaciones mayores . . . ¿Pero qué hay de otros prejuicios hacia las personas con determinados rasgos faciales?
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
". . los programas de reconocimiento facial presentan dos tipos distintos de sesgo.
Primero, los rostros negros fueron puntuados sistemáticamente como más enfadados que los blancos para cada sonrisa. Face++ mostró este tipo de sesgo. Segundo, los rostros negros siempre fueron calificados como más enojados si había alguna ambigüedad sobre su expresión facial. El API de la cara mostró este tipo de disparidad. Incluso si los rostros negros son parcialmente sonrientes, mi análisis mostró que el asumieron más emociones negativas en comparación con sus homólogos blancos con expresiones similares. Las puntuaciones emocionales medias eran mucho más parecidas en todas las razas, pero seguían existiendo diferencias notables en los rostros blancos y negros."
Comprender el sesgo oculto de las IAs que leen las emociones
-Lauren Rhue
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Cómo ¿podría ocurrir esto?
Volvamos a ver POR QUÉ ES IMPORTANTE INVERTIR MÁS EN DATOS.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Considere la forma de FACS "levantamiento del labio superior." Elevador del labio superior es un componente clave de las emociones como asco, ira, y desprecio.
Las características del elevador del labio superior incluyen:
- labio superior elevado
- región del surco nasolabial superior redondeada
(línea de risa - ver foto)
NOTA: Además de los posibles sesgos en el etiquetado de acciones faciales, también existe una importante controversia sobre la teoría de las emociones básicas (por ejemplo, los prototipos de emociones básicas como el desprecio, la ira, etc.) en general. Véase "'Todo está en los ojos" y otras mentiras.“
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Algunas personas tienen más curva en el surco nasolabial.
Esto es simplemente un producto de su estructura facial natural.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
Un etiquetador no versado en el Sistema de Codificación de Acciones Faciales puede fácilmente etiquetar erróneamente a personas con curvas de surco nasolabial no basadas en la expresión como si tuvieran levantamiento del labio superior.
Estas etiquetas incorrectas hacen nacer a un rastreador entrenado para identificar rostros con determinadas estructuras como expresión de levantamiento del labio superior - incluso cuando son neutrales o sonríen.
Conseguir un "conjunto de datos diversos" es irrelevante si sus etiquetas son inexactas.
Esta formación explica las conclusiones de Lauren Rhue de Comprender el sesgo oculto de las IAs que leen las emociones.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
La presencia de un etiquetado de emociones sesgado persistirá incluso si se aleja de un enfoque basado en el FACS y se intenta que los etiquetadores clasifiquen las emociones de forma holística.
Texto: etiquetado sesgado (racial, cultural, por edad, etc.)
En caso de que no quede claro por qué el etiquetado holístico de las emociones tiene las mismas probabilidades de fracasar (si no, más)... AQUÍ HAY UN REPASO:
- Las personas extraen la información de forma diferente cuando miran las caras y buscan pistas distintas cuando interpretan las emociones.
- La cultura influye profundamente en lo que consideramos información y pistas valiosas.
Los estudios han descubierto:
- Asia Oriental Los participantes tienden a centrarse en la parte central de la cara, alrededor de la nariz, dando más importancia a los ojos y a la dirección de la mirada.
- Caucásico occidental los participantes tienden a buscar expresiones de emoción en las cejas y las zonas de la boca
- Estas diferencias de atención crean sesgos cuando los participantes miran caras con expresiones conflictivas
Por ejemplo, cuando hay ojos tristes con una boca alegre:
- Los participantes japoneses dan más importancia a la emoción mostrada en los ojos
- Los participantes estadounidenses se preocupan más por la zona de la boca.
Texto: ¿Qué ocurre cuando no se utiliza bien el FACS?
- clasificación de expresiones incorrectas
- clasificación de expresiones incoherentes
- etiquetado sesgado (racial, cultural, por edad, etc.)
- anarquía
Incluso si se utiliza correctamente el FACS, siempre habrá sesgos e incoherencias, pero si se toman medidas cuidadosas, estos problemas pueden reducirse significativamente.
Texto: anarquía
Si...
- la cultura influye en cómo interpretamos las expresiones y las emociones
- las condiciones ambientales afectan a los indicios en los que nos fijamos para evaluar los rostros
- el conocimiento de las acciones faciales afecta a la forma en que etiquetamos las expresiones
. . . ¿Qué pueden hacer las empresas tecnológicas para reducir estos errores de origen humano y evitar que se filtren en algoritmos?
Texto: ¿Qué pueden hacer las empresas tecnológicas para reducir los sesgos en el seguimiento facial?
- Las empresas tecnológicas deben reconocer que El seguimiento facial ha avanzado más allá del ámbito de la ingeniería.
- Las empresas tecnológicas deben aceptar la vulnerabilidad de la tecnología a los prejuicios y educar a los empleados sobre estas vulnerabilidades.
- Las empresas tecnológicas deben invertir más en la calidad de los datos.
Texto: Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
- En realidad asignación de personal hacia funciones centradas en la calidad de los datos, aunque para ello haya que restar espacio al personal de ingeniería.
- Gastar tiempo, energía, y recursos a encontrar especialistas en datos. Si esto no es posible, sigue siendo tarea de la empresa dedicar tiempo, energía y recursos a la FORMACIÓN de especialistas en datos. Clasificar las expresiones faciales es mucho más complicado que clasificar objetos básicos como las señales de tráfico y debe tratarse como tal.
Texto: Reducción de los sesgos en el seguimiento de rostros
Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
- La ingeniería, la investigación y el producto no deben limitarse a decir a los datos lo que necesitan, sino que deben ESCUCHAR a lo que necesitan los equipos de datos. Los equipos de datos son los que mejor conocen el trabajo entre bastidores necesario para que los algoritmos funcionen. AQUÍ ES DONDE MUCHAS EMPRESAS FRACASAN.
- Exigir a los empleados con funciones basadas en datos que interactúen regularmente con los equipos de ingeniería, investigación y productos.
Texto: Reducción de los sesgos en el seguimiento de rostros
Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
- Educar a los empleados sobre la realidad de los prejuicios en la tecnología.
- Tomar las precauciones adecuadas para normalizar y definir el etiquetado.
- Siempre considerar cuándo y dónde puede aparecer el sesgo.
- ¿Quién está etiquetando?
- ¿Qué es lo que etiquetan?
- ¿Qué factores pueden influir en su etiquetado?
* estado de ánimo * cultura * experiencia
Texto: Reducción de los sesgos en el seguimiento de rostros
Reconocer los avances de la tecnología de seguimiento facial, comprender sus vulnerabilidades e invertir más en la calidad de los datos significa . . .
NOTA AL MARGEN: DEJAR DE ETIQUETAR EXPRESIONES A PARTIR DE IMÁGENES ESTÁTICAS.
- La precisión en el etiquetado de los FACS y de las emociones depende en gran medida de la visión del movimiento.
- Si se hiciera más hincapié en el movimiento, los rasgos faciales estáticos, como las comisuras de los labios caídos y el surco nasolabial curvado, tendrían menos probabilidades de activar la detección de Depresor de la esquina de los labios y levantamiento del labio superior (respectivamente).
Texto: Reducción de los sesgos en el seguimiento de rostros
Notas de cierre . . .
Texto: Reducción de los sesgos en el seguimiento de rostros
Cuanto más creamos y confiemos en la tecnología, más ramificaciones tendrán estos prejuicios.
Texto: Reducción de los sesgos en el seguimiento de rostros
"... el software de reconocimiento facial interpreta las emociones de forma diferente en función de la raza de la persona. ...Este hallazgo tiene implicaciones para los individuos, las organizaciones y la sociedad, y contribuye a la creciente literatura de sesgo y/o impacto dispar en la IA."
Rhue, Lauren, Influencia racial en las percepciones automáticas de las emociones (9 de noviembre de 2018). Disponible en SSRN: https://ssrn.com/abstract=3281765 o http://dx.doi.org/10.2139/ssrn.3281765
Texto: Reducción de los sesgos en el seguimiento de rostros
Asume la responsabilidad.
Trabaja para reducir los prejuicios.
Invierta más en datos.
Texto:
En respuesta a la prevalencia de referencias FACS de baja calidad e inexactas, He creado una "hoja de trucos FACS" gratuita para que sirva de guía a artistas, investigadores e ingenieros. Está disponible en mi sitio de recursos de la FACS, Enfrentar a los FACS. También estoy abierto a la consultoría.
Spanish (Venezuela) 
English 
Spanish (Spain) 
French 
Spanish (Chile) 
Spanish (Guatemala) 
Portuguese 
Chinese (China) 
Chinese (Taiwan) 
Chinese (Hong Kong) 
Japanese 
Hindi 
Sindhi 
German (Switzerland) 
German 
Russian 
Polish 
Czech 
Vietnamese 
Italian 
Swedish 
Serbian
Pingback: "todo está en los ojos" y otras mentiras: una crítica a la investigación contemporánea sobre las emociones - Face the FACS