Biais dans le suivi des visages et des émotions
Nous semblons souscrire à la simplification populaire excessive selon laquelle les machines sont moins biaisées que les humains ; cependant, si vous connaissez les méthodes utilisées pour entraîner les machines à lire et à se concentrer sur différents aspects des données, vous le saurez : Ce n'est pas si simple.
Les machines ne sont pas exemptes de préjugés si elles sont entraînées par des humains.
Ce qui suit est une présentation des différents types de biais qui peuvent se produire dans le suivi des visages et l'étiquetage des expressions. Beaucoup de ces biais peuvent être réduits ; j'ai donc également inclus des suggestions pour améliorer les méthodes. Si vous travaillez sur le suivi des visages et des émotions de quelque type que ce soit, il est de votre responsabilité d'être conscient de ces préjugés.
Voir les diapositives ci-dessous OU la vidéo liée ici: Vidéo YouTube
Texte: Suivi de nombreux visages et émotions entreprises essayez pour utiliser la méthode de Paul Ekman Système de codage des actions faciales (FACS)
- mais beaucoup ne prennent pas le temps de l'utiliser correctement.
Texte: Que se passe-t-il quand on n'utilise pas le FACS correctement ?
- classification des expressions incorrectes
- classification des expressions incohérentes
- étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- anarchie
Même si vous utilisez correctement le FACS, il y aura toujours des biais et des incohérences, mais en prenant des mesures prudentes, ces problèmes peuvent être considérablement réduits.
Texte: classification des expressions incorrectes
- Les actions faciales sont subtiles et difficiles à différencier sans une étude intensive.
- La plupart des références FACS (à l'exclusion de le manuel FACS original) fournissent des visuels FACS incorrects - même des sources considérées comme crédibles.
- Malgré ces inexactitudes, ces sources sont souvent utilisées comme références par les ingénieurs et chercheurs en suivi de visage.
- Parce que les entreprises technologiques n'investissent pas suffisamment dans les rôles basés sur les données, elles ne disposent probablement pas du personnel ou des ressources nécessaires pour différencier les actions faciales importantes.
Texte: classification des expressions incorrectes
- Les formes de base comme "tendeur de lèvres"sont régulièrement confondus avec des actions comme "presse-lèvres" et/ou "lèvre froncer les sourcils.”
- Resserrement des lèvres est important dans : expressions d'émotions & production vocale
Texte: classification des expressions incorrectes
- L'image ci-dessus est une représentation fidèle du resserrement des lèvres.
- Ce n'est qu'une des nombreuses formes qui passent sous le radar à chaque fois qu'elles existent :
– mal enseigné – mal classé – mal utilisé
Texte: Que se passe-t-il quand on n'utilise pas le FACS correctement ?
- classification des expressions incorrectes
- classification des expressions incohérentes
- étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- anarchie
Même si vous utilisez correctement le FACS, il y aura toujours des biais et des incohérences, mais en prenant des mesures prudentes, ces problèmes peuvent être considérablement réduits.
Texte: classification des expressions incorrectes
Les mêmes problèmes concernant la classification incorrecte contribuent également à une classification incohérente.
Texte: classification des expressions incohérentes
Si les entreprises technologiques n'investissent pas à fond dans la qualité des données, leurs règles de classification des données ne peuvent être normalisées.
En raison de :
- un manque d'investissement dans le recrutement et/ou la formation d'employés pour des rôles basés sur les données
- un manque de ressources FACS de qualité
- une difficulté inhérente à la différenciation des actions faciales
→ Les étiqueteurs classent les expressions de manière incohérente.
→ Les traqueurs développent des bizarreries, associant des expressions incorrectes les unes aux autres tout en déroutant les autres.
Texte: classification des expressions incohérentes
NOTE : Ce schéma a été réalisé pour expliquer les problèmes d'activation des formes pour les avatars, mais les mêmes concepts de base s'appliquent au suivi des visages et des émotions.
Texte: Que se passe-t-il quand on n'utilise pas le FACS correctement ?
- classification des expressions incorrectes
- classification des expressions incohérentes
- étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- anarchie
Même si vous utilisez correctement le FACS, il y aura toujours des biais et des incohérences, mais en prenant des mesures prudentes, ces problèmes peuvent être considérablement réduits.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Lorsque les étiquettes d'expression sont mal définies et mal comprises, de petites erreurs peuvent créer de gros préjugés.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Avant d'aborder les biais qui peuvent exister dans la technologie de suivi des visages, il faut considérer les biais déjà existants dans la technologie d'identification des caractéristiques : la reconnaissance faciale.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Si nous n'arrivons même pas à détecter correctement les caractéristiques, imaginez à quel point les préjugés peuvent être compliqués dans le suivi des expressions. Le suivi des expressions exige une compréhension qui va au-delà des caractéristiques du visage. Elle exige une compréhension des mouvements subtils du visage.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Culture Shapes How We Look at Faces. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- Les gens extraient des informations différemment lorsqu'ils regardent des visages et recherchent des indices différents pour interpréter les émotions.
- La culture influence profondément ce que nous considérons comme des informations et des indices précieux.
Des études ont montré :
- Asie de l'Est participants ont tendance à se concentrer sur le milieu du visage, autour du nez, en donnant plus d'importance aux yeux et à la direction du regard.
- Caucasien occidental les participants ont tendance à rechercher les expressions d'émotion dans les sourcils et la bouche.
- Ces différences d'attention créent des biais lorsque les participants regardent des visages aux expressions contradictoires.
Par exemple, quand il y a des yeux tristes avec une bouche joyeuse :
- Les participants japonais accordent plus d'importance à l'émotion montrée dans les yeux
- Les participants américains se soucient davantage de la zone buccale.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D., et Caldara, R. (2008). Culture shapes how we look at faces. PLoS ONE 3:e3022. doi : 10.1371/journal.pone.0003022
2. Elfenbein, H. A., & Ambady, N. (2003). Universaux et différences culturelles dans la reconnaissance des émotions. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). American-Japanese cultural differences in judgements of expression intensity and subjective experience. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). American-Japanese cultural differences in intensity ratings of facial expressions of emotion. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Nonverbal "accents" différences culturelles dans les expressions faciales de l'émotion. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). Les fenêtres de l'âme sont-elles les mêmes en Orient et en Occident ? Cultural differences in using the eyes and mouth as cues to recognize emotions in Japan and the United States. Journal of Experimental Social Psychology, 43(2), 303-311.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Considérons maintenant ce qui entre dans l'étiquetage des expressions...
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- Si abaisseur du coin des lèvres n'est pas compris correctement, les étiqueteurs sont plus susceptibles de classer de manière incorrecte tout forme avec des coins de lèvres tombants comme abaisseur du coin des lèvres. Ces formes mal classées sont souvent causées par les effets de mentonnière – mais ils peuvent aussi inclure quelque chose de pire: visages neutres (visages sans expression).
- Une conséquence probable de cette idée fausse est : la surdétection de abaisseur du coin des lèvres chez les personnes dont les commissures des lèvres sont tombantes. Souvent, les personnes âgées ont des coins de lèvres tombants en raison des effets à long terme de la gravité.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- En raison de pratiques d'étiquetage inappropriées, les personnes âgées peuvent être sujettes à une surdétection de la maladie. abaisseur du coin des lèvres.
- Le dépresseur à lèvres est un élément clé de la tristesse. Cette erreur pourrait-elle conduire à une surdétection de la tristesse chez les personnes âgées ?
- Qu'en est-il des autres groupes dont les traits du visage sont caractérisés par des commissures de lèvres tombantes ? Seront-ils interprétés à tort comme étant "tristes" ?
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- Cela ne semble pas être un gros problème pour un tracker de détecter incorrectement abaisseur du coin des lèvres ou tristessemais : Que se passe-t-il lorsque le suivi du visage est utilisé pour des choses plus importantes, comme les évaluations de la santé mentale ou l'évaluation de candidats potentiels à un emploi ?
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- L'IA analyse désormais les expressions faciales des candidats lors des entretiens d'embauche vidéo - Unilever, IBM, Dunkin Donuts et bien d'autres utilisent déjà cette technologie.
- La technologie de reconnaissance des émotions ne fonctionne pas, mais les professionnels du recrutement et d'autres personnes l'utilisent quand même : rapport
- L'IA de "détection des émotions" est une industrie de $20 milliards d'euros. De nouvelles recherches montrent qu'elle ne peut pas faire ce qu'elle prétend.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Nous avons parlé de la façon dont un étiquetage inapproprié peut inciter à des préjugés à l'encontre des populations âgées... . . Mais qu'en est-il des autres préjugés envers les personnes présentant certains traits du visage ?
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
". ... les programmes de reconnaissance faciale présentent deux types de biais distincts.
D'abord, les visages noirs étaient systématiquement notés comme plus en colère que les visages blancs pour chaque sourire. Face++ a montré ce type de partialité. Deuxièmement, les visages noirs sont toujours considérés comme plus en colère s'il y avait une quelconque ambiguïté sur leur expression faciale. L'API des visages a montré ce type de disparité. Même si les visages noirs sont partiellement souriants, mon analyse a montré que les ont exprimé des émotions plus négatives que leurs homologues blancs avec des expressions similaires. Les scores émotionnels moyens étaient beaucoup plus proches entre les races, mais il y avait encore des différences notables entre les visages noirs et blancs."
Comprendre le biais caché des IA capables de lire les émotions
-Lauren Rhue
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Comment cela pourrait-il arriver ?
Revenons sur les raisons pour lesquelles il est important d'investir davantage dans les données.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Considérez la forme de la FACS "lèvre supérieure.” Lèvre supérieure est un élément clé des émotions comme dégoût, la colère, et mépris.
Les caractéristiques de l'élévateur de lèvre supérieure sont les suivantes :
- lèvre supérieure relevée
- région arrondie du sillon nasogénien supérieur
(ligne de rire - voir photo)
NOTE: En plus des biais potentiels d'étiquetage des actions faciales, il existe également une importante controverse sur la théorie des émotions de base (par exemple, les prototypes d'émotions de base comme le mépris, la colère, etc.) en général. Voir "'C'est tout dans les yeux' et autres mensonges.“
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Certaines personnes ont une courbe plus marquée dans leur sillon nasogénien.
C'est simplement un produit de la structure naturelle de leur visage.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Un étiqueteur qui ne connaît pas bien le système de codage des actions faciales peut facilement étiqueter à tort les personnes présentant des courbes du sillon nasogénien non basées sur l'expression comme ayant lèvre supérieure.
Ces étiquettes incorrectes font naître un tracker entraîné à identifier les visages avec certaines structures comme exprimant lèvre supérieure - même lorsqu'ils sont neutres ou souriants.
Obtenir un "ensemble de données diversifié" n'est pas pertinent si vos étiquettes sont inexactes.
Une telle formation explique les conclusions de Lauren Rhue de Comprendre le biais caché des IA capables de lire les émotions.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
La présence d'un étiquetage biaisé des émotions persistera même si vous vous éloignez d'une approche basée sur FACS et que vous essayez de faire en sorte que les étiqueteurs classent les émotions de manière holistique.
Texte: étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
Au cas où vous n'auriez pas compris pourquoi l'étiquetage holistique des émotions est tout aussi susceptible d'échouer (si ce n'est plus)... VOICI UNE MISE À JOUR:
- Les gens extraient des informations différemment lorsqu'ils regardent des visages et recherchent des indices différents pour interpréter les émotions.
- La culture influence profondément ce que nous considérons comme des informations et des indices précieux.
Des études ont montré :
- Asie de l'Est Les participants ont tendance à se concentrer sur le milieu du visage, autour du nez, en accordant plus d'importance aux yeux et à la direction du regard.
- Caucasien occidental les participants ont tendance à rechercher les expressions d'émotion dans les sourcils et la bouche.
- Ces différences d'attention créent des biais lorsque les participants regardent des visages aux expressions contradictoires.
Par exemple, quand il y a des yeux tristes avec une bouche joyeuse :
- Les participants japonais accordent plus d'importance à l'émotion montrée dans les yeux
- Les participants américains se soucient davantage de la zone buccale.
Texte: Que se passe-t-il quand on n'utilise pas le FACS correctement ?
- classification des expressions incorrectes
- classification des expressions incohérentes
- étiquetage biaisé (racial, culturel, lié à l'âge, etc.)
- anarchie
Même si vous utilisez correctement le FACS, il y aura toujours des biais et des incohérences, mais en prenant des mesures prudentes, ces problèmes peuvent être considérablement réduits.
Texte: anarchie
Si...
- la culture influence la façon dont nous interprétons les expressions et les émotions
- les conditions environnementales affectent les indices que nous regardons pour évaluer les visages
- la connaissance des actions faciales affecte la façon dont nous étiquetons les expressions
. . . Que peuvent faire les entreprises technologiques pour réduire ces erreurs humaines et éviter les fuites. en algorithmes ?
Texte: Que peuvent faire les entreprises technologiques pour réduire les biais dans le suivi des visages ?
- Les entreprises technologiques doivent reconnaître que Le suivi des visages a dépassé les limites de l'ingénierie.
- Les entreprises technologiques doivent accepter la vulnérabilité de la technologie aux préjugés et éduquer les employés sur ces vulnérabilités.
- Les entreprises technologiques doivent investir davantage dans la qualité des données.
Texte: Reconnaître les progrès de la technologie de suivi du visage, comprendre ses vulnérabilités et investir davantage dans la qualité des données signifie... . .
- En fait, l'affectation des effectifs vers des rôles axés sur la qualité des données - même si cela nécessite de prendre de la place dans les effectifs d'ingénierie.
- Dépenser du temps, de l'énergie, et ressources à trouver des spécialistes des données. Si cela n'est pas possible, il incombe toujours à l'entreprise de consacrer du temps, de l'énergie et des ressources à la FORMATION de spécialistes des données. La classification des expressions faciales est beaucoup plus compliquée que la classification d'objets de base comme les feux de signalisation et doit être traitée comme telle.
Texte: Réduire les biais dans le suivi des visages
Reconnaître les progrès de la technologie de suivi du visage, comprendre ses vulnérabilités et investir davantage dans la qualité des données signifie... . .
- L'ingénierie, la recherche et les produits ne doivent pas se contenter de dire aux données ce dont elles ont besoin, mais ÉCOUTER. à ce dont les équipes chargées des données ont besoin. Les équipes chargées des données sont les plus au fait du travail en coulisses nécessaire au fonctionnement des algorithmes. C'EST LÀ QUE DE NOMBREUSES ENTREPRISES ÉCHOUENT.
- Exiger des employés ayant des rôles basés sur les données qu'ils soient régulièrement en contact avec les équipes d'ingénierie, de recherche et de produits.
Texte: Réduire les biais dans le suivi des visages
Reconnaître les progrès de la technologie de suivi du visage, comprendre ses vulnérabilités et investir davantage dans la qualité des données signifie... . .
- Sensibiliser les employés à la réalité des préjugés dans la technologie.
- Prendre les bonnes précautions pour normaliser et définir l'étiquetage.
- Toujours en considérant quand et où les préjugés peuvent apparaître.
- Qui étiquète ?
- Qu'est-ce qu'ils étiquettent ?
- Quels facteurs pourraient avoir une incidence sur leur étiquetage ?
* humeur * culture * expérience
Texte: Réduire les biais dans le suivi des visages
Reconnaître les progrès de la technologie de suivi du visage, comprendre ses vulnérabilités et investir davantage dans la qualité des données signifie... . .
SIDENOTE : ARRÊTER L'ÉTIQUETAGE DES EXPRESSIONS À PARTIR D'IMAGES STATIQUES.
- L'étiquetage précis des FACS et des émotions dépend largement de la perception du mouvement.
- Si le mouvement était davantage mis en avant, les caractéristiques faciales statiques telles que les commissures des lèvres tombantes et le sillon nasogénien incurvé seraient moins susceptibles d'activer la détection de abaisseur du coin des lèvres et lèvre supérieure (respectivement).
Texte: Réduire les biais dans le suivi des visages
Notes de clôture . . .
Texte: Réduire les biais dans le suivi des visages
Plus nous croyons et comptons sur la technologie, plus ces préjugés auront de ramifications.
Texte: Réduire les biais dans le suivi des visages
"... les logiciels de reconnaissance faciale interprètent les émotions différemment selon la race de la personne. ...Cette découverte a des implications pour les individus, les organisations et la société, et elle contribue à la littérature croissante sur les préjugés et/ou l'impact disparate dans l'IA."
Rhue, Lauren, Influence raciale sur les perceptions automatisées des émotions (9 novembre 2018). Disponible sur SSRN : https://ssrn.com/abstract=3281765 ou http://dx.doi.org/10.2139/ssrn.3281765
Texte: Réduire les biais dans le suivi des visages
Prenez vos responsabilités.
Faites le nécessaire pour réduire les préjugés.
Investir davantage dans les données.
Texte:
En réponse à la prévalence de références FACS de faible qualité et inexactes, J'ai créé une "Fiche d'information FACS" gratuite. pour servir de guide aux artistes, chercheurs et ingénieurs. Il est disponible sur mon site de ressources FACS, Faire face au FACS. Je suis également ouvert à la consultation.
1 réflexion au sujet de « Bias In Emotion Tracking »
Les commentaires sont fermés.