Verzerrungen bei der Verfolgung von Gesichtern und Emotionen
Wir scheinen uns der beliebten Übervereinfachung anzuschließen, dass Maschinen weniger voreingenommen sind als Menschen. Wenn Sie jedoch mit der Art und Weise vertraut sind, in der Maschinen darauf trainiert werden, verschiedene Aspekte von Daten zu lesen und sich darauf zu konzentrieren, wissen Sie das: So einfach ist es eben nicht.
Maschinen sind nicht frei von Voreingenommenheit, wenn sie von Menschen trainiert werden.
Im Folgenden werden die verschiedenen Arten von Verzerrungen vorgestellt, die bei der Verfolgung von Gesichtern und der Kennzeichnung von Ausdrücken auftreten können. Viele dieser Verzerrungen können reduziert werden; daher habe ich auch Vorschläge für verbesserte Methoden aufgenommen. Wenn Sie mit Gesichts- und Emotionsverfolgung jeglicher Art arbeiten, liegt es in Ihrer Verantwortung, sich dieser Verzerrungen bewusst zu sein.
Sehen Sie sich die Folien unten an ODER das hier verlinkte Video: YouTube-Video
Text: Viele Gesichter und Emotionen verfolgen Unternehmen Versuchen Sie Paul Ekman zu verwenden Kodierungssystem für Gesichtsaktion (FACS)
- aber viele nehmen sich nicht die Zeit, sie richtig zu nutzen.
Text: Was passiert, wenn man FACS nicht richtig einsetzt?
- falsche Klassifizierung des Ausdrucks
- inkonsistente Klassifizierung des Ausdrucks
- voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Anarchie
Selbst bei ordnungsgemäßer Anwendung von FACS wird es immer Verzerrungen und Unstimmigkeiten geben - durch sorgfältige Maßnahmen lassen sich diese Probleme jedoch erheblich verringern.
Text: falsche Klassifizierung des Ausdrucks
- Gesichtshandlungen sind subtil und ohne intensives Studium nur schwer zu unterscheiden.
- Die meisten FACS-Referenzen (ohne das ursprüngliche FACS-Handbuch) liefern falsche FACS-Bilder - selbst Quellen, die als glaubwürdig gelten.
- Trotz dieser Ungenauigkeiten werden solche Quellen von Ingenieuren und Forschern im Bereich der Gesichtserkennung häufig als Referenz verwendet.
- Da Technologieunternehmen nicht genug in datenbasierte Funktionen investieren, verfügen sie wahrscheinlich nicht über die richtigen Mitarbeiter oder Ressourcen, um wichtige Gesichtsaktionen zu unterscheiden.
Text: falsche Klassifizierung des Ausdrucks
- Grundformen wie "Lippenspanner" werden regelmäßig mit Aktionen wie "" verwechselt.Lippenpressen" und/oder "Lippe Falten.”
- Lippenstraffer ist wichtig für: Gefühlsausdrücke & Sprachproduktion
Text: falsche Klassifizierung des Ausdrucks
- Oben sehen Sie eine echte Darstellung des Lippenstraffers.
- Dies ist nur eine von vielen Formen, die jedes Mal unter dem Radar verschwinden, wenn sie auftauchen:
– falsch unterrichtet – falsch klassifiziert – missbraucht
Text: Was passiert, wenn man FACS nicht richtig einsetzt?
- falsche Klassifizierung des Ausdrucks
- inkonsistente Klassifizierung des Ausdrucks
- voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Anarchie
Selbst bei ordnungsgemäßer Anwendung von FACS wird es immer Verzerrungen und Unstimmigkeiten geben - durch sorgfältige Maßnahmen lassen sich diese Probleme jedoch erheblich verringern.
Text: falsche Klassifizierung des Ausdrucks
Dieselben Probleme im Zusammenhang mit einer falschen Klassifizierung tragen ebenfalls zu einer uneinheitlichen Klassifizierung bei.
Text: inkonsistente Klassifizierung des Ausdrucks
Wenn Technologieunternehmen nicht gründlich in die Datenqualität investieren, ihre Datenklassifizierungsregeln können nicht standardisiert werden.
Aufgrund von:
- mangelnde Investitionen in die Einstellung und/oder Ausbildung von Mitarbeitern für datengestützte Aufgaben
- ein Mangel an hochwertigen FACS-Ressourcen
- eine inhärente Schwierigkeit bei der Unterscheidung von Handlungen im Gesicht
→ Die Etikettierer klassifizieren die Ausdrücke uneinheitlich.
→ Fährtenleser entwickeln seltsame Macken, indem sie falsche Ausdrücke miteinander verknüpfen und andere verwirren.
Text: inkonsistente Klassifizierung des Ausdrucks
HINWEIS: Dieses Diagramm wurde erstellt, um Probleme bei der Formaktivierung von Avataren zu erklären, aber die gleichen grundlegenden Konzepte gelten auch für die Gesichts- und Gefühlsverfolgung.
Text: Was passiert, wenn man FACS nicht richtig einsetzt?
- falsche Klassifizierung des Ausdrucks
- inkonsistente Klassifizierung des Ausdrucks
- voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Anarchie
Selbst bei ordnungsgemäßer Anwendung von FACS wird es immer Verzerrungen und Unstimmigkeiten geben - durch sorgfältige Maßnahmen lassen sich diese Probleme jedoch erheblich verringern.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Wenn Ausdrucksbezeichnungen schlecht definiert sind und schlecht verstanden werden, können kleine Fehler zu großen Verzerrungen führen.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Bevor wir uns mit den Verzerrungen befassen, die bei der Gesichtsverfolgungstechnologie auftreten können, sollten wir die bereits bestehenden Verzerrungen bei der Technologie zur Identifizierung von Merkmalen, der Gesichtserkennung, betrachten.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Wenn wir nicht einmal die Erkennung von Merkmalen richtig hinbekommen, können Sie sich vorstellen, wie kompliziert die Mimikerkennung sein kann. Die Mimikerkennung erfordert ein Verständnis, das über die Gesichtsmerkmale hinausgeht. Sie erfordert ein Verständnis der subtilen Gesichtsbewegungen.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Culture Shapes How We Look at Faces. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Menschen nehmen beim Betrachten von Gesichtern unterschiedliche Informationen auf und suchen bei der Interpretation von Emotionen nach unterschiedlichen Anhaltspunkten.
- Die Kultur hat großen Einfluss darauf, was wir als wertvolle Informationen und Hinweise betrachten.
Studien haben ergeben:
- ostasiatisch Teilnehmer neigen dazu, sich auf die Mitte des Gesichts, um die Nase herum, zu konzentrieren und den Augen und der Blickrichtung mehr Bedeutung beizumessen.
- Westkaukasisch die Teilnehmer neigen dazu, den Ausdruck von Emotionen in den Augenbrauen und der Mundpartie zu suchen
- Diese Unterschiede in der Aufmerksamkeit führen zu Verzerrungen, wenn die Teilnehmer Gesichter mit widersprüchlichen Ausdrücken betrachten
z.B. Wenn es traurige Augen mit einem glücklichen Mund gibt:
- Japanische Teilnehmer legen mehr Wert auf Emotionen in den Augen
- Die amerikanischen Teilnehmer achten mehr auf den Mundbereich.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D., und Caldara, R. (2008). Kultur prägt, wie wir Gesichter betrachten. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022
2. Elfenbein, H. A., & Ambady, N. (2003). Universelle und kulturelle Unterschiede beim Erkennen von Emotionen. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). Amerikanisch-japanische Kulturunterschiede bei der Beurteilung der Ausdrucksintensität und des subjektiven Erlebens. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). Amerikanisch-japanische Kulturunterschiede bei der Bewertung der Intensität von Gesichtsausdrücken von Emotionen. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Nonverbale "Akzente" - kulturelle Unterschiede im Gesichtsausdruck von Emotionen. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). Sind die Fenster zur Seele in Ost und West dieselben? Kulturelle Unterschiede bei der Verwendung von Augen und Mund als Indikatoren für die Erkennung von Emotionen in Japan und den Vereinigten Staaten. Zeitschrift für experimentelle Sozialpsychologie, 43(2), 303-311.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Überlegen Sie nun, was bei der Kennzeichnung von Begriffen zu beachten ist.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Wenn Lippen-Ecken-Drücker nicht richtig verstanden wird, ist es wahrscheinlicher, dass die Etikettierer eine falsche Klassifizierung vornehmen jede Form mit abfallenden Lippenecken als Lippen-Ecken-Drücker. Diese falsch klassifizierten Formen werden häufig durch die Auswirkungen von Kinnhalter – aber sie können auch etwas Schlimmeres beinhaltenneutrale Gesichter (Gesichter ohne Ausdruck).
- Ein wahrscheinliches Ergebnis dieses Missverständnisses ist: Über-Erkennung von Lippen-Ecken-Drücker bei Menschen mit hängenden Lippenwinkeln. Häufig haben ältere Menschen aufgrund der langfristigen Auswirkungen der Schwerkraft hängende Mundwinkel.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Aufgrund unsachgemäßer Kennzeichnungspraktiken kann es bei älteren Bevölkerungsgruppen zu einer Übererfassung von Lippen-Ecken-Drücker.
- Der Lippeneckenzieher ist ein wichtiger Bestandteil der Traurigkeit. Könnte dieser Fehler dazu führen, dass Traurigkeit in älteren Bevölkerungsgruppen zu oft erkannt wird?
- Was ist mit anderen Gruppen, deren Gesichtszüge durch hängende Lippenwinkel gekennzeichnet sind? Werden sie fälschlicherweise als "traurig" interpretiert werden?
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Es scheint keine große Sache zu sein, wenn ein Tracker fälschlicherweise Lippen-Ecken-Drücker oder Traurigkeit, sondern: Was passiert, wenn die Gesichtserkennung für größere Dinge wie die Beurteilung der psychischen Gesundheit oder die Bewertung potenzieller Stellenbewerber eingesetzt wird?
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- KI analysiert jetzt den Gesichtsausdruck von Bewerbern bei Video-Vorstellungsgesprächen - Unilever, IBM, Dunkin Donuts und viele andere nutzen diese Technologie bereits
- Technologie zur Erkennung von Emotionen funktioniert nicht, aber Einstellungsexperten und andere nutzen sie trotzdem: Bericht
- Die KI zur Erkennung von Emotionen ist eine $20-Milliarden-Industrie. Neue Untersuchungen zeigen, dass sie nicht halten kann, was sie behauptet.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Wir haben darüber gesprochen, wie eine falsche Kennzeichnung zu Vorurteilen gegenüber älteren Menschen führen kann. . . Aber was ist mit anderen Vorurteilen gegenüber Menschen mit bestimmten Gesichtszügen?
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
". ... Gesichtserkennungsprogramme weisen zwei verschiedene Arten von Verzerrungen auf.
Erstens, Schwarze Gesichter wurden bei jedem Lächeln durchweg als wütender eingestuft als weiße Gesichter. Face++ zeigte diese Art von Verzerrung. Zweitens, schwarze Gesichter wurden immer als wütender bewertet wenn ihr Gesichtsausdruck zweideutig war. Face API zeigte diese Art von Ungleichheit. Selbst wenn schwarze Gesichter teilweise lächeln, zeigte meine Analyse, dass die Systeme mehr negative Emotionen annahmen als ihre weißen Gegenstücke mit ähnlichen Ausdrücken. Die durchschnittlichen emotionalen Werte lagen bei den verschiedenen Rassen viel näher beieinander, aber es gab immer noch deutliche Unterschiede zwischen schwarzen und weißen Gesichtern."
Die versteckte Voreingenommenheit von KI, die Emotionen erkennt, verstehen
-Lauren Rhue
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Wie könnte dies geschehen?
Gehen wir noch einmal darauf ein, WARUM es wichtig ist, mehr in Daten zu investieren.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Betrachten Sie die FACS-Form "Oberlippenheber." Oberlippenhochhalter ist eine Schlüsselkomponente von Emotionen wie Abscheu, ärgern, und Verachtung.
Zu den Merkmalen des Oberlippenhebers gehören:
- aufgeworfene Oberlippe
- gerundeter oberer Nasolabialfurchenbereich
(Lachfalte - siehe Foto)
ANMERKUNG: Zusätzlich zu den möglichen Verzerrungen bei der Kennzeichnung von Gesichtsbewegungen gibt es auch eine erhebliche Kontroverse über die Theorie der Basisemotionen (z. B. grundlegende Emotionsprototypen wie Verachtung, Wut usw.) im Allgemeinen. Siehe "'Alles liegt in den Augen" und andere Lügen.“
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Bei manchen Menschen ist die Nasolabialfurche stärker gebogen.
Dies ist einfach ein Produkt ihrer natürlichen Gesichtsstruktur.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Ein Etikettierer, der sich nicht gut mit dem Facial Action Coding System auskennt, kann Personen mit nicht ausdrucksbasierten Nasolabialfurchenkurven leicht fälschlicherweise als Personen mit Oberlippenheber.
Diese falschen Bezeichnungen führen dazu, dass ein Tracker, der darauf trainiert ist, Gesichter mit bestimmten Strukturen zu erkennen, als Ausdruck von Oberlippenheber - auch wenn sie neutral sind oder lächeln.
Die Beschaffung eines "vielfältigen Datensatzes" ist irrelevant, wenn Ihre Kennzeichnungen ungenau sind.
Eine solche Ausbildung erklärt die Ergebnisse von Lauren Rhue aus Die versteckte Voreingenommenheit von KI, die Emotionen erkennt, verstehen.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Das Vorhandensein voreingenommener Emotionskennzeichnungen bleibt auch dann bestehen, wenn man von einem FACS-basierten Ansatz abweicht und versucht, die Kennzeichner Emotionen ganzheitlich klassifizieren zu lassen.
Text: voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
Falls es nicht klar ist, warum ganzheitliche Emotionskennzeichnung genauso wahrscheinlich scheitert (wenn nicht sogar noch mehr) - HIER EINE AUFFRISCHUNG:
- Menschen nehmen beim Betrachten von Gesichtern unterschiedliche Informationen auf und suchen bei der Interpretation von Emotionen nach unterschiedlichen Anhaltspunkten.
- Die Kultur hat großen Einfluss darauf, was wir als wertvolle Informationen und Hinweise betrachten.
Studien haben ergeben:
- ostasiatisch Die Teilnehmer konzentrieren sich eher auf die Mitte des Gesichts, um die Nase herum, und geben den Augen und der Blickrichtung mehr Bedeutung.
- Westkaukasisch die Teilnehmer neigen dazu, den Ausdruck von Emotionen in den Augenbrauen und der Mundpartie zu suchen
- Diese Unterschiede in der Aufmerksamkeit führen zu Verzerrungen, wenn die Teilnehmer Gesichter mit widersprüchlichen Ausdrücken betrachten
z.B. Wenn es traurige Augen mit einem glücklichen Mund gibt:
- Japanische Teilnehmer legen mehr Wert auf Emotionen in den Augen
- Die amerikanischen Teilnehmer achten mehr auf den Mundbereich.
Text: Was passiert, wenn man FACS nicht richtig einsetzt?
- falsche Klassifizierung des Ausdrucks
- inkonsistente Klassifizierung des Ausdrucks
- voreingenommene Etikettierung (rassisch, kulturell, altersbedingt usw.)
- Anarchie
Selbst bei ordnungsgemäßer Anwendung von FACS wird es immer Verzerrungen und Unstimmigkeiten geben - durch sorgfältige Maßnahmen lassen sich diese Probleme jedoch erheblich verringern.
Text: Anarchie
Wenn . . .
- die Kultur beeinflusst, wie wir Ausdrücke und Gefühle interpretieren
- die Umweltbedingungen beeinflussen, welche Anhaltspunkte wir zur Beurteilung von Gesichtern heranziehen
- das Wissen über Gesichtsaktionen beeinflusst, wie wir Ausdrücke benennen
. . . Was können Technologieunternehmen tun, um diese von Menschen verursachten Fehler zu verringern und zu verhindern, dass sie nach außen dringen? in Algorithmen?
Text: Was können Technologieunternehmen tun, um Verzerrungen bei der Gesichtserkennung zu verringern?
- Technologieunternehmen müssen erkennen, dass Die Gesichtsverfolgung hat den Rahmen der technischen Möglichkeiten gesprengt.
- Technologieunternehmen müssen die Anfälligkeit der Technik für Voreingenommenheit akzeptieren und die Mitarbeiter über diese Anfälligkeit aufklären.
- Technologieunternehmen müssen mehr in die Datenqualität investieren.
Text: Die Fortschritte der Gesichtserkennungstechnologie zu erkennen, ihre Schwachstellen zu verstehen und mehr in die Datenqualität zu investieren bedeutet . . .
- Eigentlich Zuweisung des Personalbestands in Richtung von Funktionen, die sich auf die Datenqualität konzentrieren - selbst wenn dies eine Verringerung der technischen Mitarbeiterzahl erfordert.
- Zeit und Energie aufwenden, und Ressourcen an Datenspezialisten finden. Wenn dies nicht möglich ist, ist es immer noch Aufgabe des Unternehmens, Zeit, Energie und Ressourcen für die AUSBILDUNG von Datenspezialisten aufzuwenden. Die Klassifizierung von Gesichtsausdrücken ist viel komplizierter als die Klassifizierung von einfachen Objekten wie Verkehrszeichen und sollte auch als solche behandelt werden.
Text: Reduzierung von Verzerrungen bei der Gesichtserkennung
Die Fortschritte der Gesichtserkennungstechnologie zu erkennen, ihre Schwachstellen zu verstehen und mehr in die Datenqualität zu investieren bedeutet . . .
- Technik, Forschung und Produkt sollten den Daten nicht einfach sagen, was sie brauchen - sondern ZUHÖREN auf das, was die Datenteams brauchen. Die Datenteams kennen sich am besten mit der Arbeit hinter den Kulissen aus, die für funktionierende Algorithmen erforderlich ist. AN DIESER STELLE SCHEITERN VIELE UNTERNEHMEN.
- Mitarbeiter mit datenbasierten Aufgaben müssen regelmäßig mit Technik-, Forschungs- und Produktteams zusammenarbeiten.
Text: Reduzierung von Verzerrungen bei der Gesichtserkennung
Die Fortschritte der Gesichtserkennungstechnologie zu erkennen, ihre Schwachstellen zu verstehen und mehr in die Datenqualität zu investieren bedeutet . . .
- Aufklärung der Mitarbeiter über die Realität der Voreingenommenheit im technischen Bereich.
- Die richtigen Vorkehrungen treffen, um die Kennzeichnung zu standardisieren und zu definieren.
- Immer Überlegungen, wann und wo Befangenheit auftreten kann.
- Wer kennzeichnet?
- Was beschriften sie?
- Welche Faktoren könnten ihre Kennzeichnung beeinflussen?
* Stimmung * Kultur * erleben
Text: Reduzierung von Verzerrungen bei der Gesichtserkennung
Die Fortschritte der Gesichtserkennungstechnologie zu erkennen, ihre Schwachstellen zu verstehen und mehr in die Datenqualität zu investieren bedeutet . . .
SIDENOTE: DIE BESCHRIFTUNG VON AUSDRÜCKEN AUS STATISCHEN BILDERN ZU BEENDEN.
- Genaue FACS- und Emotionskennzeichnungen sind weitgehend davon abhängig, dass man Bewegungen sieht.
- Wenn die Bewegung stärker betont würde, würden statische Gesichtsmerkmale wie hängende Lippenwinkel und geschwungene Nasolabialfurche weniger wahrscheinlich die Erkennung von Lippen-Ecken-Drücker und Oberlippenheber (bzw.).
Text: Reduzierung von Verzerrungen bei der Gesichtserkennung
Schlussbemerkungen . . .
Text: Reduzierung von Verzerrungen bei der Gesichtserkennung
Je mehr wir an die Technologie glauben und uns auf sie verlassen, desto besser, desto mehr Auswirkungen werden diese Vorurteile haben.
Text: Reduzierung von Verzerrungen bei der Gesichtserkennung
"... Gesichtserkennungssoftware interpretiert Emotionen je nach Rasse der Person unterschiedlich. ... Dieses Ergebnis hat Auswirkungen auf Einzelpersonen, Organisationen und die Gesellschaft und trägt zur wachsenden Literatur über Voreingenommenheit und/oder ungleiche Auswirkungen in der KI bei."
Rhue, Lauren, Rassenbedingter Einfluss auf automatisierte Wahrnehmungen von Emotionen (9. November 2018). Verfügbar bei SSRN: https://ssrn.com/abstract=3281765 oder http://dx.doi.org/10.2139/ssrn.3281765
Text: Reduzierung von Verzerrungen bei der Gesichtserkennung
Übernehmen Sie Verantwortung.
Machen Sie sich die Mühe, Vorurteile abzubauen.
Mehr in Daten investieren.
Text:
Als Reaktion auf die weit verbreiteten minderwertigen und ungenauen FACS-Referenzen, Ich habe einen kostenlosen "FACS-Spickzettel" erstellt. die als Leitfaden für Künstler, Forscher und Ingenieure dienen soll. Sie ist auf meiner FACS-Ressourcen-Website verfügbar, Sich der FACS stellen. Ich bin auch offen für Beratung.
1 Gedanken zu „Bias In Emotion Tracking“
Kommentare sind geschlossen.