Vertekeningen in het volgen van gezichten en emoties
We lijken de populaire oversimplificatie te onderschrijven dat machines minder bevooroordeeld zijn dan mensen; als je echter bekend bent met de manieren waarop machines worden getraind om verschillende aspecten van gegevens te lezen en zich daarop te richten, dan weet je dat: Het is gewoon niet zo eenvoudig.
Machines zijn niet vrij van vooroordelen als ze door mensen worden getraind.
Hieronder volgt een presentatie van de verschillende soorten vertekeningen die kunnen optreden bij het volgen van gezichten en het labelen van uitdrukkingen. Veel van deze vertekeningen kunnen worden verminderd; daarom heb ik ook suggesties voor verbeterde methoden opgenomen. Als je werkt aan gezichts- en emotietracking van welk type dan ook, is het je verantwoordelijkheid om je bewust te zijn van deze biases.
Bekijk de dia's hieronder OF de video hier gelinkt: YouTube-video
Tekst: Veel gezichts- en emotietracking bedrijven probeer om Paul Ekman's Coderingssysteem voor gezichtsacties (FACS)
- maar velen nemen niet de tijd om het goed te gebruiken.
Tekst: Wat gebeurt er als je FACS niet goed gebruikt?
- onjuiste uitdrukkingsclassificatie
- inconsistente expressie classificatie
- vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- anarchie
Zelfs als je FACS op de juiste manier gebruikt, zal er altijd bias en inconsistentie zijn - maar door zorgvuldige maatregelen te nemen, kunnen deze problemen aanzienlijk verminderd worden.
Tekst: onjuiste uitdrukkingsclassificatie
- Gezichtsacties zijn subtiel en moeilijk te onderscheiden zonder intensieve studie.
- De meeste FACS-referenties (exclusief de oorspronkelijke FACS Manual) geven onjuiste FACS-visualisaties - zelfs bronnen die als geloofwaardig worden beschouwd.
- Ondanks deze onnauwkeurigheden worden dergelijke bronnen vaak als referentie gebruikt door technici en onderzoekers op het gebied van gezichtsherkenning.
- Omdat techbedrijven niet genoeg investeren in op gegevens gebaseerde functies, beschikken ze waarschijnlijk niet over het juiste personeel of de juiste middelen om belangrijke gezichtsacties te onderscheiden.
Tekst: onjuiste uitdrukkingsclassificatie
- Basisvormen zoals "lipspanner" worden regelmatig verward met acties als "lippendrukker" en/of "lip pucker."
- Lipspanner is belangrijk in: emotie-uitdrukkingen & spraakproductie
Tekst: onjuiste uitdrukkingsclassificatie
- Hierboven zie je een echte lip tightener.
- Dit is slechts een van de vele vormen die elke keer onder de radar vliegen:
– verkeerd opgeleid – verkeerd geclassificeerd – misbruikt
Tekst: Wat gebeurt er als je FACS niet goed gebruikt?
- onjuiste uitdrukkingsclassificatie
- inconsistente expressie classificatie
- vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- anarchie
Zelfs als je FACS op de juiste manier gebruikt, zal er altijd bias en inconsistentie zijn - maar door zorgvuldige maatregelen te nemen, kunnen deze problemen aanzienlijk verminderd worden.
Tekst: onjuiste uitdrukkingsclassificatie
Dezelfde problemen met onjuiste classificatie dragen ook bij aan inconsistente classificatie.
Tekst: inconsistente expressie classificatie
Als techbedrijven niet grondig investeren in gegevenskwaliteit, hun regels voor gegevensclassificatie kunnen niet worden gestandaardiseerd.
Vanwege:
- een gebrek aan investeringen in het aannemen en/of opleiden van werknemers voor op gegevens gebaseerde functies
- een gebrek aan FACS-middelen van goede kwaliteit
- een inherente moeilijkheid om gezichtsacties te onderscheiden
→ Labelers classificeren uitingen inconsistent.
→ Trackers ontwikkelen rare eigenaardigheden, koppelen onjuiste uitdrukkingen aan elkaar en brengen anderen in verwarring.
Tekst: inconsistente expressie classificatie
OPMERKING: Dit diagram is gemaakt om problemen met vormactivering voor avatars uit te leggen, maar dezelfde basisconcepten zijn van toepassing op het volgen van gezichten en emoties.
Tekst: Wat gebeurt er als je FACS niet goed gebruikt?
- onjuiste uitdrukkingsclassificatie
- inconsistente expressie classificatie
- vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- anarchie
Zelfs als je FACS op de juiste manier gebruikt, zal er altijd bias en inconsistentie zijn - maar door zorgvuldige maatregelen te nemen, kunnen deze problemen aanzienlijk verminderd worden.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Wanneer expressielabels slecht gedefinieerd zijn en slecht begrepen worden, kunnen kleine fouten grote vooroordelen creëren.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Voordat we ingaan op de vooroordelen die kunnen bestaan in gezichtsherkenningstechnologie, moeten we eerst kijken naar de reeds bestaande vooroordelen in technologie voor kenmerkidentificatie: gezichtsherkenning.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Als we al niet in staat zijn om kenmerken goed te detecteren, stel je dan eens voor hoe ingewikkeld vooringenomenheid kan zijn bij het volgen van uitdrukkingen. Het traceren van uitdrukkingen vereist meer dan alleen gezichtskenmerken. Het vereist inzicht in subtiele gezichtsbewegingen.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Culture Shapes How We Look at Faces. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- Mensen halen op verschillende manieren informatie uit gezichten en zoeken naar verschillende aanwijzingen bij het interpreteren van emoties.
- Cultuur beïnvloedt sterk wat we als waardevolle informatie en aanwijzingen beschouwen.
Onderzoeken hebben aangetoond:
- Oost-Aziatisch deelnemers hebben de neiging om zich te concentreren op het midden van het gezicht, rond de neus, en meer belang te hechten aan de ogen en de blikrichting.
- Westerse Kaukasus deelnemers hebben de neiging om uitdrukkingen van emotie te zoeken in de wenkbrauwen en de mondhoeken
- Deze verschillen in aandacht creëren vertekeningen wanneer deelnemers kijken naar gezichten met tegenstrijdige uitdrukkingen
Bijvoorbeeld als er verdrietige ogen zijn met een blije mond:
- Japanse deelnemers hechten meer belang aan emotie in ogen
- Amerikaanse deelnemers geven meer om het mondgebied.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D., en Caldara, R. (2008). Cultuur bepaalt hoe we naar gezichten kijken. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022.
2. Elfenbein, H. A., & Ambady, N. (2003). Universele en culturele verschillen in het herkennen van emoties. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). Amerikaans-Japanse culturele verschillen in de beoordeling van expressie-intensiteit en subjectieve ervaring. Cognitie & Emotie, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). Amerikaans-Japanse culturele verschillen in intensiteitsbeoordelingen van gezichtsuitdrukkingen van emoties. Motivatie en Emotie, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Nonverbale "accenten" culturele verschillen in gezichtsuitdrukkingen van emotie. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). Zijn de vensters naar de ziel hetzelfde in Oost en West? Culturele verschillen in het gebruik van de ogen en mond als cues om emoties te herkennen in Japan en de Verenigde Staten. Tijdschrift voor Experimentele Sociale Psychologie, 43(2), 303-311.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Bedenk nu wat er komt kijken bij het labelen van uitdrukkingen . . .
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- Als liphoekspatel niet goed wordt begrepen, is de kans groter dat labelaars verkeerd classificeren. elke vorm met afhangende liphoeken als liphoekspatel. Deze verkeerd geclassificeerde vormen worden vaak veroorzaakt door de effecten van kinverhoger – maar ze kunnen ook iets ergers bevattenneutrale gezichten (gezichten zonder uitdrukking).
- Een waarschijnlijk gevolg van deze misvatting is: over-detectie van liphoekspatel bij mensen met afhangende mondhoeken. Vaak hebben ouderen afhangende mondhoeken als gevolg van langdurige effecten van de zwaartekracht.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- Door onjuiste etiketteringspraktijken kunnen oudere bevolkingsgroepen onderhevig zijn aan overdetectie van liphoekspatel.
- Lippenhoekspatel is een belangrijk onderdeel van verdriet. Zou deze fout kunnen leiden tot overdetectie van droefheid in oudere demografische groepen?
- Hoe zit het met andere groepen waarvan de gelaatstrekken gekenmerkt worden door afhangende liphoeken? Zullen ze verkeerd geïnterpreteerd worden als "verdrietig"?
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- Het lijkt misschien niet veel voor een tracker om verkeerd te detecteren liphoekspatel of verdrietmaar: Wat gebeurt er als gezichtsherkenning wordt gebruikt voor grotere zaken zoals geestelijke gezondheidstests of het evalueren van potentiële kandidaten voor een baan?
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- AI analyseert nu de gezichtsuitdrukking van kandidaten tijdens video sollicitatiegesprekken - Unilever, IBM, Dunkin Donuts en vele anderen gebruiken deze technologie al
- Emotieherkenningstechnologie werkt niet, maar professionals en anderen gebruiken het toch: rapport
- Emotiedetectie' AI is een industrie van $20 miljard. Nieuw onderzoek zegt dat het niet kan wat het beweert.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
We hebben het gehad over hoe onjuiste etikettering kan leiden tot vooroordelen tegen oudere bevolkingsgroepen . . . Maar hoe zit het met andere vooroordelen over mensen met bepaalde gelaatstrekken?
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
". . gezichtsherkenningsprogramma's vertonen twee verschillende soorten vooroordelen.
Eerst, zwarte gezichten werden bij elke glimlach consequent bozer gevonden dan blanke gezichten. Face++ vertoonde dit soort vooroordelen. Tweede, zwarte gezichten werden altijd gescoord als bozer als er onduidelijkheid bestond over hun gezichtsuitdrukking. Face API vertoonde dit soort verschillen. Zelfs als zwarte gezichten gedeeltelijk glimlachen, toonde mijn analyse aan dat de systemen meer negatieve emoties aannamen in vergelijking met hun blanke tegenhangers met vergelijkbare uitdrukkingen. De gemiddelde emotionele scores lagen veel dichter bij elkaar voor alle rassen, maar er waren nog steeds opvallende verschillen voor zwarte en witte gezichten."
Inzicht in de verborgen bias in emotie-lezende AI's
-Lauren Rhue
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Hoe kan dit gebeuren?
Laten we nog eens kijken waarom het belangrijk is om meer te investeren in data.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Overweeg de FACS-vorm "bovenlipverhoger." Bovenlipverhoger is een belangrijk onderdeel van emoties zoals walging, boosheid, en minachting.
Kenmerken van upper lip raiser zijn onder andere:
- opgetrokken bovenlip
- afgerond gebied van de bovenste nasolabiale voorhoofdsgroef
(lachrimpel - zie foto)
OPMERKING: Naast mogelijke vertekeningen in het labelen van gezichtshandelingen, is er ook aanzienlijke controverse over de Basic Emotion Theory (bijv. basis emotieprototypen zoals minachting, woede, enz.) in het algemeen. Zie "Het zit 'm allemaal in de ogen' en andere leugens.“
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Sommige mensen hebben meer kromming in hun nasolabiale voorhoofd.
Dit is gewoon een product van hun natuurlijke gezichtsstructuur.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Een labelaar die niet goed bekend is met het Facial Action Coding System kan mensen met nasolabiale wenkbrauwen zonder expressie gemakkelijk verkeerd labelen als mensen met bovenlipverhoger.
Deze onjuiste labels bevallen een tracker die getraind is om gezichten met bepaalde structuren te identificeren als uitdrukking van bovenlipverhoger - zelfs als ze neutraal zijn of glimlachen.
Het verkrijgen van een "diverse gegevensset" is irrelevant als je labels onnauwkeurig zijn.
Een dergelijke training verklaart de bevindingen van Lauren Rhue uit Inzicht in de verborgen bias in emotie-lezende AI's.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
De aanwezigheid van bevooroordeelde emotie-labeling blijft bestaan, zelfs als je afstapt van een FACS-gebaseerde benadering en probeert om labelaars emoties holistisch te laten classificeren.
Tekst: vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
Voor het geval het niet duidelijk is waarom holistische emotie-etikettering net zo waarschijnlijk mislukt (zo niet, nog meer) -... HIER IS EEN OPFRISSER:
- Mensen halen op verschillende manieren informatie uit gezichten en zoeken naar verschillende aanwijzingen bij het interpreteren van emoties.
- Cultuur beïnvloedt sterk wat we als waardevolle informatie en aanwijzingen beschouwen.
Onderzoeken hebben aangetoond:
- Oost-Aziatisch deelnemers hebben de neiging om zich te concentreren op het midden van het gezicht, rond de neus, en meer belang te hechten aan de ogen en de blikrichting.
- Westerse Kaukasus deelnemers hebben de neiging om uitdrukkingen van emotie te zoeken in de wenkbrauwen en de mondhoeken
- Deze verschillen in aandacht creëren vertekeningen wanneer deelnemers kijken naar gezichten met tegenstrijdige uitdrukkingen
Bijvoorbeeld als er verdrietige ogen zijn met een blije mond:
- Japanse deelnemers hechten meer belang aan emotie in ogen
- Amerikaanse deelnemers geven meer om het mondgebied.
Tekst: Wat gebeurt er als je FACS niet goed gebruikt?
- onjuiste uitdrukkingsclassificatie
- inconsistente expressie classificatie
- vooringenomen etikettering (raciaal, cultureel, leeftijdsgebonden, enz.)
- anarchie
Zelfs als je FACS op de juiste manier gebruikt, zal er altijd bias en inconsistentie zijn - maar door zorgvuldige maatregelen te nemen, kunnen deze problemen aanzienlijk verminderd worden.
Tekst: anarchie
Als . . .
- cultuur beïnvloedt hoe we uitdrukkingen en emoties interpreteren
- omgevingsomstandigheden beïnvloeden naar welke aanwijzingen we kijken om gezichten te beoordelen
- kennis van gezichtshandelingen beïnvloedt hoe we uitdrukkingen labelen
. . . Wat kunnen techbedrijven doen om deze menselijke fouten te verminderen en te voorkomen dat ze uitlekken? in algoritmen?
Tekst: Wat kunnen techbedrijven doen om vooroordelen bij gezichtsherkenning te verminderen?
- Technologiebedrijven moeten erkennen dat Gezichtsherkenning is niet langer een technische aangelegenheid.
- Technologiebedrijven moeten accepteer de kwetsbaarheid van technologie voor vooroordelen en onderwijs werknemers over deze kwetsbaarheden.
- Technologiebedrijven moeten Meer investeren in gegevenskwaliteit.
Tekst: De vooruitgang van gezichtsherkenningstechnologie erkennen, de kwetsbaarheden ervan begrijpen en meer investeren in gegevenskwaliteit betekent . . .
- Eigenlijk personeel toewijzen naar functies die zich richten op datakwaliteit - zelfs als dat betekent dat er ruimte moet worden genomen van het aantal technische medewerkers.
- Tijd en energie besteden, en middelen naar dataspecialisten vinden. Als dit niet mogelijk is, is het nog steeds de taak van het bedrijf om tijd, energie en middelen te besteden aan het TRAINEN van gegevensspecialisten. Het classificeren van gezichtsuitdrukkingen is veel gecompliceerder dan het classificeren van basisobjecten zoals verkeerssignalen en moet als zodanig worden behandeld.
Tekst: Vertekeningen bij gezichtsherkenning verminderen
De vooruitgang van gezichtsherkenningstechnologie erkennen, de kwetsbaarheden ervan begrijpen en meer investeren in gegevenskwaliteit betekent . . .
- Engineering, onderzoek en product moeten gegevens niet simpelweg vertellen wat ze nodig hebben - maar LUISTEREN naar wat de datateams nodig hebben. Datateams zijn het best op de hoogte van het werk achter de schermen dat nodig is voor goed werkende algoritmen. DIT IS WAAR VEEL BEDRIJVEN FALEN.
- Van medewerkers met gegevensgebaseerde functies eisen dat ze regelmatig samenwerken met engineering-, onderzoeks- en productteams.
Tekst: Vertekeningen bij gezichtsherkenning verminderen
De vooruitgang van gezichtsherkenningstechnologie erkennen, de kwetsbaarheden ervan begrijpen en meer investeren in gegevenskwaliteit betekent . . .
- Werknemers informeren over de realiteit van vooroordelen in de technologie.
- De juiste voorzorgsmaatregelen nemen om labeling standaardiseren en definiëren.
- Altijd nagaan wanneer en waar vooroordelen kunnen optreden.
- Wie labelt er?
- Wat labelen ze?
- Welke factoren kunnen hun etikettering beïnvloeden?
* stemming * cultuur * ervaring
Tekst: Vertekeningen bij gezichtsherkenning verminderen
De vooruitgang van gezichtsherkenningstechnologie erkennen, de kwetsbaarheden ervan begrijpen en meer investeren in gegevenskwaliteit betekent . . .
SIDENOTE: STOPPEN MET HET LABELEN VAN EXPRESSIES VAN STATISCHE AFBEELDINGEN.
- Nauwkeurige FACS en emotie labeling is grotendeels afhankelijk van het zien van beweging.
- Als beweging meer benadrukt zou worden, zouden statische gezichtskenmerken zoals afhangende liphoeken en gebogen nasolabiale groeven minder snel leiden tot detectie van liphoekspatel en bovenlipverhoger (respectievelijk).
Tekst: Vertekeningen bij gezichtsherkenning verminderen
Slotopmerkingen . . .
Tekst: Vertekeningen bij gezichtsherkenning verminderen
Hoe meer we geloven in en vertrouwen op technologie, hoe meer vertakkingen deze vooroordelen zullen hebben.
Tekst: Vertekeningen bij gezichtsherkenning verminderen
"... gezichtsherkenningssoftware interpreteert emoties anders op basis van het ras van de persoon. ...Deze bevinding heeft gevolgen voor individuen, organisaties en de samenleving en draagt bij aan de groeiende literatuur over vooroordelen en/of ongelijke invloed in AI."
Rhue, Lauren, Raciale invloed op geautomatiseerde waarnemingen van emoties (9 november 2018). Beschikbaar op SSRN: https://ssrn.com/abstract=3281765 of http://dx.doi.org/10.2139/ssrn.3281765
Tekst: Vertekeningen bij gezichtsherkenning verminderen
Neem verantwoordelijkheid.
Doe je best om vooroordelen te verminderen.
Investeer meer in gegevens.
Tekst:
Als reactie op de prevalentie van FACS-referenties van lage kwaliteit en onnauwkeurig, Ik heb een gratis "FACS spiekbriefje" gemaakt om als gids te dienen voor kunstenaars, onderzoekers en ingenieurs. Het is beschikbaar op mijn FACS resource site, Het FACS onder ogen zien. Ik sta ook open voor consulting.
1 gedachten over “Bias In Emotion Tracking”
Reacties zijn gesloten.