Bias i spårning av ansikten och känslor
Vi tycks ansluta oss till den populära förenklingen att maskiner är mindre partiska än människor, men om du känner till hur maskiner tränas för att läsa och fokusera på olika aspekter av data vet du hur det går till: Det är inte så enkelt.
Maskiner är inte fria från fördomar om de utbildas av människor.
Nedan följer en presentation av de olika typerna av förvrängningar som kan uppstå vid spårning av ansikten och märkning av uttryck. Många av dessa fel kan minskas, så jag har också inkluderat förslag till förbättrade metoder. Om du arbetar med ansikts- och känslomätning av något slag är det ditt ansvar att vara medveten om dessa fördomar.
Se bildspåren nedan eller videon som länkas till här: YouTube-video
Text: Många spårning av ansikten och känslor företag prova att använda Paul Ekmans System för kodning av ansiktshandlingar (FACS)
- men många tar sig inte tid att använda den på rätt sätt.
Text: Vad händer när du inte använder FACS på rätt sätt?
- felaktig klassificering av uttryck
- klassificering av inkonsekventa uttryck
- Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- anarki
Även om du använder FACS på rätt sätt kommer det alltid att finnas bias och inkonsekvens - men genom att vidta noggranna åtgärder kan dessa problem minskas avsevärt.
Text: felaktig klassificering av uttryck
- Ansiktshandlingar är subtila och svåra att skilja ut utan intensivt studium.
- De flesta FACS-referenser (utom den ursprungliga FACS-manualen) tillhandahåller felaktiga FACS-bilder - även källor som anses trovärdiga.
- Trots dessa felaktigheter används sådana källor ofta som referenser av tekniker och forskare som arbetar med ansiktsspårning.
- Eftersom teknikföretagen inte investerar tillräckligt i databaserade roller har de troligen inte rätt personal eller resurser för att skilja viktiga ansiktshandlingar åt.
Text: felaktig klassificering av uttryck
- Grundläggande former som "läppstramare" förväxlas ofta med åtgärder som "läpptryckare" och/eller "läpp rynka på näsan."
- Lip tightener är viktigt i: uttryck för känslor & talproduktion.
Text: felaktig klassificering av uttryck
- Ovan är en sann representation av läppstramare.
- Det här är bara en av många former som flyger under radarn varje gång de är i bruk:
– fel undervisad – felklassificerad – missbrukas
Text: Vad händer när man inte använder FACS på rätt sätt?
- felaktig klassificering av uttryck
- klassificering av inkonsekventa uttryck
- Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- anarki
Även om du använder FACS på rätt sätt kommer det alltid att finnas bias och inkonsekvens - men genom att vidta noggranna åtgärder kan dessa problem minskas avsevärt.
Text: felaktig klassificering av uttryck
Samma problem med felaktig klassificering bidrar också till en inkonsekvent klassificering.
Text: klassificering av inkonsekventa uttryck
Om teknikföretag inte investerar ordentligt i datakvalitet, deras regler för klassificering av data inte kan standardiseras.
På grund av:
- Bristande investeringar i att anställa och/eller utbilda anställda för databaserade roller.
- Brist på FACS-resurser av hög kvalitet.
- en inneboende svårighet att skilja mellan ansiktshandlingar
→ Etiketterare klassificerar uttryck på ett inkonsekvent sätt.
→ Spårare utvecklar konstiga egenheter och kopplar felaktiga uttryck till varandra samtidigt som de förvirrar andra.
Text: klassificering av inkonsekventa uttryck
OBS: Det här diagrammet gjordes för att förklara problem med formaktivering för avatarer, men samma grundkoncept gäller för spårning av ansikten och känslor.
Text: Vad händer när man inte använder FACS på rätt sätt?
- felaktig klassificering av uttryck
- klassificering av inkonsekventa uttryck
- Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- anarki
Även om du använder FACS på rätt sätt kommer det alltid att finnas bias och inkonsekvens - men genom att vidta noggranna åtgärder kan dessa problem minskas avsevärt.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
När uttrycksetiketter är dåligt definierade och dåligt förstådda kan små misstag skapa stora fördomar.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Innan vi går in på de fördomar som kan förekomma i tekniken för ansiktsspårning bör vi tänka på de fördomar som redan finns i tekniken för identifiering av funktioner: ansiktsigenkänning.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Om vi inte ens kan få till stånd en korrekt identifiering av funktioner, kan du föreställa dig hur komplicerat det kan vara att spåra fördomar i uttrycksspårning. För att spåra uttryck krävs en förståelse som sträcker sig längre än till ansiktsdragen. Det kräver en förståelse för subtila ansiktsrörelser.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Kultur formar hur vi ser på ansikten. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- Människor tar ut information på olika sätt när de tittar på ansikten och söker efter olika ledtrådar när de tolkar känslor.
- Kulturen påverkar i hög grad vad vi anser vara värdefull information och ledtrådar.
Studier har visat att:
- Östasiatiska deltagare tenderar att fokusera på mitten av ansiktet, runt näsan, och lägger mer vikt vid ögonen och blickens riktning.
- Västkaukasisk Deltagarna tenderar att leta efter känslouttryck i ögonbrynen och i munnen.
- Dessa skillnader i uppmärksamhet skapar fördomar när deltagarna tittar på ansikten med motstridiga uttryck.
t.ex. när det finns ledsna ögon med en glad mun:
- Japanska deltagare lägger större vikt vid känslor som visas i ögonen
- Amerikanska deltagare bryr sig mer om munnen.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D. och Caldara, R. (2008). Kultur formar hur vi ser på ansikten. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022.
2. Elfenbein, H. A., & Ambady, N. (2003). Universella och kulturella skillnader vid erkännande av känslor. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). Amerikansk-japanska kulturella skillnader i bedömningar av uttrycksintensitet och subjektiv upplevelse. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). Amerikansk-japanska kulturella skillnader i intensitetsbedömningar av ansiktsuttryck av känslor. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Nonverbala "accenter" kulturella skillnader i ansiktsuttryck av känslor. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). Är fönstren till själen desamma i öst och väst? Kulturella skillnader i användningen av ögon och mun som ledtrådar för att känna igen känslor i Japan och USA. Journal of Experimental Social Psychology, 43(2), 303-311.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Tänk nu på vad som ingår i märkning av uttryck . . .
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- Om Läpphörnanpressare inte förstås korrekt, är det mer sannolikt att etikettörerna klassificerar felaktigt. alla form med hängande läpphörn som Läpphörnanpressare. Dessa felklassificerade former orsakas ofta av effekterna av hakan höjer sig – men de kan också innehålla något värre: neutrala ansikten (ansikten utan uttryck).
- En trolig följd av denna missuppfattning är: överdetektering av Läpphörnanpressare hos personer med hängande läpphörn. Äldre personer har ofta hängande munhörn på grund av gravitationens långvariga effekter.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- Genom felaktig märkning kan äldre befolkningsgrupper utsättas för överdetektering av Läpphörnanpressare.
- Lip corner depressor är en viktig del av sorg. Kan detta fel leda till att man överdetekterar sorg i äldre befolkningsgrupper?
- Hur är det med andra grupper vars ansiktsdrag kännetecknas av hängande läpphörn? Kommer de felaktigt att tolkas som "ledsna"?
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- Det kanske inte verkar vara så farligt att en spårare felaktigt upptäcker Läpphörnanpressare eller . sorg, men: Vad händer när ansiktsspårning används för större saker som bedömningar av psykisk hälsa eller för att utvärdera potentiella arbetskandidater?
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- AI analyserar nu kandidaternas ansiktsuttryck under videointervjuer - Unilever, IBM, Dunkin Donuts och många andra använder redan denna teknik.
- Teknik för känsloupptagning fungerar inte, men yrkesverksamma som anställer och andra använder den ändå: rapport
- AI för "känsloavkänning" är en industri på $20 miljarder dollar. Ny forskning visar att den inte kan göra vad den påstår.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Vi talade om hur felaktig märkning kan leda till fördomar mot äldre människor. . . Men hur är det med andra fördomar mot personer med vissa ansiktsdrag?
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
". ... program för ansiktsigenkänning uppvisar två olika typer av fördomar.
Först, Svarta ansikten fick genomgående ett argare betyg än vita ansikten för varje leende. Face++ visade denna typ av fördomar. Andra, Svarta ansikten värderades alltid som argare. om det fanns någon tvetydighet i deras ansiktsuttryck. Face API visade denna typ av skillnader. Även om svarta ansikten delvis ler, visade min analys att den systemen hade mer negativa känslor jämfört med sina vita motsvarigheter med liknande uttryck. De genomsnittliga känslomässiga värdena var mycket närmare varandra mellan raserna, men det fanns fortfarande märkbara skillnader mellan svarta och vita ansikten."
Förstå den dolda bias som finns i AI som läser känslor
-Lauren Rhue
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Hur Kan detta hända?
Låt oss återkomma till varför det är viktigt att investera mer i data.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Överväga FACS formen "Övre läpparna höjer sig.." Övre läpparna höjs är en viktig del av känslor som äckla, ilska, och förakt.
Funktionerna i den övre läpphöjaren är bland annat:
- upphöjd överläpp
- Avrundad övre nasolabialfuru.
(skrattretorik - se bild)
NOTERA: Utöver potentiella felbeteckningar av ansiktshandlingar finns det också en betydande kontrovers om den grundläggande känsloteorin (t.ex. grundläggande känsloprototyper som förakt, ilska osv.) i allmänhet. Se "''Allt ligger i ögonen" och andra lögner.“
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Vissa människor har mer kurvighet i sin nasolabialvecka.
Detta är helt enkelt en produkt av deras naturliga ansiktsstruktur.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
En person som inte är väl insatt i Facial Action Coding System kan lätt missetikettera personer med icke-uttrycksbaserade nasolabialfurkor som att de har Övre läpparna höjer sig..
Dessa felaktiga etiketter ger upphov till att en spårare som är tränad att identifiera ansikten med vissa strukturer uttrycker Övre läpparna höjer sig. - även när de är neutrala eller ler.
Att skaffa en "varierad datamängd" är irrelevant om dina etiketter är felaktiga.
En sådan utbildning förklarar Lauren Rhues resultat från Förstå den dolda bias som finns i AI som läser känslor.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Förekomsten av partisk känslomärkning kommer att kvarstå även om man går bort från en FACS-baserad metod och försöker få märkarna att klassificera känslor på ett holistiskt sätt.
Text: Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
Om det inte är klart varför holistisk känslomärkning är lika troligt att misslyckas (om inte mer) - HÄR ÄR EN UPPFRÄSCHNING.:
- Människor tar ut information på olika sätt när de tittar på ansikten och söker efter olika ledtrådar när de tolkar känslor.
- Kulturen påverkar i hög grad vad vi anser vara värdefull information och ledtrådar.
Studier har visat att:
- Östasiatiska deltagarna tenderar att fokusera på mitten av ansiktet, runt näsan, och lägger större vikt vid ögonen och blickens riktning.
- Västkaukasisk Deltagarna tenderar att leta efter känslouttryck i ögonbrynen och i munnen.
- Dessa skillnader i uppmärksamhet skapar fördomar när deltagarna tittar på ansikten med motstridiga uttryck.
t.ex. när det finns ledsna ögon med en glad mun:
- Japanska deltagare lägger större vikt vid känslor som visas i ögonen
- Amerikanska deltagare bryr sig mer om munnen.
Text: Vad händer när man inte använder FACS på rätt sätt?
- felaktig klassificering av uttryck
- klassificering av inkonsekventa uttryck
- Fördomsfull märkning (ras, kultur, åldersrelaterad etc.).
- anarki
Även om du använder FACS på rätt sätt kommer det alltid att finnas bias och inkonsekvens - men genom att vidta noggranna åtgärder kan dessa problem minskas avsevärt.
Text: anarki
Om . . . .
- kulturen påverkar hur vi tolkar uttryck och känslor
- Miljöförhållandena påverkar vilka ledtrådar vi tittar på för att bedöma ansikten.
- Kunskap om ansiktshandlingar påverkar hur vi märker uttryck.
. . . Vad kan teknikföretag göra för att minska dessa mänskligt baserade fel och förhindra att de läcker ut? till algoritmer?
Text: Vad kan teknikföretag göra för att minska fördomar vid ansiktsspårning?
- Teknikföretagen måste inse att spårning av ansikten har utvecklats bortom teknisk räckvidd.
- Teknikföretagen måste acceptera att tekniken är sårbar för fördomar och utbilda de anställda om dessa sårbarheter.
- Teknikföretagen måste investera mer i datakvalitet.
Text: Att erkänna utvecklingen av tekniken för ansiktsspårning, förstå dess sårbarheter och investera mer i datakvalitet innebär . . .
- Egentligen fördelning av personalstyrkan mot roller som fokuserar på datakvalitet - även om det kräver att man tar utrymme från ingenjörsstyrkan.
- Tid och energi, och resurser till hitta dataspecialister. Om detta inte är möjligt är det fortfarande företagets uppgift att lägga ner tid, energi och resurser på att UTBILDA dataspecialister. Att klassificera ansiktsuttryck är mycket mer komplicerat än att klassificera enkla objekt som trafiksignaler och bör behandlas som sådant.
Text: Minska bias vid spårning av ansikten
Att erkänna utvecklingen av tekniken för ansiktsspårning, förstå dess sårbarheter och investera mer i datakvalitet innebär . . .
- Teknik, forskning och produkter ska inte bara tala om för data vad de behöver - utan lyssna. till vad datateamen behöver. Datagrupperna är de som har mest kunskap om det arbete bakom kulisserna som krävs för att algoritmerna ska fungera. DET ÄR HÄR MÅNGA FÖRETAG MISSLYCKAS.
- Kräva att anställda med databaserade roller regelbundet samarbetar med teknik-, forsknings- och produktteam.
Text: Minska bias vid spårning av ansikten
Att erkänna utvecklingen av tekniken för ansiktsspårning, förstå dess sårbarheter och investera mer i datakvalitet innebär . . .
- Utbilda de anställda om hur fördomar inom teknikbranschen ser ut.
- Att vidta rätt försiktighetsåtgärder för att standardisera och definiera märkning.
- Alltid överväga när och var fördomar kan förekomma.
- Vem är det som märker?
- Vad märker de?
- Vilka faktorer kan påverka deras märkning?
* humör * kultur * erfarenhet
Text: Minska bias vid spårning av ansikten
Att erkänna utvecklingen av tekniken för ansiktsspårning, förstå dess sårbarheter och investera mer i datakvalitet innebär . . .
SIDENOTE: SLUTA MÄRKA UTTRYCK FRÅN STATISKA BILDER.
- För att FACS och känslomärkning ska vara korrekt krävs det i stor utsträckning att man ser rörelser.
- Om rörelse betonades mer skulle statiska ansiktsdrag som hängande läpphörn och böjda nasolabiala rynkor vara mindre benägna att aktivera upptäckt av Läpphörnanpressare och Övre läpparna höjer sig. (respektive).
Text: Minska bias vid spårning av ansikten
Avslutande kommentarer . . .
Text: Minska bias vid spårning av ansikten
Ju mer vi tror på och förlitar oss på tekniken, ju mer förgreningar dessa fördomar kommer att ha.
Text: Minska bias vid spårning av ansikten
"... programvara för ansiktsigenkänning tolkar känslor olika beroende på personens ras. ...Detta resultat har konsekvenser för individer, organisationer och samhället och bidrar till den växande litteraturen om fördomar och/eller ojämlikhet i AI."
Rhue, Lauren, Rasistiskt inflytande på automatiserade uppfattningar av känslor (9 november 2018). Tillgänglig på SSRN: https://ssrn.com/abstract=3281765 eller . http://dx.doi.org/10.2139/ssrn.3281765
Text: Minska bias vid spårning av ansikten
Ta ansvar.
Lägg ner arbete på att minska fördomar.
Investera mer i data.
Text:
Som ett svar på förekomsten av FACS-referenser av låg kvalitet och felaktiga referenser, Jag har skapat en gratis "FACS Cheat Sheet". som en vägledning för konstnärer, forskare och ingenjörer. Den finns tillgänglig på min FACS-resurswebbplats, Ställ dig inför FACS. Jag är också öppen för konsulttjänster.
1 svar på ”Bias In Emotion Tracking”
Kommentarer är stängda.