Předpojatosti při sledování tváří a emocí
Zdá se, že se hlásíme k oblíbenému zjednodušení, že stroje jsou méně zaujaté než lidé; pokud však znáte způsoby, jakými jsou stroje trénovány ke čtení a zaměření na různé aspekty dat, víte to: Tak jednoduché to prostě není.
Stroje nejsou bez předpojatosti, pokud je trénují lidé.
Níže jsou uvedeny různé typy zkreslení, které se mohou vyskytnout při sledování obličeje a označování výrazů. Mnohé z těchto zkreslení lze omezit, proto jsem připojil i návrhy na zlepšení metod. Pokud pracujete na sledování obličeje a emocí jakéhokoli typu, je vaší povinností si těchto zkreslení být vědomi.
Prohlédněte si níže uvedené prezentace nebo video, na které je odkaz zde.: Video na YouTube
Text: Sledování mnoha tváří a emocí společnosti zkuste použít termín Paula Ekmana Systém kódování obličejových akcí (FACS)
- ale mnozí nevěnují čas tomu, aby je správně používali.
Text: Co se stane, když nepoužíváte systém FACS správně?
- nesprávná klasifikace výrazů
- nekonzistentní klasifikace výrazů
- předpojaté označování (rasové, kulturní, věkové atd.).
- anarchie
I při správném použití systému FACS se vždy vyskytne zkreslení a nekonzistence, ale pečlivými opatřeními lze tyto problémy výrazně omezit.
Text: nesprávná klasifikace výrazů
- Obličejové akce jsou jemné a bez intenzivního studia je obtížné je rozlišit.
- Většina odkazů na FACS (kromě původní příručka FACS) poskytují nesprávné vizualizace FACS - a to i zdroje považované za důvěryhodné.
- Navzdory těmto nepřesnostem jsou tyto zdroje často používány jako reference inženýry a výzkumníky zabývajícími se sledováním tváří.
- Protože technologické společnosti neinvestují dostatečně do rolí založených na datech, pravděpodobně nemají správné zaměstnance ani zdroje, které by umožnily rozlišovat důležité činnosti týkající se obličeje.
Text: nesprávná klasifikace výrazů
- Základní tvary jako "zpevňovač rtů" se pravidelně zaměňují s akcemi jako "lis na rty" a/nebo "rty nakrčit."
- Zpevňovač rtů je důležitý v: projevy emocí & produkce řeči
Text: nesprávná klasifikace výrazů
- Nahoře je skutečné vyobrazení utahovače rtů.
- Je to jen jeden z mnoha tvarů, které při každé návštěvě proletí pod radarem:
– chybně naučené – chybně klasifikované – zneužití
Text: Co se stane, když nepoužíváte FACS správně?
- nesprávná klasifikace výrazů
- nekonzistentní klasifikace výrazů
- předpojaté označování (rasové, kulturní, věkové atd.).
- anarchie
I při správném použití systému FACS se vždy vyskytne zkreslení a nekonzistence, ale pečlivými opatřeními lze tyto problémy výrazně omezit.
Text: nesprávná klasifikace výrazů
Stejné problémy spojené s nesprávnou klasifikací také přispívají k nejednotné klasifikaci.
Text: nekonzistentní klasifikace výrazů
Pokud technologické společnosti důkladně neinvestují do kvality dat, jejich pravidla pro klasifikaci dat nelze standardizovat.
Z důvodu:
- nedostatečné investice do náboru a/nebo školení zaměstnanců pro role založené na datech.
- nedostatek kvalitních zdrojů FACS
- přirozené potíže s rozlišováním činností obličeje
→ Etiketáři klasifikují výrazy nejednotně.
→ U stopařů se objevují podivné zvláštnosti, které na sebe navazují nesprávné výrazy a zároveň matou ostatní.
Text: nekonzistentní klasifikace výrazů
POZNÁMKA: Toto schéma bylo vytvořeno pro vysvětlení problémů s aktivací tvaru u avatarů, ale stejné základní koncepty platí i pro sledování obličeje a emocí.
Text: Co se stane, když nepoužíváte FACS správně?
- nesprávná klasifikace výrazů
- nekonzistentní klasifikace výrazů
- předpojaté označování (rasové, kulturní, věkové atd.).
- anarchie
I při správném použití systému FACS se vždy vyskytne zkreslení a nekonzistence, ale pečlivými opatřeními lze tyto problémy výrazně omezit.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Pokud jsou značky výrazů špatně definované a špatně pochopené, mohou malé chyby způsobit velké zkreslení.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Než se budeme zabývat zkresleními, která mohou existovat v technologii sledování obličeje, vezměme v úvahu již existující zkreslení v technologii identifikace rysů: rozpoznávání obličeje.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Pokud nedokážeme správně detekovat ani funkce, představte si, jak komplikované může být zkreslení při sledování výrazů. Sledování výrazu vyžaduje pochopení nejen rysů obličeje. Vyžaduje pochopení jemných pohybů obličeje.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Culture Shapes How We Look at Faces. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
- Lidé při pohledu na tváře získávají různé informace a při interpretaci emocí hledají různá vodítka.
- Kultura hluboce ovlivňuje to, co považujeme za cenné informace a vodítka.
Studie zjistily:
- Východní Asie účastníci se zaměřují na střed obličeje, okolí nosu, a přikládají větší význam očím a směru pohledu.
- Západní Kavkazan účastníci mají tendenci hledat výraz emocí v obočí a v oblasti úst.
- Tyto rozdíly v pozornosti vytvářejí zkreslení, když se účastníci dívají na tváře s protichůdnými výrazy.
Např. když jsou smutné oči s veselými ústy:
- Japonští účastníci přikládají větší význam emocím projeveným v očích
- Američtí účastníci se více zajímají o oblast úst.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D. a Caldara, R. (2008). Kultura utváří způsob, jakým se díváme na tváře. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022.
2. Elfenbein, H. A., & Ambady, N. (2003). Univerzálie a kulturní rozdíly v rozpoznávání emocí. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). Americko-japonské kulturní rozdíly v posuzování intenzity výrazu a subjektivního prožitku. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). Americko-japonské kulturní rozdíly v hodnocení intenzity výrazů emocí v obličeji. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Neverbální "přízvuky" kulturních rozdílů v obličejových projevech emocí. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). Jsou okna do duše stejná na Východě i na Západě? Kulturní rozdíly v používání očí a úst jako signálů k rozpoznávání emocí v Japonsku a Spojených státech. Journal of Experimental Social Psychology, 43(2), 303-311.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Nyní se zamyslete nad tím, co se děje při označování výrazů...
Text: předpojaté označování (rasové, kulturní, věkové atd.).
- Pokud depresor koutků rtů není správně pochopena, je pravděpodobnější, že štítkovači nesprávně zařadí jakýkoli tvar s pokleslými rohy rtů jako depresor koutků rtů. Tyto chybně klasifikované tvary jsou často způsobeny účinky zvedák brady – ale mohou obsahovat i něco horšího: neutrální tváře (tváře bez výrazu).
- Jedním z pravděpodobných důsledků této mylné představy je: nadměrná detekce depresor koutků rtů u lidí s pokleslými koutky rtů. Starší lidé mají často pokleslé koutky úst v důsledku dlouhodobého působení gravitace.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
- Z nesprávných postupů označování mohou být starší demografické skupiny vystaveny nadměrné detekci depresor koutků rtů.
- Klíčovou součástí smutku je depresor koutků rtů. Mohla by tato chyba vést k nadměrné detekci smutku u starších lidí?
- A co jiné skupiny, jejichž obličejové rysy se vyznačují pokleslými koutky rtů? Budou nesprávně interpretovány jako "smutné"?
Text: předpojaté označování (rasové, kulturní, věkové atd.).
- Může se zdát, že nesprávná detekce sledovacího zařízení není velký problém. depresor koutků rtů nebo smutek, ale: Co se stane, když se sledování obličeje používá k větším věcem, jako je hodnocení duševního zdraví nebo hodnocení potenciálních uchazečů o zaměstnání?
Text: předpojaté označování (rasové, kulturní, věkové atd.).
- Umělá inteligence nyní analyzuje výraz tváře uchazečů během videopohovoru - tuto technologii již využívají společnosti Unilever, IBM, Dunkin Donuts a mnoho dalších.
- Technologie rozpoznávání emocí nefunguje, ale i tak ji používají profesionálové a další: zpráva
- Umělá inteligence pro detekci emocí je odvětvím s obratem $20 miliard. Nový výzkum říká, že neumí to, co tvrdí.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Hovořili jsme o tom, že nesprávné označování může podněcovat předsudky vůči starší populaci. . . Ale co jiné předsudky vůči lidem s určitými rysy obličeje?
Text: předpojaté označování (rasové, kulturní, věkové atd.).
". ... programy pro rozpoznávání obličejů vykazují dva odlišné typy zkreslení.
Za prvé, černé tváře byly při každém úsměvu hodnoceny jako naštvanější než bílé tváře. Face++ vykazoval tento typ zkreslení. Druhý, černé tváře byly vždy hodnoceny jako naštvanější pokud se v jejich tváři objevily nějaké nejasnosti. Tento typ nesouladu se projevil u Face API. I když se černošské tváře částečně usmívají, moje analýza ukázala, že se systémy předpokládaly více negativních emocí ve srovnání se svými bílými protějšky s podobnými výrazy. Průměrné emoční skóre bylo u různých ras mnohem bližší, ale u černých a bílých tváří byly stále patrné rozdíly."
Pochopení skrytého zkreslení u umělé inteligence čtoucí emoce
-Lauren Rhue
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Jak by se to mohlo stát?
Zopakujme si, PROČ JE DŮLEŽITÉ VÍCE INVESTOVAT DO DAT.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Zvažte tvar FACS "zvedák horního rtu." Zvedák horního rtu je klíčovou součástí emocí, jako je znechucení, hněv, a pohrdání.
Mezi vlastnosti horního rtu patří:
- zvednutý horní ret
- zaoblená oblast horní nosoretní rýhy
(smích - viz foto)
POZNÁMKA: Kromě možných zkreslení při označování obličejových akcí existuje také značná kontroverze ohledně teorie základních emocí (např. základních emočních prototypů, jako je pohrdání, hněv atd.) obecně. Viz "Je to všechno v očích a jiné lži.“
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Někteří lidé mají větší zakřivení nosoretní rýhy.
Je to prostě výsledek jejich přirozené struktury obličeje.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Pracovník, který není řádně obeznámen se systémem kódování obličejových akcí, může snadno chybně označit osoby s křivkami nosoretní rýhy, které nejsou založeny na výrazu, jako osoby, které mají zvedák horního rtu.
Tyto nesprávné štítky zrodily sledovací zařízení vycvičené k identifikaci tváří s určitými strukturami jako vyjadřující zvedák horního rtu - i když jsou neutrální nebo se usmívají.
Získání "různorodého souboru dat" je irelevantní, pokud jsou vaše štítky nepřesné.
Takové školení vysvětluje zjištění Lauren Rhueové ze studie Pochopení skrytého zkreslení u umělé inteligence čtoucí emoce.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Přítomnost zkresleného označování emocí bude přetrvávat, i když se odkloníte od přístupu založeného na FACS a pokusíte se, aby označující klasifikovali emoce holisticky.
Text: předpojaté označování (rasové, kulturní, věkové atd.).
Pokud vám není jasné, proč je holistické označování emocí stejně pravděpodobné (ne-li více) - ZDE JE OSVĚŽUJÍCÍ INFORMACE:
- Lidé při pohledu na tváře získávají různé informace a při interpretaci emocí hledají různá vodítka.
- Kultura hluboce ovlivňuje to, co považujeme za cenné informace a vodítka.
Studie zjistily:
- Východní Asie účastníci se zaměřují na střed obličeje, okolí nosu, a přikládají větší význam očím a směru pohledu.
- Západní Kavkazan účastníci mají tendenci hledat výraz emocí v obočí a v oblasti úst.
- Tyto rozdíly v pozornosti vytvářejí zkreslení, když se účastníci dívají na tváře s protichůdnými výrazy.
Např. když jsou smutné oči s veselými ústy:
- Japonští účastníci přikládají větší význam emocím projeveným v očích
- Američtí účastníci se více zajímají o oblast úst.
Text: Co se stane, když nepoužíváte FACS správně?
- nesprávná klasifikace výrazů
- nekonzistentní klasifikace výrazů
- předpojaté označování (rasové, kulturní, věkové atd.).
- anarchie
I při správném použití systému FACS se vždy vyskytne zkreslení a nekonzistence, ale pečlivými opatřeními lze tyto problémy výrazně omezit.
Text: anarchie
Pokud . . .
- kultura ovlivňuje způsob, jakým interpretujeme projevy a emoce.
- podmínky prostředí ovlivňují to, na které znaky se díváme při hodnocení tváří.
- znalost obličejových akcí ovlivňuje způsob, jakým označujeme výrazy.
. . . Co mohou technologické společnosti udělat pro to, aby tyto chyby způsobené lidským faktorem omezily a zabránily jejich úniku? do algoritmů?
Text: Co mohou technologické společnosti udělat pro snížení zkreslení při sledování obličeje?
- Technologické společnosti si musí uvědomit, že sledování obličeje přesáhlo rámec inženýrství.
- Technologické společnosti musí akceptovat zranitelnost techniky vůči předsudkům a vzdělávat zaměstnance o těchto zranitelnostech.
- Technologické společnosti musí více investovat do kvality dat.
Text: Uvědomit si pokroky v technologii sledování obličeje, pochopit její zranitelnost a více investovat do kvality dat znamená . . .
- Vlastně přidělování počtu zaměstnanců směrem k pozicím zaměřeným na kvalitu dat - i když to vyžaduje uvolnění místa z inženýrských pozic.
- Vynaložení času, energie, a zdroje na vyhledat datové specialisty. Pokud to není možné, je stále úkolem společnosti věnovat čas, energii a prostředky na ŠKOLENÍ datových specialistů. Klasifikace výrazů obličeje je mnohem složitější než klasifikace základních objektů, jako jsou dopravní značky, a mělo by se k ní tak přistupovat.
Text: Omezení zkreslení při sledování obličeje
Uvědomit si pokroky v technologii sledování obličeje, pochopit její zranitelnost a více investovat do kvality dat znamená . . .
- Inženýrství, výzkum a produkty by neměly pouze sdělovat, co potřebují, ale měly by naslouchat. na to, co datové týmy potřebují. Datové týmy jsou nejlépe obeznámeny se zákulisní prací potřebnou pro fungování algoritmů. ZDE MNOHO SPOLEČNOSTÍ SELHÁVÁ.
- Požadovat, aby zaměstnanci, jejichž role jsou založeny na datech, pravidelně spolupracovali s technickými, výzkumnými a produktovými týmy.
Text: Omezení zkreslení při sledování obličeje
Uvědomit si pokroky v technologii sledování obličeje, pochopit její zranitelnost a více investovat do kvality dat znamená . . .
- Vzdělávání zaměstnanců o realitě předsudků v oblasti technologií.
- Přijímání správných opatření standardizovat a definovat označování.
- Vždy zvažovat, kdy a kde se může objevit předpojatost.
- Kdo označuje?
- Co označují?
- Jaké faktory mohou ovlivnit jejich označování?
* nálada * kultura * zkušenosti
Text: Omezení zkreslení při sledování obličeje
Uvědomit si pokroky v technologii sledování obličeje, pochopit její zranitelnost a více investovat do kvality dat znamená . . .
POZNÁMKA: PŘESTAT OZNAČOVAT VÝRAZY ZE STATICKÝCH OBRÁZKŮ.
- Přesné označení FACS a emocí je do značné míry podmíněno viděním pohybu.
- Pokud by se více zdůrazňoval pohyb, statické rysy obličeje, jako jsou svěšené koutky rtů a zakřivená nosoretní rýha, by s menší pravděpodobností aktivovaly detekci. depresor koutků rtů a zvedák horního rtu (v tomto pořadí).
Text: Omezení zkreslení při sledování obličeje
Závěrečné poznámky . . .
Text: Omezení zkreslení při sledování obličeje
Čím více věříme technologiím a spoléháme na ně, tím více důsledků budou tyto předsudky mít.
Text: Omezení zkreslení při sledování obličeje
"... software pro rozpoznávání obličejů interpretuje emoce odlišně v závislosti na rase člověka. ... Toto zjištění má důsledky pro jednotlivce, organizace a společnost a přispívá k rostoucímu počtu literárních údajů o předpojatosti a/nebo rozdílném dopadu v umělé inteligenci."
Rhue, Lauren, Rasový vliv na automatizované vnímání emocí (9. listopadu 2018). Dostupné na SSRN: https://ssrn.com/abstract=3281765 nebo http://dx.doi.org/10.2139/ssrn.3281765
Text: Omezení zkreslení při sledování obličeje
Převezměte odpovědnost.
Věnujte práci na snížení zkreslení.
Více investujte do dat.
Text:
V reakci na výskyt nekvalitních a nepřesných referencí FACS, Vytvořil jsem bezplatný "FACS Cheat Sheet". sloužit jako příručka pro umělce, výzkumníky a inženýry. Je k dispozici na mých stránkách se zdroji FACS, Tváří v tvář systému FACS. Jsem také otevřený pro konzultace.
1 komentář u „Bias In Emotion Tracking“
Komentáře nejsou povoleny.