Пристрасности у праћењу лица и емоција
Чини се да пристајемо на популарно преупрошћавање да су машине мање пристрасне од људи; међутим, ако сте упознати са начинима на које се машине обучавају да читају и фокусирају на различите аспекте података, знаћете: то једноставно није тако једноставно.
Машине нису слободне од пристрасности ако их обучавају људи.
У наставку је представљено неколико различитих типова пристрасности које се могу јавити при праћењу лица и означавању израза. Многе од ових пристрасности могу се смањити, па сам такође укључио предлоге за унапређене методе. Ако радите на праћењу лица и емоција било које врсте, ваша је одговорност да будете свесни ових пристрасности.
Погледајте слајдове испод ИЛИ видео који је овде повезан: Јутјуб видео
Текст: Многи софтвери за праћење лица и емоција компаније пробај да користи Пола Екмана Систем за кодирање покрета лица (ФАКС)
– али многи не одвоје време да га правилно користе.
Текст: Шта се дешава када не користите FACS како треба?
- погрешна класификација израза
- недоследна класификација израза
- пристрасно означавање (расно, културно, везано за узраст итд.)
- анархија
Чак и ако FACS правилно примењујете, увек ће постојати пристрасност и недоследност – али предузимањем пажљивих мера ови проблеми могу бити значајно смањени.
Текст: погрешна класификација израза
- Мимичке радње су суптилне и тешко их је разликовати без интензивног проучавања.
- Већина FACS референци (изузев оригинални FACS приручник) пружа нетачне FACS визуелне приказе – чак и извори који се сматрају поузданим.
- Упркос овим нетачностима, такви извори се често користе као референце од стране инжењера и истраживача за праћење лица.
- Пошто технолошке компаније не улажу довољно у улоге засноване на подацима, вероватно немају одговарајуће особље или ресурсе да разликују важне покрете лица.
Текст: погрешна класификација израза
- Основни облици као што су “стезач за усне”редовно се мешају са радњама као што су“притискувач усана” и/или “усна склупцање.”
- Утезнивач за усне је важно у: изрази емоција и изговор
Текст: погрешна класификација израза
- Горе је истинита репрезентација средстава за затезање усна.
- Ово је само један од многих облика који пролазе испод радара сваки пут када су:
– погрешно научен – погрешно класификовано – злоупотребљен
Текст: Шта се дешава када не користите FACS како треба?
- погрешна класификација израза
- недоследна класификација израза
- пристрасно означавање (расно, културно, везано за узраст итд.)
- анархија
Чак и ако FACS правилно примењујете, увек ће постојати пристрасност и недоследност – али предузимањем пажљивих мера ови проблеми могу бити значајно смањени.
Текст: погрешна класификација израза
Исти проблеми у вези са нетачном класификацијом такође доприносе недоследној класификацији.
Текст: недоследна класификација израза
Ако технолошке компаније не уложе довољно у квалитет података, њихова правила за класификацију података не могу бити стандардизована.
Због:
- недостатак улагања у запошљавање и/или обуку запослених за улоге засноване на подацима
- недостатак квалитетних FACS ресурса
- урођена тешкоћа у разликовању покрета лица
→ Означивачи неконзистентно класификују изразе.
→ Тракери развијају чудне манире, повезујући нетачне изразе међусобно и збуњујући друге.
Текст: недоследна класификација израза
НАПОМЕНА: Овај дијаграм је направљен да објасни проблеме у активирању облика за аватаре, али се исти основни концепти примењују и на праћење лица и емоција.
Текст: Шта се дешава када не користите FACS како треба?
- погрешна класификација израза
- недоследна класификација израза
- пристрасно означавање (расно, културно, везано за узраст итд.)
- анархија
Чак и ако FACS правилно примењујете, увек ће постојати пристрасност и недоследност – али предузимањем пажљивих мера ови проблеми могу бити значајно смањени.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Када су етикете израза лоше дефинисане и слабо разумете, мале грешке могу створити велике пристрасности.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Пре него што пређете на пристрасности које могу постојати у технологији праћења лица, размотрите већ постојеће пристрасности у технологији идентификације особина: препознавање лица.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Ако чак не можемо исправно да детектовамо карактеристике, замислите колико може бити компликована пристрасност у праћењу израза. Праћење израза захтева разумевање које превазилази само црте лица. Оно захтева разумевање суптилних покрета лица.
-
Блејс, Каролин и Џек, Рејчел и Шиперс, Кристоф и Фисе, Данијел и Калдара, Роберто. Култура обликује начин на који гледамо лица. (2008). PLoS One. 3. e3022. 10.1371/journal.pone.0003022.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
- Људи извлаче информације на различите начине када посматрају лица и траже различите трагове када тумаче емоције.
- Култура дубоко утиче на то шта сматрамо вредним информацијама и траговима.
Истраживања су показала:
- Источна азијска учесници Обично се фокусирају на средину лица, око носа, дајући већу важност очима и правцу погледа.
- Западнокавказки Учесници обично траже изразе емоција на обрвама и у пределу уста.
- Ове разлике у пажњи стварају пристрасности када учесници гледају лица са супротстављеним изразима.
нпр. Када су тужне очи са срећним устима:
– Јапански учесници придају већу важност емоцији исказаној у очима
– Амерички учесници више брину о подручју уста.
1. Блејс, К., Џек, Р. Е., Шеперс, К., Фисет, Д. и Калдара, Р. (2008). Култура обликује начин на који гледамо лица. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022
2. Елфенбајн, Х. А., и Амбади, Н. (2003). Универзални елементи и културне разлике у препознавању емоција. Савремене тенденције у психолошкој науци, 12(5), 159-164.
3. Мацумото, Д., Касри, Ф. и Кукен, К. (1999). Американско-јапанске културне разлике у процењивању интензитета изражавања и субјективног искуства. Cognition & Emotion, 13(2), 201-218.
4. Мацумото, Д. и Екман, П. (1989). Америчко-јапанске културне разлике у оцењивању интензитета израза емоција на лицу. Motivation and Emotion, 13(2), 143-157.
5. Марш, А. А., Елфенбеин, Х. А. и Амбади, Н. (2003). Невербални “акценти” културних разлика у изразима емоција на лицу. Psychological Science, 14(4), 373-376.
6. Јуки, М., Маддукс, В. В. и Масуда, Т. (2007). Да ли су прозори душе исти на Истоку и на Западу? Културне разлике у коришћењу очију и уста као сигнала за препознавање емоција у Јапану и Сједињеним Америчким Државама. Часопис за експерименталну друштвену психологију, 43(2), 303-311.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Сада размотрите шта све обухвата етикетирање израза . . .
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
- Ако притискач угла усне Ако се не разуме исправно, они који етикетирају су склонији да неправилно класификују. било који облик са спуштеним угловима усана као притискач угла усне. Ови погрешно класификовани облици често су узроковани ефектима подизач браде – али они такође могу да укључе нешто горе: неутрална лица (лица без израза).
- Један вероватан исход ове заблуде је: прекомерно откривање притискач угла усне код људи са спуштеним угловима усна Често старији имају спуштене углове уста због дугорочних ефеката гравитације.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
- Због неправилних пракси означавања, старије демографске групе могу бити изложене прекомерном откривању притискач угла усне.
- Депресор угла усне је кључна компонента туге. Да ли би ова грешка могла довести до прекомерног откривања туге код старијих демографских група?
- А шта је са другим групама чије су црте лица карактерисане спуштеним угловима усана? Да ли ће они бити погрешно протумачени као “тужни”?
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
- Можда се не чини као велика ствар да трагач погрешно открије притискач угла усне или туга, али: Шта се дешава када се праћење лица користи за веће ствари, као што су процене менталног здравља или оцењивање потенцијалних кандидата за посао?
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
- Вештачка интелигенција сада анализира изразе лица кандидата током видео интервјуа за посао – Unilever, IBM, Dunkin Donuts и многи други већ користе ову технологију
- Технологија за препознавање емоција не функционише, али је ипак користе други: извештај
- ‘Вештачка интелигенција за детекцију емоција’ је индустрија вредна 1ТП4Т20 милијарди. Нова истраживања показују да она не може да уради оно што тврди.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Разговарали смо о томе како неправилно означавање може изазвати предрасуде према старијем становништву . . . А шта је са другим предрасудама према људима са одређеним цртама лица?
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
“... програми за препознавање лица показују два различита типа пристрасности.".
Прво, Црни ликови су за сваки осмех доследно оцењивани као љутији од белих ликова. Face++ је показао ову врсту пристрасности. Друго, Црни ликови су увек оцењивани као љутији ако је постојала било каква неизвесност у погледу њиховог израза лица. Face API је показао овакву разлику. Чак и ако су црна лица делимично насмејана, моја анализа је показала да Системи су додељивали више негативних емоција у поређењу са својим белим колегама са сличним изразима. Просечне емоционалне оцене биле су много ближе међу расама, али су и даље постојале уочљиве разлике за црне и беле ликове.”
Разумевање скривене пристрасности у АИ за читање емоција
-Лорен Ру
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Како да ли би се ово могло догодити?
Хајде да поново размотримо зашто је важно више улагати у податке.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Размотрите облик FACS “подизач горње усне.” Подизач горње усне је кључна компонента емоција као што су гнушање, љутиња, и презир.
Карактеристике дизача горње усне укључују:
- подигнута горња усна
- заобљена област горњег назолабијалног жлеба
(линија смеха – погледајте фотографију)
НАПОМЕНАПоред потенцијалних пристрасности у означавању покрета лица, такође постоји значајна контроверзија у вези са Теоријом основних емоција (нпр. прототипи основних емоција као што су презир, бес итд.) уопште. Види “Све је у очима и друге лажи.“
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Неки људи имају израженију контуру у назолабијалном набору.
Ово је једноставно производ њихове природне структуре лица.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Означивач који није довољно упознат са Системом кодирања фацијалних акција може лако погрешно означити људе са назолабијалним браздама које нису засноване на изразима лица као да имају подизач горње усне.
Ове нетачне етикете рађају трагача обученог да препознаје лица са одређеним структурама као изражавајућа подизач горње усне – чак и када су неутрални или се смеше.
Набавка “разноврсног сета података” је небитна ако су ваше етикете нетачне.
Таква обука објашњава налазе Лорен Руе из Разумевање скривене пристрасности у АИ за читање емоција.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Присуство пристрасног означавања емоција ће опстати чак и ако се удаљите од FACS-основаног приступа и покушате да натерате означаваче да емоције класификују холистички.
Текст: пристрасно означавање (расно, културно, везано за узраст итд.)
Уколико није јасно зашто холистичко означавање емоција има подједнако велику вероватноћу неуспеха (ако не и већу) – Ево освежавања:
- Људи извлаче информације на различите начине када посматрају лица и траже различите трагове када тумаче емоције.
- Култура дубоко утиче на то шта сматрамо вредним информацијама и траговима.
Истраживања су показала:
- Источна азијска учесници имају тенденцију да се фокусирају на средину лица, око носа, придајући већу важност очима и правцу погледа.
- Западнокавказки Учесници обично траже изразе емоција на обрвама и у пределу уста.
- Ове разлике у пажњи стварају пристрасности када учесници гледају лица са супротстављеним изразима.
нпр. Када су тужне очи са срећним устима:
– Јапански учесници придају већу важност емоцији исказаној у очима
– Амерички учесници више брину о подручју уста.
Текст: Шта се дешава када не користите FACS како треба?
- погрешна класификација израза
- недоследна класификација израза
- пристрасно означавање (расно, културно, везано за узраст итд.)
- анархија
Чак и ако FACS правилно примењујете, увек ће постојати пристрасност и недоследност – али предузимањем пажљивих мера ови проблеми могу бити значајно смањени.
Текст: анархија
Ако . . .
- Култура утиче на то како тумачимо изразе и емоције.
- Услови окружења утичу на то које трагове посматрамо при процењивању лица
- Знање о покретима лица утиче на то како називамо изразе
. . . Шта технолошке компаније могу учинити да смање ове људске грешке и спрече њихово цурење у алгоритме?
Текст: Шта технолошке компаније могу учинити да смање пристрасности у праћењу лица?
- Технолошке компаније морају да схвате да Праћење лица је прерасло оквире инжењеринга.
- Технолошке компаније морају Признати технолошку рањивост на пристрасност и едуковати запослене о тим рањивостима.
- Технолошке компаније морају Улажите више у квалитет података.
Текст: Препознавање напретка технологије праћења лица, разумевање њених рањивости и улагање више у квалитет података значи . . .
- Заправо распоређивање броја запослених ка улогама усмереним на квалитет података – чак и ако то захтева узимање простора од инжењерског особља.
- Трошење времена, енергије, и ресурси да пронађите стручњаке за податке. Ако ово није могуће, и даље је посао компаније да уложи време, енергију и ресурсе у обуку стручњака за податке. Класификација израза лица је много компликованија од класификације основних објеката као што су саобраћајни сигнали и треба је третирати као такву.
Текст: Смањење пристрасности у праћењу лица
Препознавање напретка технологије праћења лица, разумевање њених рањивости и улагање више у квалитет података значи . . .
- Инжењеринг, истраживање и производ не би требало само да говорима подацима шта им је потребно – већ да слушају. на оно што тимови за податке требају. Тимови за податке најбоље познају рад у позадини потребан за функционисање алгоритама. Овде многе компаније доживљавају неуспех.
- Захтевати од запослених на улогама заснованим на подацима да редовно сарађују са инжењерским, истраживачким и тимовима за развој производа.
Текст: Смањење пристрасности у праћењу лица
Препознавање напретка технологије праћења лица, разумевање њених рањивости и улагање више у квалитет података значи . . .
- Едукација запослених о стварности пристрасности у технологији.
- Предузимање одговарајућих мера предострожности Стандартизовати и дефинисати означавање.
- Увек узимајући у обзир када и где може настати пристрасност.
– Ко лепи етикете?
– Шта они етикетирају?
– Који фактори могу утицати на њихово означавање?
* расположење * култура * искуство
Текст: Смањење пристрасности у праћењу лица
Препознавање напретка технологије праћења лица, разумевање њених рањивости и улагање више у квалитет података значи . . .
Узгредна белешка: Престаните да означавате изразе са статичких слика.
- Прецизно FACS и етикетирање емоција углавном зависе од посматрања покрета.
- Ако би се више наглашавало кретање, статичке карактеристике лица као што су спуштени углови усна, и извијена назолабијална бора мање би вероватно активирале детекцију притискач угла усне и подизач горње усне (одговарајуће).
Текст: Смањење пристрасности у праћењу лица
Завршне белешке . . .
Текст: Смањење пристрасности у праћењу лица
Што више верујемо у технологију и ослањамо се на њу, Што више последица ће ти пристрасности имати.
Текст: Смањење пристрасности у праћењу лица
“… софтвер за препознавање лица тумачи емоције другачије у зависности од расе особе. … Ово откриће има импликације за појединце, организације и друштво и доприноси растућој литератури о пристрасности и/или неједнаком утицају у вештачкој интелигенцији.”
Рху, Лорен, Расни утицај на аутоматске перцепције емоција (9. новембар 2018). Доступно на SSRN: https://ssrn.com/abstract=3281765 или http://dx.doi.org/10.2139/ssrn.3281765
Текст: Смањење пристрасности у праћењу лица
Преузмите одговорност.
Уложите труд да смањите пристрасност.
Уложите више у податке.
Текст:
Као одговор на распрострањеност нискоквалитетних и нетачних FACS референци, Направио сам бесплатан “FACS чеат-лист”.” да служи као водич за уметнике, истраживаче и инжењере. Доступно је на мом FACS ресурс сајту, Суочите се са FACS-ом. Такође сам отворен за консултантске услуге.
Мишљење 1ТП1Т о “1ТП2Т”
Коментари су затворени.