Ennakkoluulot kasvojen ja tunteiden seurannassa
Vaikuttaa siltä, että me olemme samaa mieltä siitä yleisestä yksinkertaistuksesta, että koneet ovat vähemmän puolueellisia kuin ihmiset. Jos kuitenkin tunnet tavat, joilla koneita koulutetaan lukemaan ja keskittymään tietojen eri näkökohtiin, tiedät sen: Se ei ole niin yksinkertaista.
Koneet eivät ole puolueettomia, jos ihmiset kouluttavat niitä.
Seuraavassa esitellään erityyppisiä harhoja, joita voi esiintyä kasvojen seurannassa ja ilmeiden merkitsemisessä. Monia näistä vääristymistä voidaan vähentää, joten olen myös esittänyt ehdotuksia parannetuista menetelmistä. Jos työskentelet minkä tahansa kasvojen ja tunteiden seurannan parissa, on sinun vastuullasi olla tietoinen näistä ennakkoluuloista.
Katso alla olevat diat TAI tästä linkitetty video.: YouTube-video
Teksti: Monet kasvojen ja tunteiden seuranta yritykset kokeile käyttää Paul Ekmanin Kasvojen toiminnan koodausjärjestelmä (FACS)
- mutta monet eivät käytä sitä oikein.
Teksti: Mitä tapahtuu, kun FACS:ää ei käytetä oikein?
- virheellinen ilmaisun luokittelu
- epäjohdonmukainen ilmaisun luokittelu
- ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- anarkia
Vaikka FACS-järjestelmää käytettäisiinkin oikein, siinä esiintyy aina harhaa ja epäjohdonmukaisuutta - mutta huolellisilla toimenpiteillä näitä ongelmia voidaan vähentää merkittävästi.
Teksti: virheellinen ilmaisun luokittelu
- Kasvojen toiminta on hienovaraista ja sitä on vaikea erottaa toisistaan ilman intensiivistä tutkimusta.
- Useimmat FACS-viitteet (pois lukien alkuperäinen FACS-käsikirja) tarjoavat virheellisiä FACS-visuaalisia tietoja - jopa uskottavina pidetyistä lähteistä.
- Näistä epätarkkuuksista huolimatta kasvojenseuranta-insinöörit ja tutkijat käyttävät näitä lähteitä usein referenssinä.
- Koska teknologiayritykset eivät investoi riittävästi dataan perustuviin rooleihin, niillä ei todennäköisesti ole oikeaa henkilöstöä tai resursseja erottaa tärkeitä kasvotoimia.
Teksti: virheellinen ilmaisun luokittelu
- Perusmuodot kuten "huulten kiristin" sekoitetaan säännöllisesti sellaisiin toimiin kuin "huulten painaja" ja/tai "huuli nyrpistää."
- Huulten kiristin on tärkeä: tunteiden ilmaisut & puheen tuottaminen
Teksti: virheellinen ilmaisun luokittelu
- Yllä on todellinen esitys huultenkiristimestä.
- Tämä on vain yksi monista muodoista, jotka jäävät aina tutkan alle:
– virheopetus – väärin luokiteltu – väärin käytetty
Teksti: Mitä tapahtuu, kun FACS:ää ei käytetä oikein?
- virheellinen ilmaisun luokittelu
- epäjohdonmukainen ilmaisun luokittelu
- ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- anarkia
Vaikka FACS-järjestelmää käytettäisiinkin oikein, siinä esiintyy aina harhaa ja epäjohdonmukaisuutta - mutta huolellisilla toimenpiteillä näitä ongelmia voidaan vähentää merkittävästi.
Teksti: virheellinen ilmaisun luokittelu
Samat virheelliseen luokitteluun liittyvät kysymykset vaikuttavat myös epäjohdonmukaiseen luokitteluun.
Teksti: epäjohdonmukainen ilmaisun luokittelu
Jos teknologiayritykset eivät investoi perusteellisesti tietojen laatuun, niiden tietojen luokittelusääntöjä ei voida standardoida.
Johtuen:
- investointien puute työntekijöiden palkkaamiseen ja/tai kouluttamiseen tietopohjaisiin tehtäviin.
- laadukkaiden FACS-resurssien puute
- luontainen vaikeus erottaa kasvojen toimintaa toisistaan.
→ Merkitsijät luokittelevat ilmaisuja epäjohdonmukaisesti.
→ Seurantahenkilöt kehittävät outoja omituisuuksia, sitovat virheellisiä ilmaisuja toisiinsa ja hämmentävät samalla muita.
Teksti: epäjohdonmukainen ilmaisun luokittelu
HUOM: Tämä kaavio on tehty selittämään avatareiden muotoaktivointiin liittyviä ongelmia, mutta samat peruskäsitteet pätevät myös kasvojen ja tunteiden seurantaan.
Teksti: Mitä tapahtuu, kun FACS:ää ei käytetä oikein?
- virheellinen ilmaisun luokittelu
- epäjohdonmukainen ilmaisun luokittelu
- ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- anarkia
Vaikka FACS-järjestelmää käytettäisiinkin oikein, siinä esiintyy aina harhaa ja epäjohdonmukaisuutta - mutta huolellisilla toimenpiteillä näitä ongelmia voidaan vähentää merkittävästi.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Kun ilmaisumerkinnät ovat huonosti määriteltyjä ja huonosti ymmärrettyjä, pienet virheet voivat aiheuttaa suuria ennakkoluuloja.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Ennen kuin käsittelemme kasvojen seurantatekniikassa esiintyviä vääristymiä, tarkastellaan jo olemassa olevia vääristymiä piirteiden tunnistustekniikassa: kasvontunnistuksessa.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Jos emme saa edes piirteiden tunnistamista toimimaan oikein, voit kuvitella, miten monimutkaista vinouma voi olla ilmeiden seurannassa. Ilmeen seuranta vaatii muutakin ymmärrystä kuin kasvonpiirteitä. Se edellyttää kasvojen hienovaraisen liikkeen ymmärtämistä.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Culture Shapes How We Look at Faces. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- Ihmiset poimivat tietoa eri tavoin katsellessaan kasvoja ja etsivät erilaisia vihjeitä tunteita tulkittaessa.
- Kulttuuri vaikuttaa syvästi siihen, mitä pidämme arvokkaana tietona ja vihjeenä.
Tutkimuksissa on todettu:
- Itä-Aasia osallistujat keskittyvät yleensä kasvojen keskiosaan, nenän ympärille, ja antavat enemmän painoarvoa silmille ja katseen suunnalle.
- Länsi-Kaukasialainen osallistujilla on taipumus etsiä tunteenilmaisuja kulmakarvoista ja suun alueelta.
- Nämä erot huomiossa aiheuttavat ennakkoluuloja, kun osallistujat katsovat kasvoja, joilla on ristiriitaisia ilmeitä.
Esim. kun on surulliset silmät ja iloinen suu:
- Japanilaiset osallistujat antavat enemmän painoarvoa silmissä näkyville tunteille
- Amerikkalaiset osallistujat välittävät enemmän suun alueesta.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D. ja Caldara, R. (2008). Kulttuuri muokkaa sitä, miten katsomme kasvoja. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022.
2. Elfenbein, H. A., & Ambady, N. (2003). Tunteiden tunnistamisen universaalit ja kulttuurierot. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). Amerikkalais-japanilaiset kulttuurierot ilmaisun voimakkuuden ja subjektiivisen kokemuksen arvioinnissa. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). Amerikkalais-japanilaiset kulttuurierot kasvojen tunneilmaisujen intensiteettiluokituksissa. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Epäverbaaliset "aksentit" kulttuurierot kasvojen tunneilmaisuissa. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). Ovatko sielun ikkunat samat idässä ja lännessä? Kulttuurierot silmien ja suun käyttämisessä vihjeenä tunteiden tunnistamisessa Japanissa ja Yhdysvalloissa. Journal of Experimental Social Psychology, 43(2), 303-311.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Mieti nyt, mitä ilmaisun merkitsemiseen liittyy . . . .
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- Jos huulten kulman puristin ei ymmärretä oikein, merkitsijät luokittelevat todennäköisemmin väärin. kaikki muoto, jossa huulten kulmat roikkuvat huulten kulman puristin. Nämä väärinluokitellut muodot johtuvat usein seuraavien tekijöiden vaikutuksista leuan kohottaja – mutta ne voivat sisältää myös jotain pahempaa: neutraalit kasvot (kasvot, joilla ei ole ilmeitä).
- Yksi tämän väärinkäsityksen todennäköinen seuraus on: liiallinen havaitseminen huulten kulman puristin ihmisillä, joilla on roikkuvat huulten kulmat. Usein ikääntyneillä ihmisillä suun kulmat roikkuvat painovoiman pitkäaikaisista vaikutuksista johtuen.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- Epäasianmukaisten merkintäkäytäntöjen vuoksi vanhemmat väestöryhmät saattavat altistua liialliselle havaitsemiselle. huulten kulman puristin.
- Huulten kulmahuuhtelu on keskeinen osa surua. Voisiko tämä virhe johtaa siihen, että ikääntyneiden väestöryhmien surullisuus havaitaan liikaa?
- Entä muut ryhmät, joiden kasvonpiirteille on ominaista huulten kulmien roikkuminen? Tulkitaanko ne virheellisesti "surullisiksi"?
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- Se ei ehkä tunnu suurelta asialta, jos jäljitin havaitsee virheellisesti - huulten kulman puristin tai suru, mutta: Mitä tapahtuu, kun kasvojen seurantaa käytetään suurempiin asioihin, kuten mielenterveysarviointeihin tai mahdollisten työnhakijoiden arviointiin?
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- Tekoäly analysoi nyt ehdokkaiden kasvojen ilmeitä videohaastattelujen aikana - Unilever, IBM, Dunkin Donuts ja monet muut käyttävät jo tätä teknologiaa
- Tunteiden tunnistusteknologia ei toimi, mutta palkkaavat ammattilaiset ja muut käyttävät sitä silti: raportti
- Tunteiden havaitseminen on $20 miljardin euron suuruinen teollisuudenala. Uuden tutkimuksen mukaan se ei pysty tekemään sitä, mitä väitetään.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Puhuimme siitä, miten epäasianmukainen merkintä voi lietsoa ennakkoluuloja ikääntyneitä kohtaan. . . Mutta entä muut ennakkoluulot tiettyjä kasvonpiirteitä omaavia ihmisiä kohtaan?
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
". ...kasvojentunnistusohjelmissa on kaksi erilaista harhaa.
Ensimmäinen, mustat kasvot arvioitiin jatkuvasti vihaisemmiksi kuin valkoiset kasvot jokaisen hymyn kohdalla. Face++ osoitti tämäntyyppistä puolueellisuutta. Toinen, mustat kasvot arvioitiin aina vihaisemmiksi jos heidän ilmeensä oli epäselvä. Face API näytti tämäntyyppistä epäyhtenäisyyttä. Vaikka mustat kasvot ovat osittain hymyileviä, analyysini osoitti, että järjestelmissä oletettiin enemmän negatiivisia tunteita kuin valkoihoisilla kollegoilla, joilla oli samanlaiset ilmeet. Keskimääräiset tunnepisteet olivat paljon lähempänä eri rotujen välillä, mutta mustien ja valkoisten kasvojen välillä oli silti huomattavia eroja."
Tunteita lukevien tekoälyjen piilotetun ennakkoluulon ymmärtäminen
-Lauren Rhue
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Miten voiko näin tapahtua?
Käydään vielä kerran läpi, miksi on tärkeää investoida enemmän dataan.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Harkitse FACS-muotoa "huulen kohottaja." Ylähuulen kohottaja on keskeinen osa tunteita, kuten inho, viha, ja halveksunta.
Ylähuulen kohottajan ominaisuuksiin kuuluvat:
- kohonnut ylähuuli
- pyöristynyt ylempi nasolabiaalinen uurrealue
(naurunremakka - katso kuva)
HUOMAUTUS: Mahdollisten kasvojen toimintojen merkitsemiseen liittyvien vinoumien lisäksi myös perustunteiden teoriasta (esim. perustunteiden prototyypeistä, kuten halveksunta, viha jne.) on yleisesti ottaen huomattavia kiistoja. Katso "'Kaikki on silmissä' ja muita valheita.“
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Joillakin ihmisillä nasolabiaalinen uurre on kaarevampi.
Tämä johtuu yksinkertaisesti heidän luonnostaan johtuvasta kasvojen rakenteesta.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Merkitsijä, joka ei ole perehtynyt kunnolla Facial Action Coding System -järjestelmään, voi helposti merkitä virheellisesti ihmiset, joilla ei ole ilmeisiin perustuvia nasolabiaalin uurteen käyristymiä, sellaisiksi, joilla on - - - - - - - - - - - - - - - - - - -. huulen kohottaja.
Nämä virheelliset merkinnät synnyttävät jäljittäjän, joka on koulutettu tunnistamaan kasvot, joilla on tietyt rakenteet, ilmaiseviksi. huulen kohottaja - jopa silloin, kun he ovat neutraaleja tai hymyilevät.
"Monipuolisen aineiston" hankkimisella ei ole merkitystä, jos merkinnät ovat epätarkkoja.
Tällainen koulutus selittää Lauren Rhuen havainnot, jotka hän teki Tunteita lukevien tekoälyjen piilotetun ennakkoluulon ymmärtäminen.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Tunteiden puolueellinen luokittelu jatkuu, vaikka siirrytäänkin pois FACS-pohjaisesta lähestymistavasta ja yritetään saada luokittelijat luokittelemaan tunteet kokonaisvaltaisesti.
Teksti: ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
Jos ei ole selvää, miksi kokonaisvaltainen tunnemerkintä epäonnistuu yhtä todennäköisesti (ellei jopa enemmän) - TÄSSÄ ON MUISTUTUSTA:
- Ihmiset poimivat tietoa eri tavoin katsellessaan kasvoja ja etsivät erilaisia vihjeitä tunteita tulkittaessa.
- Kulttuuri vaikuttaa syvästi siihen, mitä pidämme arvokkaana tietona ja vihjeenä.
Tutkimuksissa on todettu:
- Itä-Aasia osallistujilla on taipumus keskittyä kasvojen keskiosaan, nenän ympärille, ja antaa enemmän painoarvoa silmille ja katseen suunnalle.
- Länsi-Kaukasialainen osallistujilla on taipumus etsiä tunteenilmaisuja kulmakarvoista ja suun alueelta.
- Nämä erot huomiossa aiheuttavat ennakkoluuloja, kun osallistujat katsovat kasvoja, joilla on ristiriitaisia ilmeitä.
Esim. kun on surulliset silmät ja iloinen suu:
- Japanilaiset osallistujat antavat enemmän painoarvoa silmissä näkyville tunteille
- Amerikkalaiset osallistujat välittävät enemmän suun alueesta.
Teksti: Mitä tapahtuu, kun FACS:ää ei käytetä oikein?
- virheellinen ilmaisun luokittelu
- epäjohdonmukainen ilmaisun luokittelu
- ennakkoluuloinen leimaaminen (rotuun, kulttuuriin, ikään jne. liittyvä).
- anarkia
Vaikka FACS-järjestelmää käytettäisiinkin oikein, siinä esiintyy aina harhaa ja epäjohdonmukaisuutta - mutta huolellisilla toimenpiteillä näitä ongelmia voidaan vähentää merkittävästi.
Teksti: anarkia
Jos . . .
- kulttuuri vaikuttaa siihen, miten tulkitsemme ilmaisuja ja tunteita.
- Ympäristöolosuhteet vaikuttavat siihen, mitä vihjeitä tarkastelemme kasvojen arvioinnissa.
- tieto kasvojen toiminnasta vaikuttaa siihen, miten merkitsemme ilmeet.
. . . Mitä teknologiayritykset voivat tehdä vähentääkseen näitä inhimillisiä virheitä ja estääkseen niiden vuotamisen? algoritmeihin?
Teksti: Mitä teknologiayritykset voivat tehdä vähentääkseen ennakkoluuloja kasvojen seurannassa?
- Teknologiayritysten on tunnustettava, että kasvojen seuranta on edennyt teknisen kehityksen ulkopuolelle.
- Teknologiayritysten on hyväksyä tekniikan haavoittuvuus ennakkoluuloille ja kouluttaa työntekijöitä näistä haavoittuvuuksista.
- Teknologiayritysten on investoida enemmän tietojen laatuun.
Teksti: Kasvojenseurantateknologian kehittymisen tunnistaminen, sen haavoittuvuuksien ymmärtäminen ja tietojen laatuun panostaminen tarkoittaa . . .
- Oikeastaan henkilöstömäärän kohdentaminen tietojen laatuun keskittyviin tehtäviin - vaikka se vaatisikin tilaa insinöörien henkilöstöstä.
- Ajan ja energian kuluttaminen, ja resurssit osoitteeseen löytää tietoasiantuntijoita. Jos tämä ei ole mahdollista, yrityksen tehtävänä on silti käyttää aikaa, energiaa ja resursseja tietoasiantuntijoiden kouluttamiseen. Ilmeiden luokittelu on paljon monimutkaisempaa kuin liikennemerkkien kaltaisten perusobjektien luokittelu, ja sitä olisi käsiteltävä sellaisena.
Teksti: Kasvojen seurannan harhojen vähentäminen
Kasvojenseurantateknologian kehittymisen tunnistaminen, sen haavoittuvuuksien ymmärtäminen ja tietojen laatuun panostaminen tarkoittaa . . .
- Suunnittelun, tutkimuksen ja tuotekehityksen ei pitäisi vain kertoa datalle, mitä se tarvitsee, vaan kuunnella sitä. mitä dataryhmät tarvitsevat. Datatiimit tuntevat parhaiten toimivien algoritmien vaatiman kulissien takaisen työn. TÄSSÄ MONET YRITYKSET EPÄONNISTUVAT.
- Tietopohjaisissa tehtävissä toimivien työntekijöiden edellytetään olevan säännöllisesti yhteydessä suunnittelu-, tutkimus- ja tuotetiimiin.
Teksti: Kasvojen seurannan harhojen vähentäminen
Kasvojenseurantateknologian kehittymisen tunnistaminen, sen haavoittuvuuksien ymmärtäminen ja tietojen laatuun panostaminen tarkoittaa . . .
- Koulutetaan työntekijöitä tekniikan alan ennakkoluulojen todellisuudesta.
- Oikeiden varotoimien toteuttaminen standardoida ja määritellä merkinnät.
- Aina pohditaan, milloin ja missä puolueellisuus voi ilmetä.
- Kuka merkitsee?
- Mitä ne merkitsevät?
- Mitkä tekijät voivat vaikuttaa niiden merkintöihin?
* mieliala * kulttuuri * kokemus
Teksti: Kasvojen seurannan harhojen vähentäminen
Kasvojenseurantateknologian kehittymisen tunnistaminen, sen haavoittuvuuksien ymmärtäminen ja tietojen laatuun panostaminen tarkoittaa . . .
SIVUHUOMAUTUS: LOPETTAA STAATTISTEN KUVIEN ILMAISUJEN MERKITSEMINEN.
- Tarkka FACS- ja tunnemerkintä riippuu suurelta osin liikkeen näkemisestä.
- Jos liikettä korostettaisiin enemmän, staattiset kasvonpiirteet, kuten roikkuvat huulten kulmat ja kaareva nasolabiaalinen uurre, aktivoisivat vähemmän todennäköisesti havaitsemisen. huulten kulman puristin ja huulen kohottaja (vastaavasti).
Teksti: Kasvojen seurannan harhojen vähentäminen
Loppuhuomautukset . . .
Teksti: Kasvojen seurannan harhojen vähentäminen
Mitä enemmän uskomme teknologiaan ja luotamme siihen, sitä enemmän vaikutuksia näillä ennakkoluuloilla on.
Teksti: Kasvojen seurannan harhojen vähentäminen
"... kasvojentunnistusohjelmisto tulkitsee tunteita eri tavalla henkilön rodun perusteella. ...Tällä havainnolla on vaikutuksia yksilöille, organisaatioille ja yhteiskunnalle, ja se täydentää kasvavaa kirjallisuutta, joka käsittelee tekoälyyn liittyvää ennakkoluuloa ja/tai eriarvoista vaikutusta."
Rhue, Lauren, Rotuun perustuva vaikutus tunteiden automaattiseen havaitsemiseen (9. marraskuuta 2018). Saatavilla SSRN:ssä: https://ssrn.com/abstract=3281765 tai http://dx.doi.org/10.2139/ssrn.3281765
Teksti: Kasvojen seurannan harhojen vähentäminen
Ota vastuu.
Tee työtä ennakkoluulojen vähentämiseksi.
Investoi enemmän dataan.
Teksti:
Vastauksena heikkolaatuisten ja epätarkkojen FACS-viitteiden yleistymiseen, Olen luonut ilmaisen "FACS Cheat Sheet" -lomakkeen. toimia oppaana taiteilijoille, tutkijoille ja insinööreille. Se on saatavilla FACS-resurssisivustollani, Kohtaaminen FACS:n kanssa. Olen myös avoin konsultointia varten.
1 kommenttia artikkeliin ”Bias In Emotion Tracking”
Kommentointi on suljettu.