Vias em Rastreamento de Rosto e Emoção
Parecemos subscrever a popular simplificação excessiva de que as máquinas são menos tendenciosas do que as humanas; no entanto, se você estiver familiarizado com as maneiras pelas quais as máquinas são treinadas para ler e se concentrar em diferentes aspectos dos dados, você saberá: Não é tão simples assim.
As máquinas não estão livres de preconceitos se elas forem treinadas por humanos.
A seguir, uma apresentação dos diferentes tipos de enviesamentos que podem ocorrer no rastreamento facial e na rotulagem de expressão. Muitos desses vieses podem ser reduzidos; por isso, incluí também sugestões de métodos melhorados. Se você estiver trabalhando em rastreamento de rosto e emoção de qualquer tipo, é sua responsabilidade estar ciente desses preconceitos.
Veja os slides abaixo OU o vídeo ligado aqui: Vídeo do YouTube
Texto: Muitos rostos e emoções empresas tente para usar o Paul Ekman's Sistema de Codificação da Ação Facial (FACS)
- mas muitos não levam tempo para usá-la corretamente.
Texto: O que acontece quando você não usa bem o FACS?
- classificação de expressões incorretas
- classificação de expressão inconsistente
- rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- anarquia
Mesmo se você usar o FACS adequadamente, sempre haverá parcialidade e inconsistência - mas tomando medidas cuidadosas, estas questões podem ser significativamente reduzidas.
Texto: classificação de expressões incorretas
- As ações faciais são sutis e difíceis de diferenciar sem um estudo intensivo.
- A maioria das referências FACS (excluindo o Manual FACS original) fornecem imagens FACS incorretas - mesmo fontes consideradas confiáveis.
- Apesar destas imprecisões, tais fontes são freqüentemente utilizadas como referências por engenheiros e pesquisadores de rastreamento facial.
- Como as empresas de tecnologia não investem o suficiente em funções baseadas em dados, elas provavelmente não possuem o pessoal ou recursos adequados para diferenciar ações faciais importantes.
Texto: classificação de expressões incorretas
- Formas básicas como "aperto de lábios" se confundem regularmente com ações como "espremedor labiale/ou " e/ou "lábio pucker.”
- Apertador labial é importante em: expressões emocionais & produção da fala
Texto: classificação de expressões incorretas
- Acima está uma verdadeira representação do aperto dos lábios.
- Esta é apenas uma das muitas formas que voam sob o radar cada vez que estão:
– equivocado – Classificado erroneamente – mal utilizado
Texto: O que acontece quando você não usa bem o FACS?
- classificação de expressões incorretas
- classificação de expressão inconsistente
- rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- anarquia
Mesmo se você usar o FACS adequadamente, sempre haverá parcialidade e inconsistência - mas tomando medidas cuidadosas, estas questões podem ser significativamente reduzidas.
Texto: classificação de expressões incorretas
As mesmas questões em torno da classificação incorreta também contribuem para uma classificação inconsistente.
Texto: classificação de expressão inconsistente
Se as empresas de tecnologia não investirem completamente na qualidade dos dados, suas regras de classificação de dados não podem ser padronizadas.
Devido a:
- a falta de investimento na contratação e/ou treinamento de funcionários para funções baseadas em dados
- uma falta de recursos FACS de qualidade
- uma dificuldade inerente na diferenciação das ações faciais
→ Os etiquetadores classificam as expressões de forma inconsistente.
→ Os rastreadores desenvolvem estranhas peculiaridades, amarrando expressões incorretas uns aos outros enquanto confundem os outros.
Texto: classificação de expressão inconsistente
NOTA: Este diagrama foi feito para explicar os problemas na ativação da forma dos avatares, mas os mesmos conceitos básicos se aplicam ao rastreamento de rosto e emoção.
Texto: O que acontece quando você não usa bem o FACS?
- classificação de expressões incorretas
- classificação de expressão inconsistente
- rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- anarquia
Mesmo se você usar o FACS adequadamente, sempre haverá parcialidade e inconsistência - mas tomando medidas cuidadosas, estas questões podem ser significativamente reduzidas.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Quando as etiquetas de expressão são mal definidas e mal compreendidas, pequenos erros podem criar grandes preconceitos.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Antes de entrar nos preconceitos que podem existir na tecnologia de rastreamento facial, considere os preconceitos já existentes na tecnologia de identificação de características: o reconhecimento facial.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Se não conseguirmos nem mesmo obter a detecção correta de características, imagine como o rastreamento de expressões pode ser complicado. O rastreamento da expressão exige um entendimento além das características faciais. Exige uma compreensão dos movimentos faciais sutis.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. A cultura forma como olhamos para as faces. (2008).PloS um. 3. e3022. 10.1371/journal.pone.0003022.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- As pessoas extraem informações de maneira diferente quando olham os rostos e buscam pistas diferentes ao interpretar as emoções.
- A cultura influencia profundamente o que consideramos informações e pistas valiosas.
Estudos descobriram:
- Leste Asiático participantes tendem a se concentrar no meio do rosto, ao redor do nariz, dando mais importância à direção dos olhos e dos olhares.
- Caucasiano Ocidental os participantes tendem a procurar expressões de emoção nas sobrancelhas e nas áreas da boca
- Essas diferenças de atenção criam preconceitos quando os participantes olham para rostos com expressões conflitantes
por exemplo, quando há olhos tristes com uma boca feliz:
- Os participantes japoneses dão mais importância à emoção mostrada nos olhos
- Os participantes americanos se preocupam mais com a área da boca.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D., e Caldara, R. (2008). A cultura molda como olhamos para os rostos. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022
2. Elfenbein, H. A., & Ambady, N. (2003). Universals and cultural differences in recognizing emotions (Universalidades e diferenças culturais no reconhecimento das emoções). Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). Diferenças culturais americano-japonesa em julgamentos de intensidade de expressão e experiência subjetiva. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). Diferenças culturais americano-japonesa nas classificações de intensidade das expressões faciais de emoção. Motivação e Emoção, 13(2), 143-157.
5. Marsh, A. A. A., Elfenbein, H. A., & Ambady, N. (2003). Diferenças culturais de "acentos" não verbais em expressões faciais de emoção. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). As janelas para a alma são as mesmas no Leste e no Oeste? Diferenças culturais no uso dos olhos e da boca como pistas para reconhecer as emoções no Japão e nos Estados Unidos. Journal of Experimental Social Psychology, 43(2), 303-311.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Agora considere o que vai para a rotulagem de expressão . .
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- Se depressor de canto labial não é entendida corretamente, os rotuladores são mais propensos a classificar de forma incorreta qualquer forma com cantos dos lábios inclinados como depressor de canto labial. Estas formas mal classificadas são frequentemente causadas pelos efeitos de raiser de queixo – mas eles também podem incluir algo pior: rostos neutros (rostos sem expressão).
- Um resultado provável deste equívoco é: superdetecção de depressor de canto labial em pessoas com cantos de lábios inclinados. Muitas vezes, os idosos têm cantos de boca inclinados devido aos efeitos da gravidade a longo prazo.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- A partir de práticas inadequadas de rotulagem, os dados demográficos mais antigos podem estar sujeitos à detecção excessiva de depressor de canto labial.
- O depressor de canto labial é um componente chave da tristeza. Este erro poderia levar a uma tristeza excessiva em demografias antigas?
- E quanto a outros grupos cujas características faciais são caracterizadas pelos cantos dos lábios inclinados? Eles serão interpretados incorretamente como "tristes"?
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- Pode não parecer nada de mais para um rastreador detectar incorretamente depressor de canto labial ou tristeza... mas..: O que acontece quando o rastreamento facial é usado para coisas maiores como avaliações de saúde mental ou avaliação de candidatos a emprego em potencial?
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- AI está agora analisando a expressão facial dos candidatos durante entrevistas de vídeo - Unilever, IBM, Dunkin Donuts e muitos outros já estão usando esta tecnologia
- A tecnologia de reconhecimento de emoções não funciona, mas a contratação de profissionais, outros a estão usando de qualquer forma: informe
- A 'Detecção de Emoção' AI é uma indústria de $20 bilhões. Novas pesquisas dizem que ela não pode fazer o que alega.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Falamos sobre como a rotulagem imprópria pode incitar a um preconceito contra as populações mais velhas . . . Mas e quanto a outros preconceitos em relação a pessoas com certas características faciais?
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
“. . os programas de reconhecimento facial apresentam dois tipos distintos de viés.
Primeiro, rostos negros eram constantemente pontuados como rostos mais zangados que brancos para cada sorriso. Face++ mostrou este tipo de viés. Segundo, rostos negros sempre foram pontuados como mais zangados se houvesse alguma ambigüidade sobre sua expressão facial. A API facial mostrava este tipo de disparidade. Mesmo que os rostos negros sejam parcialmente sorridentes, minha análise mostrou que o assumiram emoções mais negativas em comparação com suas contrapartes brancas com expressões similares. As notas emocionais médias eram muito mais próximas entre as raças, mas ainda havia diferenças perceptíveis para os rostos brancos e negros".
Entendendo o Viés Escondido nas IAs de Leitura de Emoções
-Lauren Rhue
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Como isto poderia acontecer?
Vamos revisitar o PORQUE É IMPORTANTE INVESTIR MAIS EM DADOS.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Considere a forma FACS "criador do lábio superior.” Raspador de lábios superiores é um componente chave de emoções como repugnância, raiva, e desprezo.
As características do raiser de lábios superiores incluem:
- lábio superior levantado
- região arredondada do sulco nasolabial superior
(linha do riso - ver foto)
NOTA: Além dos potenciais vieses de rotulagem da ação facial, há também uma controvérsia significativa sobre a Teoria Básica das Emoções (por exemplo, protótipos básicos de emoções como desprezo, raiva, etc.) em geral. Veja "'".É Tudo nos Olhos e Outras Mentiras.“
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Algumas pessoas têm mais curvas em seu sulco nasolabial.
Isto é simplesmente um produto de sua estrutura facial natural.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Um rotulador não devidamente versado no Sistema de Codificação da Ação Facial pode facilmente rotular pessoas com curvas de sulco nasolabiais não baseadas em expressão como tendo criador do lábio superior.
Estes rótulos incorretos geram um rastreador treinado para identificar rostos com certas estruturas como expressando criador do lábio superior - mesmo quando eles são neutros ou sorridentes.
A obtenção de um "conjunto de dados diversificado" é irrelevante se seus rótulos estiverem imprecisos.
Tal treinamento explica as descobertas de Lauren Rhue Entendendo o Viés Escondido nas IAs de Leitura de Emoções.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
A presença de rotulagem de emoções tendenciosas persistirá mesmo que você se afaste de uma abordagem baseada na FACS e tente ter rotuladores classificando as emoções de forma holística.
Texto: rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
Caso não esteja claro porque é que a rotulagem de emoções holísticas tem a mesma probabilidade de falhar (se não, mais ou menos) - AQUI ESTÁ UM REFRESCAMENTO:
- As pessoas extraem informações de maneira diferente quando olham os rostos e buscam pistas diferentes ao interpretar as emoções.
- A cultura influencia profundamente o que consideramos informações e pistas valiosas.
Estudos descobriram:
- Leste Asiático Os participantes tendem a se concentrar no meio do rosto, ao redor do nariz, dando mais importância aos olhos e à direção do olhar.
- Caucasiano Ocidental os participantes tendem a procurar expressões de emoção nas sobrancelhas e nas áreas da boca
- Essas diferenças de atenção criam preconceitos quando os participantes olham para rostos com expressões conflitantes
por exemplo, quando há olhos tristes com uma boca feliz:
- Os participantes japoneses dão mais importância à emoção mostrada nos olhos
- Os participantes americanos se preocupam mais com a área da boca.
Texto: O que acontece quando você não usa bem o FACS?
- classificação de expressões incorretas
- classificação de expressão inconsistente
- rotulagem tendenciosa (racial, cultural, relacionada à idade, etc.)
- anarquia
Mesmo se você usar o FACS adequadamente, sempre haverá parcialidade e inconsistência - mas tomando medidas cuidadosas, estas questões podem ser significativamente reduzidas.
Texto: anarquia
Se . . .
- a cultura influencia como interpretamos as expressões e as emoções
- as condições ambientais afetam as pistas que olhamos para avaliar as faces
- o conhecimento das ações faciais afeta a forma como rotulamos as expressões
. . . O que as empresas tecnológicas podem fazer para reduzir esses erros humanos e evitar que eles vazem em algoritmos?
Texto: O que as empresas de tecnologia podem fazer para reduzir os preconceitos no rastreamento de rostos?
- As empresas de tecnologia devem reconhecer que O rastreamento de rostos avançou além do escopo da engenharia.
- As empresas de tecnologia devem Aceitar a vulnerabilidade da tecnologia para influenciar e educar os funcionários sobre essas vulnerabilidades.
- As empresas de tecnologia devem investir mais na qualidade dos dados.
Texto: Reconhecer os avanços da tecnologia de rastreamento de rosto, compreender suas vulnerabilidades e investir mais na qualidade dos dados significa . . .
- Na verdade alocando o efetivo de pessoal para papéis focados na qualidade dos dados - mesmo que isso exija tirar espaço do efetivo de engenharia.
- Gastar tempo, energia, e recursos para encontrar especialistas em dados. Se isto não for possível, ainda é tarefa da empresa gastar tempo, energia e recursos para TREINAR especialistas em dados. Classificar expressões faciais é muito mais complicado do que classificar objetos básicos como sinais de trânsito e deve ser tratado como tal.
Texto: Redução de vieses no rastreamento facial
Reconhecer os avanços da tecnologia de rastreamento de rosto, compreender suas vulnerabilidades e investir mais na qualidade dos dados significa . . .
- Engenharia, pesquisa e produto não devem simplesmente dizer aos dados o que eles precisam - mas ESCUTEM ao que as equipes de dados precisam. As equipes de dados são as mais conhecedoras do trabalho de bastidores necessário para o funcionamento dos algoritmos. É AQUI QUE MUITAS EMPRESAS FALHAM.
- Exigindo que funcionários com funções baseadas em dados façam regularmente interface com as equipes de engenharia, pesquisa e produto.
Texto: Redução de vieses no rastreamento facial
Reconhecer os avanços da tecnologia de rastreamento de rosto, compreender suas vulnerabilidades e investir mais na qualidade dos dados significa . . .
- Educar os funcionários sobre a realidade do preconceito na tecnologia.
- Tomando as devidas precauções para padronizar e definir a etiquetagem.
- Sempre considerando quando e onde pode aparecer o viés.
- Quem está etiquetando?
- O que eles estão rotulando?
- Que fatores podem impactar sua rotulagem?
* humor * cultura * experiência
Texto: Redução de vieses no rastreamento facial
Reconhecer os avanços da tecnologia de rastreamento de rosto, compreender suas vulnerabilidades e investir mais na qualidade dos dados significa . . .
SIDENOTE: PARAR DE ROTULAR EXPRESSÕES A PARTIR DE IMAGENS ESTÁTICAS.
- O FACS preciso e a etiquetagem das emoções dependem, em grande parte, de ver movimento.
- Se o movimento fosse mais acentuado, características faciais estáticas, como cantos dos lábios inclinados e sulco nasolabial curvo, seriam menos propensas a ativar a detecção de depressor de canto labial e criador do lábio superior (respectivamente).
Texto: Redução de vieses no rastreamento facial
Notas de encerramento . . .
Texto: Redução de vieses no rastreamento facial
Quanto mais acreditamos e confiamos na tecnologia, mais ramificações terão estes enviesamentos.
Texto: Redução de vieses no rastreamento facial
"... o software de reconhecimento facial interpreta as emoções de forma diferente, com base na raça da pessoa. ...Esta descoberta tem implicações para indivíduos, organizações e sociedade, e contribui para a crescente literatura de preconceitos e/ou impacto díspar na IA".
Rhue, Lauren, Influência Racial na Percepção Automatizada das Emoções (9 de novembro de 2018). Disponível na SSRN: https://ssrn.com/abstract=3281765 ou http://dx.doi.org/10.2139/ssrn.3281765
Texto: Redução de vieses no rastreamento facial
Assumir a responsabilidade.
Colocar no trabalho para reduzir o enviesamento.
Invista mais em dados.
Texto:
Em resposta à prevalência de referências FACS de baixa qualidade e imprecisas, Criei uma "FACS Cheat Sheet" gratuita para servir de guia para artistas, pesquisadores e engenheiros. Ele está disponível em meu site de recursos FACS, Enfrentar o FACS. Também estou aberto para consultoria.
1 comentário em “Bias In Emotion Tracking”
Os comentários estão encerrado.