Yüz ve Duygu Takibinde Önyargılar
Makinelerin insanlardan daha az önyargılı olduğuna dair popüler aşırı basitleştirmeye katılıyor gibi görünüyoruz; ancak, makinelerin verilerin farklı yönlerini okumak ve bunlara odaklanmak için nasıl eğitildiklerini biliyorsanız, bilirsiniz: Bu iş o kadar basit değil.
Makineler insanlar tarafından eğitildiklerinde önyargıdan arınmış olmazlar.
Aşağıda, yüz izleme ve ifade etiketlemede ortaya çıkabilecek farklı türdeki önyargıların bir sunumu yer almaktadır. Bu önyargıların birçoğu azaltılabilir; bu nedenle geliştirilmiş yöntemler için öneriler de ekledim. Herhangi bir türde yüz ve duygu takibi üzerinde çalışıyorsanız, bu önyargıların farkında olmak sizin sorumluluğunuzdadır.
Aşağıdaki slaytları VEYA burada bağlantısı verilen videoyu görüntüleyin: YouTube Video
Metin: Birçok yüz ve duygu takibi şirketler dene Paul Ekman'ın Yüz Eylem Kodlama Sistemi (FACS)
- ancak çoğu kişi bunu doğru kullanmak için zaman ayırmıyor.
Metin: FACS'i doğru kullanmazsanız ne olur?
- yanlış ifade sınıflandırması
- tutarsız ifade sınıflandırması
- önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- ANARŞİ
FACS'i doğru kullansanız bile her zaman yanlılık ve tutarsızlık olacaktır - ancak dikkatli önlemler alarak bu sorunlar önemli ölçüde azaltılabilir.
Metin: yanlış ifade sınıflandırması
- Yüz hareketleri inceliklidir ve yoğun bir çalışma olmadan ayırt edilmesi zordur.
- FACS referanslarının çoğu (hariç orijinal FACS El Kitabı) yanlış FACS görselleri sağlamaktadır - güvenilir kabul edilen kaynaklar bile.
- Bu yanlışlıklara rağmen, bu tür kaynaklar yüz izleme mühendisleri ve araştırmacıları tarafından sıklıkla referans olarak kullanılmaktadır.
- Teknoloji şirketleri veriye dayalı rollere yeterince yatırım yapmadıkları için, önemli yüz hareketlerini ayırt edebilecek doğru personele veya kaynaklara sahip değiller.
Metin: yanlış ifade sınıflandırması
- " gibi temel şekillerdudak sıkılaştırıcı" gibi eylemlerle düzenli olarak karıştırılmaktadır.dudak bastırıcı" ve/veya "dudak Büzüşmek."
- Dudak sıkılaştırıcı önemlidir: duygu ifadeleri & konuşma üretimi
Metin: yanlış ifade sınıflandırması
- Yukarıda dudak sıkılaştırıcının gerçek bir temsili yer almaktadır.
- Bu, her seferinde radarın altından uçan birçok şekilden sadece biri:
– yanlış öğretilmiş – yanlış sınıflandırılmış – yanlış kullanılmış
Metin: FACS'i doğru kullanmadığınızda ne olur?
- yanlış ifade sınıflandırması
- tutarsız ifade sınıflandırması
- önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- ANARŞİ
FACS'i doğru kullansanız bile her zaman yanlılık ve tutarsızlık olacaktır - ancak dikkatli önlemler alarak bu sorunlar önemli ölçüde azaltılabilir.
Metin: yanlış ifade sınıflandırması
Yanlış sınıflandırmaya ilişkin aynı sorunlar tutarsız sınıflandırmaya da katkıda bulunur.
Metin: tutarsız ifade sınıflandırması
Teknoloji şirketleri veri kalitesine tam anlamıyla yatırım yapmazsa, veri sınıflandırma kuralları standartlaştırılamaz.
Şundan dolayı:
- veri tabanlı roller için çalışanların işe alınması ve/veya eğitilmesine yönelik yatırım eksikliği
- kaliteli FACS kaynaklarının eksikliği
- yüz eylemlerini ayırt etmede doğal bir zorluk
→ Etiketleyiciler ifadeleri tutarsız bir şekilde sınıflandırır.
→ İz sürücüler tuhaf tuhaflıklar geliştirir, yanlış ifadeleri birbirlerine bağlarken diğerlerinin kafasını karıştırır.
Metin: tutarsız ifade sınıflandırması
NOT: Bu diyagram avatarlar için şekil aktivasyonundaki sorunları açıklamak için yapılmıştır, ancak aynı temel kavramlar yüz ve duygu takibi için de geçerlidir.
Metin: FACS'i doğru kullanmadığınızda ne olur?
- yanlış ifade sınıflandırması
- tutarsız ifade sınıflandırması
- önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- ANARŞİ
FACS'i doğru kullansanız bile her zaman yanlılık ve tutarsızlık olacaktır - ancak dikkatli önlemler alarak bu sorunlar önemli ölçüde azaltılabilir.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
İfade etiketleri iyi tanımlanmadığında ve yeterince anlaşılmadığında, küçük hatalar büyük önyargılar yaratabilir.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Yüz izleme teknolojisinde var olabilecek önyargılara geçmeden önce, özellik tanımlama teknolojisinde zaten var olan önyargıları göz önünde bulundurun: yüz tanıma.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Özellik algılamayı bile doğru yapamıyorsak, ifade izlemede önyargının ne kadar karmaşık olabileceğini hayal edin. İfade takibi, yüz özelliklerinin ötesinde bir anlayış gerektirir. İnce yüz hareketlerinin anlaşılmasını gerektirir.
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto. Kültür Yüzlere Nasıl Baktığımızı Şekillendirir. (2008).PloS one. 3. e3022. 10.1371/journal.pone.0003022.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- İnsanlar yüzlere bakarken farklı bilgiler elde eder ve duyguları yorumlarken farklı ipuçları ararlar.
- Kültür, neleri değerli bilgi ve ipuçları olarak gördüğümüzü derinden etkiler.
Araştırmalara göre:
- Doğu Asya Katılımcılar yüzün ortasına, burun çevresine odaklanma, gözlere ve bakış yönüne daha fazla önem verme eğilimindedir.
- Batı Kafkasyalı Katılımcılar duygu ifadelerini kaşlarda ve ağız bölgelerinde arama eğilimindedir
- Dikkatteki bu farklılıklar, katılımcılar çelişkili ifadeler içeren yüzlere baktıklarında önyargılar yaratır
Örneğin; mutlu bir ağız ile üzgün gözler olduğunda:
- Japon katılımcılar gözlerle gösterilen duygulara daha fazla önem veriyor
- Amerikalı katılımcılar ağız bölgesine daha fazla önem veriyor.
1. Blais, C., Jack, R. E., Scheepers, C., Fiset, D. ve Caldara, R. (2008). Kültür, yüzlere nasıl baktığımızı şekillendiriyor. PLoS ONE 3:e3022. doi: 10.1371/journal.pone.0003022
2. Elfenbein, H. A., & Ambady, N. (2003). Duyguları tanımada evrenseller ve kültürel farklılıklar. Current Directions in Psychological Science, 12(5), 159-164.
3. Matsumoto, D., Kasri, F., & Kooken, K. (1999). İfade yoğunluğu ve öznel deneyim yargılarında Amerikan-Japon kültürel farklılıkları. Cognition & Emotion, 13(2), 201-218.
4. Matsumoto, D., & Ekman, P. (1989). Yüzdeki duygu ifadelerinin yoğunluk derecelendirmelerinde Amerikan-Japon kültürel farklılıkları. Motivation and Emotion, 13(2), 143-157.
5. Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003). Yüzdeki duygu ifadelerinde sözel olmayan "aksanlar" kültürel farklılıklar. Psychological Science, 14(4), 373-376.
6. Yuki, M., Maddux, W. W., & Masuda, T. (2007). Ruha açılan pencereler Doğu ve Batı'da aynı mı? Japonya ve Amerika Birleşik Devletleri'nde duyguları tanımak için gözleri ve ağzı ipucu olarak kullanmada kültürel farklılıklar. Deneysel Sosyal Psikoloji Dergisi, 43(2), 303-311.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Şimdi ifade etiketlemesine neyin girdiğini düşünün ...
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- Eğer dudak köşe basacağı doğru anlaşılmadığında, etiketleyicilerin yanlış sınıflandırma yapma olasılığı daha yüksektir herhangi bir sarkık dudak köşeleri ile şekil dudak köşe basacağı. Bu yanlış sınıflandırılmış şekiller genellikle aşağıdakilerin etkilerinden kaynaklanır çene yükseltici – ancak daha kötü bir şey de içerebilirler: nötr yüzler (ifade içermeyen yüzler).
- Bu yanlış anlamanın muhtemel sonuçlarından biri şudur: aşırı tespiti dudak köşe basacağı Dudak köşeleri sarkık olan kişilerde. Çoğu zaman, yaşlılarda yerçekiminin uzun süreli etkileri nedeniyle ağız köşeleri sarkıktır.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- Yanlış etiketleme uygulamalarından dolayı, yaşlı demografik gruplar aşırı tespitlere maruz kalabilir dudak köşe basacağı.
- Dudak köşesi bastırıcı, üzüntünün önemli bir bileşenidir. Bu hata, yaşlı demografik gruplarda üzüntünün aşırı tespit edilmesine yol açabilir mi?
- Peki ya yüz hatları sarkık dudak köşeleriyle karakterize olan diğer gruplar? Yanlışlıkla "üzgün" olarak mı yorumlanacaklar?
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- Bir takip cihazının yanlış tespit yapması büyük bir sorun gibi görünmeyebilir dudak köşe basacağı veya üzüntüama: Yüz izleme, ruh sağlığı değerlendirmeleri veya potansiyel iş adaylarının değerlendirilmesi gibi daha büyük şeyler için kullanıldığında ne olur?
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- Yapay Zeka Artık Görüntülü İş Görüşmelerinde Adayların Yüz İfadelerini Analiz Ediyor - Unilever, IBM, Dunkin Donuts ve diğerleri bu teknolojiyi kullanıyor
- Duygu tanıma teknolojisi işe yaramıyor, ancak işe alım uzmanları ve diğerleri yine de kullanıyor: rapor
- 'Duygu algılama' yapay zekası $20 milyarlık bir sektör. Yeni araştırma, iddia ettiği şeyleri yapamadığını söylüyor.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Yanlış etiketlemenin yaşlı nüfuslara karşı önyargıyı nasıl körükleyebileceğinden bahsettik . . . Peki ya belirli yüz özelliklerine sahip insanlara yönelik diğer önyargılar?
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
". . yüz tanıma programları iki farklı türde önyargı sergilemektedir.
Birincisi, siyah yüzler her gülümseme için beyaz yüzlerden daha öfkeli olarak puanlanmıştır. Face++ bu tür bir önyargı göstermiştir. İkincisi, siyah yüzler her zaman daha kızgın olarak puanlandı yüz ifadeleri hakkında herhangi bir belirsizlik varsa. Face API bu tür bir eşitsizlik sergilemiştir. Siyah yüzler kısmen gülümsüyor olsa bile, analizim gösterdi ki sistemleri, benzer ifadelere sahip beyaz meslektaşlarına kıyasla daha fazla olumsuz duygu varsaymıştır. Ortalama duygusal puanlar ırklar arasında çok daha yakındı, ancak siyah ve beyaz yüzler için hala belirgin farklılıklar vardı."
Duygu Okuyan Yapay Zekalarda Gizli Önyargıyı Anlamak
-Lauren Rhue
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Nasıl bu olabilir mi?
VERİLERE DAHA FAZLA YATIRIM YAPMANIN NEDEN ÖNEMLİ OLDUĞUNU tekrar gözden geçirelim.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
FACS şeklini düşünün "üst dudak yükseltici." Üst dudak yükseltici gibi duyguların önemli bir bileşenidir. İğrenme, Öfke, ve küçümseme.
Üst dudak kaldırıcının özellikleri şunlardır:
- kalkık üst dudak
- yuvarlak üst nazolabial oluk bölgesi
(gülme çizgisi - fotoğrafa bakın)
NOT: Potansiyel yüz eylemi etiketleme önyargılarının yanı sıra, genel olarak Temel Duygu Teorisi (örneğin aşağılama, öfke gibi temel duygu prototipleri) üzerinde de önemli tartışmalar bulunmaktadır. Bakınız "'Her Şey Gözlerde' ve Diğer Yalanlar.“
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Bazı insanların nazolabial oluklarında daha fazla kavis vardır.
Bu sadece doğal olarak oluşan yüz yapılarının bir ürünüdür.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Yüz Eylem Kodlama Sistemi konusunda yeterli bilgiye sahip olmayan bir etiketleyici, ifadeye dayalı olmayan nazolabial oluk eğrilerine sahip kişileri kolayca yanlış etiketleyebilir üst dudak yükseltici.
Bu yanlış etiketler, belirli yapılara sahip yüzleri ifade etmek üzere eğitilmiş bir izleyiciyi doğurur üst dudak yükseltici - tarafsız olduklarında veya gülümsediklerinde bile.
Etiketleriniz yanlışsa "çeşitli veri seti" temin etmenin bir önemi yoktur.
Böyle bir eğitim Lauren Rhue'nun şu bulgularını açıklıyor Duygu Okuyan Yapay Zekalarda Gizli Önyargıyı Anlamak.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
FACS tabanlı bir yaklaşımdan uzaklaşsanız ve etiketleyicilerin duyguları bütünsel olarak sınıflandırmasını sağlamaya çalışsanız bile önyargılı duygu etiketlemesinin varlığı devam edecektir.
Metin: önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
Bütüncül duygu etiketlemesinin neden başarısız olma olasılığı kadar (hatta daha fazla) olduğu anlaşılmadıysa - IŞTE BIR TAZELEME:
- İnsanlar yüzlere bakarken farklı bilgiler elde eder ve duyguları yorumlarken farklı ipuçları ararlar.
- Kültür, neleri değerli bilgi ve ipuçları olarak gördüğümüzü derinden etkiler.
Araştırmalara göre:
- Doğu Asya Katılımcılar, gözlere ve bakış yönüne daha fazla önem vererek yüzün ortasına, burun çevresine odaklanma eğilimindedir.
- Batı Kafkasyalı Katılımcılar duygu ifadelerini kaşlarda ve ağız bölgelerinde arama eğilimindedir
- Dikkatteki bu farklılıklar, katılımcılar çelişkili ifadeler içeren yüzlere baktıklarında önyargılar yaratır
Örneğin; mutlu bir ağız ile üzgün gözler olduğunda:
- Japon katılımcılar gözlerle gösterilen duygulara daha fazla önem veriyor
- Amerikalı katılımcılar ağız bölgesine daha fazla önem veriyor.
Metin: FACS'i doğru kullanmadığınızda ne olur?
- yanlış ifade sınıflandırması
- tutarsız ifade sınıflandırması
- önyargılı etiketleme (ırksal, kültürel, yaşa bağlı vb.)
- ANARŞİ
FACS'i doğru kullansanız bile her zaman yanlılık ve tutarsızlık olacaktır - ancak dikkatli önlemler alarak bu sorunlar önemli ölçüde azaltılabilir.
Metin: ANARŞİ
Eğer . . .
- kültür, ifadeleri ve duyguları nasıl yorumladığımızı etkiler
- çevresel koşullar yüzleri değerlendirmek için hangi ipuçlarına baktığımızı etkiler
- yüz eylemleri bilgisi ifadeleri nasıl etiketlediğimizi etkiler
. . . Teknoloji şirketleri insan kaynaklı bu hataları azaltmak ve sızıntıları önlemek için ne yapabilir? Algoritmalara mı?
Metin: Teknoloji şirketleri yüz takibindeki önyargıları azaltmak için ne yapabilir?
- Teknoloji şirketleri şunu kabul etmelidir yüz takibi mühendislik kapsamının ötesine geçmiştir.
- Teknoloji şirketleri Teknolojinin önyargıya karşı savunmasızlığını kabul edin ve çalışanları bu savunmasızlıklar konusunda eğitin.
- Teknoloji şirketleri veri kalitesine daha fazla yatırım yapın.
Metin: Yüz izleme teknolojisindeki ilerlemelerin farkına varmak, açıklarını anlamak ve veri kalitesine daha fazla yatırım yapmak anlamına geliyor. . .
- Aslında personel sayisi tahsi̇si̇ Veri kalitesine odaklanan rollere yönelmek - bu mühendislik kadrolarından yer ayırmayı gerektirse bile.
- Zaman ve enerji harcamak, ve Kaynaklar için veri uzmanları bulun. Bu mümkün değilse, veri uzmanlarını EĞİTMEK için zaman, enerji ve kaynak harcamak yine de şirketin görevidir. Yüz ifadelerini sınıflandırmak, trafik sinyalleri gibi temel nesneleri sınıflandırmaktan çok daha karmaşıktır ve bu şekilde ele alınmalıdır.
Metin: Yüz izlemede önyargıları azaltma
Yüz izleme teknolojisindeki ilerlemelerin farkına varmak, açıklarını anlamak ve veri kalitesine daha fazla yatırım yapmak anlamına geliyor. . .
- Mühendislik, araştırma ve ürün, verilere sadece neye ihtiyaç duyduklarını söylememeli, DİNLEMELİ Veri ekiplerinin neye ihtiyaç duyduğuna. Veri ekipleri, işleyen algoritmalar için gereken perde arkası çalışmalar hakkında en bilgili kişilerdir. BIRÇOK ŞIRKETIN BAŞARISIZ OLDUĞU YER BURASIDIR.
- Veri tabanlı rollere sahip çalışanların mühendislik, araştırma ve ürün ekipleriyle düzenli olarak arayüz oluşturmasını zorunlu kılmak.
Metin: Yüz izlemede önyargıları azaltma
Yüz izleme teknolojisindeki ilerlemelerin farkına varmak, açıklarını anlamak ve veri kalitesine daha fazla yatırım yapmak anlamına geliyor. . .
- Çalışanları teknolojide önyargı gerçeği konusunda eğitmek.
- Doğru önlemleri almak etiketlemeyi standartlaştırın ve tanımlayın.
- Her zaman önyargının ne zaman ve nerede ortaya çıkabileceğini göz önünde bulundurmak.
- Kim etiketliyor?
- Neyi etiketliyorlar?
- Etiketlemelerini hangi faktörler etkileyebilir?
* ruh hali * kültür * deneyim
Metin: Yüz izlemede önyargıları azaltma
Yüz izleme teknolojisindeki ilerlemelerin farkına varmak, açıklarını anlamak ve veri kalitesine daha fazla yatırım yapmak anlamına geliyor. . .
YAN NOT: STATIK GÖRÜNTÜLERDEN IFADELERI ETIKETLEMEYI DURDURUN.
- Doğru FACS ve duygu etiketlemesi büyük ölçüde hareketi görmeye bağlıdır.
- Hareket daha fazla vurgulansaydı, sarkık dudak köşeleri ve kavisli nazolabial oluk gibi statik yüz özelliklerinin algılanma olasılığı daha düşük olurdu. dudak köşe basacağı ve üst dudak yükseltici (sırasıyla).
Metin: Yüz izlemede önyargıları azaltma
Kapanış notları . . .
Metin: Yüz izlemede önyargıları azaltma
Teknolojiye ne kadar çok inanır ve güvenirsek, bu önyargılar o kadar fazla sonuç doğuracaktır.
Metin: Yüz izlemede önyargıları azaltma
"... yüz tanıma yazılımı, kişinin ırkına göre duyguları farklı yorumluyor. ...Bu bulgunun bireyler, kuruluşlar ve toplum için etkileri vardır ve yapay zekada önyargı ve/veya farklı etki konusunda büyüyen literatüre katkıda bulunmaktadır."
Rhue, Lauren, Otomatikleştirilmiş Duygu Algıları Üzerinde Irksal Etki (9 Kasım 2018). SSRN'de mevcuttur: https://ssrn.com/abstract=3281765 veya http://dx.doi.org/10.2139/ssrn.3281765
Metin: Yüz izlemede önyargıları azaltma
Sorumluluk alın.
Önyargıyı azaltmak için çalışın.
Verilere daha fazla yatırım yapın.
Metin:
Düşük kaliteli ve hatalı FACS referanslarının yaygınlığına yanıt olarak, Ücretsiz bir "FACS Cheat Sheet" oluşturdum sanatçılar, araştırmacılar ve mühendisler için bir rehber olarak hizmet etmek. FACS kaynak sitemde mevcuttur, FACS ile Yüzleşin. Danışmanlık için de açığım.
“Bias In Emotion Tracking” üzerine bir yorum
Yorumlar kapalı.