顔・感情追跡のバイアス
私たちは、「機械は人間よりも偏りが少ない」という一般的な単純化された考えに賛同しているようですが、機械がデータのさまざまな側面を読み取って注目するように訓練されている方法をご存知であれば、お分かりになると思います。しかし、機械がデータのさまざまな側面を読み取り、注目するように訓練されている方法を知っていれば、次のことがわかるでしょう。
機械は人間に訓練されていればバイアスがかからないわけではありません。
以下は、顔のトラッキングと表情のラベリングにおいて発生しうる様々なタイプのバイアスについて説明したものです。これらのバイアスの多くは低減することが可能であるため、改善方法についての提案も含まれています。 あなたがどのようなタイプの顔と感情のトラッキングに取り組んでいる場合、これらのバイアスに気づくことはあなたの責任です。
以下のスライド、またはリンク先のビデオをご覧ください。: YouTube動画
テキスト: 多くの顔・感情トラッキング れんじゅう こころがける を使って、Paul Ekmanの フェイシャルアクションコーディングシステム (FACS)
- しかし、多くの人は正しい使い方をするために時間を割いていません。
テキスト: FACSを正しく使わないとどうなるのでしょうか？
- 不正な表現分類
- 不定形表現分類
- 偏ったレッテル貼り
- アナーキー
FACSを適切に使用しても、偏りや矛盾は常に存在します。しかし、慎重に対処することで、これらの問題を大幅に軽減することができます。
テキスト: 不正な表現分類
- 顔の動作は微妙で、徹底的に研究しないと区別がつきません。
- ほとんどのFACSのリファレンス(をおいて は、信頼できると思われる情報源でさえも、誤ったFACSビジュアルを提供しています。
- このような不正確な情報にもかかわらず、顔面追跡の技術者や研究者は、このような情報源を参考文献として利用することが多いのです。
- 技術系企業はデータに基づく役割に十分な投資をしていないため、重要な顔の動きを区別するための適切なスタッフやリソースを保有していない可能性が高いのです。
テキスト: 不正な表現分類
- のような基本的な図形は、"リップタイトナー「のようなアクションと混同されることがあります。リッププレッサー" および/または "リップ パッカー”
- リップタイトナー が重要です。 感情表現と げんごせいさん
テキスト: 不正な表現分類
- 上記は、リップタイトナーを忠実に再現したものです。
- これは、そのたびに飛び交う多くの形状のうちのひとつに過ぎません。
– よこだおれ – 極端に言えば – まがい物
テキスト:FACSを正しく使わないとどうなるか？
- 不正な表現分類
- 不定形表現分類
- 偏ったレッテル貼り
- アナーキー
FACSを適切に使用しても、偏りや矛盾は常に存在します。しかし、慎重に対処することで、これらの問題を大幅に軽減することができます。
テキスト: 不正な表現分類
不正確な分類をめぐる問題は同じです。 も、分類の一貫性を欠く一因となっている。
テキスト: 不定形表現分類
技術系企業がデータ品質への投資を徹底しない場合。 そのデータ分類のルールは標準化されていない。
によるものです。
- データに基づく職務に従事する従業員の雇用やトレーニングへの投資不足
- 質の高いFACSリソースの不足
- 顔面騎乗の区別がつきにくい
→ ラベラーは表現の分類に一貫性がない。
→ トラッカーは奇妙な癖があり、間違った表現を結びつけ、他人を混乱させる。
テキスト: 不定形表現分類
注意してください。 この図は、アバターの形状活性化の問題を説明するために作られたものですが、顔や感情のトラッキングにも同じ基本コンセプトが当てはまります。
テキスト:FACSを正しく使わないとどうなるか？
- 不正な表現分類
- 不定形表現分類
- 偏ったレッテル貼り
- アナーキー
FACSを適切に使用しても、偏りや矛盾は常に存在します。しかし、慎重に対処することで、これらの問題を大幅に軽減することができます。
テキスト: 偏ったレッテル貼り
表現ラベルの定義が不明確で理解が不十分な場合、小さなミスが大きなバイアスを生む可能性があります。
テキスト: 偏ったレッテル貼り
顔認証技術に存在する偏りについて説明する前に、顔認証技術に既に存在する偏りについて考えてみましょう。
テキスト: 偏ったレッテル貼り
もし私たちが特徴検出さえうまくできないとしたら、表情追跡のバイアスはどれほど複雑なものになるか想像してみてください。表情のトラッキングでは、顔の特徴だけでなく、微妙な動きも理解する必要があります。顔の微妙な動きを理解することが必要なのです。
-
Blais, Caroline & Jack, Rachael & Scheepers, Christoph & Fiset, Daniel & Caldara, Roberto.Culture Shapes How We Look at Faces.(2008).PloS one.3. e3022.10.1371/journal.pone.0003022.
テキスト: 偏ったレッテル貼り
- 人は顔を見るときに異なる情報を抽出し、感情を解釈するときに異なる手がかりを探します。
- 文化は、私たちが何を貴重な情報や手がかりと考えるかに深く影響しています。
研究で判明しています。
- イースト・アジアン 出場者 は、顔の真ん中、鼻のあたりに目が行きがちで、目や視線の方向が重要視されます。
- ウエスタンコーカサス 眉毛や口元に感情の表情を見る傾向がある。
- このような注意の違いは、被験者が相反する表情の顔を見たときにバイアスを生じさせる。
例：幸せそうな口元に悲しい目がある場合。
- 日本人は目に表れる感情をより重要視する
- アメリカの参加者は口元をより気にします。
1.Blais, C., Jack, R. E., Scheepers, C., Fiset, D., and Caldara, R. (2008).文化は、私たちが顔をどのように見るかを形作ります。PLoS ONE 3:e3022.
2.Elfenbein, H. A., & Ambady, N. (2003).感情の認識における普遍性と文化的差異。心理科学における現在の方向性、12(5), 159-164.
3.松本大輔・糟谷楓・古堅健(1999).表現強度の判断と主観的経験における日米の文化差.認知と感情, 13(2), 201-218.
4.松本大輔・エクマン(1989).顔の感情表現の強度評価における日米の文化差。動機づけと感情, 13(2), 143-157.
5.Marsh, A. A., Elfenbein, H. A., & Ambady, N. (2003).このような場合、「訛り」と呼ばれる文化的な差異が感情表現に与える影響を検討する必要がある。心理科学, 14(4), 373-376.
6.結城正夫・マダックス・W.W.・増田卓也 (2007).心の窓は東洋と西洋で同じか？日米における目や口を手がかりにした感情認識の文化的相違.実験社会心理学研究, 43(2), 303-311.
テキスト: 偏ったレッテル貼り
ここで、表現ラベリングの中身について考えてみましょう ... ...
テキスト: 偏ったレッテル貼り
- もし リップコーナーデプレッサー が正しく理解されていない場合、ラベラーは誤った分類をする可能性が高くなります。 何れも のように、唇の角が垂れた形をしています。 リップコーナーデプレッサー.このような形状の誤判定は、多くの場合、以下のような影響によって引き起こされます。 顎上げ – が、もっと悪いものも含まれることがある: ニュートラルフェイス（無表情な顔）。
- この誤解がもたらす可能性が高いのが、1つ。 過検出 リップコーナーデプレッサー 唇の角が垂れている人の場合高齢者の場合、長期的な重力の影響により口角が垂れていることがよくあります。
テキスト: 偏ったレッテル貼り
- 不適切な表示方法から、高齢者層が過剰に検出される可能性があります。 リップコーナーデプレッサー.
- リップコーナーデプレッサーは切なさを演出する重要なパーツです。 この誤差は、高齢者層での悲しみの過剰検出につながるのでは？
- その他、唇の角が垂れているのが特徴の顔立ちのグループはどうでしょうか？ 悲しい」と間違って解釈されることはないだろうか。
テキスト: 偏ったレッテル貼り
- トラッカーが誤って検出することは、たいしたことではないと思われるかもしれません。 リップコーナーデプレッサー 或いは 悲しみでも。 メンタルヘルスの評価や潜在的な求職者の評価など、より大きなものにフェイストラッキングが使われたらどうなるでしょうか？
テキスト: 偏ったレッテル貼り
- AIが就職面接ビデオで候補者の表情を分析中 - ユニリーバ、IBM、ダンキンドーナツなどがすでに活用中
- 感情認識技術は機能しないが、採用担当者などはとにかく使っている：レポート
- 感情検知」AIは$200億の産業。新しい研究によると、謳い文句通りのことはできないらしい。
テキスト: 偏ったレッテル貼り
不適切なラベル付けが高齢者への偏見を煽るという話をしました．. . しかし、特定の顔立ちの人に対する他の偏見についてはどうでしょうか？
テキスト: 偏ったレッテル貼り
".... 顔認識プログラムは2つの異なるタイプのバイアスを示す。
最初に 黒人の顔は、どの笑顔でも白人の顔より常に怒っているようにスコアされました。 Face++はこのような偏りを見せていた。 2番目。 くろがわはいつも怒髪天 顔の表情に曖昧な部分があれば顔APIでは、このような格差が表示されました。黒人の顔が部分的に微笑んでいても、私の分析では は、同じような表情の白人と比べて、よりネガティブな感情を想定しています。 感情の平均スコアは人種間でかなり接近したが、黒人と白人の顔にはまだ顕著な差があった。"
感情を読み取るAIに隠されたバイアスを理解する
-ローレン・リュー
テキスト: 偏ったレッテル貼り
どのように が起こるかもしれない？
ここで、「なぜデータにもっと投資することが重要なのか」を再確認しておきましょう。
テキスト: 偏ったレッテル貼り
FACSの形状を考える "うわぐち." 上唇レイザー のようなエモーションの重要な構成要素です。 むかつき, 怒り, そして 侮辱.
アッパーリップレイザーの特長は以下の通りです。
- 上げ底
- わんぱくざかり
(笑行-写真参照)
ノート:潜在的な顔動作のラベリングバイアスに加え、一般に基本感情理論（例えば、軽蔑、怒りなどの基本的な感情のプロトタイプ）についても大きな論争がある。参照：「」。It's All In the Eyes' and Other Lies.“
テキスト: 偏ったレッテル貼り
人によっては、鼻唇溝がよりカーブしている人もいます。
これは、単に生まれつきの顔の構造の産物です。
テキスト: 偏ったレッテル貼り
フェイシャルアクションコーディングシステムに精通していないラベラーは、表情に基づかない鼻唇溝曲線を持つ人々を、簡単に以下のように誤認してしまう。 うわぐち.
このような誤ったラベルは、特定の構造を持つ顔を識別するように訓練されたトラッカーを、表現者として誕生させます。 うわぐち - 中立的な立場であっても、微笑んでいても
ラベルが不正確な場合、「多様なデータセット」を調達することは無意味です。
このようなトレーニングは、Lauren Rhueの調査結果を説明するものです。 感情を読み取るAIに隠されたバイアスを理解する.
テキスト: 偏ったレッテル貼り
FACSに基づくアプローチから離れ、ラベラーに感情を全体的に分類させようとしても、偏った感情のラベリングが存在することに変わりはない。
テキスト: 偏ったレッテル貼り
なぜホリスティックな感情ラベリングが失敗する可能性が高いのか（そうでない場合は、もっと）明確でない場合 - 。 おさらいです:
- 人は顔を見るときに異なる情報を抽出し、感情を解釈するときに異なる手がかりを探します。
- 文化は、私たちが何を貴重な情報や手がかりと考えるかに深く影響しています。
研究で判明しています。
- イースト・アジアン の参加者は、顔の真ん中、鼻のあたりに注目し、目や視線の方向をより重要視する傾向があります。
- ウエスタンコーカサス 眉毛や口元に感情の表情を見る傾向がある。
- このような注意の違いは、被験者が相反する表情の顔を見たときにバイアスを生じさせる。
例：幸せそうな口元に悲しい目がある場合。
- 日本人は目に表れる感情をより重要視する
- アメリカの参加者は口元をより気にします。
テキスト:FACSを正しく使わないとどうなるか？
- 不正な表現分類
- 不定形表現分類
- 偏ったレッテル貼り
- アナーキー
FACSを適切に使用しても、偏りや矛盾は常に存在します。しかし、慎重に対処することで、これらの問題を大幅に軽減することができます。
テキスト: アナーキー
もし ... ...
- 文化は、表情や感情の解釈の仕方に影響を与えます。
- 環境条件によって、顔を評価するための手がかりが変わる。
- 顔の動作に関する知識は、表情のラベル付けに影響する
.. .このような人為的なミスを減らし、ミスの流出を防ぐために、技術系企業は何をすればよいのか をアルゴリズムに組み込んだのですか？
テキスト: 顔トラッキングの偏りを減らすために、テック企業は何をすればいいのか？
- 技術系企業は、次のことを認識する必要があります。 フェーストラッキングは、エンジニアリングの域を超えた進化を遂げています。
- 技術系企業は 技術者の偏見に対する脆弱性を認め、その脆弱性について従業員を教育する。
- 技術系企業は データ品質にもっと投資してください。
テキスト: フェイストラッキング技術の進歩を認識し、その脆弱性を理解し、データ品質にもっと投資することは、..... .
- 実は じんいんせいり そのためには、エンジニアの人数を減らす必要があるとしても、データ品質に特化した職務に就くことをお勧めします。
- 時間を使うこと、エネルギーを使うこと。 そして 資源 にしています。 データスペシャリストを探す それができない場合でも、時間、エネルギー、資源を費やしてデータスペシャリストを育成するのは企業の仕事である。 表情の分類は、信号機のような基本的なものの分類よりもはるかに複雑であり、そのように扱われるべきです。
テキスト: 顔トラッキングにおけるバイアスの低減
フェイストラッキング技術の進歩を認識し、その脆弱性を理解し、データ品質にもっと投資することは、..... .
- エンジニアリング、リサーチ、プロダクトは、データに必要なことを伝えるだけでなく、「聞く」ことが大切です。 を、データチームが必要とするものに変換します。データチームは、アルゴリズムが機能するために必要な舞台裏の作業に最も精通しています。 多くの企業が失敗するのは、ここなのです。
- データに関わる職務に就く従業員には、エンジニアリング、リサーチ、プロダクトチームと定期的に交流することを義務付ける。
テキスト: 顔トラッキングにおけるバイアスの低減
フェイストラッキング技術の進歩を認識し、その脆弱性を理解し、データ品質にもっと投資することは、..... .
- 技術者における偏見の実態を社員に教育する。
- 正しい予防策を講じることで ラベリングを標準化し、定義する。
- 常に いつ、どこで、バイアスがかかるかを考える。
- ラベリングとは誰のことですか？
- 何のラベルを貼っているのでしょうか？
- ラベルに影響を与える可能性のある要因は何ですか？
* 気褄 * 文化 * 経験
テキスト: 顔トラッキングにおけるバイアスの低減
フェイストラッキング技術の進歩を認識し、その脆弱性を理解し、データ品質にもっと投資することは、..... .
SIDENOTE 静止画像から表情のラベリングを停止する。
- 正確なFACSと感情のラベリングは、動きを見ることに大きく依存している。
- もし、動きがより強調されるなら、垂れ下がった唇の角や湾曲した鼻唇溝などの静的な顔の特徴は、検出を活性化する可能性が低くなるだろう。 リップコーナーデプレッサー そして うわぐち (それぞれ）。
テキスト: 顔トラッキングにおけるバイアスの低減
クロージングノート .. .
テキスト: 顔トラッキングにおけるバイアスの低減
技術を信じ、技術に頼れば頼るほど。 このようなバイアスがあればあるほど、その影響は大きくなります。
テキスト: 顔トラッキングにおけるバイアスの低減
"...顔認識ソフトウェアは、その人の人種によって感情を異なるように解釈する。 ...この発見は、個人、組織、社会に影響を与え、AIにおける偏りや格差の影響に関する増加する文献に貢献する。"
ルー、ローレン 感情の自動認識における人種の影響 (2018年11月9日)です。 SSRNでご覧いただけます。 https://ssrn.com/abstract=3281765 或いは http://dx.doi.org/10.2139/ssrn.3281765
テキスト: 顔トラッキングにおけるバイアスの低減
責任を持つこと。
偏りを減らす努力をする。
データへの投資を増やす。
テキスト:
低品質で不正確なFACSの参考文献が蔓延していることに対応するため。 無料の "FACS Cheat Sheet "を作成しました。 アーティスト、研究者、エンジニアのためのガイドとなるべく私のFACSリソースサイトにて公開中です。 FACSと向き合う.また、コンサルティングも受け付けています。
「Bias In Emotion Tracking」への1件のフィードバック
コメントは受け付けていません。