Contournement de l'occlusion du casque VR dans le suivi des visages

Suivi de ce que vous ne pouvez pas voir

Au cours de mes années de travail dans le domaine du suivi des visages, j'ai observé une superstition parmi les ingénieurs et les chercheurs selon laquelle il est impossible de suivre les points de repère du visage (caractéristiques telles que les sourcils, les yeux et la bouche) lorsqu'ils se trouvent en dehors de la vue de la caméra. Cette croyance n'est pas entièrement vraie. Il n'est pas nécessaire de voir un sourcil pour savoir s'il se lève ou se plisse, et il n'est pas nécessaire de voir le nez pour savoir s'il se plisse.

Nos visages se gonflent, s'étirent et se froissent de façon unique à chaque action sur le visage. J'ai utilisé ces changements pour former les étiqueteurs à reconnaître et à classer avec précision les expressions discrètes à partir du seul mouvement de la peau. Avec une documentation bien dirigée, un ensemble complet d'exemples et un appareil photo de haute qualité, vous pouvez extrapoler des limites d'information avec une VFO limitée.

La valeur minimale requise pour le suivi visuel est souvent suffisante pour suivre une poignée d'actions. La vue A (dans l'image ci-dessous) reflète le mieux ce à quoi peut ressembler une vue de suivi du regard. Bien que l'objectif principal des caméras de suivi du regard soit de couvrir juste assez l'œil pour observer les changements de regard, son potentiel est bien plus important. Même avec cette vue concentrée, vous pouvez toujours détecter lève paupière supérieure (AU5), lever de joues (AU6), et tendeur de couvercle (AU7) avec un degré de certitude relativement élevé. Ces actions sont utiles pour leurs applications dans la mesure de l'attention, des réactions et de l'engagement ; elles constituent également des signaux cruciaux dans la communication.

De nombreuses personnes sont bloquées par des noms d'unités d'action comme lever de joues et supposer que "nous ne pouvons pas suivre lever de joues parce que notre FOV ne couvre pas la zone des joues". Mais lever de joues est plus que ce que son nom révèle ; il s'agit d'une action provoquée par la contraction de l'orbicularis oculi, un muscle qui entoure la zone des yeux. Si les mouvements de l'orbicularis oculi ont un impact sur les joues, de nombreux changements se produisent en réalité dans la zone de l'orbite. Tant que vous avez une vue marginale des coins des yeux ou un morceau de peau sous la paupière inférieure, vous pouvez déterminer si oui ou non lever de joues se produit. Des concepts similaires s'appliquent aux autres actions que j'ai énumérées dans les images ci-dessous. 

Capacités avec différents FOV

Ce graphique montre les unités d'action (UA) qu'il est possible de détecter avec différents champs de vision. Gardez à l'esprit qu'il s'agit d'une analyse abrégée de ce qui peut ou ne peut pas être possible avec différents FOV (si vous souhaitez en savoir plus sur les prédictions pour les formes de visage et de combinaison inférieures), Je suis disponible pour des consultations.) Les conditions changeront en fonction de facteurs supplémentaires tels que l'angle de la caméra et la façon dont le casque repose sur le visage. (L'oreillette est-elle lourde ? Comment son poids et sa pression affectent-ils les différentes zones du visage). 

Si vous travaillez sur le suivi des visages dans les casques, ne laissez pas les hypothèses limiter votre potentiel. Le visage est compliqué et plein d'indices. Il vous suffit de trouver les bons indices, et vous pouvez accomplir beaucoup à partir de peu. 

Le reste du contenu est destiné à Membres Premium seulement. Si vous êtes membre, s'identifier et revenir à cette page :) !

2 réflexions au sujet de “Bypassing VR Headset Occlusion in Face Tracking”

  1. C'est brillant et instructif. Maintenant, j'ai une meilleure idée sur la façon de détecter les émotions des gens pendant Halloween ! Hmm... J'ai encore besoin d'une base de données des expressions et des émotions associées aux attributs de l'UA (qui peuvent être décomposés par la forme, la largeur, la profondeur et le type de peau). Ce domaine est fascinant !

  2. Salut
    Je cherchais un emploi en ligne, j'avais déjà suivi un cours FACS et je travaillais dans la société affectiva.
    Merci

Laisser un commentaire

Ce site utilise Akismet pour réduire les spams. Découvrez comment les données de vos commentaires sont traitées.

Conçu pour les studios et les équipes

Parlons-en.

facetheFACS@melindaozel.com