Mira por los post de Vision ARtificial y de Realidad aunmentada alli se comentan todas las librerias que usan.

http://www.webdearde.com/modules.php?na ... opic&t=389

Sé que son 24 páginas y que hay demasiada informacion, pero seguro que con tranquilidad puedes sacar muuuucha informacion.

No lo veo un proyecto demasiado complicado, yo trabajaría dividiendo la imagen en sectores de interes y analizando sólo esos sectores, es decir, trabaj con sectores como cejas, ojos y boca... olvídate de la frente, mofletes y orejas... porque de no ser que trabajes con Jim Carrey de poco te van a servir.

Dado que en tu caso la mayoria de los colores son iguales o con mucho contraste... a menos que pongas a un africano para probar... lo que puedes hacer es trabajar con la imagen en Blanco y negro, lo que libera de muuucho trabajo al procesador, o incluso podrias analizar las capas de color que te interesan en vez de pasar la imagen a BN... lo mismo de la capa de rojos puedes sacar más información.

Como dije, no lo veo complicado, claro que eso no quita que no tenga bastante curro.

Ánimo, que promete ser interesante

OpenCV
Yo nunca las he usado, pero son muy interesantes, creo que aqui tendras una buena ayuda también...
http://opencvlibrary.sourceforge.net/

Si las usas dínoslo, seguro que servira de ayuda a lelos como yo que aun no las hemos probado y lo hacemos todo a mano...

Otra idea que puede que te sirva es utilizar marcadores para identificar y compararlos con caras almacenadas con anterioridad.
Es decir te pones por la cara unos puntos blancos y que te grave la camara y dependiendo de como se mueven los puntos o de como quedan cuando se hace el gesto y comparandolos con caras anteriormente almazenas y con todas las expresiones se dice si se esta alegre, triste etc