One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Un des plus grands défis dans l'image de synthèse a toujours été de créer un visage humain photo-réaliste. Et une des raisons pour cela, à l'inverse des aliens ou des dinosaures, est que nous regardons des visages humains tous les jours. Et ceux-ci sont très importants dans la façon dont nous communiquons entre nous. Et nous sommes donc sensibles aux moindres détails potentiellement erronés d'une image de synthèse, nous empêchant de croire que ce visage puisse être réaliste.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Et ce que je vais faire pendant les cinq prochaines minutes est de vous faire partager un processus grâce auquel nous avons essayé de créer un visage de synthèse photo-réaliste, en utilisant une technologie d'image de synthèse que nous avons développé avec nos collaborateurs chez Image Metrics. Nous allons essayer de reproduire le visage de l'actrice Emily O'Brian, ici présente, de manière réaliste. Et voici une image de synthèse de son visage, entièrement reconstituée. D'ici la fin de cette présentation, vous la verrez bouger.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
Notre méthode fut d'abord d'essayer avec Emily en personne, qui a gentiment accepté de venir dans notre laboratoire de Marina Del Rey, et de participer à une session de Light Stage 5. C'est une sphère faite de 156 DEL blanches tout autour qui scannent son visage et nous permettent de le photographier dans un ensemble d'éclairages extrêmement contrôlés. Et l'éclairage que nous utilisons en ce moment ressemble à ceci. Nous prenons toutes ces photos en environ trois secondes.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
Et nous obtenons suffisamment d'informations avec des modèles de projection vidéo qui enrobent les contours de son visage, et les diverses orientations principales de lumière, pour reconstituer à la fois la definition haute et basse des détails de son visage. Si nous zoomons sur cette photo ici, nous pouvons voir que c'est un très beau cliché à avoir car elle est éclairée d'absolument partout à la fois et cela donne une belle image de la texture de son visage.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Et en plus, nous avons utilisé des filtres polarisateurs sur toutes les lumières de la même façon que les lunettes polarisées peuvent bloquer les reflets sur la route, les filtres polarisateurs bloquent la brillance de la peau, et nous obtenons une texture sans reflets spéculaires. Maintenant, si nous tournons un peu ces filtres, nous pouvons en fait réintroduire les reflets spéculaires sur la peau et vous pouvez voir que sa peau semble très brillante et huilée maintenant. Si l'on soustrait les différences entre ces deux images là, on peut obtenir une image éclairée par toute la sphère de lumière ou bien uniquement la brillance de la peau d'Emily.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Je crois qu'aucune photo de ce type n'a jamais été prise avant la nôtre. Et cette lumière est extrêmement importante à saisir, car c'est la lumière qui se reflète à la surface de la peau. Elle ne pénètre pas au delà des couches translucides de la peau pour s'y dissiper. Et le résultat est une très bonne indication de la forme détaillée de la structure poreuse de la peau et de toutes les fines rides que nous avons tous, exactement le genre de chose qui nous donnent l'aspect de vrais humains.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Donc, si nous utilisons ces données venant des reflets spéculaires nous pouvons aller d'un scan traditionnel de visage qui pourrait avoir les contours grossiers et la forme basique du visage, et ajouter les informations nécessaires à cette structure poreuse et aux fines rides de la peau. Et, plus important encore, puisque c'est un processus photométrique qui ne prend que trois secondes, nous pouvons photographier Emily seulement en une partie de l'après-midi, en de nombreuses positions et expressions faciales.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Ici, vous pouvez la voir bouger ses yeux et sa bouche. Et nous nous en servirons pour créer notre personnage de synthèse photo-realiste. Si vous regardez ces scans que nous avons d'Emily, vous pouvez voir que le visage humain est capable d'un nombre impressionnant de choses lorsqu'il exprime différents sentiments. Vous pouvez voir ces choses. Non seulement le visage change, mais plein de plis et de rides apparaissent. Vous pouvez voir que la structure poreuse de la peau change énormément entre les pores étirées et la texture habituelle de la peau. Vous pouvez voir les froncements du front, et comment la micro-structure change là. Vous pouvez voir les muscles tirer vers le bas pour faire descendre ses sourcils. Ses muscles se bomber sur son front lorsqu'elle grimace comme cela.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
En plus de toute cette sorte de géométrie haute résolution, puisque c'est pris avec des caméras, on a un superbe plan de textures pour son visage. Et en observant comment les différents canaux de colorimétrie, le rouge, le vert et le bleu, diffusent la lumière de façon différente, nous pouvons trouver une façon d'ajouter des tons à la peau sur l'ordinateur. Et ainsi, plutôt que de ressembler a un mannequin de plâtre, cela semble être fait de chair humaine bien vivante.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Et nous nous sommes servis de ça au service de l'entreprise Image Metrics pour créer une version numérique d'Emily. Nous ne voyons que les formes basiques ici. Mais ils ont en gros créé une marionnette numérique d'elle, sur laquelle nous pouvons tirer sur ces différentes ficelles, et elles font bouger son visage de façon complètement en accord avec les scans que nous avons pris. Et, en plus des formes basiques, ils ont également utilisé tous ces détails pour créer une série de "plans de déplacement" qui peuvent être animées également. Voici les plans de déplacement. Et vous pouvez voir les différentes rides apparaître lorsqu'elle s'anime.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Donc le processus suivant était de l'animer. Nous avons en fait utilisé une de ses performance comme source de données. Et en analysant la vidéo avec des méthodes de tracking par ordinateur, ils ont été capable de synchroniser le modèle de son visage avec la performance générée par l'ordinateur. Ce que vous allez voir maintenant, après ceci, est un visage entièrement numérique et photo-réaliste. On peut augmenter le volume un petit peu si possible.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Emily : Image Metrics est une entreprise d'animation sans tracking, basée sur la performance humaine. Nous sommes spécialisés dans l'animation haute résolution de visages pour films et jeux vidéos. Image Metrics est une entreprise d'animation sans tracking, basée sur la performance humaine. Nous sommes spécialisés dans l'animation haute résolution de visages pour films et jeux vidéos.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Paul Debevec : En décomposant tout ceci en couches, voici la texture diffuse que nous avons vu en première partie. Voici l'animation des reflets spéculaires. Vous pouvez voir toutes les rides apparaître ici. Et voici la maquette de base. Et voici la vraie Emily.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Alors maintenant, que faire de tout ça? Nous sommes allés un peu plus loin que le Light Stage 5. Voici Light Stage 6. Et nous étudions la possibilité d'utiliser cette technologie en l'appliquant sur le corps humain complet. Voici Bruce Lawmen, un des chercheurs du groupe, qui a gentiment accepté de se faire numériser en courant. Et voilà ce que ça donne dans la version générée par ordinateur de Bruce, courant dans un nouvel environnement. Merci beaucoup. (Applaudissements)