One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Una delle più grandi sfide nella computer grafica è essere in grado di creare una faccia umana digitale fotorealistica. E una delle ragioni per cui è così difficile è che, a differenza degli alieni e dei dinosauri, vediamo facce umane ogni giorno. Sono molto importanti per esprimere ciò che comunichiamo agli altri. Come risultato, siamo attenti ai dettagli che possono essere sbagliati in un rendering computerizzato, per credere se queste cose sono realistiche.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
E quello che sto per fare nei prossimi cinque minuti è portarvi attraverso il processo con il quale abbiamo provato a creare una faccia computerizzata foto realistica usando qualche tecnologia di computer-grafica che abbiamo sviluppato, e anche qualche collaboratore di una compagnia chiamata Image Metrics. E proveremo a ricreare,foto realisticamente, la faccia di un'attrice chiamata Emily O'Brien, che è proprio lì. E in effetti quello è un rendering generato completamente al computer della sua faccia. Per la fine del nostro discorso, lo vedermo muoversi.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
Abbiamo fatto ciò provando a iniziare con la stessa Emily, che è stata così gentile da venire ai nostri laboratori a Marina Del Rey, e sedersi per una sessione nel Light Stage 5. Questa è una sfera per analizzare i volti, con 156 LED bianchi tutti intorno, che ci permettono di fotografarla. in una serie di condizioni luminose ben controllate. E la luce che usiamo questi giorni assomiglia a questa. Abbiamo scattato tutte queste foto in circa tre secondi.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
E riusciamo a catturare abbastanza informazioni con la tracce del video poriettore che coprono i contorni della sua faccia, e diverse direzioni principali della luce dall'ambiente luminoso, per capire contemporaneamente il livello di dettagli grezzo ed elaborato della sua faccia. Se ingrandiamo questa foto qui, vediamo che è un'ottima foto di Emily da avere, perchè è illuminata da tutte le parti contemporaneamente permettendo di avere una buona immagine della sua texture facciale.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
E in più, abbiamo usato dei polarizzatori su tutte le luci -- proprio come gli occhiali da sole polarizzati riescono a bloccare il bagliore della strada, i polarizzatori riescono a bloccare la lucidità della pelle, così non otterremo tutti quei riflessi speculari nell'ottenere questa mappa. Ora, se giriamo i polarizzatori solo un pò, possiamo riportare indietro quel riflesso speculare della pelle indietro, e potete vedere come ora appare lucida e unta ora. Se prendete le differenze tra queste due immagini, potete ottenere un'immagine illuminata da tutta la sfera di luce esclusivamente della lucidità della pelle di Emily.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Non penso che una foto come questa sia mai stata scattata, prima che noi facessimo questo. E questo è un tipo di luce molto importante da prendere, perchè è la prima luce riflessa dal primo strato della pelle Non va sotto gli strati traslucidi della pelle e offusca il resto. E, come risultato, è un buon inizio per la forma dettagliata della struttura dei pori e tutte quelle sottitli rughe che tutti abbiamo, le cose che in effetti ci fanno sembrare davvero umani
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Quindi, se usiamo le informazioni che ci arrivano da questo riflesso speculare possiamo passare da un tradizionale volto che può avere contorni irregolari e la sua struttura base, e perfezionarlo con informazioni che racchiudono la struttura di tutti i pori e di quelle rughe sottili. E, ancora più importante, dato che questo è un processo fotometrico che impega solo tre secondi, possiamo riprendere Emily solo in una parte del pomeriggio, in molte pose ed espressioni facciali differenti.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Quindi, qui potete vedere come muove gli occhi, muovendo anche la bocca. E useremo tutto ciò per creare il personaggio digitale. Se guardate questi scan che abbiamo di Emily, potete notare che il viso umano può fare molte cose sorprendenti assumendo diverese espressioni. Potete vedere. Non cambia solo la forma del viso, ma anche tutte quelle pieghe e quelle rughe della pelle. Potete vedere che la struttura dei pori cambia tantissimo dai pori distesi, alla consistenza normale della pelle. Potete vedere i solchi sulla fronte e come cambi la microstruttura lì. Vedete i muscoli tirare la carne per portare le sopracciglia giù. I muscoli che si rigonfiano sulla fronte quando fa quella smorfia.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
In aggiunta a questo tipo di geometria ad alta risoluzione, dal momento che è tutto ripreso dalle camere, otteniamo un'ottima mappa di texture da usare per il viso. E guardando come i differenti canali di colore della luce, il rosso, il verde e il blu, diffondono la luce in modo diverso, possiamo ricavare un modo per creare le ombre della pelle al computer. Quindi, invece di sembrare un manichino di plastica, sembra fatto di vera carne umana.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Questo è ciò che abbiamo dato alla Image Metrics per creare una versione digitale di Emily. Stiamo vedendo solo la scala geometrica grossolana qui. Ma hanno praticamente creato un suo pupazzo digitale, modificabile con queste variabili, e far muovere il viso coerentemente alle analisi che abbiamo preso. E, in aggiunta alla scala geometrica grossolana, hanno usato anche tutti quei dettagli per creare una raccolta di quelle che chiamiamo "displacement maps" che anche possono essere animate. Queste sono le "displacement maps". E vedete come quelle rughe si mostrano davvero quando si muove.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Quindi il prossimo processo e riuscire ad animarla. Abbiamo usato una delle sue performance come fonte di dati. Così, analizzando il video con tecniche computerizzate, sono riusciti a guidare la struttura facciale con la performance generata al computer. Quindi, ciò che vedrete dopo questo è un volto foto reale completamente digitale. Possiamo aumentare un pò il volume se è possibile.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Emily: Image Metrics è una compagnia d'animazione attenta ai rendimenti. Siamo specializzati in animazioni facciali ad alta qualità per videogiochi e film. Image Metrics è una compagnia d'animazione attenta ai rendimenti. Siamo specializzati in animazioni facciali ad alta qualità per videogiochi e film.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Paul Debevec: Quindi, se lo scomponiamo in livelli, qui c'è quella componente diffusa che abbiamo visto nelle prime slide. Qui c'è la componente speculare in movimento. Potete vedere le rughe muoversi lì. E lì c'è la maglia wireframe che è alla base. E quella è la vera Emily.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Ora, dove stiamo andando con tutto ciò? Siamo andati un pò oltre al Light Stage 5. Questo è il Light stage 6. E stiamo cercando di applicare questa tecnologia a tutto il corpo umano. Questo è Bruce Lawmen, uno dei nostri ricercatori, che ha cortesemente accettato a essere ripreso mentre corre nel Light Stage. E vediamo la versione computerizzata di Bruce, correre in un ambiente differente. E grazie mille. (Applausi)