One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Um dos maiores problemas em computação gráfica tem sido criar uma imagem realística de um rosto humano digitalizado. Um dos motivos de ser tão difícil é que, diferente de alieníginas e dinossauros, nós vemos faces humanas todos os dias. Elas são muito importantes para como nos comunicamos. Como um resultado, estamos sintonizados com as coisas mais sutis que poderia possivelmente estarem erradas com uma renderização a fim de acreditar se as imagens são realísticas.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
E o que irei fazer nos próximos cinco minutos é guiar vocês por um processo no qual tentamos criar uma face computadorizada razoavelmente realística, usando algumas tecnologias de computação gráfica desenvolvidas por nós, junto com colaboradores de uma empresa chamada Image Metrics. Nós tentaremos criar uma imagem real da face de uma atriz chamada Emily O'Brien, esta aqui. Esta é uma renderização computadorizada de seu rosto. No fim da palestra, veremos ele se mover.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
A maneira que fizemos isso foi: tentamos começar com a própria Emily, que foi tão gentil a ponto de vir ao nosso laboratório em Marina Del Rey, para uma sessão no Light Stage 5. Uma esfera de scaneamento de face, com 156 LEDs brancas por todos os lados, nos permitindo fotografá-la em uma série de condições de iluminação controlada. E a iluminação que usamos atualmente é próxima disto. Nós tiramos todas estas fotografias em cerca três segundos.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
E nós basicamente capturamos informação suficiente com padrões de projeção que se encaixa nas formas e contornos da face dela, em direções de luz diferentes, para obter os detalhes da face em escala pequena e grande. Se nós aproximarmos esta fotografia, podemos ver que é uma bela fotografia dela, porque ela foi iluminada totalmente o tempo todo para produzir esta bela imagem de textura facial dela.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Além disso, nós usamos polarizadores em todas as luzes -- da mesma forma que óculos polarizados podem bloquear o brilho no para-brisa, polarizadores podem bloquear o brilho na pele, assim não temos os reflexos de brilho para obter a foto. Agora, se girarmos o polarizador só um pouco, nós conseguimos trazer o reflexo da pele de volta e você pode ver que ela se parece um pouco brilhante e oleosa. Se você tirar a diferença entre estas duas imagens você consegue uma imagem iluminada por toda a esfera, mas somente do brilho da pele da Emily.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Não acho que uma foto como esta tenha sido tirada anteriormente. Esta é uma luz muito importante para capturar, porque esta é a luz que reflete a superfície da pele. Não chega às camadas translúcidas da pele que iriam borrar a imagem. Como resultado, temos uma boa pista dos detalhes da estrutura dos poros e das rugas que todos nós temos, estas coisas que nos fazem parecer humanos reais.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Se usarmos a informação dos reflexos nós ir de um scaneamento tradicional da face que contém os contornos grosseiros da face e o formato básico, e aumentá-lo com informação que adiciona toda aquela estrutura de poros e rugas. E, até mais importante, já que este é um processo fotométrico que demora apenas três segundos para capturar, nós podemos fotografar a Emily, durante parte de uma tarde, em várias poses e expressões faciais diferentes.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Aqui podemos ver os olhos dela se movendo, a boca se mexendo. Com isso nós iremos criar uma personagem digital realística. Se prestarem atenção nestes scans da Emily, poderá ver que a face humana faz um monte de coisas incríveis enquanto varia de expressão facial. Você pode ver as coisas. Não apenas o formado que muda, mas pode ver todo o tipo de curva e rugas que aparecem. Pode ver que a estrutura de poros muda bastante quando estica os poros da pele, até voltar a textura normal. Podem ver sulcos na sobrancelha e como a microestrutura muda. Os músculos puxando a pele, abaixando as sobrancelhas. Os músculos se curvando na testa quando ela faz isso.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Com esse tipo de geometria de alta resolução, já que capturamos com várias câmeras, temos um ótimo mapeamento da face. E observando como os canais de iluminação, o vermelho, verde e azul, difundem diferentemente a luz, nós podemos sombrear a pele no computador. Então, ao invés de parecer um boneco de plástico, parece que foi feito de verdadeira pele humana.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
E foi isto o que usamos, junto com a companhia Image Metrics, para criar uma versão digital da Emily. Aqui estamos vendo a escala maior da geometria. Eles basicamente criaram um boneco digital dela, onde você pode colocar vários fios que servem para mover sua face em formas que sejam consistentes com as fotos que tiramos. E, junto com a escala grosseira, eles também usaram todos os detalhes para criar um conjunto chamado de "mapa de deslocamento" que também é animado. Aqui estão os mapas de deslocamento. E vocês podem ver as diferentes rugas aparecendo enquanto se move.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
O último processo foi, então, animá-la. Nós usamos uma filmagem dela real como fonte de dados. Então, analizando este filme com técnicas computadorizadas, eles foram capazes de mexer na face usando a fonte gerada por computador. O que vocês irão ver, depois disso, é uma imagem real da face digital. Podemos aumentar o volume um pouco, se possível.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Emily: Image Metrics é uma companhia de animação baseada no desempenho, que não requer vestimentas especiais para rastreamento. Somos especialistas em alta qualidade de animação facial para video games e filmes. Emily: Image Metrics é uma companhia de animação baseada no desempenho, que não requer vestimentas especiais para rastreamento. Somos especialistas em animação facial de alta qualidade para video games e filmes.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
P. D.: Então, se separarmos as camadas, este é o componente difuso que vimos no primeiro slide. Este é a animação do componente especular. Aqui podem ver todas as rugas. E há a camada adjacente de malha de rede. E esta é a própria Emily.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Agora, onde estamos indo com isto? Nós fomos um poico além do Light Stage 5. Este é o Light Stage 6. E estamos tentando usar esta tecnologia e aplicá-la a corpos humanos inteiros. Este é Bruce Lawmen, um dos pesquisadores do projeto, que gentilmente aceitou ser capturado correndo no Light Stage. Vamos ver uma versão gerada por computador de Bruce, correndo em um novo ambiente. Muito obrigado. (aplausos)