One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Uno de los mayores retos en computación gráfica ha sido el poder crear un rostro humano digital fotorrealista. Y una de las razones por las que es tan difícil, a diferencia de alienígenas y dinosaurios, es porque observamos caras humanas todos los días. Son muy importantes para la forma en que nos comunicamos con los demás. Como resultado, estamos afinando las cosas más sutiles que probablemente pudieran estar erradas en un renderizado computacional, a fin de considerar si estas cosas son realistas.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Y lo que voy a hacer en los próximos cinco minutos es llevarles a través de un proceso donde intentamos crear un rostro generado por computadora razonablemente fotorrealista, usando algo de la tecnología de computación gráfica que hemos desarrollado, y también algunos colaboradores de una compañía llamada Image Metrics. Y vamos a intentar hacer una cara fotorrealista de una actriz llamada Emily O'Brian, quien está justo allí. Y ese es, de hecho, un renderizado totalmente generado en computadora de su cara. Hacia el final de la charla, lo vamos a ver moverse.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
La forma en que lo hicimos fue que, para comenzar, ensayamos con la propia Emily, quien fue tan amable de venir a nuestro laboratorio en Marina Del Rey, y posar para una sesión en la Light Stage 5. Ésta es una esfera para escanear rostros, con 156 "LEDs" blancos en todo su contorno, que nos permite fotografiarla en una serie de condiciones de iluminación muy controladas. Y la iluminación que usamos estos días se ve algo parecida a ésta. Tomamos todas estas fotografías en aproximadamente tres segundos.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
Y básicamente, capturamos suficiente información con los patrones de video-proyector extendidos sobre los contornos de su cara, y con las direcciones de las diferentes fuentes de luz de la Light Stage, como para resolver tanto el grano grueso como el detalle del grano fino de su cara. Si ampliamos esta fotografía justo aquí, podemos ver que es una fotografía muy buena de ella, porque está absolutamente iluminada desde todos lados al mismo tiempo para conseguir una buena imagen de su textura facial.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Y además, en efecto, hemos utilizado polarizadores para todas las luces -- exactamente como los lentes de sol polarizados pueden bloquear el resplandor del pavimento, los polarizadores pueden bloquear el brillo de la piel, así que no usamos todos esos reflejos especulares para hacer este mapa. Ahora, si giramos los polarizadores sólo un poco, podemos, realmente, devolver esa reflexión especular a la piel, y pueden ver que luce bastante brillante y grasosa en este punto. Si tomas la diferencia entre estas dos imágenes aquí, puedes obtener una imagen iluminada por toda la esfera luz de únicamente el brillo de la tez de Emily.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Creo que ninguna fotografía así se había tomado antes de que hubiésemos hecho ésta. Y ésta es una luz muy importante de captar, porque es la luz que se refleja en el primer estrato de la piel. No alcanza las capas traslúcidas inferiores de la piel y se dispersa. Y, como resultado, es una referencia muy buena para la forma detallada de la estructura de los poros de la piel y la totalidad de finas arrugas que todos tenemos, cosas que efectivamente nos hacen lucir como humanos reales.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Bien, si usamos la información proveniente de esta reflexión especular podemos ir de un tradicional rostro escaneado que podría tener los burods contornos de la cara y la forma básica, y mejorarlo con la información que introduce toda esa estructura de poros y finas arrugas. Y, aún más importante, ya que es un proceso fotométrico que sólo toma tres segundos capturar, podemos fotografiar a Emily en apenas parte de una tarde, en poses y expresiones faciales muy diversas .
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Bien, aquí pueden verla moviendo sus ojos alrededor, moviendo su boca alrededor. Y estas, efectivamente, vamos a utilizarlas para crear un personaje digital fotorrealista. Si echan una mirada a estas imágenes que obtuvimos de Emily, pueden ver que el rostro humano realiza una enorme cantidad de cosas asombrosas al formar distintas expresiones faciales. Pueden ver cosas. No solo cambia la forma de la cara, sino que ocurren todo tipo de plegamientos y fruncimientos de la piel. Pueden ver que la estructura porosa de la piel cambia enormemente, desde los poros estirados, hasta la textura regular de la piel. Pueden ver los surcos en el ceño y como cambia la microestructura allí. Pueden ver los músculos tirando la carne para llevar sus cejas hacia abajo. Sus músculos sobresaliendo en la frente cuando gesticula así.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Además de este tipo de geometría de alta resolución, ya que todo se capturó con cámaras, contamos con un gran mapa de texturas que utilizar para su cara. Y al explorar cómo los diferentes canales de color de la iluminación, el rojo, y el verde y el azul, esparcen la luz diferentemente, podemos conseguir una forma de matizar la piel en la computadora. Entonces, en vez de lucir como un maniquí de yeso, efectivamente, luce como hecho de carne y hueso.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Y esto es lo que hicimos para entregarlo a la compañía Image Metrics para crear una versión articulada de Emily. Estamos apenas viendo la geometría en grueso aquí. Pero, básicamente, crearon un títere digital de ella, donde ustedes pueden halar de las diversas cuerdas, y efectivamente, mover su cara en formas que son completamente consistentes con las imágenes que tomamos. Y, además de la geometría en grueso, también usaron todo aquel detalle para crear un juego de los llamados "mapas de desplazamiento" que también dan animación. Estos aquí son los mapas de desplazamiento. Y de hecho, pueden ver esas diversas arrugas manifestándose mientras ella cobra animación.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Así que el siguiente proceso fue darle luego animación a ella. En realidad, usamos una de sus propias actuaciones para estipular los datos originales. Bien, analizando este video con técnicas de visión por computadora, ellos pudieron manejar el dispositivo facial con la ejecución generada en el computador. Por lo tanto, lo que van a ver ahora, después de esto, es un rostro digital completamente fotorrealista. Podemos subir un poco el volumen si es posible.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
EMILY: Image Metrics es una compañía de animación sin marcadores orientada por resultados. Nos especializamos en animación facial de alta calidad para videojuegos y películas. Image Metrics es una compañía de animación sin marcadores orientada por resultados. Nos especializamos en animación facial de alta calidad para videojuegos y películas.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
PAUL DEBEVEC: Bien, si desglosamos eso en capas, aquí está aquel difuso componente que vimos en la primera diapositiva. Aquí está el componente especular en animación. Pueden ver cómo todas las arrugas se presentan allí. Y allí está la malla de la armadura lineal subyacente. Y esa es la propia Emily.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Ahora, ¿adónde vamos con esto? Hemos ido un poquito más allá de la Light Stage 5. Ésta es Light Stage 6. Y estamos estudiando usar esta tecnología y aplicarla a cuerpos humanos enteros. Éste es Bruce Lawmen, uno de nuestros investigadores en el equipo, quien gentilmente aceptó ser captado al correr en la Light Stage. Y vamos a echar un vistazo a la versión generada por computadora de Bruce, corriendo en un nuevo ambiente. Y muchísimas gracias. Aplausos