Eine der größten Herausforderungen in der Computergrafik war es, ein fotoreales menschliches Gesicht herzustellen. Und einer der Gründe, warum dies so schwierig ist, ist, dass wir im Gegensatz zu Aliens und Dinosaurier jeden Tag menschliche Gesichter sehen. Sie sind sehr wichtig für unsere Kommunikationsweise. Deshalb reagieren wir auf die kleinsten Details, die möglicherweise falsch durch den Computer generiert sein könnten, wenn es um deren glaubwürdige Realistik geht.
One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
In den nächsten fünf Minuten werde ich Sie durch einen Prozess führen, in welchem wir versucht haben, ein fotorealistisches computergeneriertes menschliches Gesicht herzustellen, mit Hilfe von Computergrafik-Technologie, die wir entwickelt haben, und mit Hilfe einiger Mitarbeiter einer Firma namens Image Metrics. Wir werden versuchen, ein fotoreales Gesicht einer Schauspielerin namens Emily O'Brien, die genau dort ist, herzustellen. Dies hier ist übrigens eine ausschließlich computergenerierte Bildsynthese ihres Gesichts. Im Laufe der Vorführung werden wir sehen, wie es sich bewegt.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Wir taten dies, indem wir versuchten mit Emily selbst zu beginnen, die so liebenswürdig war, zu uns ins Labor in Marina del Rey zu kommen und für eine Session in der Lichtbühne 5 zu posieren. Das ist ein Bereich, der das Gesicht mit 156 weißen LEDs rundherum scannt, was uns erlaubt, Sie in einer Folge von sehr kontrollierten Beleuchtungskonditionen zu fotografieren. Und die Beleuchtung, die wir heutzutage brauchen, sieht ungefähr so aus. Wir machen all diese Fotos in ungefähr drei Sekunden
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
und fangen grundsätzlich genügend Information mit Hilfe von Videoprojektoren-Mustern ein, welche die Konturen ihres Gesichtes drapieren, und mittels verschiedener prinzipieller Richtungen von Licht von der Lichtbühne, um die groben und feinen Details der Dimensionen ihres Gesichts herauszufinden. Wenn wir genau in dieses Foto hier hineinzoomen, können wir sehen, dass dies ein schönes Foto von ihr ist, denn Sie wird von absolut überall gleichzeitig beleuchtet, sodass wir ein schönes Bild ihrer Gesichtsstrukturen erhalten.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
Zusätzlich haben wir eigentlich bei allen Lichtern Polarisierer gebraucht. So wie polarisierte Sonnenbrillen die Blendung durch die Straße verhindern können, können Polarisierer das Glänzen der Haut verhindern, sodass wir in der Aufnahme keine spiegelnden Reflektionen erhalten. Wenn wir nun die Polarisierer nur ein wenig umdrehen, können wir jene spiegelnde Reflektion der Haut wieder zurückbringen, und Sie können sehen, dass sie an dieser Stelle etwas glänzend und ölig aussieht. Wenn man den Unterschied zwischen diesen beiden Bildern hier nimmt, kann man eine Aufnahme erhalten, die nur von der Lichtsphäre des Glanzes der Haut von Emily beleuchtet ist.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Ich glaube nicht, dass jemals solch ein Foto gemacht wurde, bevor wir es gemacht hatten. Es ist sehr wichtig, dieses Licht zu erfassen, denn es reflektiert die erste Oberfläche der Haut. Es geht nicht unter die lichtdurchlässige Schicht der Haut und verschwimmt. Daher ist dies ein sehr guter Hinweis auf die detaillierte Form der Hautporen-Struktur und auf all die feinen Falten, die wir alle haben, eben das, was uns eigentlich menschlich aussehen lässt.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Wenn wir also die Information nutzen, die von dieser spiegelnden Reflektion kommt, können wir mit einem traditionellen Gesichtsscan beginnen, der die groben Konturen des Gesichtes und die Grundform wiedergibt, und ihn durch diejenige Information ergänzen, welche die ganze Poren-Struktur und alle feine Falten einbezieht. Was noch wichtiger ist, da dies ja ein fotometrischer Prozess ist, den man in nur drei Sekunden erfassen kann: wir können Emily in einem Zeitraum von weniger als einem einzigen Nachmittag in mehreren verschiedenen Gesichtsposen und -ausdrücken aufnehmen.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Hier kann man sehen, wie sie ihre Augen und ihren Mund bewegt. Beides werden wir hauptsächlich brauchen, um einen fotorealen, digitalen Charakter zu kreieren. Wenn Sie einen Blick auf diese Scans werfen, die wir von Emily haben, können Sie sehen, dass das menschliche Gesicht eine riesige Menge von erstaunlichen Dingen ausdrückt, indem es verschiedene Gesichtsausdrücke annimmt. Man kann erkennen, dass sich nicht nur die Gesichtsform verändert, sondern dass auch alle möglichen verschiedenen Falten auftreten. Man kann sehen, dass sich die Poren-Struktur enorm verändert, von gestreckten Poren bis hin zu einer regelmäßigen Hautstruktur. Sie können die Furchen in den Augenbrauen sehen und wie sich dort die Mikrostruktur verändert. Sie können Muskeln sehen, die das Fleisch herunterziehen, um ihre Augenbrauen zu senken, und ihre Muskeln, die an ihrer Stirn herausragen, wenn sie so zusammenzuckt.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Zusätzlich zu dieser Art von Geometrie mit hoher Auflösung, erhalten wir, da ja alles mit der Kamera erfasst wird, eine großartige Aufnahme der Strukturkarte, die wir für das Gesicht brauchen. Indem wir uns ansehen, wie die verschiedenen Farbenkanäle der Beleuchtung, der rote und der grüne und der blaue, das Licht unterschiedlich streuen, können wir auf eine Lösung kommen, wie man die Haut im Computer schattieren kann. Dann sieht sie, anstatt einer Gipspuppe zu gleichen, so aus, als wäre sie von lebendigem, menschlichem Fleisch.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Dies war es, was wir der Firma Image Metrics zur Verfügung stellten, um eine manipulierte, digitale Version von Emily zu erschaffen. Hier sehen wir gerade die grobskalige Geometrie. Im Grunde aber hat man eine digitale Puppe von ihr erschaffen, bei der man an diesen verschiedenen Fäden ziehen kann, und tatsächlich bewegt das ihr Gesicht so, dass es vollständig konsistent ist mit den Scans, die wir aufgenommen haben. Zusätzlich zur grobskaligen Geometrie wurden all diese Details auch dazu verwendet, eine Reihe von sogenannten "Verformungskarten" zu erstellen, die ebenfalls animierend wirken können. Diese hier sind diese "Verformungskarten". Man kann sehen,dass diese verschiedene Falten auftauchen, sobald sie animiert wird.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Daher bestand der nächste Schritt darin, sie zu animieren. Wir verwendeten hauptsächlich einen ihrer eigenen Auftritte als Datenquelle. Indem man dieses Video mit Computervision-Techniken analysierte, konnte man die Gesichtsanimation mit der computergenerierten Tätigkeit vornehmen. Was Sie jetzt gleich sehen werden, ist also ein vollständiges, fotoreales, digitales Gesicht. Wir können die Lautstärke erhöhen, falls dies möglich ist.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Emily: Image Metrics ist eine markenfreie, leistungsgesteuerte Animationsfirma. Wir sind auf Gesichtsanimation von hoher Qualität für Videospiele und Filme spezialisiert. Image Metrics ist eine markenfreie,leistungsgesteuerte Animationsfirma. Wir sind auf Gesichtsanimation von hoher Qualität für Videospiele und Filme spezialisiert.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Paul Debevec: Wenn wir dies in Schichten zerlegen, haben wir hier das diffuse Bestandteil, das wir im ersten Dia gesehen haben. Hier animiert der spiegelnde Bestandteil. Man kann da all die Falten sehen, die entstehen. Und hier ist das zugrundeliegende Drahtgitter-Geflecht. Und dies ist Emily selbst.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Wohin wird uns all dies führen? Wir sind ein bisschen über Lichtbühne 5 hinaus gegangen. Dies ist Lichtbühne 6. Und wir haben vor, diese Technologie zu übernehmen und auf den ganzen menschlichen Körper anzuwenden. Das ist Bruce Lawmen, einer unserer Forscher in der Gruppe, der liebenswürdigerweise damit einverstanden war, fotografiert zu werden, während er in der Lichtbühne herumlief. Zum Schluss noch ein Blick auf das computergenerierte Modell von Bruce, das in einer neuen Umgebung umherläuft. Vielen Dank. (Applaus)
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)