One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Jedan od najvećih izazova u računalnoj grafici je biti u stanju stvoriti foto-realistično, digitalno ljudsko lice. A jedan od razloga zašto je to teško je taj što, za razliku od dinosaura, ljudska lica promatramo svakodnevno. Vrlo su važna za našu međusobnu komunikaciju. Kao rezultat, primjećujemo najtananije stvari koje bi uopće mogle biti pogrešne u računalnom renderiranju, kako bismo vjerovali jesu li te stvari realistične.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Ono što ću učiniti u sljedećih pet minuta je da ću vas provesti kroz proces kojim smo pokušali stvoriti razumno foto-realistično računalno generirano lice, koristeći tehnologiju računalne grafike koju smo sami razvili, kao i suradnike u kompaniji po imenu Image Metrics. Pokušat ćemo napraviti foto-realistično lice glumice po imenu Emily O'Brien, koja je ovdje. A to je zapravo potpuno računalno renderiranje njezinog lica. Do kraja ovog govora, vidjet ćemo ga u pokretu.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
Način na koji smo to napravili je tako da smo pokušali početi sa samom Emily, koja je bila dovoljno draga i došla do našeg laboratorija u marini Del Rey, i sjela na seansu na svjetlosnoj pozornici 5. Ovo je kugla za skeniranje lica koja ima 156 bijelih LED-ova uokolo, koji nam omogućuju da je fotografiramo u nizu kontroliranih uvjeta osvjetljenja. A svjetlost koju koristimo ovih dana izgleda poput ovoga. Slikamo sve ove fotografije u neke tri sekunde.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
I praktički dobivamo dovoljno informacija s uzorcima video projekcije koji se prevlače preko njezinog lica, i različitim glavnim pravcima svjetla u svjetlosnoj pozornici, da raščlanimo i grube crte kao i fine sitne detalje njezinog lica. Ako zumiramo ovu fotografiju ovdje, vidimo da je to zaista lijepa fotografija nje, jer je osvijetljena s apsolutno svih strana u isto vrijeme čime dobivamo lijepu sliku površine njezinog lica.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Dodatno, koristili smo polarizatore na svim svjetlima -- baš kao što polarizirane sunčane naočale blokiraju sjaj koji se reflektira od ceste, polarizatori mogu blokirati sjaj kože, pa ne dobivamo refleksije na ovoj mapi. No, ako okrenemo polarizatore samo malo, možemo zapravo tu refleksiju vratiti na lice, i vidite da ona sada izgleda nekako sjajno i nauljeno. Ako uzmete razliku između ove dvije slike, možete dobiti sliku osvijetljenu s cjelokupnom svjetlosnom kuglom ili samo sjaj s Emilyne kože.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Mislim da fotografija poput ove nikada nije bila fotografirana prije nego što smo mi ovo učinili. A ovo je vrlo važno svjetlo za uhvatiti, jer je to svjetlo koje se reflektira s prve površine kože. Ono ne ulazi pod prozirne slojeve kože i tu se muti. Rezultat je taj da imamo vrlo dobar pokazatelj detaljnog oblika strukture kože i pora i svih finih bora koje svi imamo, stvari zbog kojih zapravo i izgledamo kao pravi ljudi.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Dakle, ako koristimo informacije koje dobivamo od te točkaste refleksije možemo ići od tradicionalnog skena lica koji nam daje grube konture lica i glavni oblik, i pojačati ga s informacijama koje dodaju čitavu strukturu pora i fine bore. I još važnije, otkad je to fotometrijski proces koji zahtijeva samo 3 sekunde, možemo fotografirati Emily tijekom samo dijela popodneva, u mnogo različitih položaja lica i mnogo izraza.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Ovdje je vidite kako okreće očima, pomiče usta. A ove ćemo zaista koristiti da stvorimo foto-realističan digitalni karakter. Ako pogledate ove skenove koje imamo od Emily, vidite da ljudsko lice čini ogroman broj zapanjujućih stvari kad pravi različite izraze. Možete to vidjeti. Ne samo da se oblik lica mijenja, već se događa i različito savijanje i nabiranje kože. Vidite da se struktura pora kože drastično mijenja od rastegnutih pora, do normalne teksture kože. Možete vidjeti brazde na čelu i kako se mikrostruktura ovdje mijenja. Vidite kako mišići povlače kožu nadolje kako bi spustili njezine obrve. Mišići iskaču na njezinom čelu kad pravi ovu grimasu.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Osim ove geometrije visoke rezolucije, budući da je sve snimljeno fotoaparatom, imamo odličnu mapu teksture za upotrijebiti na licu. A gledajući kako različiti kanali boja u svjetlosti, crveni i zeleni i plavi, različito raspršuju svjetlo, možemo odrediti način na koji ćemo osjenčati kožu računalom. I tada, umjesto da izgleda kao gipsana lutka, ovo zapravo izgleda kao da je izrađeno od živog ljudskog tkiva.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
I to je ono što smo davali kompaniji Image Metrics da naprave prilagođenu digitalnu verziju Emily. Ovdje vidimo samo geometriju u grubom planu. Ali oni su napravili digitalnu marionetu nje, kod koje možete povući ove različite uzice, i one pomiču njezino lice na način sasvim konzistentan sa skenovima koje smo napravili. Osim grube geometrije, Iskoristili su i sve te detalje da naprave skup onoga što se zove "karte pomaka" koje se također mogu animirati. Ovo su karte pomaka. I vidite da se različite bore doista vide kad je animirana.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Sljedeći je postupak, dakle, bila animacija. Koristili smo jednu njenu pravu izvedbu kao izvor podataka. Analizirajući ovaj video tehnikama računalnog gledanja, bili su u stanju pokrenuti kostur lica izvedbom generiranom u računalu. Ono što ćete sada vidjeti, nakon ovoga, je posve foto-realistično lice. Možemo malo pojačati glasnoću ako može.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Emily: Image Metrics je kompanija za animaciju bez markera, temeljenu na izvedbi. Specijaliziramo se za animaciju lica visoke kvalitete za video igre i filmove. Image Metrics je kompanija za animaciju bez markera, temeljenu na izvedbi. Specijaliziramo se za animaciju lica visoke kvalitete za video igre i filmove.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Paul Debevec: Pa, ako to raščlanimo na slojeve, evo te difuzne komponente koju smo vidjeli na prvom slajdu. Ovdje je refleksivna komponenta u animaciji. Vidite da se ovdje pojavljuju i sve bore. A ovdje je žičana mreža u podlozi. A ovo je sama Emily.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Pa, kamo dalje s ovime? Pomaknuli smo se nešto dalje od svjetlosne pozornice 5. Ovo je svjetlosna pozornica 6. I gledamo kako iskoristiti ovu tehnologiju i primijeniti je na čitava tijela. Ovo je Bruce Lawmen, jedan od istraživača u skupini, koji se velikodušno složio da ga snimimo dok trči na svjetlosnoj pozornici. Pogledajmo verziju Brucea generiranu računalom, dok trči u novom okruženju. Hvala vam lijepa. (Pljesak)