One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Una dintre cele mai mari provocări în domeniul graficii pe calculator este capacitatea de a crea o fizionomie umană digitală fotorealistă. Unul dintre motivele pentru care este un lucru atât de dificil este faptul că, spre deosebire de extratereştri şi dinozauri, fizionomiile umane sunt ceva ce vedem în fiecare zi. Fizionomiile sunt foarte importante pentru felul în care comunicăm între noi. În consecinţă, suntem sensibili la cele mai subtile imperfecţiuni care ar putea apărea în redările pe calculator, pentru a ne convinge ca aceste lucruri sunt reale.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Ceea ce voi face in urmatoarele cinci minute este de a va prezinta un proces prin care am încercat să creăm o fizionomie generată pe calculator suficient de fotorealistă cu ajutorul unei tehnologii de grafică pe calculator pe care am dezvoltat-o, împreună cu colaboratorii noştri de la compania Image Metrics. Am încercat să construim o imagine fotorealistă a feţei actriţei Emily O'Brien, care este prezentă printre noi. Este de fapt o redare a feţei ei generată în totalitate pe pe calculator. În finalul prezentării, vom vedea imaginea în mişcare.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
Pentru a ajunge la acest rezultat, am început cu Emily, care a fost amabila si a venit la laborattorul nostru din Marina Del Rey şi să participe la o şedinţă în Light Stage 5. Este vorba despre o sferă pentru scanarea fizionomiei, cu 156 de LED-uri de jur-împrejur, care ne permit să o fotografiem în diferite condiţii de iluminare foarte controlată. Iluminarea pe care o folosim la ora actuală arată cam aşa. Realizam toate aceste fotografii în aproximativ trei secunde.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
De fapt, captăm suficiente informaţii cu modele de videoproiecţie care se mulează pe contururile feţei ei şi cu diferite direcţii principale ale luminii din interiorul sferei Light Stage pentru a detecta atât detaliile vizibile ale feţei, cât şi pe cele fine. Dacă mărim această fotografie vedem că este o fotografie bună pentru că este iluminată din absolut toate direcţiile în acelaşi timp pentru a obţine o imagine bună a texturii faciale.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
În plus, am utilizat filtre de polarizare pe toate luminile aşa cum ochelarii de soare polarizaţi pot bloca lumina reflectată din şosea, filtrele de polarizare pot bloca reflecţiile de pe piele, astfel încât să eliminăm toate reflecţiile luminoase atunci când construim o hartă a feţei. Dacă rotim puţin filtrele de polarizare, putem să redăm pielii acel efect de refracţie şi puteti observa că acum arată puţin lucioasă si uleioasă. Dacă extragem diferenţa dintre aceste două imagini, putem obţine o imagine iluminată de întreaga sferă luminoasă formată numai din refracţia de pe pielea Emiliei.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Nu cred că s-a mai făcut vreodat o fotografie de acest fel, înainte s-o facem pe aceasta. Captarea acestei lumini este foarte importantă, pentru că aceasta este lumina reflectată de prima suprafaţă a pielii. Nu pătrunde sub straturile translucide ale pielii şi se pierde. Prin urmare, este o indicaţie foarte bună despre forma detaliată a structurii porilor pielii şi despre ridurile fine pe care fiecare dintre noi le are şi care de fapt ne fac să arătăm ca nişte fiinţe umane.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Prin urmare, dacă utilizăm informaţiile care se desprind din această refracţie putem porni de la o scanare tradiţională a feţei care ar putea să aibă contururile generale ale feţei şi forma de bază, şi le putem completa cu informaţii care adaugă structura porilor şi ridurile fine. Şi, un lucru şi mai important, întrucât avem de a face cu un proces fotometric care poate fi captat în numai 3 secunde, putem să o fotografiem pe Emily în mai puţin de o după-amiază în multe ipostaze şi expresii faciale diferite.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Aici puteţi să o vedeţi rotindu-şi ochii şi mişcându-şi gura. Vom folosi aceste expresii de fapt pentru a crea un personaj digital fotorealist. Dacă vă uitaţi la aceste imagini scanate pe care le avem cu Emily, puteţi observa că faţa unui om face un număr impresionant de lucruri extraordinare în timp ce trece de la o expresie facială la alta. Puteţi vedea că nu numai forma feţei se modifică, ci şi că au loc tot felul de încreţiri şi ridări ale pielii. Puteţi observa că structura porilor pielii se modifică enorm de la pori întinşi, la textura normală a pielii. Puteţi vedea cum sprâncenele se brăzdează şi microstructura se modifică aici. Puteţi vedea cum muşchii trag pielea în jos pentru a-i coborî sprâncenele şi cum muşchii frunţii se bombează când se crispează.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Pe lângă această geometrie la o rezoluţie ridicată, întrucât totul este înregistrat cu camere, avem un peisaj de texturi pe care îl putem folosi pentru faţă. Observand modul cum diferitele canale de culoare ale iluminarii, cel roşu,cel verde şi cel albastru, propaga lumina în mod diferit, putem găsi o metodă de a crea pe calculator umbre pe piele. În acest fel, în loc să arate ca un manechin de plastic, arată ca un om în carne şi oase.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Şi asta am oferit companiei Image Metrics pentru a crea o versiune digitală tridimensională a lui Emily. Aici se vede numai structura de bază, dar de fapt au creat o păpuşă digitală după imaginea lui Emily, care poate fi manevrată ca o marionetă, şi care îşi mişcă faţa în moduri care păstrează o coerenţă perfectă cu imaginile noastre scanate. Şi, pe lângă structura de bază, au folosit şi toate detaliile pentru a crea un set de aşa-numite "hărţi de mişcări" care pot fi de asemenea animate. Acestea sunt "hărţile de mişcări". Şi puteţi vedea cum diferitele riduri devin vizibile când chipul se animează.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Prin urmare, următorul proces este animarea lui Emily. Ne-am folosit de fapt de expresiile lui Emily pentru a furniza datele-sursă. Şi, analizând acest film cu tehnici de vizualizare computerizată, au reuşit să coordoneze expresia facială cu performanţa generată pe calculator. Deci ce veţi vedea acum, după aceasta, este o faţă digitalizată fotorealistă. Să dăm puţin mai tare dacă se poate.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Emily: Image Metrics este o companie de animaţie care vizează performanţa şi utilizează tehnica monitorizării directe (markerless). Suntem specializaţi în animaţii faciale de înaltă calitate pentru jocuri video şi filme. Image Metrics este o companie de animaţie care vizează performanţa şi utilizează tehnica monitorizării directe (markerless). Suntem specializaţi în animaţii faciale de înaltă calitate pentru jocuri video şi filme.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Paul Debevec: Prin urmare, dacă separăm straturile, iată acea componentă difuză pe care am văzut-o pe prima pagină a prezentării. Iată componenta de refracţie animată. Puteţi observa aici cum toate ridurile devin vizibile. Şi iată structura pe care se bazează. În fine, iat-o pe Emily însăşi.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Ce urmărim deci cu aceasta? Am mers chiar dincolo de Light Stage 5. Iată Light Stage 6. Intenţionăm să aplicăm această tehnologie la întregul corp omenesc. Iată-l pe Bruce Lawmen, unul dintre cercetătorii grupului, care a avut amabilitatea să se lase scanat de Light Stage în alergare. Şi iată versiunea generată pe calculator a lui Bruce alergând într-un nou mediu. Vă mulţumesc foarte mult. (Aplauze)