Μια από τις μεγαλύτερες προκλήσεις στα γραφικά υπολογιστών είναι η δυνατότητα να δημιουργηθεί ένα φώτο-ρεαλιστικό ψηφιακό ανθρώπινο πρόσωπο. Και ένας από τους λόγους που είναι τόσο δύσκολο είναι ότι, αντιθέτως με τους εξωγήινους και τους δεινόσαυρους, βλέπουμε ανθρώπινα πρόσωπα κάθε μέρα. Είναι πολύ σημαντικά στο πώς επικοινωνούμε μεταξύ μας. Σαν αποτέλεσμα, προσέχουμε τις παραμικρές λεπτομέρειες που θα μπορούσαν να είναι λάθος σε μια ψηφιακή εικόνα, για να πιστέψουμε εάν τα πράγματα είναι ρεαλιστικά.
One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Και αυτό που θα κάνω στα επόμενα πέντε λεπτά είναι να σας εξηγήσω μία διαδικασία στην οποία προσπαθήσαμε να δημιουργήσουμε ένα σχετικά φωτο-ρεαλιστικό ψηφιακό πρόσωπο με την χρήση τεχνολογίας γραφικών υπολογιστών που δημιουργήσαμε με κάποιους συνεργάτες στην εταιρεία Image Metrics. Θα προσπαθήσουμε να δημιουργήσουμε ένα φωτο-ρεαλιστικό πρόσωπο της ηθοποιού Έμιλι Ο’Μπράιαν, την οποία βλέπετε εδώ Πρόκειται για μία εικόνα του προσώπου της, η οποία δημιουργήθηκε εξ ολοκλήρου στον υπολογιστή. Στο τέλος αυτής της ομιλίας, θα την δούμε να κινείται.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Για να το κάνουμε, προσπαθήσαμε να ξεκινήσουμε με την Έμιλι η οποία πολύ ευγενικά ήρθε στο εργαστήριο μας στο Μαρίνα Ντελ Ρέι, και κάθησε στο Light Stage 5. Αυτή είναι μία σφαίρα σάρωσης προσώπου, με 156 άσπρα LED τριγύρω, που μας επιτρέπουν να την φωτογραφήσουμε σε μια σειρά από πολύ ελεγχόμενες συνθήκες φωτισμού. Ο φωτισμός που χρησιμοποιούμε σήμερα μοιάζει κάπως έτσι. Παίρνουμε όλες αυτές τις φωτογραφίες σε περίπου τρία δευτερόλεπτα
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
Και βασικά αποθηκεύουμε αρκετή πληροφορία με σχήματα από τον προβολέα βίντεο τα οποία προβάλλονται στο περίγραμμα του προσώπου της και διαφορετικές κύριες κατευθύνσεις φωτός από την εξέδρα φωτισμού, για την εξακρίβωση των μεγάλων αλλά και μικρών λεπτομερειών του προσώπου της. Αν μεγεθύνουμε αυτή τη φωτογραφία βλέπουμε ότι είναι μία πολύ καλή φωτογραφία, επειδή φωτίζεται από παντού ταυτόχρονα ώστε να έχουμε μία ωραία εικόνα της υφής του προσώπου της.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
Επιπλέον, χρησιμοποιήσαμε πολωτές σε όλα τα φώτα -- όπως τα πολωτικά γυαλιά ήλιου σταματούν την αντηλιά από τον δρόμο, οι πολωτές μπορούν να εμποδίσουν την γυαλάδα στο το δέρμα, ώστε να μην έχουμε όλες αυτές τις κατοπτρικές ανακλάσεις. Τώρα, αν περιστρέψουμε λίγο τους πολωτές, μπορούμε να επαναφέρουμε τις κατοπτρικές ανακλάσεις του δέρματος, και έτσι μπορείτε να δείτε πως φαίνεται κάπως γυαλιστερή και λιπαρή σε αυτό το σημείο. Αν πάρουμε τη διαφορά μεταξύ αυτών των δύο εικόνων, έχουμε μία εικόνα φωτιζόμενη από ολόκληρη την σφαίρα φωτός μόνο της γυαλάδας του δέρματος της Έμιλι.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Δεν πιστεύω να έχει ληφθεί ποτέ τέτοια φωτογραφία πριν να το κάνουμε εμείς. Και αυτό το φως είναι πολύ σημαντικό να το καταγράψουμε καθώς είναι το φως που ανακλάται από την πρώτη στοιβάδα του δέρματος. Δεν εισέρχεται μέσα στις ημιδιαφανείς στοιβάδες του δέρματος ώστε να θολώσει. Και, σαν αποτέλεσμα, είναι ένα πολύ καλό στοιχείο για την λεπτομερή δομή των πόρων του δέρματος και όλων των λεπτών ρυτίδων που όλοι έχουμε, πράγματα τα οποία μας κάνουν να φαινόμαστε πραγματικοί άνθρωποι
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Αν λοιπόν χρησιμοποιήσουμε την πληροφορία που προέρχεται από την κατοπτρική ανάκλαση περνάμε από την παραδοσιακή σάρωση προσώπου που μπορεί να έχει τα γενικά περιγράμματα του προσώπου και το βασικό σχήμα, και να το επεκτείνουμε με πληροφορία η οποία προσθέτει την δομή των πόρων και τις λεπτές ρυτίδες. Και ακόμα πιο σημαντικό, καθώς αυτή είναι μια φωτομετρική διαδικασία η οποία διαρκεί μόνο 3 δευτερόλεπτα μπορούμε να φωτογραφίσουμε την Έμιλι σε λιγότερο από ένα απογεύμα, σε πολλαπλές διαφορετικές θέσεις προσώπου και εκφράσεις.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Εδώ μπορείτε να την δείτε να μετακινεί τα μάτια της, το στόμα της. Και αυτά πρόκειται να τα χρησιμοποιήσουμε για να δημιουργήσουμε ένα φωτο-ρεαλιστικό ψηφιακό χαρακτήρα Αν προσέξετε τις σαρώσεις που έχουμε από την Έμιλι μπορείτε να δείτε ότι το ανθρώπινο πρόσωπο κάνει πάρα πολλά καταπληκτικά πράγματα όταν αλλάζουν οι διάφορες εκφράσεις του προσώπου. Μπορείτε να δείτε πράγματα. Όχι μόνο αλλαγές στο σχήμα του προσώπου, αλλά και διάφορες συσφίξεις του δέρματος και ρυτίδων. Μπορείτε να δείτε ότι η δομή των πόρων του δέρματος αλλάζει δραματικά από τεντωμένους πόρους του δέρματος, στην κανονική υφή του δέρματος. Μπορείτε να δείτε τα αυλακώματα στο μέτωπο και πώς η μικρό-δομή αλλάζει εκεί. Μπορείτε να δείτε τους μύες να τραβούν κάτω στη σάρκα για να κατεβάσουν τα φρύδια. Οι μύες της φουσκώνουν στο μέτωπο όταν συγχύζεται.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Πέρα από αυτού του είδους την υψηλής ανάλυσης γεωμετρία, καθώς όλα έχουν καταγραφεί με φωτογραφικές, έχουμε μία καλή καταγραφή υφής για να χρησιμοποιήσουμε για το πρόσωπο και βλέποντας πώς τα διαφορετικά χρωματικά κανάλια του φωτισμού το κόκκινο το πράσινο και το μπλε, διαχέουν το φως διαφορετικά, μπορούμε να επινοήσουμε ένα τρόπο σκίασης του δέρματος στον υπολογιστή. Μετά, αντί να μοιάζει με μανεκέν φτιαγμένο από γύψο, θα μοιάζει σαν να είναι φτιαγμένη από ζωντανή ανθρώπινη σάρκα.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Και αυτό είναι που χρησιμοποιήσαμε για να δώσουμε στην εταιρεία Image Metrics να δημιουργήσει μια ψηφιακή εκδοχή της Έμιλι. Εδώ απλά βλέπουμε την βασική γεωμετρία. Αλλά βασικά δημιούργησαν μία ψηφιακή μαριονέτα, στην οποία μπορείς να τραβήξεις τα διάφορα σχοινιά, και το πρόσωπο της μετακινείται με τρόπους που συνάδουν απολύτως με τις σαρώσεις που κάναμε. Και, μαζί με την χοντροκομμένη γεωμετρία, Χρησιμοποίησαν και όλες τις λεπτομέρειες για να δημιουργήσουν ένα σύνολο αυτών που λέμε "χάρτες μετατόπισης" που κινούνται επίσης. Αυτοί είναι οι χάρτες μετατόπισης. Και μπορείτε να δείτε τις διάφορες ρυτίδες που εμφανίζονται καθώς κινείται.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Έτσι η επόμενη διαδικασία ήταν να δώσουμε κίνηση. Χρησιμοποιήσαμε υλικό από την ίδια για να πάρουμε τα δεδομένα. Έτσι, αναλύοντας αυτό το βίντεο με τεχνικές υπολογιστικής όρασης, κατάφεραν να κινήσουν το τεχνητό πρόσωπο με υλικό που δημιουργήθηκε από τον υπολογιστή. Έτσι αυτό που θα δούμε τώρα, μετά από αυτό, είναι ένα απόλυτα φωτο-ρεαλιστικό ψηφιακό πρόσωπο. Μπορούμε να δυναμώσουμε την φωνή λίγο αν είναι δυνατό.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Έμιλι: Η Image Metrics είναι μία εταιρία κινούμενης εικόνας με γνώμονα τις υψηλές επιδόσεις. Ειδικευόμαστε στην υψηλής ανάλυσης κινούμενη εικόνα προσώπου για ηλεκτρονικά παιχνίδια και ταινίες. Έμιλι: Η Image Metrics είναι μία εταιρία κινούμενης εικόνας με γνώμονα τις υψηλές επιδόσεις. Ειδικευόμαστε στην υψηλής ανάλυσης κινούμενη εικόνα προσώπου για ηλεκτρονικά παιχνίδια και ταινίες.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Πωλ Ντιμπέβεκ: Έτσι, αν το αναλύσουμε σε επιστρώσεις, εδώ είναι η επίστρωση διάχυτου φωτισμού που είδαμε στην πρώτη διαφάνεια. Εδώ είναι ο κατευθυνόμενος συντελεστής που μετακινείται Μπορείτε να δείτε όλες τις ρυτίδες που δημιουργούνται. Και αυτό είναι το υποκείμενο πλέγμα. Και αυτή είναι η ίδια η Έμιλι.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Τώρα, ποιος είναι ο στόχος μας; Έχουμε προχωρήσει λίγο από το Light Stage 5. Αυτό είναι το Light Stage 6 Και σκοπεύουμε να πάρουμε αυτή την τεχνολογία και να την εφαρμόσουμε σε ολόκληρα ανθρώπινα σώματα. Αυτός είναι ο Μπρους Λάμεν, ένας από τους ερευνητές της ομάδας, ο οποίος ευγενικά συμφώνησε να κινηματογραφηθεί τρέχοντας στο Light Stage. Ας δούμε μία εκδοχή από ηλεκτρονικό υπολογιστή του Μπρους, να τρέχει σε ένα νέο περιβάλλον. Και σας ευχαριστώ πολύ. (Χειροκρότημα)
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)