One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Bilgisayar grafiklerinin en büyük zorluklarından bir tanesi gerçek bir resim yaratabilmek, dijital insan yüzü. Bunun oldukça zor olmasının nedenlerinden biri, uzaylılar ve dinazorlar dışında, insan yüzüne her gün bakıyor olmamızdır. Birbirimizle nasıl iletişim kurduğumuz ile çok önemlidir. Sonuç olarak, gerçekçi olabileceğine inanmak için bilgisayarın dönüştürdüğü sırada olabilecek yanlışlık için hassas ayarlamalar yaptık.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Önümüzdeki beş dakikada yapacağım şey geliştirdiğimiz bilgisayar grafik teknolojisini kullanarak, fotoğraf gerçekliğinde bilgisayarla geliştirilmiş bir yüz yapmaya çalıştığımız ve Image Metrics şirketinde bazı ortaklarımızla beraber yaptığımız sürece sizi götüreceğim Şu an burada bulunan aktris Emily O'Brien'ın fotoğraf gerçekliğindeki yüzünü yapmaya çalışacağız. Bu aslında onun tamemen bilgisayar tarafından dönüştürülen yüzü. Konuşmanın sonunda, onun hareket ettiğini göreceğiz.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
İzledğimiz yol Marina Del Rey'deki laboratuarımıza gelip, Light Stage 5 oturumun için bekleyen nazik Emily'nin kendisi ile başlamaya çalışmaktı. Bu yüz tarama küresi, etrafında 156 adet beyaz LED lambaları ile, oldukça kontrol edilebilen ışık durumları serisi içerisinde onun fotoğrafını çekmemize izin veriyor. Bu günlerde kullandığımız ışıklandırma bunun gibi bir şeye benziyor. Bütün bu fotoğrafları üç saniye içinde çektik.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
Basitçe yüzün hem detaylarıyla hem de kabaca ortaya çıkarmak için onun yüzünün çevresel hatlarını örten video projektör modelleriyle ve ışık safhasındaki ışığın farklı prensipteki yönleriyle yeteri kadar bilgi topladık Burada fotoğrafa yakınlaşırsak, onun gerçekten iyi bir fotoğraf olduğunu görebiliriz, çünkü yüzünün dokusunun iyi bir resmini elde edebilmek için aynı anda tamamen her yerden ışıklandırılmıştır.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Buna ek olarak, bütün ışık üzerinde polarizör kullandık -- yoldaki parıldamayı önleyen güneş gözlükleri gibi polarize edildi, polarizatörler deriden yansıyan parlamaları engelleyebilir, bu yüzden bu yolu izlemek için yansıtıcıları kullanmadık. Şimdi, bir parça polarizatörlere dönersek eğer, Yüzün düzgün yansımasını gerçekten geri getirebiliriz ve bu noktada biraz parlak ve yağlı gözüktüğünü görebilirsiniz. İki imaj arasındaki farkı alırsanız burada, Emily'nin teninden yansıyan parıltının ışığın tüm küresinden resmin aydınlığını elde edebilirsiniz.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Bunu biz yapmadan önce böyle bir fotoğrafın çekildiğini düşünmüyorum. Bu yakalanması için önemli bir ışık, çünkü bu tenin ilk yüzeyinden yansıyan ışıktır. O tenin altındaki yarı saydam katmana ulaşmaz ve netlik azalmaz. Ve, sonuç olarak, gözenekli tenin detaylı şekli için önemli bir ipucudur ve sahip olduğumuz bütün ince kırışıklıklar, bunlar bizi gerçek insanlar gibi görünmemizi sağlıyor.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Bu yüzden, bu açığa çıkan düzgün yansıma bilgisini kullanırsak eğer basit şekli ve yüzün bütün çevresel hatlarına sahip olabilen bu düzgün yanısmandan meydana çıkan bilgiyi kullanırız, ve bütün bu tenin gözenekli yapısını ve ince kırışıklıkların bilgisini arttırabiliriz. ve daha önemlisi, yakalamak için üç saniye süren bir fotometrik süreçten itibaren, öğleden sonra bir ara da bir çok farklı yüz pozları ve yüz ifadeleriyle Emily'i çekmeye başlayabiliriz.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Burada gözlerini oynattığını, ağzını oynattığını görebilirsiniz. Ve bunları bir fotoğraf gerçekliğinde dijital karakter yaratmak için kullanacağız. Emily'e ait olan bu taramalara bir bakarsanız eğer, farklı yüz ifadelerinle birlikte insan yüzünün devasal boyutta ki harikulade şeylerini görebilirsiniz. Görebilirsiniz. Sadece yüz şeklinin değiştiğini değil, aynı zamanda bütün farklı ten buruşmalarını ve ten kırışıklığının oluştuğunu görebilirsiniz. Gerilmiş olan deri gözeneklerinden normal deri dokusuna deri gözeneklerinin devasal bir şekilde değiştiğini görebilirsiniz. Kaşlardaki kırışıklığı görebilirsiniz ve mikro yapının nasıl değiştiğini görebilirsiniz. Kaşları aşağıya getirmek için kaslarının aşağıya çektiğini görebilirsiniz. Böyle ürktüğü zaman alnındaki kasları şişiyor.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Bu yüksek çözünürlük geometrisine ek olarak, kameralarla çekildiğinden beri, yüz için kullanmak üzere müthiş bir doku haritasına sahibiz. Işıklandırmanın farklı renk kanallarının, kırmızı, yeşil ve mavinin ışığı nasıl farklı dağıttıklarına bakarak bilgisayarda tenin gölgelendirmesinin bir yolunu bulabiliriz. Sonra, plastik bir manken görünümü yerine, gerçek canlı insan derisinden yapılmış gibi gözüküyor.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Emily'nin hileli, dijital versiyonunu yaratmak için Image Metrics şirketine verdiğimiz şey budur. Burada geniş ölçekli geometri görüyoruz. Fakat basitçe farklı çizgiler çekebileceğiniz onun dijital bir kuklasını yarattılar, ve o aslında onun yüzünü çektiğimiz taramalarla tamamen uygun şekilde hareket ettririyor. Ve, bu geniş ölçekli geometriye ek olarak, animasyon da yapılabilen "yeri değiştirilmiş haritalar" olarak adlandırılan bir seri yaratmak için bütün bu detayları da kullandılar. bunlar yeri değiştirilmiş haritalardır. Animasyonu yapıldığında farklı kırışıklıkların gerçekten ortaya çıktığını görebilirsiniz.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Bu yüzden bir sonraki süreç onun animasyonuydu. Aslında kaynak verisini sağlamak için onun kendi performanslarından birini kullandık. Bu yüzden, bilgisayar görme teknikleri ile bu videoyu analiz ederek, Bilgisayarla üretilen performans ile yüz hilesini oluşturabilirdik. Bu yüzden bundan sonra göreceğiniz şey, tamamen fotoğraf gerçekliğinde dijital bir yüzdür. mümkünse sesini biraz daha açabiliriz.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Emily: Image Metrics işaretsizdir (bir tür uygulama metodu), performans odaklı animasyon şirketidir. Video oyunları ve filmler için yüksek kalitede yüz animasyonları yapıyoruz. Image Metric işaretsizdir, performans odaklı animasyon şirketidir. Video oyunları ve filmler için yüksek kalitede yüz animasyonları yapıyoruz.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Paul Debevec: Bu yüzden bunu katmanlara ayırırsak, ilk katmanda gördüğünüz bileşeni yayıyor. Burada yansıtıcı bileşen animasyonudur. Orada oluşan kırışıkların hepsini görebilirsiniz. Ve altında yatan bir tel kafes örgüsüdür. Ve Emily'nin kendisi.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Şimdi, bununla nereye gideceğiz? Bir parça Light Stage 5'in ötesine gideceğiz. Bu Light Stage 6. Bu teknolojiyi almayı ve bütün insan vücuduna uyguluyoruz. Bu Bruce Lawmen, grubumuzdaki araştırmacılarından biri, kibarlıkla Light Stage'te görüntüsünün çekilmesini kabul etti. Yeni bir platformda çalışan Bruce'un bilgisayarda üretilmiş bir versiyonunu bakalım. Ve çok teşekkür ederim. (Alkış)