One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
یکی از بزرگترین چالشها در گرافیک رایانه ای امکان خلق یک تصویر واقع-نمای دیجیتالی، از چهره انسان بوده است. و یکی از دلایل مشکل بودنش اینه که برخلاف آدم فضایی ها و دایناسورها، ما هر روز چهره انسان ها رو می بینیم. و این در کیفیت برقراری رابطه بین ما خیلی مهمه. در نتیجه، ما به ظریف ترین چیزهایی که ممکن هست در رندرینگ رایانه ای اشتباه بشه حساسیم، تا واقعی بودن شان باورپذیر شوند.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
و کاری که در پنج دقیقه آینده میخواهم بکنم اینه که شما رو با فرایندی آشنا کنم که طی اون ما تلاش کردیم توسط رایانه یک چهره نسبتا واقعی نما بسازیم، با استفاده از یک فناوری گرافیک رایانه ای ساخت خودمون، و همکاری چند نفر از شرکتی به اسم Image Metrics و میخواهیم یک تصویر واقعی نما از چهره یک بازیگر به اسم «امیلی او. برایان» بسازیم که اینجا می بینید. و این در واقع یک رندرینگ از چهره اوست که تماماً با رایانه ساخته شده در پایان سخنرانی، حرکت اون رو خواهیم دید.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
روش ما این طور بود که سعی کردیم از خود امیلی شروع کنیم، که اونقدر لطف داشت که به آزمایشگاه ما در مارینا دل ری بیاد و به عنوان مدل در اتاق نور ۵ بنشینه. این یک کره پویشگر چهره است با 156 ال.ئی.دی در اطرافش که به ما امکان تصویر برداری از او را در یک سری از وضعیت های روشنایی کنترل شده میدهد. و نورپردازی که ما امروزه استفاده میکنیم چیزی شبیه به این هست. ما تمام این تصاویر رو در مدت حدودا سه ثانیه می گیریم.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
و به میزان کافی توسط الگوهای ویدئو پروژکتوری که خطوط تراز چهره ی او را پوشش می دهد و جهات اصلی نوری از اتاق نور اطلاعات ثبت می کنیم تا در هر دو مقیاس درشت و ریز جزئیات چهره او را تصویر سازی کنیم. اگر این بخش از تصویر را بزرگنمایی کنیم، می بینیم که این یک عکس واقعا خوب از اوست، چون همزمان از تمام جهات به صورتش نور تابیده شده تا از بافت صورت او تصویری خوب گرفته شود.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
و بعلاوه، ما در تمام چراغ ها از قطبنده ی نور استفاده کرده ایم؛ درست مثل عینک های پلاریزه که میتوانند درخشش جاده را حذف کنند، قطبنده ها میتوانند درخشش پوست را حذف کنند، تا ما همه ی آن نورهای منعکس شده را برای گرفتن این نقشه نبینیم. حالا، اگر قطبنده ها را کمی بچرخانیم، میتوانیم آن انعکاس های نوری پوست را دوباره برگردانیم، و می بینید که او در این حالت براق و روغنی به نظر می رسه. اگر تفاوت بین این دو تصویر را بگیرید، میتوانید تصویری روشن از کل کره نورانی داشته باشید که تنها از درخشش پوست امیلی است.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
فکر نمی کنم تا قبل از اینکه ما این کار را انجام بدهیم هیچ تصویری مانند این گرفته شده باشد و این نور بسیار مهمی است که باید ضبط شود، چون این نوری است که از اولین سطح پوست بازتابیده می شود و به زیر لایه های مات پوست نمی رسد و محو نمی شود و در نتیجه، نشانی خیلی خوبی است برای شکل پرجزئیات از ساختار منافذ پوست و تمام چین و چروک های ظریفی که همه ما داریم، چیزهایی که ما را شبیه یک انسان واقعی میکند
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
پس، اگر از اطلاعاتی که از این انعکاس های نور می رسد استفاده کنیم میتوانیم از یک پویش چهره معمولی که شامل خطوط تراز کلی چهره و شکل بنیادی است فراتر برویم و به آن اطلاعاتی اضافه کنیم که همه آن ساختار منافذ و چروکیدکی های ظریف را نشان میدهد و مهمتر از آن از آنجا که این یک فرآیند نورسنجی است که تنها سه ثانیه زمان نیاز دارد میتوانیم در طول یک بعد از ظهر از موقعیت های مختلف و حالت های گوناگون چهره امیلی تصویربرداری کنیم.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
مثلا اینجا می توانید ببینید که چشمها و دهانش را تکان میدهد. وما با استفاده از اینها قرار است که یک شخصیت دیجیتالی واقعی نما خلق کنیم اگر به این اسکن ها که از امیلی داریم نگاه کنید می بینید که چهره انسان وقتی حالت های مختلف به خودش می گیره کارهای خیلی شگفت انگیزی انجام میده. مثلا می توانید ببینید که نه تنها شکل چهره تغییر میکند، بلکه کلی کج و کولگی و چروک هم روی پوست اتفاق می افتد. می بینید که ساختار منافذ پوست، از منافذ پوستی کش آمده تا بافت معمولی پوست خیلی زیاد تغییر میکند می توانید شیارهای ابرو را ببینید و اینکه چطور ریز-ساختار آنجا تغییر میکند. می بینید که عضلات، گوشت را پایین می کشند تا ابروهای او را به سمت پایین خم کنند. وقتی چهره اش را در هم میکشد عضلات او در پیشانی اش برآمده می شود.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
چونکه اینها همگی با دوربین ضبط شده، علاوه بر این نوع از هندسه با رزلوشن بالا ما نقشه ای عالی از بافت داریم که برای صورت به کار ببریم و با در نظر گرفتن اینکه چطور کانالهای مختلف رنگ در روشنایی، قرمز و سبز و آبی، نور را متفاوت پراکنده می کنند، می توانیم راهی برای سایه پردازی پوست در رایانه خلق کنیم. آن وقت، به جای اینکه شبیه یک مجسمه ی مانکن شود واقعا به این می ماند که از گوشت انسان زنده ساخته شده.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
و این چیزی است که استفاده کردیم تا به شرکت Image Metrics ارائه دهیم که یک نسخه دیجیتالی کامل از امیلی خلق کنند. ما اینجا فقط هندسه بزرگ-مقیاس رو میبینیم. اما اونها دراصل یک عروسک خیمه شب بازی دیجیتالی از او ساخته اند، که میتوانید این رشتههای گوناگون را بکشید، و اون هم صورتش رو به شکلی کاملا یکسان با اسکنهایی که ما گرفتیم تغییر میدهد. و علاوه بر هندسه بزرگ-مقیاس، اونها از همه ی آن جزئیات استفاده کردند تا چیزی به نام «نقشه های جابجایی» خلق کنند که متحرک سازی هم میکند. اینها نقشه های جابجایی هستند و میبینید که آن چروک های گوناگون با متحرک کردن او نمایان میشوند.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
فرایند بعدی متحرک سازی او بود. ما اتفاقا یکی از بازی های خود او را به کار بردیم تا منبع اطلاعات مان را بسازیم. با تحلیل کردن این ویدئو توسط تکنیک های دید رایانهای توانستند ظاهر چهره را با بازی تولید شده توسط رایانه به حرکت در بیاورند. چیزی که الان، بعد از این قرار است ببینید یک چهره دیجیتالی کاملا واقعی-نما است. اگر بشود میتوانیم صدا را کمی زیاد کنیم.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
امیلی: Image Metrics یک شرکت پویانمایی بی نشان و کارآمد است. ما متخصص پویانمایی چهره با کیفیت بالا برای فیلمها و بازیهای ویدئویی هستیم. Image Metrics یک شرکت پویانمایی بی نشان و کارآمد است. ما متخصص پویانمایی چهره با کیفیت بالا برای فیلمها و بازیهای ویدئویی هستیم.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
پل دِبِوک: اگر آنرا به چند لایه تقسیم کنیم این همان مولفه ی پراکنده است که در اسلاید اول دیدیم. این مولفه بازتاب نور متحرک است. شکل گیری همه چروکها را می بینید. و این هم زیرلایه ی شبکه ی سیمی هست. و این خود امیلی است.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
حالا هدف ما از این کار چیه؟ ما کمی از اتاق نور ۵ فراتر رفتهایم. این اتاق نور ۶ هست وهدف ما استفاده از این فناوری و به کار بردن اون برای کل بدن انسان هست این «بروس لامن» یکی از پژوهشگران گروه ماست کسی که با سخاوت قبول کرد از او حین کار در اتاق نور تصویربرداری شود و بیایید نگاهی بندازیم به نسخه تولید شده با رایانه از بروس که در محیطی جدید در حال دویدن هست بسیار ممنونم. (تشویق تماشاگران)