One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Одной из самых сложных задач в компьютерной графике было создание фото-реалистичного цифрового лица человека. Одна из причин, почему это так сложно сделать, в отличие от инопланетян или динозавров, заключается в том, что мы видим человеческие лица каждый день. Они очень важны для нас при общении друг с другом. В результате мы обращаем внимание на мельчайшие детали, с которыми может быть что-то не так при компьютерном воспроизведении, для того чтобы поверить, что эти детали выглядят реалистично.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
В течение следующих 5 минут я объясню вам процесс, в ходе которого мы попытались создать на компьютере достаточно фото-реалистичное лицо с помощью разработанной нами технологии компьютерной графики, а также нескольких коллег из компании Image Metrics. Мы постараемся воссоздать фото-реалистичное лицо актрисы Эмили О' Брайен. Вот она. Это действительно полностью созданное на компьютере изображение её лица. В конце презентации мы увидим, как оно движется.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
Итак, мы начали с самой Эмили, которая любезно согласилась посетить нашу лабораторию в Марина Дель Рэй и посидеть на сессии в Light Stage 5. Это сфера для сканирования лица, заполененная 156 белыми светодиодами, которые позволяют нам фотографировать её в последовательности очень точно откалиброванных условий освещения. А освещение, которое мы используем сейчас выглядит приблизительно так. Мы делаем все эти снимки приблизительно за 3 секунды.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
И мы, по существу, получаем достаточно информации с помощью шаблонов видеопроектора, которые окружают контуры её лица, и различных закономерностей рассеивания света по световой сцене, чтобы получить как макро, так и микро детали её лица. Если мы увеличим фотографию здесь, то увидим, что это очень хорошая фотография, потому что она освещена одновременно абсолютно отовсюду, для получения качественного изображения структуры её лица.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Кроме того, мы использывали поляризаторы на всех источниках света -- также как и поляризационные линзы в солнечных очках могут блокировать отблески от дороги, поляризаторы могут блокировать блеск кожи, чтобы не было всех этих зеркальных отражений при составлении карты лица. А теперь, если мы слегка повернём поляризаторы, мы сможем вернуть зеркальные отражения на кожу, и, как вы видите, на этой стадии, она выглядит жирной и блестит.. Если взять различия между этими двумя изображениями, можно получить изображение, освещенное всей световой сферой, только блеска кожи Эмили.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Я не думаю, что подобная фотография была когда-либо снята, до того как это сделали мы. И очень важно поймать этот свет, потому что это свет, отражаемый с самой верхней поверхности кожи. Он не достигает полупрозрачных слоёв кожи и сглаживается. В результате получается очень хорошая картина детальной структуры пор её кожи и всех маленьких морщин, которые есть у всех нас, тех самых, благодаря которым мы выглядим как настоящие люди.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Если мы используем информацию, полученную из этого зеркального отражения, мы можем начать с традиционного сканированного лица, которое может иметь общие контуры и форму лица, и дополнить его информацией, добавляющей всю структуру кожных пор и тонких морщин. Что ещё важнее, так как это фотометрический процесс занимающий всего 3 секунды, мы можем снять Эмили всего за несколько часов в разных позах и с разными выражениями лица.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Итак, здесь вы можете увидеть, как она двигает глазами и ртом. И мы собираемся использовать эти движения для создания цифрового фото-реалистичного персонажа. Если вы взгляните на эти сканированные снимки Эмили, то увидите, что человеческое лицо совершает невероятное количество удивительных вещей при создании различных выражений лица. Посмотрите. Меняется не только форма лица, но и появляются всевозможные изгибы и морщины. Как вы видите, структура пор кожи сильно изменяется от вытянутых пор кожи, до обычной структуры кожи. Можно увидеть глубокие морщины на брови и как там меняется микроструктура. Можно увидеть, как тянутся её мышцы при опускании бровей. Лобные мышцы выступают, когда она морщится вот так.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
В дополнение к такому типу геометрии высокого разрешения, так как всё это снимается камерами, мы получаем великолепную карту структуры её лица. И наблюдая, как различные цветовые каналы освещения -- красный, зелёный и голубой -- по-разному рассеивают свет, мы можем понять, как следует затенять кожу на компьютере. Благодаря этому она выглядит не как пластиковый манекен, а как настоящая, из плоти и крови.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
И именно это мы использовали, чтобы дать компании Image Metrics возможность создать цифровую версию Эмили. Мы только что видели геометрию макро масштаба. Но они, по существу, создали её цифровую марионетку, которую можно дёргать за различные нити, и это будет изменять её лицо полностью согласно сканированными изображениям, которые мы сделали. В дополнение к геометрии макро масштаба они также использовали все детали для создания набора, так называемых "карт движений", которые также анимируются. Вот это карты движений. И как вы видите, те разные морщины действительно появляются в процессе анимации.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Следующий процесс заключался в её полном анимировании. Мы на самом деле использовали одно из её выступлений в качестве исходного источника данных. Проанализировав это видео с помощью техник компьютерного анализа изображений, нам удалось заставить её лицо двигаться вместе с воспроизводимым компьютером выступлением. То, что вы сейчас увидите является полностью цифровым фото-реалистичным лицом. Мы можем немного увеличить громкость, если возможно.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Эмили: Image Metrics - это инновационная, ориентированная на результат анимационная компания. Мы специализируемся в высококачественной анимации лиц для видеоигр и фильмов. Image Metrics - это инновационная, ориентированная на результат анимационная компания. Мы специализируемся в высококачественной анимации лиц для видеоигр и фильмов.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Пол Дебевек: Итак, если мы разобьём это на слои, вот тот рассеянный компонент, который мы видели на первом слайде. Вот анимируется зеркальный компонент. Здесь видно все появляющиеся морщины. А вот лежащий в основе каркас. А это сама Эмили.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
Что же у нас получается? Мы продвинулись немного дальше Light Stage 5. Это - Light Stage 6. Мы собираемся применить эту технологию целиком к человеческим телам. Это Брюс Лоумен, один из исследователей нашей группы. Он любезно согласился сняться бегущим в Light Stage. Давайте посмотрим на созданную компьютером версию Брюса, бегущего в новой обстановке. Большое спасибо. (Аплодисменты)