One of the biggest challenges in computer graphics has been being able to create a photo-real, digital human face. And one of the reasons it is so difficult is that, unlike aliens and dinosaurs, we look at human faces every day. They are very important to how we communicate with each other. As a result, we're tuned in to the subtlest things that could possibly be wrong with a computer rendering, in order to believe whether these things are realistic.
Một trong các thách thức lớn nhất trong ngành đồ họa vi tính là khả năng tạo ra 1 bức ảnh số khuôn mặt người thực. Và 1 trong các lý do khiến nhiệm vụ đó khó thực hiện là, không giống người ngoài hành tinh và khủng long ngày nào chúng ta cũng nhìn thấy mặt người khác. Điều đó rất quan trọng vì đó là cách con người giao tiếp. Kết quả là, chúng ta được điều chỉnh với những thứ tinh vi nhất có thể xảy ra với 1 hiển thị máy tính, nhằm tin chúng có thật.
And what I'm going to do in the next five minutes is take you through a process where we tried to create a reasonably photo-realistic computer-generated face, using some computer graphics technology we've developed, and also some collaborators at a company called Image Metrics. And we're going to try to do a photo-real face of an actress named Emily O'Brien, who is right there. And that's actually a completely computer-generated rendering of her face. By the end of the talk, we're going to see it move.
Và trong 5 phút tới tôi sẽ dẫn các bạn qua 1 quy trình chúng tôi cố gắng tạo ra 1 khuôn mặt giống thật tạo ra trên máy tính, sử dụng công nghệ đồ họa vi tính mà chúng tôi đã phát triển và với sự cộng tác của 1 số đồng nghiệp tại công ty Image Metrics. Và chúng tôi sẽ cố gắng làm 1 khuôn mặt ảnh thực của diễn viên Emily O'Brien ở ngay kia. Và đó là khuôn mặt của cô ấy hiện lên trên máy tính. Sau cuộc diễn thuyết này, chúng ta sẽ thấy khuôn mặt đó cử động.
The way that we did this is we tried to start with Emily herself, who was gracious enough to come to our laboratory in Marina Del Rey, and sit for a session in Light Stage 5. This is a face-scanning sphere, with 156 white LEDs all around that allow us to photograph her in a series of very controlled illumination conditions. And the lighting that we use these days looks something like this. We shoot all of these photographs in about three seconds.
Chúng tôi cố gắng bắt đầu với Emily, cô ấy rất tốt bụng khi đồng ý đến phòng thí nghiệm của chúng tôi ở Marina Del Rey, và ngồi cả buổi trong Light Stage 5. Đây là 1 quả cầu quét khuôn mặt với 156 đèn LED trắng xung quanh cho phép chúng tôi chụp ảnh cô ấy trong 1 chuỗi các điều kiện chiếu sáng được kiểm soát. Và hệ thống ánh sáng chúng tôi sử dụng trông giống như thế này. Chúng tôi chụp các bức ảnh này trong khoảng 3 giây.
And we basically capture enough information with video projector patterns that drape over the contours of her face, and different principle directions of light from the light stage, to figure out both the coarse-scale and the fine-scale detail of her face. If we zoom in on this photograph right here, we can see it's a really nice photograph to have of her, because she is lit from absolutely everywhere at the same time to get a nice image of her facial texture.
Và chúng tôi lấy được đủ thông tin bằng các mẫu máy chiếu video bao quát toàn bộ đường viên khuôn mặt cô ấy, và các hướng khác nhau theo nguyên lý của chiếu sáng sân khấu, để xác định cả chi tiết vi mô và vĩ mô trên khuôn mặt. Nếu zoom vào bức ảnh này chúng ta có thể thấy 1 bức ảnh rất đẹp của cô, vì cô ấy được chiếu sáng đồng thời từ mọi nơi để có 1 hình ảnh đẹp chụp được vân của khuôn mặt.
And in addition, we've actually used polarizers on all the lights -- just like polarized sunglasses can block the glare off of the road, polarizers can block the shine off of the skin, so we don't get all those specular reflections to take this map. Now, if we turn the polarizers around just a little bit, we can actually bring that specular reflection of the skin back in, and you can see she looks kind of shiny and oily at this point. If you take the difference between these two images here, you can get an image lit from the entire sphere of light of just the shine off of Emily's skin.
Bên cạnh đó, chúng tôi đã sử dụng thiết bị phân cực trên các ngọn đèn giống như kính râm phân cực có thể chắn độ lóa sáng của mặt đường, thiết bị phân cực có thể chắn độ sáng bóng của da nên chúng tôi không lấy tất cả các phản chiếu sáng loáng vào bản đồ này. Nào, nếu xoay các thiết bị phân cực 1 chút chúng ta có thể mang lại sự phản chiếu sáng loáng của làn da, và bạn có thể thấy cô ấy trông sáng và hơi bóng dầu. Nếu so sánh sự khác biệt giữa 1 hình ảnh này, bạn có 1 hình ảnh sáng lên từ toàn bộ quả cầu đèn phản chiếu ánh sáng lên làn da của Emily.
I don't think any photograph like this had ever been taken before we had done this. And this is very important light to capture, because this is the light that reflects off the first surface of the skin. It doesn't get underneath the translucent layers of the skin and blur out. And, as a result, it's a very good cue to the detailed shape of the skin-pore structure and all of the fine wrinkles that all of us have, the things that actually make us look like real humans.
Tôi không nghĩ đã từng có bất kỳ bức ảnh nào giống thế này được chụp trước chúng tôi. Và đây là ánh sáng rất quan trọng cần phải lấy vì nó phản chiếu bề mặt đầu tiên của làn da. Nó không đi xuống các lớp da trong mờ rồi mờ dần. Kết quả là, nó là 1 ám hiệu rất tốt cho hình dạng chi tiết của kết cấu lỗ chân lông và các nếp nhăn mờ mà ai cũng có, những cái đó khiến chúng ta trông giống người thật.
So, if we use information that comes off of this specular reflection, we can go from a traditional face scan that might have the gross contours of the face and the basic shape, and augment it with information that puts in all of that skin pore structure and fine wrinkles. And, even more importantly, since this is a photometric process that only takes three seconds to capture, we can shoot Emily in just part of an afternoon, in many different facial poses and facial expressions.
Thế nên nếu chúng ta sử dụng thông tin từ sự phản chiếu sáng bóng này chúng ta có thể đi từ 1 lần quét khuôn mặt truyền thống bao gồm toàn bộ đường viền khuôn mặt và hình dáng cơ bản, và bổ sung thêm thông tin bao gồm kết cấu lỗ chân lông và các nếp nhăn mờ. Và quan trọng hơn, vì đây là quy trình trắc quang chụp ảnh trong 3 giây, chúng tôi có thể chụp Emily trong 1 lúc buổi chiều, ở nhiều biểu hiện và tạo dáng khuôn mặt khác nhau.
So, here you can see her moving her eyes around, moving her mouth around. And these we're actually going to use to create a photo-real digital character. If you take a look at these scans that we have of Emily, you can see that the human face does an enormous amount of amazing things as it goes into different facial expressions. You can see things. Not only the face shape changes, but all sorts of different skin buckling and skin wrinkling occurs. You can see that the skin pore structure changes enormously from stretched skin pores to the regular skin texture. You can see the furrows in the brow and how the microstructure changes there. You can see muscles pulling down at flesh to bring her eyebrows down. Her muscles bulging in her forehead when she winces like that.
Bạn có thể thấy đôi mắt cô ấy chuyển động và cử động miệng. Và chúng tôi sẽ dùng những cái này để tạo ra 1 nhân vật số ảnh thực. Nếu nhìn vào các bức ảnh quét của Emily, bạn có thể thấy khuôn mặt người làm rất nhiều điều đáng ngạc nhiên khi nó biểu hiện các cử động khuôn mặt khác nhau. Bạn có thể thấy mọi thứ. Không chỉ các thay đổi trên hình dạng khuôn mặt, mà cả khi lớp da lõm xuống hay nhăn lại. Bạn có thể thấy kết cấu lỗ chân lông thay đổi rõ ràng từ các lỗ chân lông bị kéo căng tới tình trạng bình thường của làn da. Bạn có thể thấy các luống rãnh trên lông mày và cấu trúc vi mô thay đổi ở đó. Có thể thấy các cơ kéo lớp da xuống để nhíu mày. Các cơ trên trán cô ấy giãn ra khi cô ấy nhăn mặt như thế này.
In addition to this kind of high-resolution geometry, since it's all captured with cameras, we've got a great texture map to use for the face. And by looking at how the different color channels of the illumination, the red and the green and the blue, diffuse the light differently, we can come up with a way of shading the skin on the computer. Then, instead of looking like a plaster mannequin, it actually looks like it's made out of living human flesh.
Bên cạnh loại hình học độ phân giải cao này, vì nó toàn được chụp bằng camera, chúng tôi có 1 mẫu vân tuyệt vời để dùng cho khuôn mặt. Bằng cách nhìn vào các kênh màu sắc chiếu sáng, đỏ, xanh lá cây và xanh da trời, khuếch tán ánh sáng khác nhau, chúng tôi có thể nghĩ ra cách điều chỉnh đậm nhạt cho làn da trên máy tính. Sau đó, thay vì trông giống 1 ma-nơ-canh thạch cao nó trông như cơ thể người bằng xương bằng thịt.
And this is what we used to give to the company Image Metrics to create a rigged, digital version of Emily. We're just seeing the coarse-scale geometry here. But they basically created a digital puppet of her, where you can pull on these various strings, and it actually moves her face in ways that are completely consistent with the scans that we took. And, in addition to the coarse-scale geometry, they also used all of that detail to create a set of what are called "displacement maps" that animate as well. These are the displacement maps here. And you can see those different wrinkles actually show up as she animates.
Và chúng tôi đã đưa cái này cho công ty Image Metrics để tạo ra 1 phiên bản số của Emily. Chúng ta đang thấy hình học dạng thô ở đây. Nhưng họ đã tạo9 ra 1 con rối số của Emily, bạn có thể thêm vào đó nhiều dây khác nhau, và nó làm khuôn mặt cô ấy cử động theo cách hoàn toàn thống nhất với các bức ảnh chúng tôi đã quét. Và bên cạnh hình học dạng thô, họ cũng dùng toàn bộ chi tiết đó để thiết lập "các bản đồ dịch chuyển" tạo hiệu ứng sinh động. Đây là các bản đồ dịch chuyển. Và bạn có thể thấy các nếp nhăn khác nhau hiện ra.
So the next process was then to animate her. We actually used one of her own performances to provide the source data. So, by analyzing this video with computer vision techniques, they were able to drive the facial rig with the computer-generated performance. So what you're going to see now, after this, is a completely photo-real digital face. We can turn the volume up a little bit if that's available.
Quy trình tiếp theo là làm cô ấy trông sinh động hơn. Chúng tôi đã lấy 1 trong các cử động của cô để cung cấp dữ liệu nguồn. Nhờ phân tích video này bằng kỹ thuật thị giác vi tính, họ có thể điều khiển thiết lập khuôn mặt bằng cử động do máy tính tạo ra. Bây giờ các bạn sẽ thấy 1 khuôn mặt số ảnh thực hoàn toàn. Chúng ta có thể tăng âm lượng lên 1 chút nếu có thể.
Emily: Image Metrics is a markerless, performance-driven animation company. We specialize in high-quality facial animation for video games and films. Image Metrics is a markerless, performance-driven animation company. We specialize in high quality facial animation for video games and films.
Emily: Image Metric là 1 công ty hoạt họa không sử dụng các điểm đánh dấu. Chúng tôi chuyên về hoạt họa khuôn mặt chất lượng cao cho các game video và phim. Emily: Image Metric là 1 công ty hoạt họa không sử dụng các điểm đánh dấu. Chúng tôi chuyên về hoạt họa khuôn mặt chất lượng cao cho các game video và phim.
Paul Debevec: So, if we break that down into layers, here's that diffuse component we saw in the first slide. Here is the specular component animating. You can see all the wrinkles happening there. And there is the underlying wireframe mesh. And that is Emily herself.
Paul Devec: nếu chúng ta phá vỡ nó thành các lớp, thì đây là thành phần khuếch tán chúng ta đã thấy trong slide đầu tiên. Đây là thành phần phản chiếu đang tạo hiệu ứng. Bạn có thể thấy các nếp nhăn đang hoạt động ở đây. Và có 1 lưới khung dây bên dưới. Và đó là Emily.
Now, where are we going with this here? We've gone a little bit beyond Light Stage 5. This is Light Stage 6, and we're looking at taking this technology and applying it to whole human bodies. This is Bruce Lawmen, one of our researchers in the group, who graciously agreed to get captured running in the Light Stage. And let's take a look at a computer-generated version of Bruce, running in a new environment. And thank you very much. (Applause)
nào, với cái này, chúng tôi sẽ đi tới đâu? Chúng tôi đã tiến xa hơn Light Stage 5 1 chút. Đây là Light Stage 6. Và chúng ta đang dùng công nghệ này ứng dụng nó vào toàn bộ cơ thể con người. Đây là Bruce Lawmen, 1 trong các nhà nghiên cứu của chúng tôi trong nhóm, anh đã rất tốt bụng đồng ý chụp ảnh khi đang chạy dưới hệ thống đèn. Chúng ta hãy nhìn phiên bản máy tính của Bruce, anh đang chạy trong môi trường mới. Và cảm ơn các bạn. (Vỗ tay)