I'm a neuroscientist. And in neuroscience, we have to deal with many difficult questions about the brain. But I want to start with the easiest question and the question you really should have all asked yourselves at some point in your life, because it's a fundamental question if we want to understand brain function. And that is, why do we and other animals have brains? Not all species on our planet have brains, so if we want to know what the brain is for, let's think about why we evolved one. Now you may reason that we have one to perceive the world or to think, and that's completely wrong. If you think about this question for any length of time, it's blindingly obvious why we have a brain. We have a brain for one reason and one reason only, and that's to produce adaptable and complex movements. There is no other reason to have a brain. Think about it. Movement is the only way you have of affecting the world around you. Now that's not quite true. There's one other way, and that's through sweating. But apart from that, everything else goes through contractions of muscles.
Tôi là một nhà thần kinh học. Trong Khoa học Thần kinh (khoa học nghiên cứu thần kinh), chúng tôi phải đối mặt với nhiều vấn đề hóc búa liên quan đến bộ não con người. Song, tôi muốn bắt đầu với một câu hỏi đơn giản nhất và đây là điều mà bạn thực sự muốn tự hỏi chính mình một lúc nào đó trong cuộc đời của bạn, bởi nó là một câu hỏi quan trọng nếu chúng ta muốn hiểu về chức năng của bộ não con người. Và câu hỏi đó là "Tại sao chúng ta và các loài vật khác có bộ não?" Không phải tất các các sinh vật trên hành tinh Trái Đất đều có bộ não, vì thế nếu chúng ta muốn biết bộ não có vai trò gì, hãy nghĩ về lý do tại sao chúng ta lại trở thành loài sinh vật tiến hóa. Bây giờ các bạn có thể lý luận rằng chúng ta có bộ não để nhận biết thế giới hoặc để suy nghĩ, và điều đó hoàn toàn sai. Nếu bạn suy nghĩ về câu hỏi này trong bao lâu đi nữa, cũng không thể nào biết được tại sao chúng ta có bộ não. Chúng ta có bộ não vì một và chỉ một lý do duy nhất, và đó chính là để tạo ra những vận động phức tạp và linh hoạt. Không còn lý do nào khác về sự tồn tại của bộ não. Hãy suy nghĩ về điều này. Vận động là cách duy nhất bạn có để gây ảnh hưởng/ tác động đến thế giới xung quanh bạn. Bây giờ điều này không thực sự đúng đắn. Còn có một cách khác, và đó chính là qua quá trình đổ mồ hôi. Nhưng ngoài ra, mọi thứ khác đều quay quanh sự co rút của các khối cơ
So think about communication -- speech, gestures, writing, sign language -- they're all mediated through contractions of your muscles. So it's really important to remember that sensory, memory and cognitive processes are all important, but they're only important to either drive or suppress future movements. There can be no evolutionary advantage to laying down memories of childhood or perceiving the color of a rose if it doesn't affect the way you're going to move later in life.
Vì thế hãy nghĩ về sự giao tiếp -- lời nói, cử chỉ, văn viết, ngôn ngữ ký hiệu -- tất cả đều được điều hoà thông qua sự co rút của của các khối cơ. Vì thế thực sự cần phải nhớ rằng các quá trình cảm nhận, ghi nhớ và nhận thức đều rất quan trọng, nhưng những hoạt động này chỉ quan trọng khi thúc đẩy hoặc ngăn cản những vận động trong tương lai. Đây có thể không phải là ưu điểm của quá trình tiến hóa để thiết lập nên hồi ức về thời thơ ấu hoặc để cảm nhận màu sắc của hoa hồng nếu nó không gây ảnh hưởng đến cách bạn sẽ chuyển động sau này
Now for those who don't believe this argument, we have trees and grass on our planet without the brain, but the clinching evidence is this animal here -- the humble sea squirt. Rudimentary animal, has a nervous system, swims around in the ocean in its juvenile life. And at some point of its life, it implants on a rock. And the first thing it does in implanting on that rock, which it never leaves, is to digest its own brain and nervous system for food. So once you don't need to move, you don't need the luxury of that brain. And this animal is often taken as an analogy to what happens at universities when professors get tenure, but that's a different subject.
Cho những ai không tin vào lập luận này, chúng ta có cây cối và cỏ dại không có bộ não trên hành tinh của chúng ta, tuy nhiên chứng cứ xác thực là loài vật này ở đây con hải tiêu nhỏ bé này. Loài động vật sơ cấp này, có hệ thần kinh, bơi quanh đại dương khi chưa trưởng thành. Và vào một thời điểm nào đó trong cuộc sống của mình, hải tiêu bám vào đá. Và điều đầu tiên nó làm khi bám vào tảng đá, nơi nó không bao giờ rời đi, chính là tiêu hóa cả bộ não và hệ thần kinh của chính nó như một loại thức ăn. Vì thế một khi bạn không cần vận động, bạn không cần sự xa xỉ của một bộ não. Và loài động vật này thường được lấy làm ví dụ tương tự cho những gì xảy ra trong các trường đại học khi các giáo sư được phong hàm, nhưng đây là một chủ đề khác.
(Applause)
(Vỗ tay)
So I am a movement chauvinist. I believe movement is the most important function of the brain -- don't let anyone tell you that it's not true. Now if movement is so important, how well are we doing understanding how the brain controls movement? And the answer is we're doing extremely poorly; it's a very hard problem. But we can look at how well we're doing by thinking about how well we're doing building machines which can do what humans can do.
Vì thế tôi là một người theo chủ nghĩa di chuyển. Tôi tin rằng sự vận động là chức năng quan trọng nhất của bộ não con người -- đừng để bất kỳ ai đó nói với bạn rằng đó không phải là sự thực. Bây giờ, nếu chuyển động quan trọng đến vậy, chúng ta đã làm tốt đến đâu để hiểu phương thức bộ não chỉ huy chuyển động của cơ thể? Và câu trả lời là chúng ta chưa làm được gì nhiều cả; đây chính là vấn đề khó khăn nhất. Tuy nhiên chúng ta có thể biết được chúng ta làm tốt đến đâu bằng cách nghĩ về việc chúng ta lắp ráp máy móc tốt đến đâu đây là những thiết bị có thể làm những việc mà con người có thể làm.
Think about the game of chess. How well are we doing determining what piece to move where? If you pit Garry Kasparov here, when he's not in jail, against IBM's Deep Blue, well the answer is IBM's Deep Blue will occasionally win. And I think if IBM's Deep Blue played anyone in this room, it would win every time. That problem is solved. What about the problem of picking up a chess piece, dexterously manipulating it and putting it back down on the board? If you put a five year-old child's dexterity against the best robots of today, the answer is simple: the child wins easily. There's no competition at all.
Hãy nghĩ về trò chơi cờ vua. Chúng ta làm tốt đến đâu trong việc quyết định đi nước cờ nào? Nếu bạn muốn cho kỳ thủ Gary Kasparov tại đây, khi ông chưa bị giam, thi đấu cờ vua với chiếc máy tính Deep Blue của IBM, thì câu trả lời là chiếc Deep Blue của IBM sẽ thắng. Và tôi nghĩ rằng nếu cho chiếc Deep Blue của IBM thi đấu với bất kỳ ai trong khán phòng này, nó sẽ luôn thắng. Vấn đề này đã được giải quyết. Thế còn về vấn đề chọn nước cờ để đi, thao tác khéo léo và đặt nó trở lại bàn cờ? Nếu bạn so sánh sự khéo léo của một đứa trẻ 5 tuổi với một chiếc rô-bốt tốt nhất ngày nay, câu trả lời thật đơn giản: đứa trẻ sẽ thắng dễ dàng. Ở đây không có cuộc thi nào cả.
Now why is that top problem so easy and the bottom problem so hard? One reason is a very smart five year-old could tell you the algorithm for that top problem -- look at all possible moves to the end of the game and choose the one that makes you win. So it's a very simple algorithm. Now of course there are other moves, but with vast computers we approximate and come close to the optimal solution. When it comes to being dexterous, it's not even clear what the algorithm is you have to solve to be dexterous. And we'll see you have to both perceive and act on the world, which has a lot of problems.
Tại sao vấn đề này lại quá dễ và mấu chốt của vấn đề lại quá khó? Một lý do là một đứa trẻ 5 tuổi rất thông minh có thể cho bạn biết thuật toán cho vấn đề quan trọng đó -- tìm tất cả những nước đi có thể để kết thúc trò chơi và chọn một nước đi có thể khiến bạn thắng. Vì thế nó là một thuật toán rất đơn giản. Tất nhiên còn có những nước cờ khác, nhưng với vô số máy tính chúng tôi ước lượng đưa đến gần hơn với giải pháp tối ưu. Khi trở nên thành thạo thậm chí là không rõ được thuật toán nào mà bạn phải giải quyết để trở nên khéo léo. Và chúng tôi sẽ cho rằng bạn có cả nhận thức và hành động tác động đến thế giới, là nơi vốn có nhiều vấn đề.
But let me show you cutting-edge robotics. Now a lot of robotics is very impressive, but manipulation robotics is really just in the dark ages. So this is the end of a Ph.D. project from one of the best robotics institutes. And the student has trained this robot to pour this water into a glass. It's a hard problem because the water sloshes about, but it can do it. But it doesn't do it with anything like the agility of a human. Now if you want this robot to do a different task, that's another three-year Ph.D. program. There is no generalization at all from one task to another in robotics.
Tuy nhiên hãy để tôi cho bạn thấy robot thế hệ mới nhất. Ngày nay, có nhiều robot rất ấn tượng, nhưng sự thao tác của robot thực sự mới chỉ ở giai đoạn đầu. Vì vậy, đây là kết thúc của một dự án Tiến Sĩ từ một trong những viện nghiên cứu rô-bốt tốt nhất. Và những sinh viên đã từng huấn luyện người máy này rót nước vào cốc. Đây là một công việc khó khăn vì nước thường bị bắn tung tóe, nhưng người máy có thể làm việc đó. Tuy nhiên người máy không rót nước khéo léo theo cách mà con người thường làm. Nếu bạn muốn người máy làm những nhiệm vụ khác, thì phải cần đến chương trình Tiến Sĩ kéo dài 3 năm nữa. Không có cái gì gọi là tổng quá hoá hết từ một nhiệm vụ đến nhiệm vụ khác trong ngành nghiên cứu người máy.
Now we can compare this to cutting-edge human performance. So what I'm going to show you is Emily Fox winning the world record for cup stacking. Now the Americans in the audience will know all about cup stacking. It's a high school sport where you have 12 cups you have to stack and unstack against the clock in a prescribed order. And this is her getting the world record in real time. (Laughter) (Applause) And she's pretty happy. We have no idea what is going on inside her brain when she does that, and that's what we'd like to know.
Bây giờ chúng ta có thể so sánh điều này với hiệu suất hoạt động tiên tiến nhất của con người Những gì tôi sắp chứng minh cho bạn chính là Emily Fox đạt kỷ lục thế giới về xếp chồng cốc. Những khán giả người Mỹ trong khán phòng này sẽ biết về cuộc thi xếp cốc. Đây là một môn thể thao trong trường học Với môn này, bạn có 12 chiếc cốc để xếp và tách ra ngược chiều kim đồng hồ theo thứ tự cho trước. Và đây là màn thi lập kỷ lục thế giới của cô ấy theo thời gian thực. (Cười) (Vỗ tay) Và cô bé khá hạnh phúc. Chúng ta không biết điều gì diễn ra trong bộ não của cô bé khi cô chơi trò này, và đó chính là điều chúng tôi muốn biết.
So in my group, what we try to do is reverse engineer how humans control movement. And it sounds like an easy problem. You send a command down, it causes muscles to contract. Your arm or body moves, and you get sensory feedback from vision, from skin, from muscles and so on. The trouble is these signals are not the beautiful signals you want them to be. So one thing that makes controlling movement difficult is, for example, sensory feedback is extremely noisy. Now by noise, I do not mean sound. We use it in the engineering and neuroscience sense meaning a random noise corrupting a signal. So the old days before digital radio when you were tuning in your radio and you heard "crrcckkk" on the station you wanted to hear, that was the noise. But more generally, this noise is something that corrupts the signal.
Vì thế trong nhóm của tôi, những điều chúng tôi cố gắng làm là khám phá ra cơ chế con người điều khiển chuyển động của mình. Và nó dường như là một vấn đề dễ. Các bạn gửi mệnh lệnh xuống, nó khiến các cơ co bóp. Cánh tay hay cơ thể của bạn chuyển động, và bạn nhận được phản hồi về cảm giác từ tầm nhìn, da, từ các cơ bắp và vân vân. Vấn đề ở đây là những tín hiệu này không phải là những tín hiệu hay như bạn mong đợi. Vì thế một điều khiến việc điều khiển chuyể động khó khăn là, ví dụ, phản hồi giác quan thường gây nhiễu. Với từ "nhiễu", tôi không có ý nhắc đến âm thanh. Chúng tôi sử dụng thuật ngữ này trong ngày kỹ thuật và ngành khoa học nghiên cứu thần kinh với ý nghĩa là nhiễu bất kỳ có thể gây gián đoạn đến 1 tín hiệu. Vì thế trước đây khi chưa có vô tuyến kỹ thuật số, khi bạn chuyển kênh trên đài radio bạn nghe thấy tiếng "crrcckkk" tại kênh bạn muốn nghe, đó chính là nhiễu. Nhưng xét trên diện rộng hơn, tiếng nhiễu này là cái gì đó có thể gây gián đoạn tín hiệu.
So for example, if you put your hand under a table and try to localize it with your other hand, you can be off by several centimeters due to the noise in sensory feedback. Similarly, when you put motor output on movement output, it's extremely noisy. Forget about trying to hit the bull's eye in darts, just aim for the same spot over and over again. You have a huge spread due to movement variability. And more than that, the outside world, or task, is both ambiguous and variable. The teapot could be full, it could be empty. It changes over time. So we work in a whole sensory movement task soup of noise.
Ví dụ, nếu bạn muốn đặt tay dưới một chiếc bàn và cố định vị bằng một tay khác, bạn có thể chệch vài centimet do nhiễu trong quá trình phản hồi cảm giác. Tương tự, khi bạn đặt đầu ra của động cơ lên đầu ra chuyển động, nó gây ra nhiễu lớn. Hãy quên việc cố đánh mắt bò... chỉ nhắm đến một điểm liên tục. Bạn bị phân tán do tính biến đổi của việc vận động. Và hơn thế nữa, thế giới bên ngoài, hay nhiệm vụ đều mơ hồ và hay thay đổi Một ấm trà có thể đang đầy, hoặc có thể đang cạn Nó thay đổi theo thời gian. Vì vậy chúng ta làm việc trong sự vận động thuộc cảm giác với tín hiệu nhiễu.
Now this noise is so great that society places a huge premium on those of us who can reduce the consequences of noise. So if you're lucky enough to be able to knock a small white ball into a hole several hundred yards away using a long metal stick, our society will be willing to reward you with hundreds of millions of dollars.
Bây giờ tín hiệu nhiễu này lớn đến nỗi xã hội đặt một phần thưởng khổng lồ cho ai trong chúng ta có thể giảm được các hậu quả của nhiễu. Vì vậy nếu bạn đủ may mắn để có thể đánh một trái banh trắng nhỏ vào một lỗ cách xa đó hàng trăm dặm với một cây gậy bằng sắt dài, xã hội chúng ta sẽ sẵn lòng thưởng công cho bạn bằng hàng trăm triệu đô la.
Now what I want to convince you of is the brain also goes through a lot of effort to reduce the negative consequences of this sort of noise and variability. And to do that, I'm going to tell you about a framework which is very popular in statistics and machine learning of the last 50 years called Bayesian decision theory. And it's more recently a unifying way to think about how the brain deals with uncertainty. And the fundamental idea is you want to make inferences and then take actions.
Bây giờ, những gì tôi cố gắng thuyết phục các bạn là bộ não cũng phải trải qua rất nhiều nỗ lực để giảm thiểu các hậu quả xấu của loại tín hiệu nhiễu và tính biến đổi này. Và để làm điều đó, tôi sẽ nói với các bạn về một giải pháp rất phổ biến trong thống kê và máy học trong vòng 50 năm qua được gọi là thuyết quyết định Bayes. Và nó gần như là trở thành một phương thức thống nhất để nghĩ về cách bộ não đối phó với sự không chắc chắn như thế nào. Và ý tưởng cơ bản là bạn muốn thực hiện suy luận và sau đó mới hành động.
So let's think about the inference. You want to generate beliefs about the world. So what are beliefs? Beliefs could be: where are my arms in space? Am I looking at a cat or a fox? But we're going to represent beliefs with probabilities. So we're going to represent a belief with a number between zero and one -- zero meaning I don't believe it at all, one means I'm absolutely certain. And numbers in between give you the gray levels of uncertainty. And the key idea to Bayesian inference is you have two sources of information from which to make your inference. You have data, and data in neuroscience is sensory input. So I have sensory input, which I can take in to make beliefs. But there's another source of information, and that's effectively prior knowledge. You accumulate knowledge throughout your life in memories. And the point about Bayesian decision theory is it gives you the mathematics of the optimal way to combine your prior knowledge with your sensory evidence to generate new beliefs.
Vậy hãy thử nghĩ về việc suy luận. Bạn muốn tạo ra niềm tin về thế giới Vậy niềm tin là gì? Niềm tin có thể là: những mục tiêu của tôi ở đâu trong vũ trụ này? Tôi đang nhìn thấy một con mèo hay một con cáo? Nhưng chúng tôi sẽ giới thiệu niềm tin bằng xác suất. Vì thế chúng tôi sẽ giới thiệu một niềm tin bằng một con số giữa 0 và 1 -- 0 nghĩa là: tôi không tin chút nào, 1 nghĩa là tôi hoàn toàn chắc chắn. Và những con số giữa hai cột mốc này cho biết mức độ không chắc chắn. Và ý tưởng chính cho thuyết suy luận Bayes. là bạn có hai nguồn thông tin mà từ đó bạn có thể suy luận. Bạn có dữ liệu. và dữ liệu trong thần kinh học là những dữ liệu đầu vào thuộc cảm giác. Vì vậy tôi có dữ liệu đầu vào thuộc cảm giác, mà tôi thể lấy để tao thành niềm tin. Nhưng cũng có một nguồn thông tin khác, đó là kiến thức sẵn có. Bạn tích lũy kiến thức trong suốt cuộc sống của bạn trong ký ức. Và quan điểm về thuyết quyết định Bayes là nó mang lại cho bạn cơ sở toán học của phương thức tối ưu để kết hợp kiến thức sẵn có với bằng chứng về cảm giác của bạn để phát sinh ra niềm tin mới.
And I've put the formula up there. I'm not going to explain what that formula is, but it's very beautiful. And it has real beauty and real explanatory power. And what it really says, and what you want to estimate, is the probability of different beliefs given your sensory input. So let me give you an intuitive example. Imagine you're learning to play tennis and you want to decide where the ball is going to bounce as it comes over the net towards you. There are two sources of information Bayes' rule tells you. There's sensory evidence -- you can use visual information auditory information, and that might tell you it's going to land in that red spot. But you know that your senses are not perfect, and therefore there's some variability of where it's going to land shown by that cloud of red, representing numbers between 0.5 and maybe 0.1.
Và tôi đã viết công thức lên đó. Tôi sẽ không giải thích công thức đó là gì, nhưng nó trông rất tuyệt. Và nó mang vẻ đẹp và sức mạnh giải thích thật sự. Và những gì nó thật sự nói lên và những gì bạn muốn ước lượng, là xác suất của các niềm tin khác nhau ứng với dữ liệu đầu vào thuộc cảm giác của bạn. Vì vậy, tôi sẽ đưa ra một ví dụ trực quan Thử tưởng tượng là bạn đang học chơi tennis và bạn muốn quyết định quả banh sẽ nảy về hướng nào khi nó bay qua lưới về hướng bạn. Có hai nguồn thông tin định luật Bayes cho biết như vậy. Có bằng chứng về cảm giác -- bạn có thể sử dụng thông tin trực quan, và điều đó có thể cho biết là quả bóng sẽ rơi vào điểm đỏ. Nhưng bạn biết rằng các cảm giác của bạn không phải là hoàn hảo, và do đó có một vài biến đổi về nơi quả bóng sẽ rơi được miêu tả bằng một quầng màu đỏ, biểu diễn các con số ở giữa 0.5 và có thể là 0.1
That information is available in the current shot, but there's another source of information not available on the current shot, but only available by repeated experience in the game of tennis, and that's that the ball doesn't bounce with equal probability over the court during the match. If you're playing against a very good opponent, they may distribute it in that green area, which is the prior distribution, making it hard for you to return. Now both these sources of information carry important information. And what Bayes' rule says is that I should multiply the numbers on the red by the numbers on the green to get the numbers of the yellow, which have the ellipses, and that's my belief. So it's the optimal way of combining information.
Thông tin đó có sẵn trong bức ảnh hiện tại, nhưng có một nguồn thông tin khác không có sẵn trong bức ảnh hiện tại, mà chỉ có sẵn bằng những kinh nghiệm lặp đi lặp lại trong các trận đấu tennis và rằng quả banh không nảy lên với cùng xác suất qua sân trong suốt trận đấu. Nếu bạn đang thi đấu với một đấu thủ rất giỏi, anh ta có thể phát quả banh vào vùng màu xanh đó, là vùng phân phối sẵn có, làm cho bạn khó mà đánh trả quả banh ngược về. Bây giờ cả hai nguồn thông tin đều mang thông tin quan trọng. Và định luật Bayes cho biết rằng tôi nên nhân các con số trong vùng màu đỏ với các con số trong vùng màu xanh để có được các con số trong vùng màu vàng, mang hình eclipse, và đó là niềm tin của tôi. Vì vậy đó là phương thức tối ưu của việc kết hợp thông tin.
Now I wouldn't tell you all this if it wasn't that a few years ago, we showed this is exactly what people do when they learn new movement skills. And what it means is we really are Bayesian inference machines. As we go around, we learn about statistics of the world and lay that down, but we also learn about how noisy our own sensory apparatus is, and then combine those in a real Bayesian way.
Bây giờ tôi sẽ không kể cho các bạn về tất cả những điều này nếu không phải là cách đây một vài năm, chúng tôi đã chứng minh đây chính xác là những gì mà người ta làm khi họ học về các kỹ năng vận động mới. Và nó có nghĩa là chúng ta thật sự là các cỗ máy suy luận Bayes Khi chúng ta đi xung quanh, chúng ta học về sự thống kê của thế giới và đặt nó xuống nhưng chúng ta cũng học được rằng bộ máy cảm giác của chính chúng ta bị nhiễu như thế nào, và khi đó kết hợp những thứ này theo phương thức của Bayes.
Now a key part to the Bayesian is this part of the formula. And what this part really says is I have to predict the probability of different sensory feedbacks given my beliefs. So that really means I have to make predictions of the future. And I want to convince you the brain does make predictions of the sensory feedback it's going to get. And moreover, it profoundly changes your perceptions by what you do. And to do that, I'll tell you about how the brain deals with sensory input. So you send a command out, you get sensory feedback back, and that transformation is governed by the physics of your body and your sensory apparatus.
Bây giờ, phần chính yếu thuộc về Bayes là phần công thức này. Và những gì phần công thức này thật sự cho biết là tôi phải dự đoán xác suất của các phản hồi thuộc cảm giác khác nhau ứng với các niềm tin của tôi. Điều đó có nghĩa là tôi phải dự đoán về tương lai. Và tôi muốn thuyết phục các bạn rằng bộ não thật sự thực hiện việc dự đoán về các phản hồi cảm giác mà bộ não sắp sửa nhận được. Và hơn nữa, điều này thay đổi một cách sâu sắc các nhận thức của bạn với những gì bạn làm. Và để làm điều đó, tôi sẽ cho các bạn biết về bộ não xử lý như thế nào đối với các dữ liệu đầu vào thuộc cảm giác. Vì vậy khi bạn gửi một mệnh lệnh ra, bạn nhận được một phản hồi thuộc cảm giác trả về, và phép biến đổi đó được điều khiển bằng trạng thái vật lý của cơ thể và bộ máy cảm giác của bạn.
But you can imagine looking inside the brain. And here's inside the brain. You might have a little predictor, a neural simulator, of the physics of your body and your senses. So as you send a movement command down, you tap a copy of that off and run it into your neural simulator to anticipate the sensory consequences of your actions. So as I shake this ketchup bottle, I get some true sensory feedback as the function of time in the bottom row. And if I've got a good predictor, it predicts the same thing.
Nhưng bạn có thể tưởng tượng nhìn vào bên trong bộ não. Và đây thật sự là bên trong bộ não Bạn có thể có một bộ dự đoán nhỏ, một bộ mô phỏng thuộc thần kinh, của trạng thái vật lý của cơ thể và các cảm giác của bạn Vì vậy khi bạn gửi một lệnh vận động xuống, bạn vỗ nhẹ vào bản sao đó và đưa nó vào bộ giả lập thần kinh để lường trước những hậu quả cảm giác hành động của bạn Vì vậy khi tôi lắc cái hộp tương cà này, Tôi nhận được các phản hồi cảm giác thật sự như hàm số theo thời gian ở hàng dưới cùng Và khi tôi đã có được một thiết bị dự báo tốt, nó sẽ dự đoán cùng một kiểu.
Well why would I bother doing that? I'm going to get the same feedback anyway. Well there's good reasons. Imagine, as I shake the ketchup bottle, someone very kindly comes up to me and taps it on the back for me. Now I get an extra source of sensory information due to that external act. So I get two sources. I get you tapping on it, and I get me shaking it, but from my senses' point of view, that is combined together into one source of information.
Tại sao tôi lại phải làm điều đó ? dù sao đi nữa, tôi cũng sẽ nhận được cùng một phản hồi Sau đây là các lý do để giải thích cho việc này. Thử tưởng tượng, khi tôi lắc cái lọ tương cà này, và có một người nào đó tiến về phía tôi và vỗ lên mặt sau của hộp tương cà hộ tôi. Khi đó, tôi nhận được một nguồn thông tin cảm giác nữa gây ra bởi sự tương tác bên ngoài này. Vì vậy tôi nhận được hai nguồn cảm giác Tôi có được cảm giác là bạn đang vỗ lên nó và cảm giác là tôi đang lắc nó. nhưng xét trên quan điểm giác quan của tôi chúng được kết hợp với nhau thành một nguồn thông tin.
Now there's good reason to believe that you would want to be able to distinguish external events from internal events. Because external events are actually much more behaviorally relevant than feeling everything that's going on inside my body. So one way to reconstruct that is to compare the prediction -- which is only based on your movement commands -- with the reality. Any discrepancy should hopefully be external. So as I go around the world, I'm making predictions of what I should get, subtracting them off. Everything left over is external to me.
Bây giờ, có lý do để bạn tin rằng bạn muốn có thể phân biệt được các sự kiện xảy ra bên ngoài cơ thể với các sự kiện xảy ra từ bên trong cơ thể Bởi vì các sự kiện xảy ra từ bên ngoài cơ thể có liên quan nhiều nhiều đến hành vi hơn là cảm giác mọi thứ đang diễn ra trong cơ thể tôi. Vì vậy có một phương pháp để tái tạo lại điều đó là so sánh các dự đoán ( chỉ căn cứ trên các mệnh lệnh vận động của bạn) so với thực tế. Nếu có bất kỳ sự khác nhau nào thì hầu như là nó là từ bên ngoài cơ thể. Vì vậy khi tôi đi vòng quanh thế giới Tôi đang dự đoán những gì tôi sẽ nhận được, và loại trừ chúng ra. Mọi thứ còn lại đối với tôi là từ bên ngoài
What evidence is there for this? Well there's one very clear example where a sensation generated by myself feels very different then if generated by another person. And so we decided the most obvious place to start was with tickling. It's been known for a long time, you can't tickle yourself as well as other people can. But it hasn't really been shown, it's because you have a neural simulator, simulating your own body and subtracting off that sense. So we can bring the experiments of the 21st century by applying robotic technologies to this problem. And in effect, what we have is some sort of stick in one hand attached to a robot, and they're going to move that back and forward. And then we're going to track that with a computer and use it to control another robot, which is going to tickle their palm with another stick. And then we're going to ask them to rate a bunch of things including ticklishness.
Có chứng cứ nào cho việc này không ? Có một ví dụ minh hoạ rất rõ khi một cảm giác được phát sinh ra từ chính bản thân tôi sẽ rất khác biệt so với nếu nó được phát sinh ra bởi một người nào khác. Và vì vậy chúng ta đã biết được nơi nên bắt đầu là với việc gây kích thích. Người ta đã biết từ lâu rằng bản thân con người không thể tự gây kích thích cũng như là những người khác có thể làm điều đó. Nhưng nó chưa thật sự được chứng minh, đó là bởi vì khi bạn có một bộ giả lập thần kinh mô phỏng theo chính cơ thể bạn và loại trừ cảm giác đó ra. Vì vậy chúng ta có thể mang các thí nghiệm của thế kỉ 21 bằng cách áp dụng các công nghệ robot vào vấn đề này. Và trên thực tế, chúng ta sẽ dùng một thiết bị như cây gậy trên một tay và được gắn vào một robot, và chúng có thể chuyển động tới lui. Và kế tiếp chúng ta theo dõi chuyển động đó với một máy vi tính và sử dụng nó để điều khiển một robot khác, mà con robot này sẽ kích thích bàn tay với một cây gậy khác. Và khi đó chúng ta có thể ước lượng được nhiều thứ bao gồm cả triệu chứng "đụng vào là cười"
I'll show you just one part of our study. And here I've taken away the robots, but basically people move with their right arm sinusoidally back and forward. And we replay that to the other hand with a time delay. Either no time delay, in which case light would just tickle your palm, or with a time delay of two-tenths of three-tenths of a second. So the important point here is the right hand always does the same things -- sinusoidal movement. The left hand always is the same and puts sinusoidal tickle. All we're playing with is a tempo causality. And as we go from naught to 0.1 second, it becomes more ticklish. As you go from 0.1 to 0.2, it becomes more ticklish at the end. And by 0.2 of a second, it's equivalently ticklish to the robot that just tickled you without you doing anything. So whatever is responsible for this cancellation is extremely tightly coupled with tempo causality. And based on this illustration, we really convinced ourselves in the field that the brain's making precise predictions and subtracting them off from the sensations.
Tôi sẽ trình diễn cho các bạn thấy chỉ một phần trong nghiên cứu của chúng tôi. Và đây, khi tôi di chuyển robot, nhưng thật sự là di chuyển tay phải tới lui theo hình sin Và khi làm lại điều đó với tay còn lại với một khoảng thời gian chờ hoặc không có thời gian chờ, trong trường hợp đó, ánh sáng chỉ kích thích vào bàn tay bạn, hoặc là với một khoảng thời gian chờ khoảng 2/10 hoặc 3/10 của một giây. Và điều quan trọng là tay phải luôn luôn chỉ làm đúng một chuyện -- di chuyển theo hình sin. tay trái luôn luôn giữ thiết bị chiếu sáng hình sin Những gì chúng ta đang thực hiện là phương pháp nhân quả có nhịp độ. Và khi chúng ta đi từ 0 đến 0.1 giây, nó trở nên càng bị kích thích Khi bạn đi từ 0.1 đến 0.2, nó trở nên bị kích thích về phía cuối. Và ở mức 0.2 của một giây nó bị kích thích một cách tương đương với con robot mà chỉ vừa mới kích thích bạn trong khi bạn không làm gì cả. Vì vậy cho dù là cái gì đi nữa chịu trách nhiệm cho sự triệt tiêu này thì cũng kết hợp cực kỳ chặt chẽ với phương pháp nhân quả có nhịp độ. Và dựa trên sự minh hoạ này, chúng ta đã thật sự thuyết phục chúng ta rằng trong lĩnh vực này bộ não đã tạo nên các dự đoán chính xác và loại trừ chúng khỏi từ các sự cảm nhận.
Now I have to admit, these are the worst studies my lab has ever run. Because the tickle sensation on the palm comes and goes, you need large numbers of subjects with these stars making them significant. So we were looking for a much more objective way to assess this phenomena. And in the intervening years I had two daughters. And one thing you notice about children in backseats of cars on long journeys, they get into fights -- which started with one of them doing something to the other, the other retaliating. It quickly escalates. And children tend to get into fights which escalate in terms of force. Now when I screamed at my children to stop, sometimes they would both say to me the other person hit them harder.
Bây giờ, tôi phải thừa nhận rằng, đây là những nghiên cứu tệ hại nhất của tôi được thực hiện ở phòng thí nghiệm. Bởi vì việc cảm nhận kích thích trên lòng bàn tay chỉ thoáng qua, bạn cần số lượng lớn các đối tượng đóng vai trò chính làm cho chúng trở nên đáng kể. Vì vậy chúng tôi đã tìm kiếm một phương pháp khách quan hơn để đánh giá hiện tượng này. Và trong những năm vào thời điểm đó, tôi có hai con gái. Và một điều mà bạn thấy rằng khi trẻ con ngồi ở ghế sau của xe trên các chuyến đi dài, đó là chúng đánh đấm lẫn nhau -- mà bắt đầu là đứa này làm điều gì đó với đứa kia, và đứa kia đánh trả lại. Và càng lúc trở nên gay cấn hơn. Và khi trẻ con có xu hướng chuyển đánh đấm lên đến mức bạo lực. Khi đó tôi phải thét lên gọi bọn trẻ ngừng lại, thỉnh thoảng chúng đều nói với tôi rằng đứa kia đánh chúng mạnh hơn.
Now I happen to know my children don't lie, so I thought, as a neuroscientist, it was important how I could explain how they were telling inconsistent truths. And we hypothesize based on the tickling study that when one child hits another, they generate the movement command. They predict the sensory consequences and subtract it off. So they actually think they've hit the person less hard than they have -- rather like the tickling. Whereas the passive recipient doesn't make the prediction, feels the full blow. So if they retaliate with the same force, the first person will think it's been escalated.
Và bây giờ tôi tình cờ biết là bọn trẻ không nói dối, vì vậy tôi nghĩ, với tư cách là một nhà khoa học về thần kinh, điều quan trọng là tôi có thể giải thích như thế nào như thế nào mà chúng nói những sự thật mâu thuẫn nhau. Và chúng ta đặt ra giả thiết dựa trên nghiên cứu của việc kích thích rằng khi một đứa trẻ đánh vào đứa kia, chúng tạo ra mệnh lệnh vận động. Chúng dự đoán các hậu quả dựa trên cảm giác và loại trừ nó đi. Vì vậy chúng thật sự nghĩ là chúng đã đánh đứa kía ít mạnh hơn hơn là đứa kia đánh chúng -- cũng giống như việc kích thích. Trong khi đứa bị đánh thụ động không dự đoán, cảm nhận trọn vẹn lực của cú đánh. Vì vậy nếu chúng trả đũa lại với cũng một lực, đứa đầu tiên sẽ nghĩ lực đó mạnh hơn.
So we decided to test this in the lab. (Laughter) Now we don't work with children, we don't work with hitting, but the concept is identical. We bring in two adults. We tell them they're going to play a game. And so here's player one and player two sitting opposite to each other. And the game is very simple. We started with a motor with a little lever, a little force transfuser. And we use this motor to apply force down to player one's fingers for three seconds and then it stops. And that player's been told, remember the experience of that force and use your other finger to apply the same force down to the other subject's finger through a force transfuser -- and they do that. And player two's been told, remember the experience of that force. Use your other hand to apply the force back down. And so they take it in turns to apply the force they've just experienced back and forward.
Vì vậy chúng tôi đã quyết định thực hiện kiểm tra điều này trong phòng thí nghiệm. (tiếng cười) Bấy giờ chúng tôi không thực nghiệm với trẻ con, không thực nghiệm bằng việc đánh nhau, nhưng ý tưởng thực nghiệm là giống nhau. Chúng tôi mang vào hai người lớn. Chúng tôi bảo họ chơi một trò chơi. Và người chơi thứ nhất và thứ hai ngồi đối diện với nhau. và trò chơi thì đơn giản. Chúng tôi bắt đầu với một động cơ môtô với một đòn bẩy nhỏ, một bộ phận truyền lực nhỏ. Và chúng tôi sử dụng cái động cơ này để tạo áp lực xuống ngón tay của người chơi trong vòng ba giây và ngừng lại. Và người chơi được dặn trước rằng hãy ghi nhớ lực tác động đó và sử dụng ngón tay kia tạo ra cùng một lực tác động xuống ngón tay của người kia thông qua bộ phận truyền lực -- và họ sẽ làm như vậy. Người chơi thứ hai cũng được dặn trước rằng hãy ghi nhớ lực tác động đó. Sử dụng tay kia để tạo lực tác động ngược lại. Và họ cứ làm như vậy lần lượt đế tạo lực tác động mà họ vừa mới trải nghiệm lẫn nhau.
But critically, they're briefed about the rules of the game in separate rooms. So they don't know the rules the other person's playing by. And what we've measured is the force as a function of terms. And if we look at what we start with, a quarter of a Newton there, a number of turns, perfect would be that red line. And what we see in all pairs of subjects is this -- a 70 percent escalation in force on each go. So it really suggests, when you're doing this -- based on this study and others we've done -- that the brain is canceling the sensory consequences and underestimating the force it's producing. So it re-shows the brain makes predictions and fundamentally changes the precepts. So we've made inferences, we've done predictions, now we have to generate actions. And what Bayes' rule says is, given my beliefs, the action should in some sense be optimal.
Nhưng một cách nghiêm túc mà nói, họ đã tường thuật lại quy tắc của trò chơi trong các gian phòng khác nhau. Vì vậy họ không biết về quy tắc của người chơi còn lại. Và những gì chúng tôi đo lường được là lực tác động như là một hàm số trong một khoảng thời gian ngắn. Và nếu chúng ta xem lại những gì lúc bắt đầu, một phần tư lực Newton, với một số lượt, tốt nhất là ở đường gạch đỏ. Và những gì chúng ta thấy trong cặp đối tượng này là -- một mức tăng thêm 70% của lực tác động cho mỗi lượt. Vì vậy nó thực sự gợi ra rằng, khi thực hiện điều này -- dựa trên nghiên cứu này và những nghiên cứu khác mà chúng tôi đã thực hiện -- rằng bộ não đang bỏ qua các hậu quả thuộc cảm giác và đánh giá thấp lực tác động mà nó sản sinh ra. Vì vậy điều đó lại cho thấy rằng bộ não tạo ra các dự đoán và về cơ bản là thay đổi các nguyên lý. Vì vậy chúng ta đã tạo ra các suy luận, chúng ta tạo ra các dự đoán, bây giờ chúng ta phải phát sinh ra các hành động. Và định luật Bayes nói rằng, với sự tin tưởng của tôi, hành động nên ở một mức độ tối ưu.
But we've got a problem. Tasks are symbolic -- I want to drink, I want to dance -- but the movement system has to contract 600 muscles in a particular sequence. And there's a big gap between the task and the movement system. So it could be bridged in infinitely many different ways. So think about just a point to point movement. I could choose these two paths out of an infinite number of paths. Having chosen a particular path, I can hold my hand on that path as infinitely many different joint configurations. And I can hold my arm in a particular joint configuration either very stiff or very relaxed. So I have a huge amount of choice to make. Now it turns out, we are extremely stereotypical. We all move the same way pretty much.
Nhưng chúng ta có một vấn đề ở đây. Các nhiệm vụ mang tính tượng trưng -- Tôi muốn uống, tôi muốn nhảy -- nhưng hệ vận động phải co rút lại 600 cơ bắp theo một trình tự cụ thể nào đó. Và có một khoảng cách lớn giữa nhiệm vụ và hệ vận động. Vì vậy nó có thể là cầu nối theo nhiều cách khác nhau. hãy nghĩ về việc chuyển động từ một điểm đến một điểm khác. Tôi có thể chọn hai đường này trong vô số các con đường. Sau khi đã chọn một đường cụ thể nào đó, Tôi có thể giữ tay trên đường đó theo nhiều kiểu cấu hình khớp xương khác nhau. Và tôi cũng có thể giữ tay theo một kiểu cấu hình khớp nhất định nào đó hoặc là rất là cứng nhắc hoặc là rất thoải mái Vì vậy tôi có rất rất nhiều sự lựa chọn khác nhau. Nhưng hoá ra là chúng ta cực kỳ theo khuôn mẫu. Chúng ta di chuyển hầu như theo cùng một cách.
And so it turns out we're so stereotypical, our brains have got dedicated neural circuitry to decode this stereotyping. So if I take some dots and set them in motion with biological motion, your brain's circuitry would understand instantly what's going on. Now this is a bunch of dots moving. You will know what this person is doing, whether happy, sad, old, young -- a huge amount of information. If these dots were cars going on a racing circuit, you would have absolutely no idea what's going on.
Và vì vậy hoá ra là chúng ta quá theo khuôn mẫu, bộ não của chúng ta có các mạch thần kinh chuyên dụng để giải mã kiểu khuôn mẫu này. Vì vậy nếu tôi lấy một vài điểm và đặt chúng trong sự chuyển động với chuyển động sinh học, mạch trong bộ não sẽ hiểu ngay lập tức cái gì đang xảy ra. Bây giờ nếu là một chùm điểm chuyển động. bạn sẽ biết rằng người này đang làm gì đó, có thể là vui, buồn, già, trẻ -- một lượng thông tin khổng lồ. Nếu các điểm này là các xe đang trên đường đua, bạn sẽ tuyệt đối không biết cái gì đang xảy ra.
So why is it that we move the particular ways we do? Well let's think about what really happens. Maybe we don't all quite move the same way. Maybe there's variation in the population. And maybe those who move better than others have got more chance of getting their children into the next generation. So in evolutionary scales, movements get better. And perhaps in life, movements get better through learning.
Tại sao lại như vậy rằng chúng ta di chuyển theo các cách cụ thể ? Hãy nghĩ về những gì thật sự xảy ra. Có thể là chúng ta không hoàn toàn di chuyển theo cùng một cách. Có thể là có sự biến động trong dân số. Và có thể một số người, mà di chuyển tốt hơn những người còn lại, có nhiều cơ hội hơn trong việc đưa con cái của họ vào thế hệ kế tiếp. Vì vậy trong các nấc thang tiến hoá, sự vận động trở nên tốt hơn. Và có lẽ là trong cuộc sống, sự vận động trở nên tốt hơn thông qua việc học.
So what is it about a movement which is good or bad? Imagine I want to intercept this ball. Here are two possible paths to that ball. Well if I choose the left-hand path, I can work out the forces required in one of my muscles as a function of time. But there's noise added to this. So what I actually get, based on this lovely, smooth, desired force, is a very noisy version. So if I pick the same command through many times, I will get a different noisy version each time, because noise changes each time. So what I can show you here is how the variability of the movement will evolve if I choose that way. If I choose a different way of moving -- on the right for example -- then I'll have a different command, different noise, playing through a noisy system, very complicated. All we can be sure of is the variability will be different. If I move in this particular way, I end up with a smaller variability across many movements. So if I have to choose between those two, I would choose the right one because it's less variable.
Vậy thế nào là một sự di chuyển tốt hoặc xấu ? Thử tưởng tượng là tôi muốn chặn trái banh này lại. Có hai đường có thể dẫn đến trái banh đó. Nếu tôi chọn con đường bên tay trái, Tôi có thể tính toán được các lực tác động cần thiết trong các cơ bắp của tôi như là các hàm số của thời gian. Nhưng có sự nhiễu thêm vào đây. Vì vậy những gì tôi thật sự có được, với lực tác động bằng phẳng và mong đợi là một phiên bản bị nhiễu Vì vậy nếu tôi chọn cùng một mệnh lệnh qua nhiều lần, tôi sẽ có được một phiên bản bị nhiễu cho mỗi lần, bởi vì tín hiệu nhiễu thay đổi cho mỗi lần. Những gì tôi có thể trình diễn cho các bạn thấy là tính biến đổi của sự vận động sẽ tiến triển như thế nào nếu tôi chọn cách đó. Nếu tôi chọn cách thức di chuyển khác -- chẳng hạn về bên tay phải -- khi đó tôi sẽ có một mệnh lệnh khác, một tín hiệu nhiễu khác, thực hiện thông qua một hệ thống bị nhiễu, là rất phức tạp. Những gì chúng ta có thể chắc chắn là tính biến đổi sẽ khác nhau. Nếu tôi di chuyển theo cách thức cụ thể này, tôi sau cùng có được một sự biến thiên nhỏ hơn qua nhiều lần chuyển động. Vì vậy nếu tôi phải chọn giữa hai cách thức này, tôi sẽ chọn cách bên phải bởi vì nó ít bị biến đổi hơn.
And the fundamental idea is you want to plan your movements so as to minimize the negative consequence of the noise. And one intuition to get is actually the amount of noise or variability I show here gets bigger as the force gets bigger. So you want to avoid big forces as one principle. So we've shown that using this, we can explain a huge amount of data -- that exactly people are going about their lives planning movements so as to minimize negative consequences of noise.
Và ý tưởng cơ bản là bạn muốn lập kế hoạch cho các sự vận động để tối thiểu hoá các hậu quả xấu của tín hiệu nhiễu. Và một nhận thức có được là thật sự số lượng nhiễu hoặc tính biến đổi mà tôi trình bày ở đây trở nên lớn hơn khi lực tác động mạnh hơn. Vì vậy nên tránh các lực tác động mạnh là một nguyên lý. Chúng ta đã chứng minh rằng sử dụng điều này sẽ có thể giải thích được một lượng lớn dữ liệu -- rằng chính xác là con người chuẩn bị cho cuộc sống bằng cách lên kế hoạch cho các sự vận động để tối thiểu hoá các hậu quả xấu của tín hiệu nhiễu.
So I hope I've convinced you the brain is there and evolved to control movement. And it's an intellectual challenge to understand how we do that. But it's also relevant for disease and rehabilitation. There are many diseases which effect movement. And hopefully if we understand how we control movement, we can apply that to robotic technology. And finally, I want to remind you, when you see animals do what look like very simple tasks, the actual complexity of what is going on inside their brain is really quite dramatic.
Vì vậy tôi hy vọng rằng tôi đã thuyết phục được các bạn rằng bộ não hiện hữu và tiến hoá để điều khiển sự vận động và đó là một thử thách về mặt trí óc để hiểu được chúng ta làm điều đó như thế nào. Nhưng điều này cũng có liên quan đến bệnh tật và sự hồi phục. Có nhiều bệnh tật gây ảnh hưởng đến sự vận động. và hy vọng là nếu chúng ta hiểu được cách chúng ta điều khiển sự vận động như thế nào chúng ta có thể áp dụng vào công nghệ robot. Và sau cùng, tôi muốn nhắc nhở các bạn rằng, khi các bạn thấy các con vật làm những gì trông giống như là các tác vụ đơn giản, thực chất của sự phức tạp đang diễn ra bên trong bộ não của chúng là hoàn toàn ấn tượng.
Thank you very much.
Cám ơn các bạn rất nhiều.
(Applause)
(tiếng vỗ tay)
Chris Anderson: Quick question for you, Dan. So you're a movement -- (DW: Chauvinist.) -- chauvinist. Does that mean that you think that the other things we think our brains are about -- the dreaming, the yearning, the falling in love and all these things -- are a kind of side show, an accident?
Chris Anderson: một câu hỏi nhanh cho ông, Dan. vậy ông vận động -- (DW: Người yêu nước) -- người yêu nước. Có phải điều đó có nghĩa là ông nghĩ rằng những thứ khác chúng ta đang nghĩ trong não về -- giấc mơ, sự khát khao, sự yêu đương và tất cả những thứ này -- là một loại thứ yếu, một sự tình cờ ?
DW: No, no, actually I think they're all important to drive the right movement behavior to get reproduction in the end. So I think people who study sensation or memory without realizing why you're laying down memories of childhood. The fact that we forget most of our childhood, for example, is probably fine, because it doesn't effect our movements later in life. You only need to store things which are really going to effect movement.
DW: Không, không, thật sự tôi nghĩ chúng tất cả đều quan trọng để điều khiển hành vi vận động một cách đúng đắn để có thể tái tạo lại khi kết thúc. Vì vậy tôi nghĩ người ta học cảm nhận hoặc ghi nhớ mà không nhận biết tại sao họ đang thiết lập các hồi ức của thời thơ ấu Chẳng hạn, việc chúng ta quên hầu hết thời thơ ấu, có lẽ là cũng tốt thôi, bởi vì nó không ảnh hưởng đến sự vận động sau này của chúng ta trong cuộc sống. Bạn chỉ cần lưu trữ những thứ thật sự có ảnh hưởng đến việc vận động.
CA: So you think that people thinking about the brain, and consciousness generally, could get real insight by saying, where does movement play in this game?
CA: vì vậy ông nghĩ là người ta nghĩ về bộ não, sự nhận thức nói chung, có thể có được sự hiểu biết thấu đáo bằng cách nói rằng, sự vận động đóng vai trò ở đâu trong trò chơi này ?
DW: So people have found out for example that studying vision in the absence of realizing why you have vision is a mistake. You have to study vision with the realization of how the movement system is going to use vision. And it uses it very differently once you think about it that way.
DW: chẳng hạn người ta đã nhận ra rằng học tưởng tượng mà thiếu nhận thức rằng tại sao họ lại có sự tưởng tượng là một sai lầm Phải học tưởng tượng với sự nhận thức rằng hệ vận động đang sử dụng sự tưởng tượng như thế nào và hệ vận động sử dụng nó rất khác nhau mỗi khi bạn nghĩ về nó theo cách đó.
CA: Well that was quite fascinating. Thank you very much indeed.
CA: Điều này hoàn toàn là rất thú vị. Thật sự các ơn ông.
(Applause)
(tiếng vỗ tay)