I do two things: I design mobile computers and I study brains. Today's talk is about brains and -- (Audience member cheers) Yay! I have a brain fan out there.
Я занимаюсь двумя вещами: я разрабатываю дизайн мобильных компьютеров и изучаю мозг. Сегодняшнее выступление - про мозг, и, ура, где-то там есть поклонник мозга!
(Laughter) If I could have my first slide, you'll see the title of my talk and my two affiliations. So what I'm going to talk about is why we don't have a good brain theory, why it is important that we should develop one and what we can do about it. I'll try to do all that in 20 minutes. I have two affiliations. Most of you know me from my Palm and Handspring days, but I also run a nonprofit scientific research institute called the Redwood Neuroscience Institute in Menlo Park. We study theoretical neuroscience and how the neocortex works. I'm going to talk all about that.
(Смех) Я собираюсь, если получится включить первый слайд, и вы увидите название моего выступления и организаций rjrjnjhsv я принадлежу. Я собираюсь поговорить о том, почему у нас нет хорошей теории мозга, почему нам важно её разработать и что мы с этим сможем сделать. И я попробую сделать это за 20 минут. Я работаю в двух компаниях. Большинство из вас знает меня по тем временам, когда я работал в Palm и Handspring, хотя я также возглавляю некоммерческий научно-исследовательский институт - Редвудский неврологический институт в Менло-Парке, мы изучаем теоретическую неврологию и то, как работает неокортекс.
I have one slide on my other life, the computer life, and that's this slide here. These are some of the products I've worked on over the last 20 years, starting from the very original laptop to some of the first tablet computers and so on, ending up most recently with the Treo, and we're continuing to do this. I've done this because I believe mobile computing is the future of personal computing, and I'm trying to make the world a little bit better by working on these things. But this was, I admit, all an accident. I really didn't want to do any of these products. Very early in my career I decided I was not going to be in the computer industry.
Я ещё буду говорить об этом. У меня есть слайд о моей другой жизни, компьютерной жизни, вот он. Вот некоторые из продуктов, над которыми я работал на протяжении последних 20 лет, от весьма оригинального лэптопа до первых планшетных компьютеров, и так далее, заканчивая Treo, мы продолжаем работать в этом направлении. Я делал это, потому что верю, что мобильные компьютеры - это будущее персональных компьютеров, и я пытаюсь сделать мир чуточку лучше, работая над этим. Но всё это было, должен признаться, случайностью. На самом деле я не планировал создавать ни одного из этих продуктов, и в самом начале своей карьеры я решил, что не собираюсь работать в компьютерной индустрии.
Before that, I just have to tell you about this picture of Graffiti I picked off the web the other day. I was looking for a picture for Graffiti that'll text input language. I found a website dedicated to teachers who want to make script-writing things across the top of their blackboard, and they had added Graffiti to it, and I'm sorry about that.
И до того, как я расскажу вам об этом, я должен сказать - это небольшое изображение Graffiti. Я искал изображение Graffiti, небольшого языка текстового ввода, и обнаружил сайт для учителей, желающих разместить над школьной доской таблички с рукописным алфавитом. И они добавили к этому Graffiti, как мне не жаль.
(Laughter)
(Смех)
So what happened was, when I was young and got out of engineering school at Cornell in '79, I went to work for Intel and was in the computer industry, and three months into that, I fell in love with something else. I said, "I made the wrong career choice here," and I fell in love with brains. This is not a real brain. This is a picture of one, a line drawing. And I don't remember exactly how it happened, but I have one recollection, which was pretty strong in my mind. In September of 1979, Scientific American came out with a single-topic issue about the brain. It was one of their best issues ever. They talked about the neuron, development, disease, vision and all the things you might want to know about brains. It was really quite impressive.
Так вот, когда я был молод и закончил инженерное отделение Корнелльского университета в 79-м, я пошёл на работу в Интел. Я работал в компьютерной индустрии и три месяца спустя я влюбился в кое-что другое и сказал: "я неправильно выбрал карьеру", я влюбился в мозг. Это не настоящий мозг, это карандашный рисунок. Я не помню точно, как это произошло, но у меня осталось одно довольно сильное воспоминание. В сентябре 1979 года вышел номер Scientific American, темой номера был мозг. И это было весьма неплохо. Это был один из самых лучших номеров. Там рассказывалось о нейронах, о развитии, болезнях, зрении и других вещах, которые было бы интересно знать про мозг. Это действительно было впечатляюще. Могло остаться впечатление, что мы действительно много знаем о мозге.
One might've had the impression we knew a lot about brains. But the last article in that issue was written by Francis Crick of DNA fame. Today is, I think, the 50th anniversary of the discovery of DNA. And he wrote a story basically saying, this is all well and good, but you know, we don't know diddly squat about brains, and no one has a clue how they work, so don't believe what anyone tells you. This is a quote from that article, he says: "What is conspicuously lacking" -- he's a very proper British gentleman -- "What is conspicuously lacking is a broad framework of ideas in which to interpret these different approaches." I thought the word "framework" was great. He didn't say we didn't have a theory. He says we don't even know how to begin to think about it. We don't even have a framework. We are in the pre-paradigm days, if you want to use Thomas Kuhn. So I fell in love with this. I said, look: We have all this knowledge about brains -- how hard can it be? It's something we can work on in my lifetime; I could make a difference. So I tried to get out of the computer business, into the brain business.
Но последняя статья того номера была написана Фрэнсисом Криком, одним из тех, кто открыл структуру ДНК. Сегодня, я думаю, день пятидесятилетия открытия ДНК. И он написал статью, в которой говорилось, что это всё конечно хорошо, но знаете, мы ничего не знаем про мозг, никто не представляет, как это всё работает, так что не верьте ничему, что вам говорят. Вот цитата из той статьи. Он сказал: "Чего, очевидно, недостаёт", он истинный британский джентльмен, "чего, очевидно, недостаёт, так это широкого каркаса идей, в рамках которой можно интерпретировать эти подходы". Я подумал, что слово каркас - замечательное. Он не сказал, что у нас нет теории. Он сказал, мы даже не знаем как начать думать об этом, у нас нет даже каркаса. Мы находимся в допарадигмальном периоде в терминологии Томаса Куна. Итак, я влюбился в это и сказал, смотрите, у нас есть все эти знания о мозге, насколько это может быть сложно? И это что-то, над чем можно проработать всю жизнь. Я почувствовал, что я могу что-то изменить, и я пытался уйти из компьютерного бизнеса в деятельность, связанную с мозгом.
First, I went to MIT, the AI lab was there. I said, I want to build intelligent machines too, but I want to study how brains work first. And they said, "Oh, you don't need to do that. You're just going to program computers, that's all. I said, you really ought to study brains. They said, "No, you're wrong." I said, "No, you're wrong," and I didn't get in.
Первым делом я пошёл в Массачусетский технологический институт, лабораторию искуственного интеллекта, и я подумал, я также хочу конструировать умные машины, но для начала мне нужно изучить как работает мозг. Но мне сказали, что не нужно этого делать - мы будем программировать, и это всё, что нам нужно делать. На что я ответил: нет, действительно нужно изучать мозг. Мне сказали: ты знаешь, ты не прав. Я ответил: нет, это вы не правы, и не поступил. (Смех)
(Laughter)
I was a little disappointed -- pretty young -- but I went back again a few years later, this time in California, and I went to Berkeley. And I said, I'll go in from the biological side. So I got in the PhD program in biophysics. I was like, I'm studying brains now. Well, I want to study theory. They said, "You can't study theory about brains. You can't get funded for that. And as a graduate student, you can't do that." So I said, oh my gosh. I was depressed; I said, but I can make a difference in this field. I went back in the computer industry and said, I'll have to work here for a while. That's when I designed all those computer products.
Я был несколько разочарован - но я был ещё довольно молод и попробовал снова, через несколько лет, в это время я был в Калифорнии, я пошёл в Беркли. Я сказал: попробую со стороны биологии. Я поступил - на программу PhD по направлению Биофизика, и, уже изучая мозг, сказал: я хочу изучать теорию. На что мне ответили: нет, ты не можешь изучать теорию о мозге. Так не делается. Под это не возможно получить финансирование. Будучи аспирантом этого нельзя делать. Я подумал, боже мой. Я был весьма подавлен. Я сказал: но я же могу что-то привнести в эту область! В результате я вернулся в компьютерную индустрию и решил поработать здесь некоторое время. Именно тогда я и создал все эти продукты.
(Laughter)
(Смех)
I said, I want to do this for four years, make some money, I was having a family, and I would mature a bit, and maybe the business of neuroscience would mature a bit. Well, it took longer than four years. It's been about 16 years. But I'm doing it now, and I'm going to tell you about it. So why should we have a good brain theory? Well, there's lots of reasons people do science. The most basic one is, people like to know things. We're curious, and we go out and get knowledge. Why do we study ants? It's interesting. Maybe we'll learn something useful, but it's interesting and fascinating. But sometimes a science has other attributes which makes it really interesting.
Я подумал, что хочу позаниматься этим четыре года, заработать денег, завести семью, остепениться, возможно и неврология за это время немного повзрослеет. Но потребовалось больше четырёх лет. Это заняло 16. Но сейчас я этим занимаюсь, о чём вам сейчас и расскажу. Итак, зачем нам может понадобиться хорошая теория мозга? Для того, чтобы заниматься наукой есть множество причин. Одна из них - самая основная - люди любят познавать. Мы любопытны, мы просто берём и получаем знания. Почему мы изучаем муравьёв? Ну, это интересно. Возможно мы узнаем что-то по-настоящему полезное, но это просто интересно и захватывающе. Но временами, в науке появляются некоторые другие атрибуты, делающие её весьма, весьма интересной.
Sometimes a science will tell something about ourselves; it'll tell us who we are. Evolution did this and Copernicus did this, where we have a new understanding of who we are. And after all, we are our brains. My brain is talking to your brain. Our bodies are hanging along for the ride, but my brain is talking to your brain. And if we want to understand who we are and how we feel and perceive, we need to understand brains. Another thing is sometimes science leads to big societal benefits, technologies, or businesses or whatever. This is one, too, because when we understand how brains work, we'll be able to build intelligent machines. That's a good thing on the whole, with tremendous benefits to society, just like a fundamental technology.
Временами наука может рассказать нам что-то про нас самих, про то, кем мы являемся. Изредка, это делала теория эволюции, Коперник - они создавали новое понимание того, кем мы являемся. Но в конечном итоге мы - это наш мозг. Мой мозг разговаривает с вашим мозгом. Наши тела здесь только за компанию, мой мозг разговаривает с вашим мозгом. И если мы хотим понять, кем мы являемся, как мы чувствуем и как воспринимаем, мы должны понять, что из себя представляет мозг. Ещё одно: наука временами приводит к большой социальной пользе, к созданию технологий, бизнесов и прочего. И это тоже важно, так как когда мы поймём, как работает мозг, мы сможем строить интеллектуальные машины, я думаю, что в целом это хорошее явление, которое принесёт огромную пользу обществу, по аналогии с фундаментальными технологиями.
So why don't we have a good theory of brains? People have been working on it for 100 years. Let's first take a look at what normal science looks like. This is normal science. Normal science is a nice balance between theory and experimentalists. The theorist guy says, "I think this is what's going on," the experimentalist says, "You're wrong." It goes back and forth, this works in physics, this in geology. But if this is normal science, what does neuroscience look like? This is what neuroscience looks like. We have this mountain of data, which is anatomy, physiology and behavior. You can't imagine how much detail we know about brains. There were 28,000 people who went to the neuroscience conference this year, and every one of them is doing research in brains. A lot of data, but no theory. There's a little wimpy box on top there.
Итак, почему же у нас нет хорошей теории мозга? Люди ведь работали над ней на протяжении ста лет. Давайте сначала взглянем на то, как выглядит нормальная наука. Это нормальная наука. Нормальная наука - это хороший баланс между теорией и экспериментом. Теоретики говорят, что происходит одно, а экспериментаторы - что происходит другое. И так повторяется снова и снова. Так происходит в физике. Так происходит в геологии. Но если это норма для науки, какая ситуация в нейронауке? Вот как это выглядит: у нас есть гора данных - из анатомии, физиологии и бихевиоральной науки. Вы не можете себе представить как много мы знаем о мозге. В этом году на конференцию по нейронауке приехало 28 тысяч человек, каждый из который исследует мозг. Большое количество данных. Но теории нет. Есть маленький неуверенный прямоугольник, расположенный сверху. Теория не сыграла большой роли в науках о мозге.
And theory has not played a role in any sort of grand way in the neurosciences. And it's a real shame. Now, why has this come about? If you ask neuroscientists why is this the state of affairs, first, they'll admit it. But if you ask them, they say, there's various reasons we don't have a good brain theory. Some say we still don't have enough data, we need more information, there's all these things we don't know. Well, I just told you there's data coming out of your ears. We have so much information, we don't even know how to organize it. What good is more going to do? Maybe we'll be lucky and discover some magic thing, but I don't think so. This is a symptom of the fact that we just don't have a theory. We don't need more data, we need a good theory.
И это постыдно. Итак, почему же это произошло? Если спросить нейробиологов, чем вызвана такая ситуация, они прежде всего согласятся с существованием проблемы. Но они ответят, что есть различные причины того, что у нас нет хорошей теории мозга. Некоторые скажут, что нам до сих пор не хватает данных, мы должны собрать больше информации, есть множество вещей, которых мы пока не понимаем. Ну, я только что рассказал вам, что последние годы генерировались большие объёмы данных. У нас столько информации, что мы даже не знаем, как начать её систематизировать. Чем помогут дополнительные данные? Возможно нам посчатсливится обнаружить нечто чудесное, но я так не думаю. На самом деле это просто индикатор отсутствия теории. Мы не нуждаемся в дополнительных данных, нам требуется хорошая теория.
Another one is sometimes people say, "Brains are so complex, it'll take another 50 years." I even think Chris said something like this yesterday, something like, it's one of the most complicated things in the universe. That's not true -- you're more complicated than your brain. You've got a brain. And although the brain looks very complicated, things look complicated until you understand them. That's always been the case. So we can say, my neocortex, the part of the brain I'm interested in, has 30 billion cells. But, you know what? It's very, very regular. In fact, it looks like it's the same thing repeated over and over again. It's not as complex as it looks. That's not the issue.
В качестве другой причины иногда приводят то, что мозг столь сложен, что построение теории займёт ещё 50 лет. Я даже думаю Крис вчера говорил что-то об этом. Не уверен, что именно ты сказал, Крис, но что-то вроде того, что мозг - одна из сложнейших систем во вселенной. Но это не верно. Вы сложнее, чем ваш мозг. У вас есть мозг. Также, несмотря на то, что мозг выглядит сложным, всё выглядит сложным до той поры, пока мы этого не понимаем. Так всегда было. И всё что мы можем сказать, это что неокортекс - интересующая меня область мозга - состоит из 30 миллиардов клеток. Но знаете что? Он очень, очень однородный. На практике выглядит, что это одно и то же, повторенное много-много раз. Он не настолько сложен, как кажется. Проблема не в этом.
Some people say, brains can't understand brains. Very Zen-like. Woo.
Кто-то скажет, что мозг не способен понять сам себя. Очень в духе философии дзен. Вы знаете -
(Laughter)
(Смех)
You know, it sounds good, but why? I mean, what's the point? It's just a bunch of cells. You understand your liver. It's got a lot of cells in it too, right? So, you know, I don't think there's anything to that. And finally, some people say, "I don't feel like a bunch of cells -- I'm conscious. I've got this experience, I'm in the world. I can't be just a bunch of cells." Well, people used to believe there was a life force to be living, and we now know that's really not true at all. And there's really no evidence, other than that people just disbelieve that cells can do what they do. So some people have fallen into the pit of metaphysical dualism, some really smart people, too, but we can reject all that.
Это звучит хорошо, но почему? Я имею в виду - в чём смысл? Это лишь набор клеток. Вы понимаете, как работает ваша печень. В ней ведь тоже множество клеток, так? Так что я не думаю, что проблема в этом. И, последнее, некоторые говорят, знаете, я не чувствую, что я лишь набор клеток. У меня есть сознание. У меня есть опыт, я живу в этом мире. Я не могу быть просто набором клеток. Ну вы понимаете, люди привыкли верить, что есть некая жизненная сила, являющаяся источником жизни, но мы знаем, что это совершенно не верно. Нет никаких свидетельств, есть только люди, которые не верят, что клетки могут выполнять эти функции. И несмотря на то, что некоторые люди скатились к метафизическому дуализму, в том числе некоторые по-настоящему умные люди, мы можем отвергнуть это.
(Laughter)
(Смех)
No, there's something else, something really fundamental, and it is: another reason why we don't have a good brain theory is because we have an intuitive, strongly held but incorrect assumption that has prevented us from seeing the answer. There's something we believe that just, it's obvious, but it's wrong. Now, there's a history of this in science and before I tell you what it is, I'll tell you about the history of it in science. Look at other scientific revolutions -- the solar system, that's Copernicus, Darwin's evolution, and tectonic plates, that's Wegener. They all have a lot in common with brain science.
Нет, там существует что-то другое, и это по-настоящему фундаментально: есть ещё одна причина, почему у нас нет хорошей теории мозга - у нас есть интуитивное и неверное допущение, которому мы очень доверяем, но которое мешает нам увидеть ответ. Есть нечто, во что мы верим, что очевидно, но ошибочно. В науке есть целая история подобных явлений, о которой я поговорю, прежде чем рассказать об этом допущении. Если посмотреть на другие революции в науке, в данном случае я говорю о солнечной системе, Копернике, Теории эволюции Дарвина, тектонических плитах - это Вегенер. У всех у них много общего с наукой о мозге.
First, they had a lot of unexplained data. A lot of it. But it got more manageable once they had a theory. The best minds were stumped -- really smart people. We're not smarter now than they were then; it just turns out it's really hard to think of things, but once you've thought of them, it's easy to understand. My daughters understood these three theories, in their basic framework, in kindergarten. It's not that hard -- here's the apple, here's the orange, the Earth goes around, that kind of stuff.
Во-первых, во всех этих областях есть множество необъяснённых данных. Множество. Но они стали намного более управляемыми, когда появилась теория. Лучшие умы были поставлены в тупик, весьма, весьма умные люди. Мы сейчас не умнее, чем они были тогда. Оказывается, по-настоящему сложно думать о чём-то, но когда нечто обдумано, его достаточно просто понять. Мои дочери поняли эти три теории, в общих чертах, ещё будучи в детском саду. Сейчас это не так сложно, знаете - вот яблоко, вот апельсин, земля обращается вокруг и всё такое прочее.
Another thing is the answer was there all along, but we kind of ignored it because of this obvious thing. It was an intuitive, strongly held belief that was wrong. In the case of the solar system, the idea that the Earth is spinning, the surface is going a thousand miles an hour, and it's going through the solar system at a million miles an hour -- this is lunacy; we all know the Earth isn't moving. Do you feel like you're moving a thousand miles an hour? If you said Earth was spinning around in space and was huge -- they would lock you up, that's what they did back then.
И последнее, ответ всегда был здесь, мы просто его игнорировали из-за этого очевидного допущения. Ошибка была в интуитивном допущении, которому очень доверяли. В случае с солнечной системой, идея заключалась в том, что Земля вращается, её поверхность движется со скоростью более полутора тысяч километров в час, а сама Земля летит сквозь солнечную систему со скоростью более миллиона километров в час. Это безумие. Мы ведь все знаем, что Земля не двигается. Вы чувствуете, что движетесь со скоростью в полторы тысячи километров в час? Конечно нет. И тот, кто скажет, что она вращается в космосе, таком большом, будет изолирован - так раньше и делали.
So it was intuitive and obvious. Now, what about evolution?
(Смех) Это было интуитивно и очевидно. Что же с эволюцией?
Evolution, same thing. We taught our kids the Bible says God created all these species, cats are cats; dogs are dogs; people are people; plants are plants; they don't change. Noah put them on the ark in that order, blah, blah. The fact is, if you believe in evolution, we all have a common ancestor. We all have a common ancestor with the plant in the lobby! This is what evolution tells us. And it's true. It's kind of unbelievable. And the same thing about tectonic plates. All the mountains and the continents are kind of floating around on top of the Earth. It doesn't make any sense.
Эволюция - то же самое. Мы говорили своим детям, ну, в библии говорится, что бог создал все эти виды, кошки это кошки, собаки это собаки, люди это люди, растения это растения, это неизменно. Ной разместил их на своём ковчеге в определённом порядке и т.п. И вы знаете, на самом деле, если вы верите в теорию эволюции, у нас у всей есть общий предок, у нас общее происхождение от того растения в фойе. Вот о чём говорит эволюция. И это правда. Это невероятно. То же самое с тектоническими плитами. Все горы и континенты плавают туда-сюда по поверхности Земли. Это полная бессмыслица.
So what is the intuitive, but incorrect assumption, that's kept us from understanding brains? I'll tell you. It'll seem obvious that it's correct. That's the point. Then I'll make an argument why you're incorrect on the other assumption. The intuitive but obvious thing is: somehow, intelligence is defined by behavior; we're intelligent because of how we do things and how we behave intelligently. And I'm going to tell you that's wrong. Intelligence is defined by prediction.
Итак, какое интуитивное, но неверное допущение мешало нам понять мозг? Сейчас я нём расскажу, и покажется очевидным, что оно верно, ведь в этом же смысл, так? После чего я объясню, почему вы не правы. Интуитивно и очевидно, что каким-то образом интеллект определяется поведением, что мы разумны по причине того, как мы делаем что-то, и того, что наше поведение разумно, и я скажу вам, что это не верно. Разумность определяется способностью прогнозировать. Сейчас я покажу это на нескольких слайдах,
I'm going to work you through this in a few slides, and give you an example of what this means. Here's a system. Engineers and scientists like to look at systems like this. They say, we have a thing in a box. We have its inputs and outputs. The AI people said, the thing in the box is a programmable computer, because it's equivalent to a brain. We'll feed it some inputs and get it to do something, have some behavior. Alan Turing defined the Turing test, which essentially says, we'll know if something's intelligent if it behaves identical to a human -- a behavioral metric of what intelligence is that has stuck in our minds for a long time.
приведу пример того, что это значит. Вот система. Инженеры смотрят на системы таким образом, учёные смотрят на системы таким образом. Они говорят, итак, у нас есть нечто внутри ящика, у которого есть свой ввод и вывод. Специалисты по искусственному интеллекту говорили, что внутри ящика находится программируемый компьютер, т.к. это эквивалентно мозгу, мы подадим что-то на ввод, заставим его сделать что-то, проявить какое-то поведение. Алан Тьюринг придумал тест Тьюринга, который по сути утверждал, что мы поймём, что нечто разумно, если его поведение идентично человеческому. Это поведенческий тест разумности, надолго застрявший в наших умах.
Reality, though -- I call it real intelligence. Real intelligence is built on something else. We experience the world through a sequence of patterns, and we store them, and we recall them. When we recall them, we match them up against reality, and we're making predictions all the time. It's an internal metric; there's an internal metric about us, saying, do we understand the world, am I making predictions, and so on. You're all being intelligent now, but you're not doing anything. Maybe you're scratching yourself, but you're not doing anything. But you're being intelligent; you're understanding what I'm saying. Because you're intelligent and you speak English, you know the word at the end of this sentence.
В действительности же - я называю это настоящим интеллектом - настоящий интеллект имеет иную базу. Мы ощущаем мир через последовательность шаблонов, мы их сохраняем и потом вспоминаем. И когда мы их вспоминаем, мы сопоставляем их с действительностью, постоянно строим прогнозы. Это неизменный тест. Существует неизменный тест, позволяющий определить, понимаем ли мы мир? Строю ли я прогнозы? И так далее. Вы все сейчас разумны, хотя вы ничего не делаете. Может быть вы чешетесь или ковыряете в носу, не знаю, но вы ничего не делаете, при этом будучи разумными, понимая, что я говорю. Из-за того, что вы разумны и говорите по-английски, вы знаете, какое слово будет стоять в конце этого - (пауза) предложения.
The word came to you; you make these predictions all the time. What I'm saying is, the internal prediction is the output in the neocortex, and somehow, prediction leads to intelligent behavior. Here's how that happens: Let's start with a non-intelligent brain. I'll argue a non-intelligent brain, we'll call it an old brain. And we'll say it's a non-mammal, like a reptile, say, an alligator; we have an alligator. And the alligator has some very sophisticated senses. It's got good eyes and ears and touch senses and so on, a mouth and a nose. It has very complex behavior. It can run and hide. It has fears and emotions. It can eat you. It can attack. It can do all kinds of stuff. But we don't consider the alligator very intelligent, not in a human sort of way.
Слово появилось у вас в голове, вы строите подобные прогнозы постоянно. И я говорю, что постоянное прогнозирование - продукт неокортекса. И что прогнозирование каким-то образом ведёт к разумному поведению. Вот как это происходит. Давайте начнём с неразумного мозга. Я утверждаю, что неразумный мозг, у нас есть старый мозг, скажем не млекопитающего, рептилии, к примеру возьмём аллигатора. Аллигатор обладает высокоразвитыми чувствами: зрением, слухом, тактильными ощущениями, вкусом, обонянием. Это очень сложное поведение. Он умеет убегать и прятаться. У него есть страхи и эмоции. Он может вас, знаете ли, съесть. Он умеет атаковать. Он умеет делать много чего. Но мы не считаем аллигатора очень интеллектуальным, в человеческом понимании слова.
But it has all this complex behavior already. Now in evolution, what happened? First thing that happened in evolution with mammals is we started to develop a thing called the neocortex. I'm going to represent the neocortex by this box on top of the old brain. Neocortex means "new layer." It's a new layer on top of your brain. It's the wrinkly thing on the top of your head that got wrinkly because it got shoved in there and doesn't fit.
Но у него и так очень сложное поведение. Так что же произошло в эволюции? Первое, что случилось в эволюции млекопитающих, у них начал развиваться неокортекс. Здесь неокортекс изображён в виде прямоугольника поверх старого мозга. Неокортекс - это новый слой. Новый слой поверх мозга. Для тех кто не знает, это складчатая штука в верху головы, складки образовались когда в голову пытались запихнуть нечто, и оно туда не поместилось.
(Laughter)
(Смех)
Literally, it's about the size of a table napkin and doesn't fit, so it's wrinkly. Now, look at how I've drawn this. The old brain is still there. You still have that alligator brain. You do. It's your emotional brain. It's all those gut reactions you have. On top of it, we have this memory system called the neocortex. And the memory system is sitting over the sensory part of the brain. So as the sensory input comes in and feeds from the old brain, it also goes up into the neocortex. And the neocortex is just memorizing. It's sitting there saying, I'm going to memorize all the things going on: where I've been, people I've seen, things I've heard, and so on. And in the future, when it sees something similar to that again, in a similar environment, or the exact same environment, it'll start playing it back: "Oh, I've been here before," and when you were here before, this happened next. It allows you to predict the future. It literally feeds back the signals into your brain; they'll let you see what's going to happen next, will let you hear the word "sentence" before I said it. And it's this feeding back into the old brain that will allow you to make more intelligent decisions.
Нет, действительно, это так и есть. Она размером со скатерть. И она не влезает, поэтому и появляются складки. Теперь посмотрите, как я нарисовал это здесь. Старый мозг всё ещё здесь. У вас до сих пор мозг аллигатора. Правда. Это ваш эмоциональный мозг. Это все эмоции и чувства, которые вы испытываете. А поверх него у нас расположена система памяти под названием неокортекс. Эта система памяти находится над сенсорным участком мозга. Таким образом сенсорный ввод поступает из старого мозга вверх в неокортекс. А неокортекс просто запоминает. Он как будто говорит: окей, я запомню всё, что происходит, где я был, каких людей видел, что слышал и так далее. А в будущем, когда он увидит что-то похожее, в похожей или такой же среде, он воспроизведёт свои воспоминания. О, я уже был здесь. И, когда вы были здесь, вот что произошло. Этот механизм позволяет вам прогнозировать будущее. Он позволяет вам, фигурально говоря, он воспроизводит сигналы внутри вашего мозга, позволяющие вам увидеть, что произойдёт дальше, услышать слово "предложение" до того, как я его произнёс. Это воспроизведение сигналов в старом мозгу как раз и позволяет вам принимать более разумные решения.
This is the most important slide of my talk, so I'll dwell on it a little. And all the time you say, "Oh, I can predict things," so if you're a rat and you go through a maze, and you learn the maze, next time you're in one, you have the same behavior. But suddenly, you're smarter; you say, "I recognize this maze, I know which way to go; I've been here before; I can envision the future." That's what it's doing. This is true for all mammals -- in humans, it got a lot worse. Humans actually developed the front of the neocortex, called the anterior part of the neocortex. And nature did a little trick. It copied the posterior, the back part, which is sensory, and put it in the front. Humans uniquely have the same mechanism on the front, but we use it for motor control.
Это наиболее важный слайд моего выступления, так что я на нём немного задержусь. Итак, вы каждый раз говорите "я могу прогнозировать". Если вы крыса, пробирающаяся через лабиринт, и когда вы запоминаете лабиринт, то в следующий раз, когда вы там, ваше поведение будет тем же самым, совершенно внезапно вы станете умнее, говоря себе "я узнаю этот лабиринт, я знаю, куда идти, я был здесь раньше, я могу предвидеть будущее". Вот что происходит. У людей - кстати, это верно для всех млекопитающих - а у людей всё намного хуже. У людей развилась передняя часть неокортекса. Природа проделала небольшой трюк: она скопировала заднюю часть, сенсорную, и поместила её в переднюю. У человека появился уникальный механизм в передней части мозга, который используется для управления моторными функциями.
So we're now able to do very sophisticated motor planning, things like that. I don't have time to explain, but to understand how a brain works, you have to understand how the first part of the mammalian neocortex works, how it is we store patterns and make predictions. Let me give you a few examples of predictions. I already said the word "sentence." In music, if you've heard a song before, when you hear it, the next note pops into your head already -- you anticipate it. With an album, at the end of a song, the next song pops into your head. It happens all the time, you make predictions.
Так что теперь мы можем выполнять весьма тонкие моторные задачи и так далее. У меня нет времени, чтобы вдаваться в детали, но если вы хотите понять как работает мозг, нужно разобраться, как работает первая часть неокортекса млекопитающих, каким образом мы запоминаем шаблоны и строим прогнозы. Так что позвольте мне привести несколько примеров прогнозов. Я уже произнёс слово "предложение". В музыке, если вы уже слышали какую-то песню, если вы слышали песни, которую недавно исполняла Джилл, когда она их поёт, следующая нота появляется в вашей голове - вы ожидаете её. Если бы это был музыкальный альбом, по окончании одной песни следующая песня возникала бы у вас в голове. Это происходит постоянно. Вы строите такие прогнозы.
I have this thing called the "altered door" thought experiment. It says, you have a door at home; when you're here, I'm changing it -- I've got a guy back at your house right now, moving the door around, moving your doorknob over two inches. When you go home tonight, you'll put your hand out, reach for the doorknob, notice it's in the wrong spot and go, "Whoa, something happened." It may take a second, but something happened. I can change your doorknob in other ways -- make it larger, smaller, change its brass to silver, make it a lever, I can change the door; put colors on, put windows in. I can change a thousand things about your door and in the two seconds you take to open it, you'll notice something has changed.
Я придумал такой мыслительный эксперимент - изменённая дверь. В этом эксперименте у вас есть дверь - дома, и пока вы находитесь здесь, я её меняю, у меня есть человек, который находится сейчас у вас дома и передвигает вашу дверь, он передвинет вашу дверную ручку на пять сантиметров. И когда вы вернётесь домой, вы протянете руку, потянетесь за дверной ручкой и заметите, что она не на том месте, и вы подумаете "что-то произошло". На это может потребоваться одна секунда, чтобы понять что именно, но вы это заметите. Также я мог бы поменять вашу дверную ручку по-другому. Я мог бы сделать её больше или меньше, я мог бы сделать её бронзовой или серебряной, я мог бы изменить её форму. Я могу поменять вашу дверь, перекрасить её, вставить в неё окошко. Я могу изменить множество деталей, и в течение двух секунд, которые требуются вам, чтобы открыть дверь, вы заметите, что что-то произошло.
Now, the engineering approach, the AI approach to this, is to build a door database with all the door attributes. And as you go up to the door, we check them off one at time: door, door, color ... We don't do that. Your brain doesn't do that. Your brain is making constant predictions all the time about what will happen in your environment. As I put my hand on this table, I expect to feel it stop. When I walk, every step, if I missed it by an eighth of an inch, I'll know something has changed. You're constantly making predictions about your environment. I'll talk about vision, briefly. This is a picture of a woman. When we look at people, our eyes saccade over two to three times a second. We're not aware of it, but our eyes are always moving. When we look at a face, we typically go from eye to eye to nose to mouth. When your eye moves from eye to eye, if there was something else there like a nose, you'd see a nose where an eye is supposed to be and go, "Oh, shit!"
Инженерный подход к проблеме, подход со стороны искусственного интеллекта, - построить базу данных дверей. У неё есть все атрибуты дверей. И когда вы подходите к двери - нужно проверить их все. Дверь, дверь, дверь, знаете, цвет, ну вы меня понимаете. Мы этого не делаем. Наш мозг этого не делает. Что наш мозг делает, так это постоянно строит прогнозы того, что произойдёт в текущей обстановке. Когда я кладу свою руку на этот стол, я ожидаю, что она остановится. Когда я иду, делаю шаг, если я ошибся на треть сантиметра, я знаю, что что-то изменилось. Вы постоянно прогнозируете окружающую обстановку. Здесь я кратко упомяну зрение. Вот изображение женщины. Когда вы смотрите на людей, ваши глаза двигаются от двух до трёх раз в секунду. Вы этого не осознаёте, но ваши глаза постоянно двигаются. И когда вы смотрите на чьё-либо лицо, вы бросаете взгляд на глаз, потом на другой, снова на глаз, на нос, на рот. Теперь, когда ваш глаз двигается от глаза к глазу, если там оказывается что-то не то, например нос, вы видите нос там, где должен быть глаз,
(Laughter)
и вы думаете "о чёрт,
"There's something wrong about this person." That's because you're making a prediction. It's not like you just look over and say, "What am I seeing? A nose? OK." No, you have an expectation of what you're going to see.
(Смех) что-то не так с этим человеком". И это происходит потому, что вы прогнозируете. Вы не смотрите туда и говорите: "так, что я сейчас вижу?" Нос, порядок. Нет, вы ожидаете то, что собираетесь увидеть.
(Смех)
Every single moment. And finally, let's think about how we test intelligence. We test it by prediction: What is the next word in this ...? This is to this as this is to this. What is the next number in this sentence? Here's three visions of an object. What's the fourth one? That's how we test it. It's all about prediction.
В каждый момент времени. И последнее, давайте подумаем, как мы тестируем интеллект. Мы тестируем его по прогнозированию. Какое следующее слово в этом, понимаете? Это относится к тому так же, как это к этому. Какое следующее число в этом предложении? Вот три ракурса одного объекта. Каков четвёртый? Вот так мы это её проверяем. Разумность подразумевает прогнозирование. Так какой же рецепт теории мозга?
So what is the recipe for brain theory? First of all, we have to have the right framework. And the framework is a memory framework, not a computational or behavior framework, it's a memory framework. How do you store and recall these sequences of patterns? It's spatiotemporal patterns.
Во-первых, нам нужна подходящая система взглядов. Система взглядов на память, не вычисления или поведение. Как вы запоминаете и вспоминаете эти последовательности или паттерны? Это пространственно-временные паттерны. Потом, в рамках этой системы взглядов понадобится набор теоретиков.
Then, if in that framework, you take a bunch of theoreticians -- biologists generally are not good theoreticians. Not always, but generally, there's not a good history of theory in biology. I've found the best people to work with are physicists, engineers and mathematicians, who tend to think algorithmically. Then they have to learn the anatomy and the physiology. You have to make these theories very realistic in anatomical terms. Anyone who tells you their theory about how the brain works and doesn't tell you exactly how it's working and how the wiring works -- it's not a theory.
Биологи обыкновенно не являются хорошими теоретиками. Это не всегда верно, но обычно, биология не может похвастать своими теориями. Так что я обнаружил, что лучше всего работать с физиками, инженерами и математиками, которые думают алгоритмично. Им приходится изучить анатомию и физиологию. Эти теории должны быть весьма реалистичными в терминах анатомии. Любой, рассказывающий свою теорию о том, как работает мозг, и не говорящий о том, как конкретно это работает в мозгу, как выстраиваются связи в мозгу, не обладает теорией. Вот что мы делаем в Редвудском институте неврологии.
And that's what we do at the Redwood Neuroscience Institute. I'd love to tell you we're making fantastic progress in this thing, and I expect to be back on this stage sometime in the not too distant future, to tell you about it. I'm really excited; this is not going to take 50 years.
Я бы очень хотел, чтобы у меня было больше времени на рассказ о том, как фантастически продвинулись мы в этой области, и я ожидаю появиться на этой сцене снова, возможно в другой раз в не столь отдалённом будущем, и рассказать вам об этом. Я очень, очень взволнован. Это вовсе не потребует пятидесяти лет.
What will brain theory look like? First of all, it's going to be about memory. Not like computer memory -- not at all like computer memory. It's very different. It's a memory of very high-dimensional patterns, like the things that come from your eyes. It's also memory of sequences: you cannot learn or recall anything outside of a sequence. A song must be heard in sequence over time, and you must play it back in sequence over time. And these sequences are auto-associatively recalled, so if I see something, I hear something, it reminds me of it, and it plays back automatically. It's an automatic playback. And prediction of future inputs is the desired output. And as I said, the theory must be biologically accurate, it must be testable and you must be able to build it. If you don't build it, you don't understand it.
Так как будет выглядеть теория мозга? Во-первых, это будет теория памяти. Не памяти наподобие компьютерной. Это вовсе не похоже на компьютерную память. Она совсем, совсем другая. Это память шаблонов высокого порядка, тех, которые создаются вашим зрением. Также это память последовательностей. Вы не можете выучить либо вспомнить что-либо за пределами последовательности. Песню нужно слушать в определённой последовательности во времени, так же, как и проигрывать. И эти последовательности всплывают в памяти автоматически-ассоциативно, если я что-то вижу, что-то слышу, оно мне напоминает об этом, и следом автоматически воспроизводится. Это автоматическое воспроизведение. И прогнозирование будущих входящих данных - это предпочтительный вывод. И как я говорил, теория должна быть точной биологически, она должна быть проверяемой, и должна быть возможность её реализовать на практике. Если вы не можете практически реализовать теорию, вы её не понимаете. Итак, ещё один слайд.
One more slide. What is this going to result in? Are we going to really build intelligent machines? Absolutely. And it's going to be different than people think. No doubt that it's going to happen, in my mind. First of all, we're going to build this stuff out of silicon. The same techniques we use to build silicon computer memories, we can use here. But they're very different types of memories. And we'll attach these memories to sensors, and the sensors will experience real-live, real-world data, and learn about their environment.
К чему это приведёт? Построим ли мы разумные машины? Безусловно. И это будет сделано по-другому, нежели люди думают. В том, что это произойдёт, у меня нет никаких сомнений. Во-первых, они будут построены, и будут построены на основе кремния. Здесь мы сможем использовать те же технологии, что мы используем для построения компьютерной памяти. Но это совершенно различные типы памяти. И мы подключим её к сенсорам, и сенсоры будут получать данные в реальном времени, из реального мира, эти создания будут познавать свою окружающую среду.
Now, it's very unlikely the first things you'll see are like robots. Not that robots aren't useful; people can build robots. But the robotics part is the hardest part. That's old brain. That's really hard. The new brain is easier than the old brain. So first we'll do things that don't require a lot of robotics. So you're not going to see C-3PO. You're going to see things more like intelligent cars that really understand what traffic is, what driving is and have learned that cars with the blinkers on for half a minute probably aren't going to turn.
Очень маловероятно, что первое, что вы увидите, будет похоже на роботов. Не так чтобы роботы не были полезны, люди могут конструировать роботов. Но робототехника - наиболее сложная часть. Это старый мозг. Это действительно сложно. Новый мозг проще старого. Так что первое, что мы сделаем, не будет требовать значительного использования робототехники. Так что вы не увидите Си-3 Пи О. Вы увидите больше вещей наподобие умных машин, которые понимают, что такое трафик и что такое вождение, и которые выучили, что есть такой тип машин с включёнными уже полминуты поворотниками, которые скорее всего не собираются поворачивать, и тому подобное.
(Laughter)
(Смех)
We can also do intelligent security systems. Anytime we're basically using our brain but not doing a lot of mechanics -- those are the things that will happen first. But ultimately, the world's the limit. I don't know how this will turn out. I know a lot of people who invented the microprocessor. And if you talk to them, they knew what they were doing was really significant, but they didn't really know what was going to happen. They couldn't anticipate cell phones and the Internet and all this kind of stuff. They just knew like, "We're going to build calculators and traffic-light controllers. But it's going to be big!" In the same way, brain science and these memories are going to be a very fundamental technology, and it will lead to unbelievable changes in the next 100 years. And I'm most excited about how we're going to use them in science. So I think that's all my time -- I'm over, and I'm going to end my talk right there.
Мы также можем строить интеллектуальные системы безопасности. Что угодно, где мы используем мозг, но не выполняем большого числа механических действий. Это произойдёт в первую очередь. Но в конечном итоге предела не существует. Я не знаю, чем это обернётся, Я знаю многих людей, которые изобрели микропроцессор, они знали, что делают что-то действительно важное, но не знали, что произойдёт в результате. Они не могли предвидеть сотовых телефонов, сети Интернет и прочего. Они лишь знали, что будут строить калькуляторы и системы контроля за переключателями сфетофоров. Последствия этих исследований будут большими. Точно так же, наука о мозге и памяти станет основной технологией, и это приведёт к самым невероятным преобразованиям в течение следующих ста лет. И больше всего меня волнует, как мы их используем в науке. Думаю моё время вышло, на этом я и закончу своё выступление.