I do two things: I design mobile computers and I study brains. Today's talk is about brains and -- (Audience member cheers) Yay! I have a brain fan out there.
Je fais deux choses. Je conçois des ordinateurs portables, et j'étudie le cerveau. La conférence d'aujourd'hui parlera du cerveau, et super, il y a un fan des cerveaux dans la salle !
(Laughter) If I could have my first slide, you'll see the title of my talk and my two affiliations. So what I'm going to talk about is why we don't have a good brain theory, why it is important that we should develop one and what we can do about it. I'll try to do all that in 20 minutes. I have two affiliations. Most of you know me from my Palm and Handspring days, but I also run a nonprofit scientific research institute called the Redwood Neuroscience Institute in Menlo Park. We study theoretical neuroscience and how the neocortex works. I'm going to talk all about that.
(Rires) Maintenant, si on peut afficher mon premier slide là-haut, vous verrez le titre de ma conférence et mes deux affiliations. Donc, mon sujet sera la raison pour laquelle on n'a pas de bonne théorie de cerveau, pourquoi il est important qu'on en développe une, et ce qu'on peut faire pour ça. Et j'essayerai de faire tout ça en 20 minutes. J'ai deux affiliations. La plupart d'entre vous me connaissent par mon travail chez Palm et Handsprings, mais je gère aussi un institut de recherche à but non lucratif, appelé "Redwood Neuroscience Institute", à Menlo Park, où on étudie la neuroscience théorique et comment fonctionne le néocortex.
I have one slide on my other life, the computer life, and that's this slide here. These are some of the products I've worked on over the last 20 years, starting from the very original laptop to some of the first tablet computers and so on, ending up most recently with the Treo, and we're continuing to do this. I've done this because I believe mobile computing is the future of personal computing, and I'm trying to make the world a little bit better by working on these things. But this was, I admit, all an accident. I really didn't want to do any of these products. Very early in my career I decided I was not going to be in the computer industry.
C'est de cela en particulier que je vais parler. J'ai un slide qui concerne mon autre vie, ma vie informatique, c'est celui-là. Voici quelques uns des produits sur lesquels j'ai travaillé ces 20 dernières années, du tout premier ordinateur portable à certaines des premières tablettes informatiques, et ainsi de suite jusqu'au Treo le plus récemment, et on continue à travailler dessus. J'ai fait cela car je crois vraiment que l'informatique mobile est le futur de l'informatique personnelle, et j'essaie de rendre le monde un peu meilleur en travaillant sur ces choses. Mais tout cela était, je dois l'avouer, totalement un accident. En fait, je ne voulais faire aucun de ces produits et très tôt dans ma carrière j'ai décidé que je n'irais pas dans l'industrie informatique.
Before that, I just have to tell you about this picture of Graffiti I picked off the web the other day. I was looking for a picture for Graffiti that'll text input language. I found a website dedicated to teachers who want to make script-writing things across the top of their blackboard, and they had added Graffiti to it, and I'm sorry about that.
Et avant que je ne vous raconte ça, il faut juste que je vous parle de cette petite image de graffiti que j'ai récupéré sur Internet l'autre jour. Je cherchais une image de graffiti, un petit langage de saisie de texte, et j'ai trouvé le site dédié aux enseignants qui veulent en faire, vous savez, le script qui écrit des choses en haut de leur tableau, et ils y avaient ajouté des graffiti, ce dont je suis désolé.
(Laughter)
(Rires)
So what happened was, when I was young and got out of engineering school at Cornell in '79, I went to work for Intel and was in the computer industry, and three months into that, I fell in love with something else. I said, "I made the wrong career choice here," and I fell in love with brains. This is not a real brain. This is a picture of one, a line drawing. And I don't remember exactly how it happened, but I have one recollection, which was pretty strong in my mind. In September of 1979, Scientific American came out with a single-topic issue about the brain. It was one of their best issues ever. They talked about the neuron, development, disease, vision and all the things you might want to know about brains. It was really quite impressive.
Donc, ce qui c'est passé, c'est que dans ma jeunesse, après être sorti de l'école d'ingénieur Cornell en 1979, j'ai décidé d'aller travailler pour Intel. J'étais dans l'industrie informatique, et au bout de trois mois là-dedans, je suis tombé amoureux d'autre chose, et je me suis dit: "Je me suis trompé de carrière", et je suis tombé amoureux des cerveaux. Ça n'est pas un vrai cerveau. C'est une image, un dessin. Je ne me souviens pas exactement comment ça s'est passé, mais j'ai un souvenir, assez net dans mon esprit. En septembre 1979, le magazine Scientific American avec un numéro spécial sur le cerveau. Et il était assez bon. Ce fut l'un de leurs meilleurs numéros. Ils parlaient de neurones, du leurs développement et de leurs maladies, de la vue, et de tout ce qu'on pouvait désirer savoir sur le cerveau. C'était vraiment impressionnant. On pouvait avoir l'impression qu'on connaissant vraiment beaucoup de choses sur le cerveau.
One might've had the impression we knew a lot about brains. But the last article in that issue was written by Francis Crick of DNA fame. Today is, I think, the 50th anniversary of the discovery of DNA. And he wrote a story basically saying, this is all well and good, but you know, we don't know diddly squat about brains, and no one has a clue how they work, so don't believe what anyone tells you. This is a quote from that article, he says: "What is conspicuously lacking" -- he's a very proper British gentleman -- "What is conspicuously lacking is a broad framework of ideas in which to interpret these different approaches." I thought the word "framework" was great. He didn't say we didn't have a theory. He says we don't even know how to begin to think about it. We don't even have a framework. We are in the pre-paradigm days, if you want to use Thomas Kuhn. So I fell in love with this. I said, look: We have all this knowledge about brains -- how hard can it be? It's something we can work on in my lifetime; I could make a difference. So I tried to get out of the computer business, into the brain business.
Mais le dernier article de ce numéro était écrit par Francis Crick, connu pour l'ADN. C'est aujourd'hui, je pense, le 50ème anniversaire de la découverte de l'ADN. Et il avait écrit un article qui disait, en gros, tout ça c'est bien joli, mais vous savez quoi, on n'y connaît que dalle sur le cerveau et personne ne sait comment ce truc fonctionne, alors, ne croyez pas ce que quiconque vous dira. Dans un extrait de l'article, il dit : "Ce qui manque ostensiblement", c'était un vrai gentleman anglais, donc, "ce qui manque ostensiblement, c'est un vaste cadre d'idées au sein duquel interpréter ces différentes approches." J'ai pensé que le terme de "cadre" était formidable. Il n'a pas dit qu'on n'avait même pas de théorie. Il dit, on ne sait même pas par où commencer à y penser, on n'a même pas de cadre. On est dans un stade pré-paradigmatique, en se référant à Thomas Kohn. Je suis tombé amoureux de cela, et j'ai dit, regarde, on a tout ces connaissances à propos du cerveau. C'est si difficile que ça ? C'est quelque chose sur quoi on peut travailler aujourd'hui. J'ai senti que je pouvais faire une différence, et j'ai donc essayé de sortir de l'industrie informatique, pour entrer dans le domaine du cerveau.
First, I went to MIT, the AI lab was there. I said, I want to build intelligent machines too, but I want to study how brains work first. And they said, "Oh, you don't need to do that. You're just going to program computers, that's all. I said, you really ought to study brains. They said, "No, you're wrong." I said, "No, you're wrong," and I didn't get in.
Premièrement, je suis entré au MIT, où se trouvait le A.l Lab (NdT : Laboratoire d'Intelligence Artificielle du M.I.T) et je me suis dit, je veux construire des machines intelligentes moi aussi, mais pour faire ça, je vais commencer par étudier le fonctionnement du cerveau. Et ils ont dit, oh, vous n'avez pas besoin de faire ça. On va juste programmer des ordinateurs, c'est tout ce qu'on doit faire. Et j'ai dit, non, vous devriez vraiment étudier le cerveau. Ils ont dit, oh, vous savez, vous avez tort. Et j'ai dit, non, vous avez tort, et je n'ai pas été pris. (Rires)
(Laughter)
I was a little disappointed -- pretty young -- but I went back again a few years later, this time in California, and I went to Berkeley. And I said, I'll go in from the biological side. So I got in the PhD program in biophysics. I was like, I'm studying brains now. Well, I want to study theory. They said, "You can't study theory about brains. You can't get funded for that. And as a graduate student, you can't do that." So I said, oh my gosh. I was depressed; I said, but I can make a difference in this field. I went back in the computer industry and said, I'll have to work here for a while. That's when I designed all those computer products.
Mais j'étais un peu déçu - assez jeune, mais j'y suis retourné quelques années plus tard, cette fois en Californie, et je suis allé à Berkeley. Et je me suis dit, je vais y aller par le côté biologique. Donc j'ai été pris - dans un programme doctoral en Biophysique. J'étudiais enfin le cerveau, et je me suis dit, bon, je veux étudier la théorie. Et ils ont dit, oh non, vous ne pouvez pas étudier la théorie à propos du cerveau. Ce n'est pas quelque chose qu'on fait. Vous n'aurez pas de subventions pour ça. En tant qu'étudiant en troisième cycle, vous ne pouvez pas faire ça. Donc je me suis dit, oh mon dieu. J'étais très déprimé. J'ai dit, je peux faire une différence dans ce domaine. Donc ce que j'ai fait, c'est de retourner dans l'industrie informatique, et je me suis dit, bon, il faut que je travaille là-dedans pendant un temps, il faut que je fasse quelque chose. C'est là que j'ai créé tous ces produits informatiques.
(Laughter)
(Rires)
I said, I want to do this for four years, make some money, I was having a family, and I would mature a bit, and maybe the business of neuroscience would mature a bit. Well, it took longer than four years. It's been about 16 years. But I'm doing it now, and I'm going to tell you about it. So why should we have a good brain theory? Well, there's lots of reasons people do science. The most basic one is, people like to know things. We're curious, and we go out and get knowledge. Why do we study ants? It's interesting. Maybe we'll learn something useful, but it's interesting and fascinating. But sometimes a science has other attributes which makes it really interesting.
Je me suis dit, je vais faire ça pendant quatre ans, me faire de l'argent, comme j'avais une famille, et je deviendrais un peu plus mûr, et peut-être que les neurosciences mûriraient aussi un peu. Ça a mis plus longtemps que quatre ans. Ça a pris 16 ans. Mais je le fais maintenant, et je vais vous en parler. Donc, pourquoi devrions-nous avoir une bonne théorie du cerveau ? À vrai dire, il y a beaucoup de raisons pour lesquelles les gens font des sciences. L'une d'elle - la plus basique - est que les gens aiment connaître les choses. Nous sommes curieux, et nous allons juste chercher des connaissances, vous voyez ? Pourquoi est-ce qu'on étudie les fourmis ? Parce que c'est intéressant. Peut-être qu'on y apprendra quelque chose d'utile, mais c'est intéressant et fascinant. Mais parfois, une science a d'autres attributs, qui la rendent vraiment, vraiment intéressante.
Sometimes a science will tell something about ourselves; it'll tell us who we are. Evolution did this and Copernicus did this, where we have a new understanding of who we are. And after all, we are our brains. My brain is talking to your brain. Our bodies are hanging along for the ride, but my brain is talking to your brain. And if we want to understand who we are and how we feel and perceive, we need to understand brains. Another thing is sometimes science leads to big societal benefits, technologies, or businesses or whatever. This is one, too, because when we understand how brains work, we'll be able to build intelligent machines. That's a good thing on the whole, with tremendous benefits to society, just like a fundamental technology.
Parfois, une science nous dira quelque chose sur nous-mêmes, elle nous dira qui nous sommes. Pas souvent, mais la théorie de l'évolution a eu cet effet. Copernic aussi, et nous avons une meilleure compréhension de qui nous sommes. Et après tout, nous sommes notre cerveau. Mon cerveau parle à votre cerveau. Nos corps suivent, mais c'est mon cerveau qui parle à votre cerveau. Et si nous voulons comprendre qui nous sommes, comment nous ressentons et percevons, il faut vraiment comprendre ce qu'est le cerveau. Un autre élément est que parfois la science nous mène à de vraiment gros avantages sociaux et technologiques, ou commerciaux, ou autres, qui en sont issus. Et c'en est un, aussi, car quand nous comprenondrons comment le cerveau fonctionne, nous serons capables de construire des machines intelligentes, et à vrai dire je pense que c'est une bonne chose globalement, cela va avoir des avantages immenses pour la société, comme une technologie fondamentale.
So why don't we have a good theory of brains? People have been working on it for 100 years. Let's first take a look at what normal science looks like. This is normal science. Normal science is a nice balance between theory and experimentalists. The theorist guy says, "I think this is what's going on," the experimentalist says, "You're wrong." It goes back and forth, this works in physics, this in geology. But if this is normal science, what does neuroscience look like? This is what neuroscience looks like. We have this mountain of data, which is anatomy, physiology and behavior. You can't imagine how much detail we know about brains. There were 28,000 people who went to the neuroscience conference this year, and every one of them is doing research in brains. A lot of data, but no theory. There's a little wimpy box on top there.
Donc, pourquoi n'avons-nous pas de bonne théorie du cerveau ? Et il y a des gens qui ont travaillé là-dessus depuis 100 ans. Tout d'abord, regardons ce à quoi ressemble la science normale. Voilà la science normale. La science normale est un équilibre entre théories et expérimentations. Le théoricien dit, voilà, je pense que c'est ce qui se passe, et l'expérimentateur dit, non, vous avez tort. Et ça fait des allers-retours, vous voyez ? Ça marche pour la physique. Et pour la géologie. Mais si c'est ça la science normale, à quoi ressemble la neuroscience ? Voilà à quoi la neuroscience ressemble. On a cette montagne de données, l'anatomie, la physiologie, le comportement. Vous n'imaginez pas combien de détails on connaît à propos du cerveau. Il y a 28000 personnes qui sont allées à la conférence sur la neuroscience cette année, et chacune d'entre elles faisaient des recherches sur le cerveau. Beaucoup de données. Mais il n'y a pas de théorie. Il y a une petite boîte timide là-haut. Et la théorie n'a joué aucun rôle majeur en neurosciences.
And theory has not played a role in any sort of grand way in the neurosciences. And it's a real shame. Now, why has this come about? If you ask neuroscientists why is this the state of affairs, first, they'll admit it. But if you ask them, they say, there's various reasons we don't have a good brain theory. Some say we still don't have enough data, we need more information, there's all these things we don't know. Well, I just told you there's data coming out of your ears. We have so much information, we don't even know how to organize it. What good is more going to do? Maybe we'll be lucky and discover some magic thing, but I don't think so. This is a symptom of the fact that we just don't have a theory. We don't need more data, we need a good theory.
C'est vraiment dommage. Comment ça se fait ? Si vous demandez à des neuroscientifiques pourquoi il en est ainsi, déjà, ils confirmeront. Mais si vous leur demandez, ils vous diront, eh bien, il y a diverses raisons pour lesquelles on n'a pas de bonne théorie du cerveau. Certains diront qu'on n'a pas encore assez de données, on doit rassembler plus d'informations, il y a toutes ces choses qu'on ignore. Mais je vous ai dit qu'on croule sous les données. On a tant d'informations qu'on ne sait pas par où commencer pour les organiser. À quoi servirait d'en avoir plus ? On sera peut-être chanceux et on découvrira quelque chose de magique, mais je n'y crois pas. C'est en fait simplement un symptôme de l'absence de théorie. On n'a pas besoin de plus de données, on a besoin d'une bonne théorie à leur sujet.
Another one is sometimes people say, "Brains are so complex, it'll take another 50 years." I even think Chris said something like this yesterday, something like, it's one of the most complicated things in the universe. That's not true -- you're more complicated than your brain. You've got a brain. And although the brain looks very complicated, things look complicated until you understand them. That's always been the case. So we can say, my neocortex, the part of the brain I'm interested in, has 30 billion cells. But, you know what? It's very, very regular. In fact, it looks like it's the same thing repeated over and over again. It's not as complex as it looks. That's not the issue.
Parfois, les gens disent que le cerveau est si complexe que ça prendra 50 ans de plus. Je crois même que Chris a dit quelque chose comme ça hier. Je ne suis pas sûr de ce que vous avez dit, Chris, mais c'était quelque chose dans le genre de : "C'est l'une des choses les plus compliquées de l'univers." Ce n'est pas vrai. Vous êtes plus compliqué que votre cerveau. Vous avez un cerveau. Et c'est aussi que, bien que le cerveau semble très compliqué, les choses semblent compliquées jusqu'à ce qu'on les comprennent. Ça a toujours été le cas. Donc tout ce que nous pouvons dire, c'est que mon néocortex, qui est la partie du cerveau qui m'intéresse, a 30 milliards de cellules. Mais vous savez quoi ? Il est vraiment très simple. En fait, on dirait que c'est la même chose qui se répète encore et encore et encore. Il n'est pas aussi compliqué qu'en apparence. Ce n'est pas le problème.
Some people say, brains can't understand brains. Very Zen-like. Woo.
Certains disent que le cerveau ne peut pas comprendre le cerveau. C'est très zen comme idée. Wow ! Vous savez...
(Laughter)
(Rires)
You know, it sounds good, but why? I mean, what's the point? It's just a bunch of cells. You understand your liver. It's got a lot of cells in it too, right? So, you know, I don't think there's anything to that. And finally, some people say, "I don't feel like a bunch of cells -- I'm conscious. I've got this experience, I'm in the world. I can't be just a bunch of cells." Well, people used to believe there was a life force to be living, and we now know that's really not true at all. And there's really no evidence, other than that people just disbelieve that cells can do what they do. So some people have fallen into the pit of metaphysical dualism, some really smart people, too, but we can reject all that.
Ça sonne bien mais pourquoi dire ça ? Ça mène à quoi ? C'est juste un tas de cellules. Vous comprenez votre foie. Il est aussi composé de beaucoup de cellules, pas vrai ? Donc je ne pense pas que ça soit très juste de dire ça. Et finalement, d'autres personnes disent qu'elles ne se sentent pas être un tas de cellules. Qu'elles sont conscientes. Je fais cette expérience, je vis dans ce monde. Je ne peux pas être simplement un tas de cellules. Les gens avaient l'habitude de penser qu'il y avait une force vitale, et on sait aujourd'hui que ce n'est pas du tout vrai. Et il n'y a vraiment pas de preuve qui dise... Enfin, à part les gens qui ne croient pas que les cellules puissent faire ce qu'elles font. Et donc, même si des gens sont tombés dans la fosse du dualisme métaphysique, même des gens très intelligents, hé bien on peut rejeter tout ça.
(Laughter)
(Rires)
No, there's something else, something really fundamental, and it is: another reason why we don't have a good brain theory is because we have an intuitive, strongly held but incorrect assumption that has prevented us from seeing the answer. There's something we believe that just, it's obvious, but it's wrong. Now, there's a history of this in science and before I tell you what it is, I'll tell you about the history of it in science. Look at other scientific revolutions -- the solar system, that's Copernicus, Darwin's evolution, and tectonic plates, that's Wegener. They all have a lot in common with brain science.
Non, je vais vous dire qu'il y a quelque chose d'autre, et c'est vraiment fondamental. Voilà ce qu'il en est : il y a une autre raison pour laquelle nous n'avons pas de théorie du cerveau satisfaisante, c'est parce qu'on a une supposition intuitive, très ferme, mais incorrecte qui nous empêche de vois la réponse. Il y a quelque chose qu'on croît évident, mais qui est faux. Il y a une histoire de ce type en science, et avant que je ne vous dise laquelle, je vais vous en dire un peu plus sur l'histoire à ce sujet en science. Si vous regardez certaines des autres révolutions scientifiques, dans le cas présent, je parle du système solaire, avec Corpernic, l'évolution de Darwin, et les plaques tectoniques de Wegener. Elles ont toutes beaucoup en commun avec la science du cerveau.
First, they had a lot of unexplained data. A lot of it. But it got more manageable once they had a theory. The best minds were stumped -- really smart people. We're not smarter now than they were then; it just turns out it's really hard to think of things, but once you've thought of them, it's easy to understand. My daughters understood these three theories, in their basic framework, in kindergarten. It's not that hard -- here's the apple, here's the orange, the Earth goes around, that kind of stuff.
Tout d'abord, il y avait toutes ces données inexpliquées. Un tas de données. Mais elles sont devenues gérables une fois qu'il y a eu une théorie. Les meilleurs esprits séchaient, des gens vraiment, vraiment intelligents. Nous ne sommes pas plus intelligents maintenant qu'à leur époque. Il s'avère juste qu'il est vraiment très difficile de penser les choses, mais une fois que vous y avez pensé, il est relativement aisé de les comprendre. Mes filles ont compris ces trois théories dans leur cadre général en maternelle. Ce n'est pas si dure, vous savez, voilà la pomme, voilà l'orange, la Terre tourne, et tout ça.
Another thing is the answer was there all along, but we kind of ignored it because of this obvious thing. It was an intuitive, strongly held belief that was wrong. In the case of the solar system, the idea that the Earth is spinning, the surface is going a thousand miles an hour, and it's going through the solar system at a million miles an hour -- this is lunacy; we all know the Earth isn't moving. Do you feel like you're moving a thousand miles an hour? If you said Earth was spinning around in space and was huge -- they would lock you up, that's what they did back then.
Enfin, une autre chose est que la réponse était là depuis le début, mais on l'avait plus ou moins ignorée à cause de cette chose évidente. C'est cette croyance intuitive et fermement ancrée qui était fausse. Dans le cas du système solaire, l'idée que la Terre tournait et que la surface de la Terre bougeait à disons 1500 km/h, et que la Terre fonce à travers le système solaire à environ 1500000 km/h. C'est du délire. Tout le monde sait que la Terre ne bouge pas. Est-ce que vous sentez que vous bougez à 1500km/h ? Bien sûr que non. Et quelqu'un qui disait, en fait, elle tourne dans l'espace et est énorme, ils l'enfermaient, c'est ce qu'ils faisaient à cette époque.
So it was intuitive and obvious. Now, what about evolution?
(Rires) Donc c'était intuitif et évident. Et maintenant, qu'en est-il pour l'évolution ?
Evolution, same thing. We taught our kids the Bible says God created all these species, cats are cats; dogs are dogs; people are people; plants are plants; they don't change. Noah put them on the ark in that order, blah, blah. The fact is, if you believe in evolution, we all have a common ancestor. We all have a common ancestor with the plant in the lobby! This is what evolution tells us. And it's true. It's kind of unbelievable. And the same thing about tectonic plates. All the mountains and the continents are kind of floating around on top of the Earth. It doesn't make any sense.
C'est la même chose pour l'évolution. On enseignait à nos enfants que la Bible dit que Dieu a créé toutes ces espèces, que les chats sont des chats, les chiens sont des chiens, les gens sont des gens, les plantes sont des plantes, donc ils ne changent pas. Noé les a mis dans son Arche dans cet ordre, bla bla bla. Et vous savez, le fait est que si vous croyez en l'évolution, nous avons tous un ancêtre commun, et nous avons tous une parenté commune avec la plant dans le hall. C'est ce que l'évolution nous enseigne. Et c'est vrai. C'est assez incroyable. Et c'est la même chose avec les plaques tectoniques. Toutes les montages et les continents flottent de-ci de-là sur la surface de la Terre. Ça ne fait aucun sens.
So what is the intuitive, but incorrect assumption, that's kept us from understanding brains? I'll tell you. It'll seem obvious that it's correct. That's the point. Then I'll make an argument why you're incorrect on the other assumption. The intuitive but obvious thing is: somehow, intelligence is defined by behavior; we're intelligent because of how we do things and how we behave intelligently. And I'm going to tell you that's wrong. Intelligence is defined by prediction.
Donc quelle est la supposition intuitive, mais incorrecte, qui nous empêche de comprendre le cerveau ? Je vais vous la dire, et il va sembler évident que c'est juste, et c'est là le but, non ? Ensuite je vais devoir expliquer pourquoi vous avez tort avec l'autre supposition. La chose intuitive et évidente est que quelque part l'intelligence est définie par le comportement, que nous sommes intelligents par la façon dont nous faisons les choses et la façon dont nous agissons intelligemment. Je vais vous dire que c'est une erreur. Le fait est que l'intelligence est définie par la capacité de prédiction. Je vais vous guider avec quelques slides,
I'm going to work you through this in a few slides, and give you an example of what this means. Here's a system. Engineers and scientists like to look at systems like this. They say, we have a thing in a box. We have its inputs and outputs. The AI people said, the thing in the box is a programmable computer, because it's equivalent to a brain. We'll feed it some inputs and get it to do something, have some behavior. Alan Turing defined the Turing test, which essentially says, we'll know if something's intelligent if it behaves identical to a human -- a behavioral metric of what intelligence is that has stuck in our minds for a long time.
vous donner un exemple de ce que ça signifie. Voilà le système. Les ingénieurs aiment regarder les systèmes ainsi. Les scientifiques, eux, aiment regarder les systèmes comme ça. Ils disent "Bon, on a une chose dans une boîte, et il y a ses données d'entrée et de sortie." Les gens d'IA (intelligence artificielle) disent que cette chose dans la boîte est un ordinateur programmable car c'est équivalent à un cerveau. On lui fournit des données et on lui fait faire quelque chose, manifester des comportements. Et Alan Turing a défini le test de Turing, qui dit en gros qu'on saura si quelque chose est intelligent s'il se comporte comme un humain. C'est une mesure comportementale de ce qu'est l'intelligence, et c'est resté collé dans notre esprit pendant un long moment.
Reality, though -- I call it real intelligence. Real intelligence is built on something else. We experience the world through a sequence of patterns, and we store them, and we recall them. When we recall them, we match them up against reality, and we're making predictions all the time. It's an internal metric; there's an internal metric about us, saying, do we understand the world, am I making predictions, and so on. You're all being intelligent now, but you're not doing anything. Maybe you're scratching yourself, but you're not doing anything. But you're being intelligent; you're understanding what I'm saying. Because you're intelligent and you speak English, you know the word at the end of this sentence.
La réalité, cependant, je l'appelle la véritable intelligence. La véritable intelligence est fondée sur quelque chose d'autre. On expérimente le monde à travers une séquence de motifs, qu'on stocke et dont on se rappelle. Et quand on s'en rappelle, on les confronte à la réalité, on fait des prédictions en permanence. C'est une mesure permanente. Il y a une mesure permanente à notre sujet, qui nous dit en gros, est-ce que je comprends le monde ? Est-ce que je fais des prédictions ? Et ainsi de suite. Vous êtes tous intelligents à cet instant présent, mais vous ne faites rien. Peut-être que vous vous grattez, ou vous vous mettez votre doigt dans le nez, je ne sais pas, mais vous ne faites rien à cet instant, mais vous êtes intelligents, vous comprenez ce que je dis. Parce que vous êtes intelligents et vous parlez anglais, vous savez quel mot se trouve à la fin de cette... (Silence) phrase.
The word came to you; you make these predictions all the time. What I'm saying is, the internal prediction is the output in the neocortex, and somehow, prediction leads to intelligent behavior. Here's how that happens: Let's start with a non-intelligent brain. I'll argue a non-intelligent brain, we'll call it an old brain. And we'll say it's a non-mammal, like a reptile, say, an alligator; we have an alligator. And the alligator has some very sophisticated senses. It's got good eyes and ears and touch senses and so on, a mouth and a nose. It has very complex behavior. It can run and hide. It has fears and emotions. It can eat you. It can attack. It can do all kinds of stuff. But we don't consider the alligator very intelligent, not in a human sort of way.
Le mot vous est venu à l'esprit, et vous faites ce type de prédiction tout le temps. Donc, ce que je dis, c'est que la prédiction permanente est l'output du néocortex. Et que d'une certaine façon, la prédiction mène à un comportement intelligent. Voilà comment ça se passe. Commençons avec un cerveau non-intelligent. Bon, je propose un cerveau non-intelligent, on a un vieux cerveau, on va dire que ce n'est pas un mammifère, plutôt un reptile, disons un alligator, on a un alligator. Et l'alligator a des sens très sophistiqués. Il a de bon yeux, de bonnes oreilles, un bon sens tactile, et ainsi de suite une bouche, un nez. Il a un comportement complexe. Il peut courir et se cacher. Il connaît la peur et les émotions. Il peut vous manger, vous savez. Il peut attaquer. Il peut faire tout ces trucs. Mais on ne considère pas que l'alligator est très intelligent, pas dans un sens humain.
But it has all this complex behavior already. Now in evolution, what happened? First thing that happened in evolution with mammals is we started to develop a thing called the neocortex. I'm going to represent the neocortex by this box on top of the old brain. Neocortex means "new layer." It's a new layer on top of your brain. It's the wrinkly thing on the top of your head that got wrinkly because it got shoved in there and doesn't fit.
Mais il a déjà un comportement complexe. Que c'est-il passé dans l'évolution ? La première chose qui est arrivée dans l'évolution des mammifères, c'est que nous avons développé une chose appelée le néocortex. Je vais représenter un néocortex ici, par cette boîte qui vient se coller au-dessus du vieux cerveau. Le néocortex implique une nouvelle couche. C'est une nouvelle couche au-dessus de votre cerveau. Si vous ne le savez pas, c'est la chose ridée sur le dessus de la tête, elle a des rides parce qu'elle a été fourrée là-dedans et n'a pas la bonne taille.
(Laughter)
(Rires)
Literally, it's about the size of a table napkin and doesn't fit, so it's wrinkly. Now, look at how I've drawn this. The old brain is still there. You still have that alligator brain. You do. It's your emotional brain. It's all those gut reactions you have. On top of it, we have this memory system called the neocortex. And the memory system is sitting over the sensory part of the brain. So as the sensory input comes in and feeds from the old brain, it also goes up into the neocortex. And the neocortex is just memorizing. It's sitting there saying, I'm going to memorize all the things going on: where I've been, people I've seen, things I've heard, and so on. And in the future, when it sees something similar to that again, in a similar environment, or the exact same environment, it'll start playing it back: "Oh, I've been here before," and when you were here before, this happened next. It allows you to predict the future. It literally feeds back the signals into your brain; they'll let you see what's going to happen next, will let you hear the word "sentence" before I said it. And it's this feeding back into the old brain that will allow you to make more intelligent decisions.
Non, vraiment, c'est ça. Il a à peu près la taille d'une serviette de table. Et il ne tient pas là-dedans, donc il s'est ridé. Maintenant, regardez comment j'ai dessiné ça ici. Le vieux cerveau est toujours là. Vous avez toujours le cerveau d'alligator. Vous l'avez. C'est votre cerveau émotionnel. C'est toutes ces choses, toutes ces réactions instinctives que vous avez. Et par dessus, on a ce système de mémoire appelé néocortex. Et ce système de mémoire est posé sur la partie sensorielle du cerveau. Donc quand les données sensorielles arrivent du vieux cerveau, ells montent aussi dans le néocortex. Et le néocortex, c'est simplement la mémorisation. Il reste là à dire "Ah, je vais mémoriser toutes ces choses qui se produisent, où je suis allé, les gens que j'ai vus, les choses que j'ai entendues, et tout ça." Et dans le futur, quand il verra quelque chose de similaire à nouveau, dans un environnement similaire, ou exactement le même, il le rejouera. Il se mettra à le rejouer. "Oh, je suis déjà venu ici. Et quand tu es venu ici, ceci s'est produit ensuite". Cela vous permet de prédire le futur. Il renvoie littéralement le signal à votre cerveau, et vous laisse voir ce qui va se produire ensuite, vous laisse entendre le mot dans ma phrase avant que je ne l'ai dit. Et c'est ce renvoi de signal dans le vieux cerveau qui vous permet de prendre des décisions bien plus intelligentes.
This is the most important slide of my talk, so I'll dwell on it a little. And all the time you say, "Oh, I can predict things," so if you're a rat and you go through a maze, and you learn the maze, next time you're in one, you have the same behavior. But suddenly, you're smarter; you say, "I recognize this maze, I know which way to go; I've been here before; I can envision the future." That's what it's doing. This is true for all mammals -- in humans, it got a lot worse. Humans actually developed the front of the neocortex, called the anterior part of the neocortex. And nature did a little trick. It copied the posterior, the back part, which is sensory, and put it in the front. Humans uniquely have the same mechanism on the front, but we use it for motor control.
C'est le slide le plus important de mon propos, donc je vais m'attarder dessus un petit peu. Et donc, vous dites tout le temps, "oh je peux prédire les choses". Si vous êtes un rat qui parcourt un labyrinthe, et que vous apprenez à le connaître, la prochaine fois que vous vous y trouverez, vous aurez le même comportement, mais brusquement, vous êtes plus intelligents, parce que vous vous dites, "oh, je reconnais ce labyrinthe, je sais de quel côté aller, je suis déjà venu ici, je peux voir le future." Et c'est ce qui se produit. Chez l'homme, mais c'est valable pour tous les mammifères, au passage. C'est vrai pour tous les mammifères, et chez l'homme, c'est devenu encore pire. L'homme a en fait développé la partie frontale du néocortex, appelée partie antérieure du néocortex. Et la nature a fait un petit truc ici. Elle a copié la partie postérieure, la partie à l'arrière, qui est sensorielle, et l'a mise dans la partie avant. Et l'homme uniquement a le même mécanisme sur l'avant, mais l'utilise pour le contrôle moteur.
So we're now able to do very sophisticated motor planning, things like that. I don't have time to explain, but to understand how a brain works, you have to understand how the first part of the mammalian neocortex works, how it is we store patterns and make predictions. Let me give you a few examples of predictions. I already said the word "sentence." In music, if you've heard a song before, when you hear it, the next note pops into your head already -- you anticipate it. With an album, at the end of a song, the next song pops into your head. It happens all the time, you make predictions.
Donc on peut maintenant effectuer des actions motrices planifiées très sophistiquées, des choses comme ça. Je n'ai pas le temps de poursuivre dans les détails, mais si vous voulez comprendre comment fonctionne un cerveau, vous devez comprendre comment la première partie du néocortex des mammifères fonctionne, et comment elle stocke des motifs et fait des prédictions. Laissez-moi donc vous donner quelques exemples de prédictions. J'ai déjà évoqué la complétion d'une phrase. En musique, si vous avez déjà entendu une chanson, si vous avez déjà entendu Jill chanter ces chansons auparavant, quand elle les chante, la prochaine note apparaît déjà dans votre esprit, vous l'anticipé au fur et à mesure. Si c'était un album de musique, à la fin d'un album, la prochaine chanson apparaît dans votre tête. Et ces choses arrivent tout le temps. Vous faites ces prédictions.
I have this thing called the "altered door" thought experiment. It says, you have a door at home; when you're here, I'm changing it -- I've got a guy back at your house right now, moving the door around, moving your doorknob over two inches. When you go home tonight, you'll put your hand out, reach for the doorknob, notice it's in the wrong spot and go, "Whoa, something happened." It may take a second, but something happened. I can change your doorknob in other ways -- make it larger, smaller, change its brass to silver, make it a lever, I can change the door; put colors on, put windows in. I can change a thousand things about your door and in the two seconds you take to open it, you'll notice something has changed.
J'ai cette expérience de pensée, dite de la porte modifiée, elle dit que vous avez une porte chez vous, et pendant que vous êtes ici, je la change, j'ai un type chez vous en ce moment même, qui change la porte, il va prendre la poignée et la bouger de cinq centimètres. Quand vous allez rentrer chez vous ce soir, vous allez avancer votre main pour attraper la poignée, et vous allez remarquer qu'elle se trouve au mauvais endroit, et vous vous direz, ola, quelque chose est arrivé. Ça prendra peut-être une seconde pour vous en rendre compte, mais quelque chose a changé. Mais je pourrais changer votre poignée de porte d'autres façons. Je peux la rendre plus grosse ou plus petite, je peux la faire passer de laiton à argentée, je peux changer son type. Je peux changer votre porte, la peindre, y mettre une fenêtre. Je peux changer mille chose sur votre porte, et dans les deux secondes qu'il faut pour ouvrir la porte, vous allez remarquer que quelque chose a changé.
Now, the engineering approach, the AI approach to this, is to build a door database with all the door attributes. And as you go up to the door, we check them off one at time: door, door, color ... We don't do that. Your brain doesn't do that. Your brain is making constant predictions all the time about what will happen in your environment. As I put my hand on this table, I expect to feel it stop. When I walk, every step, if I missed it by an eighth of an inch, I'll know something has changed. You're constantly making predictions about your environment. I'll talk about vision, briefly. This is a picture of a woman. When we look at people, our eyes saccade over two to three times a second. We're not aware of it, but our eyes are always moving. When we look at a face, we typically go from eye to eye to nose to mouth. When your eye moves from eye to eye, if there was something else there like a nose, you'd see a nose where an eye is supposed to be and go, "Oh, shit!"
Maintenant, l'approche d'ingénieur, l'approche d'IA, c'est de créer une base de données sur la porte. Elle a tous les attributs de la porte. Et quand vous allez vers la porte, vous savez, vous les vérifier un à un. Porte, porte, porte, couleur, enfin vous voyez de quoi je parle. On ne fait pas ça. Votre cerveau ne fait pas ça. Ce que fait votre cerveau, c'est de constamment établir des prédictions sur ce qui va se produire dans votre environnement. Quand je pose ma main sur cette table, je m'attends à la sentir s'arrêter. Quand je marche, pour chaque pas, si j'en manquais un d'une fraction de centimètre, je saurais que quelque chose a changé. Vous faites constamment des prédictions sur votre environnement. Je vais parler brièvement de la vue ici. Voici l'image d'une femme. Quand vous regardez des gens, vos yeux sont attirés deux ou trois fois par seconde. Vous n'en avez pas conscience, mais vos yeux bougent tout le temps. Et donc quand vous regardez le visage de quelqu'un, vous passez typiquement d'un oeil à l'autre et du nez à la bouche. Quand votre oeil se déplace d'un oeil à l'autre, s'il y a quelque chose d'autre à cet endroit, comme un nez, vous verriez un nez où un oeil était attendu,
(Laughter)
et vous vous diriez : "Oh merde !", vous voyez...
"There's something wrong about this person." That's because you're making a prediction. It's not like you just look over and say, "What am I seeing? A nose? OK." No, you have an expectation of what you're going to see.
(Rires) "Il y a quelque chose qui cloche sur cette personne." C'est parce que vous faites une prédiction. Ce n'est pas comme si vous regardiez là et vous demandiez ce que vous voyez. Un nez, c'est bon. Non, vous vous attendez à voir quelque chose de particulier.
(Rires)
Every single moment. And finally, let's think about how we test intelligence. We test it by prediction: What is the next word in this ...? This is to this as this is to this. What is the next number in this sentence? Here's three visions of an object. What's the fourth one? That's how we test it. It's all about prediction.
Tout le temps. Et, enfin, regardons à la façon dont on teste l'intelligence. On la teste par la prédiction : quel est le prochain mot ici ? Ceci est à cela ce que ceci est à cela. Quel est le prochain chiffre dans cette phrase ? Voici trois vues d'un objet. Quelle est la quatrième ? Voilà comment on la teste. C'est la prédiction. Dès lors, quelle est la recette pour une théorie du cerveau ?
So what is the recipe for brain theory? First of all, we have to have the right framework. And the framework is a memory framework, not a computational or behavior framework, it's a memory framework. How do you store and recall these sequences of patterns? It's spatiotemporal patterns.
Premièrement, nous devons avoir le bon cadre de travail. C'est un système de mémoire, pas un système de calcul ou de comportement. C'est un système de mémoire. Comment est-ce que vous enregistrez et réutilisez ces séquences ou motifs ? Ce sont des motifs spatio-temporels. Maintenant, dans ce système, vous prenez un tas de théoriciens .
Then, if in that framework, you take a bunch of theoreticians -- biologists generally are not good theoreticians. Not always, but generally, there's not a good history of theory in biology. I've found the best people to work with are physicists, engineers and mathematicians, who tend to think algorithmically. Then they have to learn the anatomy and the physiology. You have to make these theories very realistic in anatomical terms. Anyone who tells you their theory about how the brain works and doesn't tell you exactly how it's working and how the wiring works -- it's not a theory.
Les biologistes ne sont généralement pas de bons théoriciens. Ce n'est pas toujours vrai, mais en général, il n'y a pas une bonne histoire de la théorie en biologie. J'ai trouvé que les meilleures personnes avec qui travailler sont les physiciens, les ingénieurs et les mathématiciens, qui ont tendance à penser avec des algorithmes. Ensuite, ils doivent apprendre l'anatomie et la physiologie. Vous devez rendre ces théories très réalistes en termes anatomiques. Quiconque se lève et vous expose sa théorie sur le fonctionnement du cerveau et ne vous explique pas exactement comment le cerveau fonctionne et comment les connexions cérébrales fonctionnent, ça ne fait pas une théorie. C'est ce que nous faisons au Redwood Neuroscience Institute.
And that's what we do at the Redwood Neuroscience Institute. I'd love to tell you we're making fantastic progress in this thing, and I expect to be back on this stage sometime in the not too distant future, to tell you about it. I'm really excited; this is not going to take 50 years.
J'adorerai avoir plus de temps pour vous parler des fantastiques progrès que l'on fait là-dedans, et j'espère revenir une autre fois sur cette estrade, peut-être dans un avenir assez proche, et je vous en parlerai alors. Je suis vraiment très excité. Ça ne va absolument pas prendre 50 ans.
What will brain theory look like? First of all, it's going to be about memory. Not like computer memory -- not at all like computer memory. It's very different. It's a memory of very high-dimensional patterns, like the things that come from your eyes. It's also memory of sequences: you cannot learn or recall anything outside of a sequence. A song must be heard in sequence over time, and you must play it back in sequence over time. And these sequences are auto-associatively recalled, so if I see something, I hear something, it reminds me of it, and it plays back automatically. It's an automatic playback. And prediction of future inputs is the desired output. And as I said, the theory must be biologically accurate, it must be testable and you must be able to build it. If you don't build it, you don't understand it.
À quoi ressemblera une théorie du cerveau ? D'abord, ça sera une théorie sur la mémoire. Pas comme de la mémoire informatique. Ça ne ressemble en rien à la mémoire informatique. C'est vraiment très différent. Et c'est une mémoire de motifs de grandes dimensions, comme les choses qui viennent de vos yeux. C'est aussi une mémoire de séquences. Vous ne pouvez pas apprendre ni vous rappeler quelque chose en dehors d'une séquence. Une chanson doit être entendue en séquence dans le temps, et vous devez la rejouer en séquence de la même façon. On se souvient de ces séquences de façon auto-associées, donc si je vois quelque chose, j'entends quelque chose, ça me le rappelle, et ça le rejoue automatiquement. C'est un playback automatique. Et la prédiction des futures données d'entrée, ce sont les données de sortie souhaitées. Et comme je l'ai dit, la théorie doit être exacte d'un point de vue biologique, elle doit être testable, et on doit pouvoir la construire. Si on ne la construit pas, on ne la comprend pas. Voici un dernier slide.
One more slide. What is this going to result in? Are we going to really build intelligent machines? Absolutely. And it's going to be different than people think. No doubt that it's going to happen, in my mind. First of all, we're going to build this stuff out of silicon. The same techniques we use to build silicon computer memories, we can use here. But they're very different types of memories. And we'll attach these memories to sensors, and the sensors will experience real-live, real-world data, and learn about their environment.
Quel va être le résultat de tout cela ? Est-ce qu'on va vraiment construire des machines intelligentes ? Absolument. Et ça va être différent de ce que pensent les gens. Ça va arriver, ça ne fait aucun doute dans mon esprit. D'abord, on va le construire, créer le truc à partir de silicone. On utilisera les mêmes techniques que pour construire la mémoire informatique en silicone. Mais ce sont des types très différents de mémoires. Et on va attacher ces mémoires à des capteurs, et ceux-ci auront une expérience des données du monde réel, en temps réel, et ces choses apprendront des choses sur leur environnement.
Now, it's very unlikely the first things you'll see are like robots. Not that robots aren't useful; people can build robots. But the robotics part is the hardest part. That's old brain. That's really hard. The new brain is easier than the old brain. So first we'll do things that don't require a lot of robotics. So you're not going to see C-3PO. You're going to see things more like intelligent cars that really understand what traffic is, what driving is and have learned that cars with the blinkers on for half a minute probably aren't going to turn.
Il est très peu probable que les premières choses que vous verrez soient des robots. Non pas que les robots sont inutiles, et les gens savent construire des robots. Mais la partie robotique est la plus dure. C'est le vieux cerveau. C'est vraiment difficile. Le nouveau cerveau est en fait plutôt facile en comparaison avec le vieux cerveau. Donc les premières choses qu'on fera seront celles qui ne requièrent pas beaucoup de robotique. Donc vous ne verrez pas de C-3PO. Vous verrez des choses comme, disons, des voitures intelligentes qui comprennent vraiment ce qu'est le trafic, et ce qu'est conduire, et qui ont appris que certains types de voitures qui ont le clignotant allumé pendant trente secondes ne vont probablement pas tourner, des choses comme ça.
(Laughter)
(Rires)
We can also do intelligent security systems. Anytime we're basically using our brain but not doing a lot of mechanics -- those are the things that will happen first. But ultimately, the world's the limit. I don't know how this will turn out. I know a lot of people who invented the microprocessor. And if you talk to them, they knew what they were doing was really significant, but they didn't really know what was going to happen. They couldn't anticipate cell phones and the Internet and all this kind of stuff. They just knew like, "We're going to build calculators and traffic-light controllers. But it's going to be big!" In the same way, brain science and these memories are going to be a very fundamental technology, and it will lead to unbelievable changes in the next 100 years. And I'm most excited about how we're going to use them in science. So I think that's all my time -- I'm over, and I'm going to end my talk right there.
On peut aussi faire des systèmes de sécurité intelligents. Là où nous avons besoin de notre cerveau, en gros, mais pas de beaucoup de mécanismes. Ce sont les choses qui arriveront en premier. Mais après cela, la limite, c'est le monde. Je ne sais pas où cela va mener. Je connais beaucoup de ceux qui ont inventé le microprocesseur et si vous leur parlez, ils savaient que ce qu'ils faisaient était vraiment important, mais ils ne savaient pas vraiment ce qui allait se passer. Ils ne pouvaient pas anticiper les téléphones portables, Internet, et tous ces trucs. Ils savaient que, eh, ils allaient construire des calculatrices et des feux de signalisation. Mais ça allait être énorme. De la même façon, la science du cerveau et ces mémoires vont être une technologie fondamentale, et ça va mener à des changements incroyables dans les 100 prochaines années. Et je suis très excité quant à la façon dont on on les utilisera en science. Je pense que j'arrive à la limite de mon temps, donc je vais terminer mon discours maintenant.