Jeg arbejder med to ting: Jeg laver mobile computere og studerer hjerner. Dagens præsentation handler om hjerner og hey, jeg har en hjernefan derude et sted. (Latter) Hvis jeg kan få mit første slide op, kan I se titlen på min præsentation og mine to tilhørsforhold. Så jeg vil fortælle om, hvorfor vi ikke har en god teori om hjernen, hvorfor det er vigtigt, at vi udvikler en og hvad vi kan gøre ved det. Alt det vil jeg forsøge at gøre på 20 minutter. Jeg har to tilhørsforhold. De fleste af jer kender mig fra min tid hos Palm og Handspring men jeg driver også et nonprofit videnskabeligt forskningscenter som hedder Redwoodcentret for Neurovidenskab i Menlo Park vi studerer teoretisk neurovidenskab, og vi studerer hvordan neocortex virker. Alt det vil jeg tale om her.
I do two things: I design mobile computers and I study brains. Today's talk is about brains and -- (Audience member cheers) Yay! I have a brain fan out there. (Laughter) If I could have my first slide, you'll see the title of my talk and my two affiliations. So what I'm going to talk about is why we don't have a good brain theory, why it is important that we should develop one and what we can do about it. I'll try to do all that in 20 minutes. I have two affiliations. Most of you know me from my Palm and Handspring days, but I also run a nonprofit scientific research institute called the Redwood Neuroscience Institute in Menlo Park. We study theoretical neuroscience and how the neocortex works. I'm going to talk all about that. I have one slide on my other life, the computer life,
Jeg har en enkelt slide om mit andet liv, computer livet, og det er denne her. Det her er nogle af de produkter, jeg har arbejdet på de sidste 20 år, det starter ved den originale bærbare og går frem til de første tablet computere og så videre, indtil vi ender ved Treo, og det fortsætter vi med at gøre. Og jeg har gjort dette, fordi jeg virkelig mener at mobile computere er fremtiden indenfor personlige computere, og jeg prøver at gøre verden en lille smule bedre ved at arbejde med disse ting. Men jeg må indrømme at alt dette var et uheld. Jeg ønskede egentlig ikke at arbejde med nogen af disse produkter og meget tidligt i min karriere besluttede jeg at jeg ikke ville være inden for computerbranchen.
and that's this slide here. These are some of the products I've worked on over the last 20 years, starting from the very original laptop to some of the first tablet computers and so on, ending up most recently with the Treo, and we're continuing to do this. I've done this because I believe mobile computing is the future of personal computing, and I'm trying to make the world a little bit better by working on these things. But this was, I admit, all an accident. I really didn't want to do any of these products. Very early in my career I decided I was not going to be in the computer industry.
Før jeg fortæller jer om det, bliver jeg nødt til at fortælle om dette lille billede af graffiti, som jeg hentede på nettet den anden dag. Jeg ledte efter et billede af graffiti, et lille sprog til tekst input og fandt et website rettet mod lærere som ønsker at lave de der skriveøvelser i toppen af tavlen - de havde tilføjet graffiti og det beklager jeg meget.
Before that, I just have to tell you about this picture of Graffiti I picked off the web the other day. I was looking for a picture for Graffiti that'll text input language. I found a website dedicated to teachers who want to make script-writing things across the top of their blackboard, and they had added Graffiti to it, and I'm sorry about that.
(Latter)
(Laughter)
Da jeg som ung mand blev færdig som ingeniør på Cornell i 79, fik jeg arbejde hos Intel. Tre måneder inde i computerbranchen forelskede jeg mig i noget andet og sagde: "Det var den forkerte karriere." Jeg forelskede mig i hjerner. Dette er ikke en rigtig hjerne. Det er en stregtegning af en. Jeg husker ikke præcist, hvordan det skete, men jeg har et meget stærkt minde om det. I september 1979 handlede hele udgaven af Scientific American udelukkende om hjernen. Og det var ganske godt. Det var et af deres bedste blade nogensinde. De fortalte om neuroner, udvikling, sygdom og synet og alle de ting du kunne have lyst til at vide om hjerner. Det var ret imponerende.
So what happened was, when I was young and got out of engineering school at Cornell in '79, I went to work for Intel and was in the computer industry, and three months into that, I fell in love with something else. I said, "I made the wrong career choice here," and I fell in love with brains. This is not a real brain. This is a picture of one, a line drawing. And I don't remember exactly how it happened, but I have one recollection, which was pretty strong in my mind. In September of 1979, Scientific American came out with a single-topic issue about the brain. It was one of their best issues ever. They talked about the neuron, development, disease, vision and all the things you might want to know about brains.
Man kunne få indtrykket, at vi vidste en masse om hjerner. Men den sidste artikel var skrevet af Francis Crick, berømt for DNA. I dag er vist 50-årsdagen for opdagelsen af DNA. Og grundlæggende skrev han at det er meget godt altsammen, men vi ved ikke en skid om hjerner og ingen aner, hvordan de tingester virker, så du skal ikke tro på, hvad folk siger. Her er et citat fra artiklen: "En iøjnefaldende mangel" - han var en meget korrekt brite, så: "En iøjnefaldende mangel er en bred grundstruktur af ideer til at fortolke disse forskellige tilgange i." Jeg syntes, at ordet grundstruktur var fantastisk. Han sagde ikke, at vi manglede en teori. Han siger vi ikke ved, hvordan vi skal begynde med at tænke på det - Vi har ikke engang en grundstruktur. Vi er i præ-paradigme dagene ifølge Thomas Kuhn. Det forelskede jeg mig i og sagde: "Hør, vi har så meget viden om hjernen. Hvor svært kan det være?" Det er noget, vi kan arbejde på i min levetid. Jeg følte, jeg kunne gøre en forskel og prøvede derfor at komme fra computerbranchen over i hjernebranchen.
It was really quite impressive. One might've had the impression we knew a lot about brains. But the last article in that issue was written by Francis Crick of DNA fame. Today is, I think, the 50th anniversary of the discovery of DNA. And he wrote a story basically saying, this is all well and good, but you know, we don't know diddly squat about brains, and no one has a clue how they work, so don't believe what anyone tells you. This is a quote from that article, he says: "What is conspicuously lacking" -- he's a very proper British gentleman -- "What is conspicuously lacking is a broad framework of ideas in which to interpret these different approaches." I thought the word "framework" was great. He didn't say we didn't have a theory. He says we don't even know how to begin to think about it. We don't even have a framework. We are in the pre-paradigm days, if you want to use Thomas Kuhn. So I fell in love with this. I said, look: We have all this knowledge about brains -- how hard can it be? It's something we can work on in my lifetime; I could make a difference. So I tried to get out of the computer business, into the brain business.
Først prøvede jeg på MITs center for AI (kunstig intelligens) hvor jeg sagde: "Jeg vil også bygge intelligente maskiner men jeg vil gøre det ved først at studere hvordan hjernen virker." De sagde: "Det behøver du såmænd ikke. Vi behøver bare at programmere computerne." Og jeg sagde: "I burde studere hjerner." Men de sagde: "Du tager fejl." Og jeg sagde: "Nej, I tager fejl," og jeg kom ikke ind.
First, I went to MIT, the AI lab was there. I said, I want to build intelligent machines too, but I want to study how brains work first. And they said, "Oh, you don't need to do that. You're just going to program computers, that's all. I said, you really ought to study brains. They said, "No, you're wrong."
(Latter)
I said, "No, you're wrong," and I didn't get in.
(Laughter)
Jeg var lidt skuffet og ganske ung, men jeg prøvede igen nogle år senere i Californien, hvor jeg tog til Berkeley. Jeg ville prøve fra den biologiske side. Jeg blev optaget på ph.d. programmet i biofysik og tænkte: "Jeg studerer hjerner nu!" og sagde: "Jeg vil studere teorier." Og de sagde:"Nej da, du kan ikke studere teorier om hjernen. Det gør man ikke. Der er ingen bevillinger. Som student kan du ikke det." Så sagde jeg: "Hold da op." Jeg var meget deprimeret, men mente stadig jeg kunne en gøre en forskel. Derfor gik jeg tilbage til computerbranchen og sagde: "Jeg skal jo arbejde her et stykke et tid." Det var dengang, jeg lavede alle de computerprodukter.
I was a little disappointed -- pretty young -- but I went back again a few years later, this time in California, and I went to Berkeley. And I said, I'll go in from the biological side. So I got in the PhD program in biophysics. I was like, I'm studying brains now. Well, I want to study theory. They said, "You can't study theory about brains. You can't get funded for that. And as a graduate student, you can't do that." So I said, oh my gosh. I was depressed; I said, but I can make a difference in this field. I went back in the computer industry and said, I'll have to work here for a while. That's when I designed all those computer products.
(Latter)
(Laughter)
Det vil jeg gøre i fire år og tjene nogle penge som hvis jeg havde en familie - blive lidt mere moden og måske kunne neurovidenskab også blive lidt mere moden. Det tog så længere end fire år. Det tog cirka 16 år. Det laver jeg nu og det vil jeg fortælle om. Hvorfor bør vi have en god teori om hjernen? Ja, der er mange grunde til at udføre videnskab. Den mest grundlæggende er, at folk gerne vil vide ting. Vi er nysgerrige og så samler vi viden sammen. Hvorfor studerer vi myrer? Det er interessant. Måske lærer vi noget nyttigt, men det er interessant og fascinerende. Men nogle gange har en videnskab andre egenskaber der gør den virkelig interessant.
I said, I want to do this for four years, make some money, I was having a family, and I would mature a bit, and maybe the business of neuroscience would mature a bit. Well, it took longer than four years. It's been about 16 years. But I'm doing it now, and I'm going to tell you about it. So why should we have a good brain theory? Well, there's lots of reasons people do science. The most basic one is, people like to know things. We're curious, and we go out and get knowledge. Why do we study ants? It's interesting. Maybe we'll learn something useful, but it's interesting and fascinating. But sometimes a science has other attributes which makes it really interesting.
Nogle gange vil en videnskab sige noget om os selv fortælle os om, hvem vi er. Det gjorde evolution og Copernicus - hvor vi får en ny forståelse af os selv. Vi er, trods alt, vore hjerner. Min hjerne taler til din hjerne. Vore kroppe er med på turen, men min hjerne taler til din. Hvis vi forstår, hvem vi er og hvordan vi føler og oplever må vi forstå hvad hjerner er. Noget andet er, hvordan videnskab undertiden fører til kæmpestore sociale gevinster og teknologier eller virksomheder der udspringer af det. Det gælder også her for hvis forstår hvordan hjerner virker, vil vi kunne bygge intelligente maskiner, og det tror jeg overordnet er en god ting og det vil blive en kæmpegevinst for samfundet ligesom en grundlæggende teknologi.
Sometimes a science will tell something about ourselves; it'll tell us who we are. Evolution did this and Copernicus did this, where we have a new understanding of who we are. And after all, we are our brains. My brain is talking to your brain. Our bodies are hanging along for the ride, but my brain is talking to your brain. And if we want to understand who we are and how we feel and perceive, we need to understand brains. Another thing is sometimes science leads to big societal benefits, technologies, or businesses or whatever. This is one, too, because when we understand how brains work, we'll be able to build intelligent machines. That's a good thing on the whole, with tremendous benefits to society, just like a fundamental technology.
Hvorfor har vi så ikke en god teori om hjernen? Og det er noget folk har arbejdet på i 100 år. Lad os starte med at se på, hvordan normal videnskab ser ud. Dette er normal videnskab. Normal videnskab er en fin balance mellem teori og eksperimenter. Teori-fyren siger: "Jeg tror, det foregår sådan her." og eksperiment-fyren siger: "Du tager fejl." Sådan går det frem og tilbage. Det virker for fysik og geologi. Men hvis det er normal videnskab, hvordan ser så neurovidenskab ud? Sådan her: Vi har et kæmpe bjerg af data om anatomi, fysiologi og adfærd. I aner ikke, hvor mange detaljer vi har om hjernen. I år var der 28.000 mennesker på konferencen for neurovidenskab og hver eneste forsker i hjerner. Massevis af data. Men ingen teori. Der er en lille, snoldet kasse på toppen.
So why don't we have a good theory of brains? People have been working on it for 100 years. Let's first take a look at what normal science looks like. This is normal science. Normal science is a nice balance between theory and experimentalists. The theorist guy says, "I think this is what's going on," the experimentalist says, "You're wrong." It goes back and forth, this works in physics, this in geology. But if this is normal science, what does neuroscience look like? This is what neuroscience looks like. We have this mountain of data, which is anatomy, physiology and behavior. You can't imagine how much detail we know about brains. There were 28,000 people who went to the neuroscience conference this year, and every one of them is doing research in brains. A lot of data, but no theory.
Og teori har ikke spillet nogen stor rolle indenfor neurovidenskab.
There's a little wimpy box on top there.
Det er virkelig en skam. Hvorfor er det mon sådan? Hvis du spørger neuroforskere, hvorfor det er sådan? De vil gerne indrømme, men spørger du hvorfor, siger de: "Altså, der er forskellige grunde til, at vi ikke har en god teori." Nogle siger: "Vi har stadig ikke har nok data vi har brug for mere information, der er så mange ting vi ikke ved." Vi har så meget data, at det kommer ud af ørerne! Vi har så meget information, at vi ikke ved hvordan det skal organiseres. Hvorfor har vi så brug for mere? Måske er vi så heldige at opdage noget magisk, men det tror jeg ikke. Det er faktisk et symptom på, at vi ikke har nogen teori. Vi behøver ikke mere data - vi behøver en god teori om det.
And theory has not played a role in any sort of grand way in the neurosciences. And it's a real shame. Now, why has this come about? If you ask neuroscientists why is this the state of affairs, first, they'll admit it. But if you ask them, they say, there's various reasons we don't have a good brain theory. Some say we still don't have enough data, we need more information, there's all these things we don't know. Well, I just told you there's data coming out of your ears. We have so much information, we don't even know how to organize it. What good is more going to do? Maybe we'll be lucky and discover some magic thing, but I don't think so. This is a symptom of the fact that we just don't have a theory. We don't need more data, we need a good theory.
Andre siger: "Hjerner er så komplekse at det vil tage 50 år mere." Jeg mener, at Chris sagde noget lignende i går. Jeg mener, du sagde noget i retning af: "Det er en af de mest komplicerede ting i universet." Det er ikke sandt. Du er mere kompliceret end din hjerne. Du har en hjerne. Og selvom hjernen ser meget kompliceret ud, er det kun indtil man forstår ting, at de virker komplicerede. Sådan har det altid været. Det eneste vi kan sige er at neocortex har 30 milliarder celler. Men den er meget regelmæssig. Det ligner faktisk det samme gentaget igen og igen. Den er ikke så kompliceret, som den ser ud. Det er ikke problemet.
Another one is sometimes people say, "Brains are so complex, it'll take another 50 years." I even think Chris said something like this yesterday, something like, it's one of the most complicated things in the universe. That's not true -- you're more complicated than your brain. You've got a brain. And although the brain looks very complicated, things look complicated until you understand them. That's always been the case. So we can say, my neocortex, the part of the brain I'm interested in, has 30 billion cells. But, you know what? It's very, very regular. In fact, it looks like it's the same thing repeated over and over again. It's not as complex as it looks. That's not the issue.
Nogle folk siger: "Hjerner kan ikke forstå hjerner." Meget zenagtigt... (Latter) Det lyder jo godt, men hvorfor? Hvad er pointen? Det er bare en samling celler. Du kan forstå din lever. Den har også en masse celler, ikke? Det er der altså heller ikke noget om. Og til slut er der nogle, der siger: "Jeg føler mig ikke som en samling celler. Jeg er bevidst. Jeg har denne erfaring og jeg er i verden. Jeg kan ikke bare være en klump celler." Folk plejede at tro, man skulle have en livsenergi for at være levende. Det ved vi nu ikke passer. Der er ingen beviser for, at det skulle være sådan, andet end at folk har svært ved at tro på, at celler kan gøre det, de kan. Nogle mennesker er altså faldet i et metafysisk hul også ganske kloge mennesker, men det kan vi godt afvise.
Some people say, brains can't understand brains. Very Zen-like. Woo. (Laughter) You know, it sounds good, but why? I mean, what's the point? It's just a bunch of cells. You understand your liver. It's got a lot of cells in it too, right? So, you know, I don't think there's anything to that. And finally, some people say, "I don't feel like a bunch of cells -- I'm conscious. I've got this experience, I'm in the world. I can't be just a bunch of cells." Well, people used to believe there was a life force to be living, and we now know that's really not true at all. And there's really no evidence, other than that people just disbelieve that cells can do what they do. So some people have fallen into the pit of metaphysical dualism, some really smart people, too, but we can reject all that.
(Latter)
(Laughter)
Nej, jeg vil fortælle jer, at der er noget andet og det er ganske fundamentalt: Der er en anden grund til, at vi ikke har en god teori om hjernen. Det er fordi, vi har en intuitiv, stærk men ukorrekt antagelse, der har forhindret os i at se svaret. Vi tror på noget helt indlysende, som er forkert. Før jeg siger, hvad det er... Der er en historik for det indenfor videnskab som jeg gerne vil fortælle lidt om først. Ser man på andre videnskabelige revolutioner for eksempel solsystemet - det var Copernicus Darwins evolution og Wegeners tektoniske plader har de alle meget tilfælles med hjernevidenskab.
No, there's something else, something really fundamental, and it is: another reason why we don't have a good brain theory is because we have an intuitive, strongly held but incorrect assumption that has prevented us from seeing the answer. There's something we believe that just, it's obvious, but it's wrong. Now, there's a history of this in science and before I tell you what it is, I'll tell you about the history of it in science. Look at other scientific revolutions -- the solar system, that's Copernicus, Darwin's evolution, and tectonic plates, that's Wegener. They all have a lot in common with brain science.
For det første havde de alle en masse uforklarlige data. Men det blev til at håndtere, da de fandt en teori. Rigtigt kloge mennesker sad fast her. Vi er ikke klogere nu, end de var. Det viser sig, at det er svært at tænke på ting men når først man har tænkt dem, er det faktisk nemt at forstå dem. Mine døtre forstod disse tre teoriers grundstruktur, da de gik i børnehave. Og nu er det ikke så svært. Her er æblet, her er appelsinen. Jorden drejer rundt om solen og den slags.
First, they had a lot of unexplained data. A lot of it. But it got more manageable once they had a theory. The best minds were stumped -- really smart people. We're not smarter now than they were then; it just turns out it's really hard to think of things, but once you've thought of them, it's easy to understand. My daughters understood these three theories, in their basic framework, in kindergarten. It's not that hard -- here's the apple, here's the orange, the Earth goes around, that kind of stuff.
Og sidst, men ikke mindst, var svaret der hele tiden men vi overså det, på grund af den her indlysende ting. Det var en intuitiv, stærk overbevisning, som var forkert. I tilfældet med solsystemet er ideen om, at Jorden roterer og at Jordens overflade roterer med over 1500 km i timen og Jorden bevæger sig gennem solsystemet med over 1,5 mio km i timen fuldstændig vanvid. Vi ved alle, at Jorden ikke bevæger sig. Føles det, som om du bevæger dig med over 1500 km i timen? Selvfølgelig ikke. Og hvis du sagde at Jorden roterer og er kæmpestor ville de spærre dig inde, og det gjorde de dengang.
Another thing is the answer was there all along, but we kind of ignored it because of this obvious thing. It was an intuitive, strongly held belief that was wrong. In the case of the solar system, the idea that the Earth is spinning, the surface is going a thousand miles an hour, and it's going through the solar system at a million miles an hour -- this is lunacy; we all know the Earth isn't moving. Do you feel like you're moving a thousand miles an hour? If you said Earth was spinning around in space and was huge -- they would lock you up, that's what they did back then.
(Latter) Det var intuitivt og indlysende. Hvad med evolutionen? Det er det samme. Vi lærte vore børn, at Bibelen siger at Gud skabte alle arter. Katte er katte. Hunde er hunde. Mennesker er mennesker. Planter er planter. De ændrer sig ikke. Noah tog dem ombord på Arken og blablabla. Men hvis du tror på evolution har vi alle en fælles forfader og vi deler en fælles forfader med planten ude i lobbyen. Det fortæller evolution os. Og det sandt. Men egentlig utroligt. Sådan var det med tektoniske plader. Alle kontinenterne ligger og flyder rundt oven på Jorden - det giver jo ikke mening.
So it was intuitive and obvious. Now, what about evolution? Evolution, same thing. We taught our kids the Bible says God created all these species, cats are cats; dogs are dogs; people are people; plants are plants; they don't change. Noah put them on the ark in that order, blah, blah. The fact is, if you believe in evolution, we all have a common ancestor. We all have a common ancestor with the plant in the lobby! This is what evolution tells us. And it's true. It's kind of unbelievable. And the same thing about tectonic plates. All the mountains and the continents are kind of floating around on top of the Earth. It doesn't make any sense.
Hvad er så den intuitive, men fejlagtige antagelse der har afholdt fra os fra at forstå hjernen? Når jeg siger det, vil det virke indlysende rigtigt og det er hele pointen, ikke? Og så vil jeg komme med argumenter for hvorfor I tager fejl i den anden antagelse. Den intuitive, men indlysende ting er at intelligens defineres gennem adfærd at vi er intelligente på grund af måden vi gør ting på og den måde vi opfører os intelligent på. Og jeg siger, det er forkert. Intelligens er defineret ved forudsigelse.
So what is the intuitive, but incorrect assumption, that's kept us from understanding brains? I'll tell you. It'll seem obvious that it's correct. That's the point. Then I'll make an argument why you're incorrect on the other assumption. The intuitive but obvious thing is: somehow, intelligence is defined by behavior; we're intelligent because of how we do things and how we behave intelligently. And I'm going to tell you that's wrong.
Jeg skal guide jer igennem det på de næste par slides og give et eksempel på hvad det betyder. Her er et system. Ingeniører kan godt lide at se på systemer som dette. Det samme kan videnskabsfolk. Vi har en ting i en boks, siger de, og vi har dens input og output. AI-folkene siger, at tingen i kassen er en programmerbar computer fordi den svarer til en hjerne. Vi fodrer den med input og får den til at gøre noget - udvise en adfærd. Alan Turing definerede Turing-testen, som siger vi vil vide om noget er intelligent, hvis det opfører sig som et menneske. En adfærdsmæssig måling af, hvad intelligens er der har siddet fast igennem lang tid.
Intelligence is defined by prediction. I'm going to work you through this in a few slides, and give you an example of what this means. Here's a system. Engineers and scientists like to look at systems like this. They say, we have a thing in a box. We have its inputs and outputs. The AI people said, the thing in the box is a programmable computer, because it's equivalent to a brain. We'll feed it some inputs and get it to do something, have some behavior. Alan Turing defined the Turing test, which essentially says, we'll know if something's intelligent if it behaves identical to a human -- a behavioral metric of what intelligence is that has stuck in our minds for a long time.
I virkeligheden... jeg kalder det ægte intelligens. Ægte intelligens bygger på noget andet. Vi oplever verden gennem en rækkefølge af mønstre som vi gemmer og som vi genkalder. Når vi genkalder dem, sammenligner vi dem med virkeligheden og laver forudsigelser hele tiden. Det er en evig gyldig metrik, som spørger om vi forstår verden? Kommer jeg med forudsigelser? Og så videre. I er alle intelligente lige nu, selvom I ikke laver noget. Måske klør du dig eller piller næse. Jeg ved det ikke - du laver ikke noget netop nu men du er intelligent, du forstår hvad jeg siger. Fordi du er intelligent og taler engelsk ved du godt hvad, det sidste ord er i denne.. (Stilhed) sætning.
Reality, though -- I call it real intelligence. Real intelligence is built on something else. We experience the world through a sequence of patterns, and we store them, and we recall them. When we recall them, we match them up against reality, and we're making predictions all the time. It's an internal metric; there's an internal metric about us, saying, do we understand the world, am I making predictions, and so on. You're all being intelligent now, but you're not doing anything. Maybe you're scratching yourself, but you're not doing anything. But you're being intelligent; you're understanding what I'm saying. Because you're intelligent and you speak English, you know the word at the end of this sentence.
Ordet kom til dig og du laver disse forudsigelser hele tiden. Det jeg siger er at denne evige forudsigelse er outputtet fra neocortex. Og at forudsigelser fører til intelligent adfærd. Det sker på følgende måde: Lad os starte med en ikke-intelligent hjerne. Jeg vil påstå, det er en ikke-intelligent hjerne. Vi kan kalde det en gammel hjerne og vi kan sige at det er som et ikke-pattedyr, et krybdyr. Vi kan sige, vi har fat i en alligator. Alligatoren har nogle meget avancerede sanser. Den har gode øjne og ører, følesans osv. en mund og en næse. Den har en meget kompleks adfærd. Den kan løbe og gemme sig. Den føler frygt og andre følelser. Den kan spise dig. Den kan angribe. Den kan alt muligt. Men vi betragter ikke alligatoren som særlig intelligent. Ikke som mennesker.
The word came to you; you make these predictions all the time. What I'm saying is, the internal prediction is the output in the neocortex, and somehow, prediction leads to intelligent behavior. Here's how that happens: Let's start with a non-intelligent brain. I'll argue a non-intelligent brain, we'll call it an old brain. And we'll say it's a non-mammal, like a reptile, say, an alligator; we have an alligator. And the alligator has some very sophisticated senses. It's got good eyes and ears and touch senses and so on, a mouth and a nose. It has very complex behavior. It can run and hide. It has fears and emotions. It can eat you. It can attack. It can do all kinds of stuff. But we don't consider the alligator very intelligent, not in a human sort of way.
Men den udviser en kompleks adfærd. Hvad skete der - evolutionsmæssigt? Det første der skete i pattedyrenes evolution var at vi udviklede en neocortex. Jeg vil vise neocortex her som en kasse ovenpå den gamle hjerne. Neocortex betyder nyt lag. Det er et nyt lag oven på din hjerne. Det er den rynkede ting øverst i hovedet der blev rynket af at blive presset sammen, hvor der ikke var plads.
But it has all this complex behavior already. Now in evolution, what happened? First thing that happened in evolution with mammals is we started to develop a thing called the neocortex. I'm going to represent the neocortex by this box on top of the old brain. Neocortex means "new layer." It's a new layer on top of your brain. It's the wrinkly thing on the top of your head that got wrinkly because it got shoved in there and doesn't fit.
(Latter)
(Laughter)
Nej, det er faktisk rigtigt. Den på størrelse med en serviet. Og den passer ikke ind, så den blev helt rynket. Se nu på tegningen her. Den gamle hjerne er der stadig. Du har stadig en alligator hjerne. Det er rigtigt - din følelsesmæssige hjerne. Den er alle de ting og alle de instinktive reaktioner du har. Ovenpå den har vi et hukommelsessystem kaldet for neocortex. Hukommelsessystemet sidder oven på den sansemæssige del af hjernen. Og samtidig med at det sansemæssige input går til den gamle hjerne går det også til neocortex. Og neocortex husker det bare. Det sidder der og siger: "Jeg husker alt, hvad der sker hvor jeg har været, mennesker jeg har set, ting jeg har hørt osv." Og når den i fremtiden ser noget lignende i et lignende miljø eller i det nøjagtig samme miljø vil den afspille det igen. "Åh, jeg har været her før. Og når du har været her før vil det næste være det og det." Den gør, at du kan forudsige fremtiden. Den gør det bogstavelig talt ved at sende signaler ind i hjernen som lader dig se, hvad der vil ske som det næste, vil lade dig høre ordet 'sætning' før jeg siger det. Og det er dette tilbageløb til den gamle hjerne som gør dig i stand til at træffe langt mere intelligente beslutninger.
Literally, it's about the size of a table napkin and doesn't fit, so it's wrinkly. Now, look at how I've drawn this. The old brain is still there. You still have that alligator brain. You do. It's your emotional brain. It's all those gut reactions you have. On top of it, we have this memory system called the neocortex. And the memory system is sitting over the sensory part of the brain. So as the sensory input comes in and feeds from the old brain, it also goes up into the neocortex. And the neocortex is just memorizing. It's sitting there saying, I'm going to memorize all the things going on: where I've been, people I've seen, things I've heard, and so on. And in the future, when it sees something similar to that again, in a similar environment, or the exact same environment, it'll start playing it back: "Oh, I've been here before," and when you were here before, this happened next. It allows you to predict the future. It literally feeds back the signals into your brain; they'll let you see what's going to happen next, will let you hear the word "sentence" before I said it. And it's this feeding back into the old brain that will allow you to make more intelligent decisions.
Det her er det vigtigste slide jeg har, så jeg standser lige lidt op. Det betyder, at du hele tiden siger: "Jeg kan forudsige ting." Hvis du er en rotte, der skal igennem en labyrint og du så lærer labyrinten at kende, så vil du næste gang have den samme adfærd, men du er lige pludselig blevet klogere fordi du siger: "Nå, jeg kan genkende den og ved hvilken vej, jeg skal gå, jeg har været her før, jeg kan forudsige fremtiden." Det er det, den gør. Det er forresten sådan for alle pattedyr det er sådan for andre pattedyr og hos mennesket blev det meget værre. Som mennesker udviklede vi den forreste del af neocortex som kaldes prefrontal cortex. Her lavede naturen et lille trick. Den kopierede den bageste del, som er sensorisk og placerede den foran. Og helt specielt har mennesket den samme mekanisme foran men vi bruger den til motorisk kontrol.
This is the most important slide of my talk, so I'll dwell on it a little. And all the time you say, "Oh, I can predict things," so if you're a rat and you go through a maze, and you learn the maze, next time you're in one, you have the same behavior. But suddenly, you're smarter; you say, "I recognize this maze, I know which way to go; I've been here before; I can envision the future." That's what it's doing. This is true for all mammals -- in humans, it got a lot worse. Humans actually developed the front of the neocortex, called the anterior part of the neocortex. And nature did a little trick. It copied the posterior, the back part, which is sensory, and put it in the front. Humans uniquely have the same mechanism on the front, but we use it for motor control.
Vi kan derfor nu lave meget sofistikeret motorisk planlægning og den slags. Jeg har ikke tid til at uddybe alt dette, men hvis du vil forstå hjernen, bliver du nødt til at forstå, hvordan den første del af pattedyrenes neocortex virker, hvordan vi gemmer mønstre og laver forudsigelser. Lad mig give et par eksempler på forudsigelser. Jeg har allerede sagt ordet 'sætning'. Indenfor musik hvis du har hørt en sang før, hvis du har hørt Jill synge de sange før - når hun synger dem, vil den næste tone allerede dukke op, du forventer dem efterhånden. Hvis det var et musikalbum - ved slutningen af en sang, starter den næste op inde i dit hoved. De her ting sker hele tiden. Du forudsiger hele tiden.
So we're now able to do very sophisticated motor planning, things like that. I don't have time to explain, but to understand how a brain works, you have to understand how the first part of the mammalian neocortex works, how it is we store patterns and make predictions. Let me give you a few examples of predictions. I already said the word "sentence." In music, if you've heard a song before, when you hear it, the next note pops into your head already -- you anticipate it. With an album, at the end of a song, the next song pops into your head. It happens all the time, you make predictions.
Jeg har noget der hedder: Tanke-eksperimentet med den ændrede dør. I dette eksperiment siger vi, at du har en dør derhjemme og mens du er her, laver jeg en ændring på den. En fyr er hjemme i dit hus lige nu og flytter rundt på døren og han tager håndtaget og flytter det et par centimeter til den ene side. Når du tager hjem i aften, strækker du hånden ud du rækker ud efter dørhåndtaget og bemærker at det sidder det forkerte sted og du tænker: "Hvad er der sket her?!" Det tager måske et par sekunder at regne ud, men noget er der sket. Jeg kunne ændre håndtaget på mange måder. Jeg kan gøre det større eller mindre. Ændre det fra messing til sølv. Gøre det til en løftestang. Jeg kan ændre døren med farver eller komme en rude i. Jeg kan ændre tusindvis af ting ved din dør og i de to sekunder det tager dig at åbne døren vil du bemærke, at noget er ændret.
I have this thing called the "altered door" thought experiment. It says, you have a door at home; when you're here, I'm changing it -- I've got a guy back at your house right now, moving the door around, moving your doorknob over two inches. When you go home tonight, you'll put your hand out, reach for the doorknob, notice it's in the wrong spot and go, "Whoa, something happened." It may take a second, but something happened. I can change your doorknob in other ways -- make it larger, smaller, change its brass to silver, make it a lever, I can change the door; put colors on, put windows in. I can change a thousand things about your door and in the two seconds you take to open it, you'll notice something has changed.
Den ingeniørmæssige tilgang til dette og AI-tilgangen er at bygge en dør-database. Den indeholder alle dørens egenskaber. Og som du nærmer dig døren, bliver de krydset af en ad gangen. Dør, dør, dør, farve, du ved, hvad jeg mener. Sådan gør vi ikke. Din hjerne gør ikke sådan. Din hjerne laver hele tiden forudsigelser om hvad der vil ske i dine omgivelser. Lægger jeg min hånd på dette bord, forventer jeg at mærke den stoppe. Jeg vil vide, hvis bare et enkelt skridt rammer forbi med en ½ cm at et eller andet er ændret. Du laver hele tiden forudsigelser om dine omgivelser. Jeg vil kort tale om synet. Her er et billede af en kvinde. Når du ser på et menneske, bliver dine øjne fanget over to til tre gange i sekundet. Du er ikke bevidst om det, men dine øjne bevæger sig hele tiden. Og når du ser på en persons ansigt går du typisk fra øje til øje til øje til næse til mund. Når dine øjne bevæger sig fra øje til øje og der var noget andet som f.x. en næse ville du se en næse, hvor der burde være et øje og du ville tænke: "Hvad pokker!?" (Latter) Der er noget galt med denne person. Og det er fordi, du laver en forudsigelse. Du ville aldrig bare kigge derover og spørge: "Hvad ser jeg nu?" En næse, det er okay. Nej, du har en forventning om, hvad du kommer til at se.
Now, the engineering approach, the AI approach to this, is to build a door database with all the door attributes. And as you go up to the door, we check them off one at time: door, door, color ... We don't do that. Your brain doesn't do that. Your brain is making constant predictions all the time about what will happen in your environment. As I put my hand on this table, I expect to feel it stop. When I walk, every step, if I missed it by an eighth of an inch, I'll know something has changed. You're constantly making predictions about your environment. I'll talk about vision, briefly. This is a picture of a woman. When we look at people, our eyes saccade over two to three times a second. We're not aware of it, but our eyes are always moving. When we look at a face, we typically go from eye to eye to nose to mouth. When your eye moves from eye to eye, if there was something else there like a nose, you'd see a nose where an eye is supposed to be and go, "Oh, shit!" (Laughter) "There's something wrong about this person." That's because you're making a prediction. It's not like you just look over and say, "What am I seeing? A nose? OK." No, you have an expectation of what you're going to see.
(Latter)
Hvert øjeblik. Lad os til slut se på, hvordan vi tester intelligens. Vi tester det gennem forudsigelser. Hvad er det næste ord i denne...? A er til B som C er til hvad? Hvad er det næste tal i denne sekvens? Her er der tre vinkler på en ting. Hvad er den fjerde vinkel? Det sådan vi tester. Det handler om forudsigelse. Hvad er så opskriften på en teori om hjernen?
Every single moment. And finally, let's think about how we test intelligence. We test it by prediction: What is the next word in this ...? This is to this as this is to this. What is the next number in this sentence? Here's three visions of an object. What's the fourth one? That's how we test it. It's all about prediction.
Først og fremmest skal vi have den rigtige grundstruktur. Denne grundstruktur er en hukommelsesstruktur. ikke en beregnings- eller adfærdsstruktur. En hukommelsesstruktur. Hvordan gemmer og genkalder du disse rækker af mønstre. Indenfor denne grundstruktur tager du en gruppe teoretikere.
So what is the recipe for brain theory? First of all, we have to have the right framework. And the framework is a memory framework, not a computational or behavior framework, it's a memory framework. How do you store and recall these sequences of patterns? It's spatiotemporal patterns.
Altså, biologer er generelt ikke gode teoretikere. Det passer ikke altid, men generelt er der ikke en historik for teori indenfor biologi. Jeg fandt ud af, at de bedste samarbejdspartnere er fysikere ingeniører og matematikere, som ofte tænker i algoritmer. Så skal de lære anatomi og fysiologi. Disse teorier skal være meget realistiske i anatomisk henseende. Hvis der er nogen, som vil fortælle deres teori om hjernens virkemåde men ikke kan fortælle præcist, hvordan det virker i hjernen og hvordan ledningerne virker i hjernen, har de ikke en teori. Det er det, vi laver på Redwoodcentret for Neurovidenskab. Jeg ville rigtig gerne have mere tid til at fortælle, om de fremskridt vi gør og jeg regner med at være tilbage på denne scene måske en anden gang i den nærmeste fremtid for at fortælle om det. Jeg er virkelig begejstret. Det kommer slet ikke til at tage 50 år.
Then, if in that framework, you take a bunch of theoreticians -- biologists generally are not good theoreticians. Not always, but generally, there's not a good history of theory in biology. I've found the best people to work with are physicists, engineers and mathematicians, who tend to think algorithmically. Then they have to learn the anatomy and the physiology. You have to make these theories very realistic in anatomical terms. Anyone who tells you their theory about how the brain works and doesn't tell you exactly how it's working and how the wiring works -- it's not a theory. And that's what we do at the Redwood Neuroscience Institute. I'd love to tell you we're making fantastic progress in this thing, and I expect to be back on this stage sometime in the not too distant future, to tell you about it. I'm really excited; this is not going to take 50 years.
Hvordan vil en teori om hjernen så se ud? For det første vil det være en teori om hukommelse. Det er slet ikke ligesom computer hukommelse. Det er meget anderledes. Det er en hukommelse for mange-dimensionelle mønstre - ligesom dem fra dine øjne. Det er også en hukommelse for rækkefølger. Du kan ikke lære eller genkalde noget, som ikke er i rækkefølge. En sang skal høres i en rækkefølge henover tid. og genspilles i samme rækkefølge over tid. Disse rækkefølger genkaldes automatisk per association. Hvis jeg ser noget, hører jeg noget, vil det minde mig om det og afspille det automatisk. Det er automatisk afspilning. Forudsigelsen af fremtidigt input er det ønskede output. Teorien skal være biologisk korrekt. Den skal kunne testes og man skal kunne bygge den. Hvis du ikke bygger den, kan du ikke forstå den. En slide mere her:
What will brain theory look like? First of all, it's going to be about memory. Not like computer memory -- not at all like computer memory. It's very different. It's a memory of very high-dimensional patterns, like the things that come from your eyes. It's also memory of sequences: you cannot learn or recall anything outside of a sequence. A song must be heard in sequence over time, and you must play it back in sequence over time. And these sequences are auto-associatively recalled, so if I see something, I hear something, it reminds me of it, and it plays back automatically. It's an automatic playback. And prediction of future inputs is the desired output. And as I said, the theory must be biologically accurate, it must be testable and you must be able to build it. If you don't build it, you don't understand it.
Hvad vil resultatet være? Vil vi kunne bygge intelligente maskiner? Helt sikkert. Og det vil være anderledes end folk tror. Jeg er slet ikke i tvivl om, at det vil ske. Vi kommer til at bygge det ud af silikone. De samme teknikker vi bruger til at bygge hukommelse til computere, kan vi bruge her. Men det er meget forskellige typer hukommelse. Vi vil forbinde disse hukommelser til sensorer og sensorerne vil opfange øjeblikkelig data fra den virkelige verden og dermed vil disse ting lære om deres omgivelser.
One more slide. What is this going to result in? Are we going to really build intelligent machines? Absolutely. And it's going to be different than people think. No doubt that it's going to happen, in my mind. First of all, we're going to build this stuff out of silicon. The same techniques we use to build silicon computer memories, we can use here. But they're very different types of memories. And we'll attach these memories to sensors, and the sensors will experience real-live, real-world data, and learn about their environment.
Det er meget usandsynligt, at det første vi ser, vil blive som robotter. Ikke fordi de ikke er nyttige og vi kan godt bygge robotter. Men robotdelen er det sværeste. Det er den gamle hjerne og meget svært. Den nye hjerne er faktisk lettere end den gamle. Det bliver derfor først noget som ikke kræver meget indenfor robotter. Du kommer altså ikke til at se C-3PO. Det bliver mere noget med intelligente biler som virkelig forstår traffik og kørsel og som har lært, at biler der har blinket fra i over et halvt minut sandsynligvis ikke drejer og ting som det.
Now, it's very unlikely the first things you'll see are like robots. Not that robots aren't useful; people can build robots. But the robotics part is the hardest part. That's old brain. That's really hard. The new brain is easier than the old brain. So first we'll do things that don't require a lot of robotics. So you're not going to see C-3PO. You're going to see things more like intelligent cars that really understand what traffic is, what driving is and have learned that cars with the blinkers on for half a minute probably aren't going to turn.
(Latter)
(Laughter)
Vi kan også lave intelligente sikkerhedssystemer. Alle de steder vi bruger hjernen, men ikke laver så meget mekanisk. Sådan nogle ting kommer til at ske først. I sidste ende sætter kun fantasien grænser. Jeg ved ikke, hvordan det ender. Jeg kender en del af de folk som opfandt mikroprocessoren og de vidste godt, at det de lavede, var virkelig vigtigt men de vidste egentlig ikke, hvad der ville ske. De kunne ikke forudse mobiltelefoner, internettet og al den slags. De vidste bare, de ville bygge lommeregnere og styringssystemer til lyskryds. "Men det bliver stort." På samme måde er det hjernevidenskab og hukommelse som kommer til at være en grundlæggende teknologi og føre til nogle helt utrolige forandringer indenfor de næste 100 år. Jeg er mest spændt på, hvordan vi vil bruge det indenfor videnskab. Det var vist den tid, jeg havde. Jeg er gået over tid og vil slutte min præsentation lige her.
We can also do intelligent security systems. Anytime we're basically using our brain but not doing a lot of mechanics -- those are the things that will happen first. But ultimately, the world's the limit. I don't know how this will turn out. I know a lot of people who invented the microprocessor. And if you talk to them, they knew what they were doing was really significant, but they didn't really know what was going to happen. They couldn't anticipate cell phones and the Internet and all this kind of stuff. They just knew like, "We're going to build calculators and traffic-light controllers. But it's going to be big!" In the same way, brain science and these memories are going to be a very fundamental technology, and it will lead to unbelievable changes in the next 100 years. And I'm most excited about how we're going to use them in science. So I think that's all my time -- I'm over, and I'm going to end my talk right there.