I do two things: I design mobile computers and I study brains. Today's talk is about brains and -- (Audience member cheers) Yay! I have a brain fan out there.
Jeg gjør to ting. Jeg designer mobile datamaskiner og jeg studerer hjerner. Og i dag skal jeg prate om hjerner og, hei, det er en hjernefan her.
(Laughter) If I could have my first slide, you'll see the title of my talk and my two affiliations. So what I'm going to talk about is why we don't have a good brain theory, why it is important that we should develop one and what we can do about it. I'll try to do all that in 20 minutes. I have two affiliations. Most of you know me from my Palm and Handspring days, but I also run a nonprofit scientific research institute called the Redwood Neuroscience Institute in Menlo Park. We study theoretical neuroscience and how the neocortex works. I'm going to talk all about that.
(Latter) Jeg skal, om jeg kan få mitt første lysbilde opp her... du vil se tittelen på mitt foredrag og mine to tilknytninger. Så, det jeg skal prate om er hvorfor vi ikke har en god teori om hvordan hjernen virker, hvorfor det er viktig at vi bør utvikle en og hvordan vi kan gjøre det. Og jeg skal prøve å fortelle alt dette på 20 minutter. Jeg har to tilknytninger. De fleste av dere kjenner meg fra mine Palm Pilot- og Handspringdager, men jeg driver også en ideell organisasjon, et vitenskaplig forskningsinstitutt kalt Redwood Nevrovitenskaplige institutt i Menlo Park, og vi studerer teoretisk nevrovitenskap, og vi studerer hvordan hjernebarken fungerer.
I have one slide on my other life, the computer life, and that's this slide here. These are some of the products I've worked on over the last 20 years, starting from the very original laptop to some of the first tablet computers and so on, ending up most recently with the Treo, and we're continuing to do this. I've done this because I believe mobile computing is the future of personal computing, and I'm trying to make the world a little bit better by working on these things. But this was, I admit, all an accident. I really didn't want to do any of these products. Very early in my career I decided I was not going to be in the computer industry.
Jeg kommer bare til å prate om det. Jeg har bare ett lysbilde om mitt andre liv, datamaskinlivet, og det er det lysbildet dere ser her. Dette er noen av produktene jeg har jobbet med i de siste 20 årene, jeg startet med en av de aller første bærbare datamaskinene og notatblokk PC-er også videre, og endte senest opp med Treo, og vi fortsetter å med å jobbe med dette. Og jeg har gjort dette fordi jeg virkelig tror at bærbare datamaskiner er fremtiden til personlige datamaskiner og jeg prøver å gjøre verden bitte litt bedre ved å jobbe med disse tingene. Jeg må innrømme at dette faktisk var et uhell. Jeg ville egentlig ikke jobbe med noen av disse produktene og tidlig i min karriere bestemte jeg meg for at jeg ikke skulle forbli i datamaskinindustrien.
Before that, I just have to tell you about this picture of Graffiti I picked off the web the other day. I was looking for a picture for Graffiti that'll text input language. I found a website dedicated to teachers who want to make script-writing things across the top of their blackboard, and they had added Graffiti to it, and I'm sorry about that.
Og før jeg forteller deg om det må jeg bare fortelle deg om dette lille bildet av graffiti som jeg fant på weben her om dagen. Jeg leitet etter et bilde av graffiti, og jeg fant en webside for lærere som vil lage slike, du vet, slike som man skriver ting på og henger opp over krittavlen, og de hadde dekorert disse med graffiti, og det er jeg lei meg for.
(Laughter)
(Latter)
So what happened was, when I was young and got out of engineering school at Cornell in '79, I went to work for Intel and was in the computer industry, and three months into that, I fell in love with something else. I said, "I made the wrong career choice here," and I fell in love with brains. This is not a real brain. This is a picture of one, a line drawing. And I don't remember exactly how it happened, but I have one recollection, which was pretty strong in my mind. In September of 1979, Scientific American came out with a single-topic issue about the brain. It was one of their best issues ever. They talked about the neuron, development, disease, vision and all the things you might want to know about brains. It was really quite impressive.
Så, det som skjedde var at, når jeg var ung og gikk ut av ingeniørskolen i Cornell i 1979 bestemte jeg meg for å jobbe for Intel. Jeg jobbet i datamaskinindustrien, og tre måneder senere forelsket jeg meg i noe annet, og sa til meg selv: "Jeg gjorde feil karrierevalg", og forelsket meg i hjerner. Dette er ikke en ekte hjerne. Dette er en strektegning av en hjerne. Men jeg husker ikke helt hva som skjedde, men jeg har et minne som jeg husker godt. I september 1979 kom magasinet Scientific American ut i en utgave som bare omhandlet hjerner. Og det var en veldig bra utgave. Faktisk var det en av de beste utgavene noensinne. Og det handlet om hjerneceller og utvikling og sykdommer og visjoner og alt du kan tenkes å lure på om hjerner. Det var virkelig imponerende. Og man kan få inntrykk av at vi vet mye om hjernen.
One might've had the impression we knew a lot about brains. But the last article in that issue was written by Francis Crick of DNA fame. Today is, I think, the 50th anniversary of the discovery of DNA. And he wrote a story basically saying, this is all well and good, but you know, we don't know diddly squat about brains, and no one has a clue how they work, so don't believe what anyone tells you. This is a quote from that article, he says: "What is conspicuously lacking" -- he's a very proper British gentleman -- "What is conspicuously lacking is a broad framework of ideas in which to interpret these different approaches." I thought the word "framework" was great. He didn't say we didn't have a theory. He says we don't even know how to begin to think about it. We don't even have a framework. We are in the pre-paradigm days, if you want to use Thomas Kuhn. So I fell in love with this. I said, look: We have all this knowledge about brains -- how hard can it be? It's something we can work on in my lifetime; I could make a difference. So I tried to get out of the computer business, into the brain business.
Men den siste artikkelen i denne utgaven var skrevet av Francis Crick, kjent for oppdagelsen av DNA. Jeg tror forresten dagen i dag er 50 års dagen for oppdagelsen av DNA. Og han skrev en historie hvor han hovedsaklig sa, tja, dette er vel og bra. Men vet du hva? Vi vet ikke noe som helst om hjerner og ingen aner noe om hvordan disse fungerer, så ikke tro på noe av det du blir fortalt. Dette er et sitat fra artikkelen. Han sa: "Hva som åpenbart mangler", han er en anstendig britisk herremann, "Hva som åpenbart mangler er et bredt rammeverk som kan benyttes til å tolke ulike tilnærminger". Jeg syntes at ordet rammeverk var genialt. Han sa ikke at vi ikke hadde en teori. Han sa at: vi ikke engang vet hvordan vi skal begynne å tenke på det -- vi har ikke engang et rammeverk. Vi er i de preparadigme dagene, som Thomas Kuhn ville sagt. Også forelsket jeg meg i dette, og sa hør her, vi har en masse kunnskap om hjerner. Hvor vanskelig kan det være? Og her kan vi utrette noe i min livstid. Jeg følte jeg kunne gjøre en forskjell, så jeg prøvde å komme ut av datamaskinindustrien og inn i hjernemiljøet.
First, I went to MIT, the AI lab was there. I said, I want to build intelligent machines too, but I want to study how brains work first. And they said, "Oh, you don't need to do that. You're just going to program computers, that's all. I said, you really ought to study brains. They said, "No, you're wrong." I said, "No, you're wrong," and I didn't get in.
Først gikk jeg til MIT, der fantes det ett kunstig intelligens-laboratorium, og sa at jeg vil lage intelligente maskiner jeg også. Men måten jeg vil gjøre det på er å studere hjerner først. Og de sa, å, du trenger ikke å gjøre det. Vi kommer bare til å programmere datamaskiner, det er det vi trenger å gjøre. Og jeg sa nei, det dere bør gjøre er å studere hjerner. De sa, å nei du tar feil. Og jeg sa, nei, dere tar feil, også fikk jeg ikke innpass. (Latter)
(Laughter)
I was a little disappointed -- pretty young -- but I went back again a few years later, this time in California, and I went to Berkeley. And I said, I'll go in from the biological side. So I got in the PhD program in biophysics. I was like, I'm studying brains now. Well, I want to study theory. They said, "You can't study theory about brains. You can't get funded for that. And as a graduate student, you can't do that." So I said, oh my gosh. I was depressed; I said, but I can make a difference in this field. I went back in the computer industry and said, I'll have to work here for a while. That's when I designed all those computer products.
Men jeg var litt skuffet -- nokså ung, men jeg returnerte et par år senere og denne gangen til California og gikk da til Berkeley. Og sa, jeg vil gå inn fra den biologiske siden. Så jeg kom inn -- i et doktogradsprogram i biofysikk, og jeg følte det var bra. Jeg studerer hjerner nå og sa, vel, jeg vil studere teori. Og de sa, å nei, du kan ikke studere teori om hjerner. Det er ikke noe man gjør. Du kan ikke få støtte til det. Og som uteksaminert, kan du ikke gjøre det. Så jeg sa, å søren. Jeg var veldig deprimert. Jeg sa, men jeg kan gjøre en forskjell på dette området. Så det jeg gjorde var å returnere til datamaskinindustrien og sa, vel jeg må jobbe her en stund, jeg må ha noe å gjøre. Det var da jeg designet alle de datamaskinproduktene.
(Laughter)
(Latter)
I said, I want to do this for four years, make some money, I was having a family, and I would mature a bit, and maybe the business of neuroscience would mature a bit. Well, it took longer than four years. It's been about 16 years. But I'm doing it now, and I'm going to tell you about it. So why should we have a good brain theory? Well, there's lots of reasons people do science. The most basic one is, people like to know things. We're curious, and we go out and get knowledge. Why do we study ants? It's interesting. Maybe we'll learn something useful, but it's interesting and fascinating. But sometimes a science has other attributes which makes it really interesting.
Og jeg sa, jeg vil gjøre dette i 4 år for å tjene litt penger, jeg var i prosessen med å etablere familie, kanskje kunne jeg modnes litt, og kanskje også nevrovitenskapen da hadde modnet litt. Vel, det tok litt mer enn 4 år. Det har gått omtrent 16 år. Men jeg gjør det nå, og jeg skal fortelle dere om det. Så hvorfor trenger vi en god teori om hjernen? Vel, det er flere grunner til at folk driver med vitenskap. En av grunnene -- den mest grunnlegende -- er at mennesker liker å vite ting. Vi er nysgjerrige, og vi er sugne på å få kunnskap, ikke sant? Hvorfor studerer vi maur? Vel, det er interessant. Kanskje lærer vi noe virkelig viktig om dem, men det er interessant og fasinerende. Men noen ganger har en vitenskap noe ved seg som gjør det veldig, veldig interessant.
Sometimes a science will tell something about ourselves; it'll tell us who we are. Evolution did this and Copernicus did this, where we have a new understanding of who we are. And after all, we are our brains. My brain is talking to your brain. Our bodies are hanging along for the ride, but my brain is talking to your brain. And if we want to understand who we are and how we feel and perceive, we need to understand brains. Another thing is sometimes science leads to big societal benefits, technologies, or businesses or whatever. This is one, too, because when we understand how brains work, we'll be able to build intelligent machines. That's a good thing on the whole, with tremendous benefits to society, just like a fundamental technology.
Noen ganger vil vitenskap fortelle oss noe om oss selv, den kan fortelle oss hvem vi er. En sjelden gang - evolusjonen ga oss dette og Copernicus ga oss dette - så får vi ny forståelse av hvem vi er. Og vi er jo våre hjerner. Min hjerne prater til din hjerne. Våre kropper henger med på turen, men min hjerne prater med din hjerne. Og hvis vi vil forstå hvem vi er og hvordan vi føler og sanser må vi faktisk forstå hva hjerner er. En annen ting er at vitenskap noen ganger leder oss til virkelig store samfunnsmessige fordeler og teknologier, eller forretningsmuligheter, eller hva som enn kommer ut av det. Og dette er også et poeng, når vi forstår hvordan hjerner virker kommer vil til å kunne bygge intelligente maskiner, og dette tror jeg vil bli en god ting for verden, og det kommer til å ha enorme fordeler for samfunnet på samme måte som fundamental teknologi gjorde.
So why don't we have a good theory of brains? People have been working on it for 100 years. Let's first take a look at what normal science looks like. This is normal science. Normal science is a nice balance between theory and experimentalists. The theorist guy says, "I think this is what's going on," the experimentalist says, "You're wrong." It goes back and forth, this works in physics, this in geology. But if this is normal science, what does neuroscience look like? This is what neuroscience looks like. We have this mountain of data, which is anatomy, physiology and behavior. You can't imagine how much detail we know about brains. There were 28,000 people who went to the neuroscience conference this year, and every one of them is doing research in brains. A lot of data, but no theory. There's a little wimpy box on top there.
Så hvorfor skulle vi ikke ha en god teori om hjerner? Mennesker har jobbet med det i 100 år. Vel, la oss først ta en kikk på andre vitenskaplige retninger og se hva de har gjort de siste 100 år. Andre vitenskaplige retninger gjør som følger. Vanligvis arbeider disse i en god balanse mellom teorier og eksperimenter. Så teoretikeren sier, jeg tror dette er det som skjer, og de som eksperimenterer sier, nei du tar feil. Og slik går det frem og tilbake. Dette fungerer innen fysikken. Det fungerer innen geologien. Men hvis dette er slik vitenskaper normalt fungerer, hva med hjerneforskningen? Slik ser hjerneforskningen ut. Vi har et fjell av informasjon i form av anatomi, fysiologi og adferd. Du kan ikke fatte hvor mye detaljer vi vet om hjerner. Det var 28 000 mennesker på hjerneforskningskonferanse i år, og alle disse forsker på hjerner. En masse informasjon men ingen teori. En bitte liten boks på toppen her. Og teori har ikke spilt en rolle i noen stor grad innen hjerneforskning.
And theory has not played a role in any sort of grand way in the neurosciences. And it's a real shame. Now, why has this come about? If you ask neuroscientists why is this the state of affairs, first, they'll admit it. But if you ask them, they say, there's various reasons we don't have a good brain theory. Some say we still don't have enough data, we need more information, there's all these things we don't know. Well, I just told you there's data coming out of your ears. We have so much information, we don't even know how to organize it. What good is more going to do? Maybe we'll be lucky and discover some magic thing, but I don't think so. This is a symptom of the fact that we just don't have a theory. We don't need more data, we need a good theory.
Og det er en skam. Hvordan skjedde dette egentlig? Om du spør en hjerneforsker, hvorfor er det slik? De er de første til å innrømme at det er slik. Men hvis du spør vill de si, vel, det er ulike grunner til at vi ikke har en god teori om hjerner. Noen sier, vel vi har ikke nok informasjon, vi trenger mer informasjon, det er så mye vi ikke vet. Vel, jeg fortalte akkurat at vi har så mye informasjon at det tyter ut av ørene. Vi har så mye informasjon at vi ikke en vet hvordan vi skal begynne med å organisere den. Hvorfor skulle vi trenge mer? Kanskje har vi flaks og oppdager en eller annen magisk faktor, men jeg tror ikke det kommer til å skje. Og dette er faktisk et symptom av at vi ikke har en teori. Vi trenger ikke mer data -- vi trenger en god teori.
Another one is sometimes people say, "Brains are so complex, it'll take another 50 years." I even think Chris said something like this yesterday, something like, it's one of the most complicated things in the universe. That's not true -- you're more complicated than your brain. You've got a brain. And although the brain looks very complicated, things look complicated until you understand them. That's always been the case. So we can say, my neocortex, the part of the brain I'm interested in, has 30 billion cells. But, you know what? It's very, very regular. In fact, it looks like it's the same thing repeated over and over again. It's not as complex as it looks. That's not the issue.
I andre tilfeller sier noen at hjerner er så komplekse, at det kommer til å ta ytterlige 50 år. Jeg tror faktisk til og med Chris sa noe sånt i går. Jeg er ikke helt sikker på hva du sa Chris, men det var noe sånt, vel, det er en av de mest kompliserte ting i universet. Det er faktisk ikke sant. Du er mer komplisert enn din hjerne. Du har jo en hjerne. Det er også sånn, selv om hjerner er komplekse, så er ting komplekse inntil vi forstår dem. Det har alltid vært slik. Så alt vi kan si, vel, min hjernebark, som er den delen av hjernen jeg er interessert i, har 30 milliarder celler. Men vet du hva? Den er veldig regelmessig. Faktisk så ser det ut som om det samme prinsippet gjelder hele veien. Så den er ikke så kompleks som den ser ut. Det er ikke der problemet ligger.
Some people say, brains can't understand brains. Very Zen-like. Woo.
Noen sier at hjerner kan ikke forstå hjerner. Veldig Zen-aktig. Whow. Ikke sant.
(Laughter)
(Latter)
You know, it sounds good, but why? I mean, what's the point? It's just a bunch of cells. You understand your liver. It's got a lot of cells in it too, right? So, you know, I don't think there's anything to that. And finally, some people say, "I don't feel like a bunch of cells -- I'm conscious. I've got this experience, I'm in the world. I can't be just a bunch of cells." Well, people used to believe there was a life force to be living, and we now know that's really not true at all. And there's really no evidence, other than that people just disbelieve that cells can do what they do. So some people have fallen into the pit of metaphysical dualism, some really smart people, too, but we can reject all that.
Det høres bra ut, men hvorfor? Jeg mener, hva er poenget? Det er jo bare en klase med celler. Du forstår jo hvordan leveren din fungerer. Den har jo også en masse celler, ikke sant. Så, jeg tror ikke det er noe i det. Og den siste versjonen er at noen sier at, vel, jeg føler meg ikke som en klase med celler, ikke sant. Jeg er bevisst. Jeg har denne følelsen av å eksistere i verden. Så jeg kan ikke bare være en klase med celler. Mennesker pleide å tro at det fantes en livskraft som opprettholdt livet men vi vet nå at det faktisk ikke er sant. Og det er faktisk ingen form for bevis for noe sånt, vel, annet enn at folk bare ikke kan tro at celler kan gjøre det de gjør. Så om noen mennesker har falt i den metafysiske dualismefellen, noen virkelig smarte mennesker også, så kan vi bare avvise det.
(Laughter)
(Latter)
No, there's something else, something really fundamental, and it is: another reason why we don't have a good brain theory is because we have an intuitive, strongly held but incorrect assumption that has prevented us from seeing the answer. There's something we believe that just, it's obvious, but it's wrong. Now, there's a history of this in science and before I tell you what it is, I'll tell you about the history of it in science. Look at other scientific revolutions -- the solar system, that's Copernicus, Darwin's evolution, and tectonic plates, that's Wegener. They all have a lot in common with brain science.
Nei, nå skal jeg fortelle dere noe annet, og dette er virkelig fundamentalt, og det er: det finnes en annen grunn til at vi ikke har en god teori om hvordan hjernen fungerer, og det er fordi vi har en intuitiv og sterk, men feil antakelse som har hindret oss i å se svaret. Det noe vi tror er åpenbart, men som er feil. Det er en historie om dette innen vitenskapen, men før jeg forteller om den, så skal jeg fortelle dere litt om vitenskapshistorie. Ser man på noen andre vitenskaplige revolusjoner, og da snakker jeg om solsystemet og Copernicus, Darwins evolusjonsteori og Wegeners oppdagelse av tektoniske plater. De har alle en masse til felles med vitenskap om hjernen.
First, they had a lot of unexplained data. A lot of it. But it got more manageable once they had a theory. The best minds were stumped -- really smart people. We're not smarter now than they were then; it just turns out it's really hard to think of things, but once you've thought of them, it's easy to understand. My daughters understood these three theories, in their basic framework, in kindergarten. It's not that hard -- here's the apple, here's the orange, the Earth goes around, that kind of stuff.
Først og fremst hadde de en masse uforklarlig data. En hel masse av det. Men det ble mer administrerbart når man fikk en teori. De kloke hodene var veldig, veldig, smarte folk. Vi er ikke smartere nå enn de var da. Det er bare sånn at det er virkelig vanskelig å komme på ting, men når du kommer på noe, så er det på en måte lett å forstå det. Mine døtre forsto det grunnleggende rammeverket i disse 3 teoriene på det før de startet i barnehagen. Og nå er det ikke vanskelig. Du vet den med, her er eplet og her er appelsinen, jorden går rundt og så videre.
Another thing is the answer was there all along, but we kind of ignored it because of this obvious thing. It was an intuitive, strongly held belief that was wrong. In the case of the solar system, the idea that the Earth is spinning, the surface is going a thousand miles an hour, and it's going through the solar system at a million miles an hour -- this is lunacy; we all know the Earth isn't moving. Do you feel like you're moving a thousand miles an hour? If you said Earth was spinning around in space and was huge -- they would lock you up, that's what they did back then.
Og til slutt en annen ting som var der hele tiden, men vi har liksom oversett den fordi den var så åpenbar, og det er poenget. Det var en så intuitiv og sterk tro, som var feil. Som i tilfellet med solsystemet, ideen om at jorden roterte og jordens overflate går rundt i to tusen kilometer i timen, og at jorden farer gjennom solsystemet i omtrent en halv million kilometer i timen. Dette er galskap. Vi vet alle at jorden ikke flytter seg. Føler du at du flytter deg i to tusen kilometer i timen? Selvsagt ikke. Men om noen sa, vel, jorden spinner rundt i verdensrommet og er enormt stor så ville de låst deg inne, og på den tiden så gjorde de også det.
So it was intuitive and obvious. Now, what about evolution?
(Latter) Så det var intuitivt og åpenbart. Men hva med evolusjonen?
Evolution, same thing. We taught our kids the Bible says God created all these species, cats are cats; dogs are dogs; people are people; plants are plants; they don't change. Noah put them on the ark in that order, blah, blah. The fact is, if you believe in evolution, we all have a common ancestor. We all have a common ancestor with the plant in the lobby! This is what evolution tells us. And it's true. It's kind of unbelievable. And the same thing about tectonic plates. All the mountains and the continents are kind of floating around on top of the Earth. It doesn't make any sense.
Det er det samme med evolusjonen. Vi fortalte våre barn det bibelen sa. Gud skapte alle disse artene, katter er katter, hunder er hunder mennesker er mennesker, planter er plater og de endrer seg ikke. Noah tok dem med i Arken i den rekkefølgen og bla bla bla. Og som du vet sannheten er, forutsatt at du tror på evolusjonen, at vi alle har en felles stamfar, og at vi alle har felles opphav - med en plante i inngangspartiet. Det er det evolusjonen forteller oss. Og det er sant. Selv om det på en måte er utrolig. Og det samme gjelder tektoniske plater. Alle fjell og kontinenter flyter liksom rundt på toppen av jorden? Det høres liksom utrolig ut.
So what is the intuitive, but incorrect assumption, that's kept us from understanding brains? I'll tell you. It'll seem obvious that it's correct. That's the point. Then I'll make an argument why you're incorrect on the other assumption. The intuitive but obvious thing is: somehow, intelligence is defined by behavior; we're intelligent because of how we do things and how we behave intelligently. And I'm going to tell you that's wrong. Intelligence is defined by prediction.
Så hva er den intuitive men korrekte antakelse som har gjort at vi ikke forstår hjernen? Jeg skal fortelle deg det og det kommer til å høres åpenbart ut at det er korrekt, og det er hele poenget ikke sant? Så skal jeg komme med et argument om hvorfor du tar feil angående den antakelsen. Den intuitive og åpenbare er at på en måte er intelligens definert av adferd, det som definerer oss som intelligente er måten vi gjør ting på og måten vi oppfører oss intelligent på, så skal jeg fortelle deg at du tar feil. Faktum er at intelligens er definert av evnen til å forutse. Jeg skal lede dere gjennom noen lysbilder her,
I'm going to work you through this in a few slides, and give you an example of what this means. Here's a system. Engineers and scientists like to look at systems like this. They say, we have a thing in a box. We have its inputs and outputs. The AI people said, the thing in the box is a programmable computer, because it's equivalent to a brain. We'll feed it some inputs and get it to do something, have some behavior. Alan Turing defined the Turing test, which essentially says, we'll know if something's intelligent if it behaves identical to a human -- a behavioral metric of what intelligence is that has stuck in our minds for a long time.
for å presentere noen eksempler. Her er et system. Ingeniører liker å se på systemer på en måte. Forskere liker å se på det på en annen måte. De sier, vel, vi har noe i en boks med innganger og utganger. Kunstig intelligens menneskene sier da at tingen i boksen er en programmerbar datamaskin fordi det blir tilsvarende en hjerne og vi forer den med inntrykk og får den til å gjøre noe. Og Alan Turning definerte Turing testen, som i korte trekk sier, vel, vi vet at noe er intelligent hvis det oppfører seg som et menneske. En slags adferdsmessig målestokk for hva intelligens er og dette trodde vi på i lang tid.
Reality, though -- I call it real intelligence. Real intelligence is built on something else. We experience the world through a sequence of patterns, and we store them, and we recall them. When we recall them, we match them up against reality, and we're making predictions all the time. It's an internal metric; there's an internal metric about us, saying, do we understand the world, am I making predictions, and so on. You're all being intelligent now, but you're not doing anything. Maybe you're scratching yourself, but you're not doing anything. But you're being intelligent; you're understanding what I'm saying. Because you're intelligent and you speak English, you know the word at the end of this sentence.
Men virkeligheten er en annen, jeg kaller den virkelig-intelligens. Virkelig-intelligens dreier seg om noe annet. Vi erfarer verden gjennom en sekvens av mønstre som vi lagrer, og vi husker disse. Og deretter gjenkaller vi disse og måler de opp mot virkeligheten og forutser da hva som kommer til å skje. Vi gjør det hele tiden. Det er en evig rundgang. Det er en evig rundgang der vi på en måte sier forstår vi verden? Klarer jeg å forutse hva som skal skje? Og så videre. Dere er alle intelligente for øyeblikket, men dere gjør ingenting. Kanskje klør du deg eller piller deg i nesen. Jeg vet ikke, men du gjør ikke noe akkurat nå, men du er intelligent, du forstår hva jeg sier. Fordi du er intelligent og snakker engelsk, vet du hvilket ord som er på slutten av denne -- (stillhet) setningen.
The word came to you; you make these predictions all the time. What I'm saying is, the internal prediction is the output in the neocortex, and somehow, prediction leads to intelligent behavior. Here's how that happens: Let's start with a non-intelligent brain. I'll argue a non-intelligent brain, we'll call it an old brain. And we'll say it's a non-mammal, like a reptile, say, an alligator; we have an alligator. And the alligator has some very sophisticated senses. It's got good eyes and ears and touch senses and so on, a mouth and a nose. It has very complex behavior. It can run and hide. It has fears and emotions. It can eat you. It can attack. It can do all kinds of stuff. But we don't consider the alligator very intelligent, not in a human sort of way.
Ordet falt på plass og du forutser slik hele tiden. Og det jeg da sier er at, det man hele tiden forutser er signaler fra hjernebarken. Og på en måte så leder det du forutser til intelligent adferd. Og slik virker det. La oss starte med en uintelligent hjerne. Vi kan kalle det en uintelligent hjerne, en gammel hjerne, og vi sier det er fra noe som ikke er et pattedyr, som et reptil, så sier vi at det er en alligator. Vi tar for oss en alligator. Og en alligator har veldig sofistikerte sanser. Den har gode øyne og ører og føler når noe kommer bort i den og så videre har den en munn og en nese. Og den har veldig kompleks adferd. Den kan løpe og hjemme seg. Den har redsel og følelser. Og den kan spise deg. Den kan angripe. Den kan gjøre en hel masse. Men vi betrakter ikke alligatoren som intelligent, i hvert fall ikke på menneskelig vis.
But it has all this complex behavior already. Now in evolution, what happened? First thing that happened in evolution with mammals is we started to develop a thing called the neocortex. I'm going to represent the neocortex by this box on top of the old brain. Neocortex means "new layer." It's a new layer on top of your brain. It's the wrinkly thing on the top of your head that got wrinkly because it got shoved in there and doesn't fit.
Men den har en masse kompleks adferd. Så, i evolusjonen, hva skjedde? Det første som skjedde med pattedyr i evolusjonen, var at vi begynte å utvikle det som kalles hjernebarken. Og jeg skal lage en representasjon av hjernebarken her, på toppen av gamle hjernen. Den nye kortex (hjernebarken) betyr nytt lag. Den er et nytt lag på toppen av hjernen. Om du ikke vet det så er det en skrukkete tingen helst øverst på hodet, og den er skrukkete fordi den ble stappet inn og ikke helt passer.
(Laughter)
(Latter)
Literally, it's about the size of a table napkin and doesn't fit, so it's wrinkly. Now, look at how I've drawn this. The old brain is still there. You still have that alligator brain. You do. It's your emotional brain. It's all those gut reactions you have. On top of it, we have this memory system called the neocortex. And the memory system is sitting over the sensory part of the brain. So as the sensory input comes in and feeds from the old brain, it also goes up into the neocortex. And the neocortex is just memorizing. It's sitting there saying, I'm going to memorize all the things going on: where I've been, people I've seen, things I've heard, and so on. And in the future, when it sees something similar to that again, in a similar environment, or the exact same environment, it'll start playing it back: "Oh, I've been here before," and when you were here before, this happened next. It allows you to predict the future. It literally feeds back the signals into your brain; they'll let you see what's going to happen next, will let you hear the word "sentence" before I said it. And it's this feeding back into the old brain that will allow you to make more intelligent decisions.
Det er faktisk sant. Den er egentlig på størrelse med en utbrettet serviett. Og den passer ikke, så derfor blir den skrukkete. Se nå hvordan jeg tegner dette. Den gamle hjernen er fortsatt der. Du har fortsatt en alligatorhjerne. Du har det. Det er den hjernen som håndterer følelser. Den er alt det og alle magefølelser du har. Og på toppen av det har vi minnesystemet, som kalles hjernebarken. Og minnesystemet ligger over sansedelene i hjernen. Og når sanseimpulser kommer inn via den gamle hjernen går de altså opp til minnesystemet. Og hjernebarkens oppgave er bare å huske de. Den ligger der og sier, ah, jeg skal huske alt som foregår, hvor jeg har vært, mennesker jeg har sett, ting jeg har hørt og så videre. Og i fremtiden, når den ser noe den gjenkjenner, i et tilsvarende miljø, eller i det samme miljøet, så spilles minner av. Den starter å spille det av. Å, jeg har vært her før. Og når du var der sist så så hendte dette. Det muliggjør at du kan forutse hva som komme til å skje. Det muliggjør at du, bokstavlig talt mater signaler tilbake til hjernen, og du kan da se hva som kommer til å skje, og muliggjør at du kan høre ordet "setning" før jeg sa det. Og det er denne matingen tilbake til gamle hjernen som gjør det mulig for deg å ta veldig intelligente avgjørelser.
This is the most important slide of my talk, so I'll dwell on it a little. And all the time you say, "Oh, I can predict things," so if you're a rat and you go through a maze, and you learn the maze, next time you're in one, you have the same behavior. But suddenly, you're smarter; you say, "I recognize this maze, I know which way to go; I've been here before; I can envision the future." That's what it's doing. This is true for all mammals -- in humans, it got a lot worse. Humans actually developed the front of the neocortex, called the anterior part of the neocortex. And nature did a little trick. It copied the posterior, the back part, which is sensory, and put it in the front. Humans uniquely have the same mechanism on the front, but we use it for motor control.
Dette er det viktigste lysbildet i hele foredraget mitt, så vi skal dvele litt ved det. Også sier du hele tiden at, åh, jeg kan forutse ting. Og hvis du er en rotte og går gjennom en labyrint, så lærer du deg labyrinten, og neste gang du er i labyrinten gjør du det samme som sist, men plutselig er du blitt smartere fordi du sier, åh, jeg kjenner denne labyrinten, jeg vet hvor jeg skal gå, jeg har vært her før, jeg kan se for meg hva som vil skje. Og det er det den gjør. Hos mennesker - faktisk gjelder det for alle pattedyr - det gjelder for alle pattedyr og hos mennesker utviklet det seg langt. Vi mennesker har faktisk også utviklet en fremre del som kalles frontallappen. Og naturen gjorde et triks. den kopierte den bakre delen, som hører til sansene, og plasserte kopien foran. Så mennesker er de eneste som har de samme mekanismer foran som bak, men vi bruker dette til motorisk kontroll.
So we're now able to do very sophisticated motor planning, things like that. I don't have time to explain, but to understand how a brain works, you have to understand how the first part of the mammalian neocortex works, how it is we store patterns and make predictions. Let me give you a few examples of predictions. I already said the word "sentence." In music, if you've heard a song before, when you hear it, the next note pops into your head already -- you anticipate it. With an album, at the end of a song, the next song pops into your head. It happens all the time, you make predictions.
Dermed har vi nå muligheten til å gjøre sofistikert motorikk og så videre. Jeg har ikke tid til gå for dypt i dette, men hvis du vil forstå hvordan hjerner virker må du forstå hvordan den første delen av pattedyrs hjernebark virker, hvordan vi lagrer mønstre og forutser. Så la meg gi det et par eksempler hvor du forutser. Jeg sa allerede ordet "setning". I musikk, hvis du har hvis du har hørt en sang tidligere, hvis du har hørt Jill sine sanger før, når hun synger dem så popper neste note inn i hodet ditt -- du forutser det etter hvert som det går fremover. Hvis det var et musikkalbum, ville neste sang, ved slutten av den pågående, starte i hodet. Og dette skjer hele tiden. Du prøver å forutse hva som skal skje.
I have this thing called the "altered door" thought experiment. It says, you have a door at home; when you're here, I'm changing it -- I've got a guy back at your house right now, moving the door around, moving your doorknob over two inches. When you go home tonight, you'll put your hand out, reach for the doorknob, notice it's in the wrong spot and go, "Whoa, something happened." It may take a second, but something happened. I can change your doorknob in other ways -- make it larger, smaller, change its brass to silver, make it a lever, I can change the door; put colors on, put windows in. I can change a thousand things about your door and in the two seconds you take to open it, you'll notice something has changed.
Jeg har et tankeeksperiment som jeg kaller den modifiserte døren. Og tankeeksperimentet med den modifiserte døren er slik, du har en dør hjemme og når du er her endrer jeg den, jeg har en kar ved huset ditt akkurat nå og han flytter døren rundt, og de kommer til flytte dørhåndtaket mer enn 5 centimeter. Og når du drar hjem senere i kveld, kommer du til å strekke frem hånden din og du kommer til prøve å nå dørhåndtaket og merke at det er på feil sted og du kommer til si, hva har skjedd? Det kan ta et sekund for deg å finne det ut, men noe skjedde. Jeg kunne endret dørhåndtaket på andre måter. Jeg kunne gjort det større eller mindre, jeg kunne endret det fra messing til sølv, jeg kunne gjort den til en spak. Jeg kunne endret døren, malt den, satt inn vinduer. Jeg kunne endret tusen ting med døren din, og i løpet av de to sekundene det tar å åpne døren ville du komme til å merke at noe var endret.
Now, the engineering approach, the AI approach to this, is to build a door database with all the door attributes. And as you go up to the door, we check them off one at time: door, door, color ... We don't do that. Your brain doesn't do that. Your brain is making constant predictions all the time about what will happen in your environment. As I put my hand on this table, I expect to feel it stop. When I walk, every step, if I missed it by an eighth of an inch, I'll know something has changed. You're constantly making predictions about your environment. I'll talk about vision, briefly. This is a picture of a woman. When we look at people, our eyes saccade over two to three times a second. We're not aware of it, but our eyes are always moving. When we look at a face, we typically go from eye to eye to nose to mouth. When your eye moves from eye to eye, if there was something else there like a nose, you'd see a nose where an eye is supposed to be and go, "Oh, shit!"
Så ingeniørtilnærmingen til dette, kunstig-intelligenstilnærmingen, vil være å lage en dørdatabase med alle dørattributter. Og når du går opp til døren så sjekker man alle attributter en etter en. Dør, dør, dør, du vet, farge, dere skjønner hva jeg mener. Vi gjør ikke det. Din hjerne gjør ikke det. Det din hjerne gjør hele tiden er å prøve å forutse hva som skal skje i det miljøet du befinner deg. Når jeg legger hånden på bordet forventer jeg å føle at den stopper. Når jeg går, for hvert steg jeg tar, om jeg tråkker feil med 5 centimeter kommer jeg til å vite at noe er endret. Du prøver hele tiden å forutse hva som vil skje i det miljøet du befinner deg. Jeg skal snakke om syn her om et øyeblikk. Dette er et bilde av en kvinne. Og når du ser på mennesker blir øynene dine fanget og du ser over ansiktet to til tre ganger i sekundet. Du er ikke klar over det men øynene dine flytter seg hele tiden. Og når du ser på ansiktet til noen sveiper du fra øye til øye til øye så til nese og munn. Så når ditt øye sveiper fra øye til øye, om det var noe annet der enn en nese, som at du så en nese der hvor øyet skulle vært
(Laughter)
kom du til å si, å svarte, ikke sant --
"There's something wrong about this person." That's because you're making a prediction. It's not like you just look over and say, "What am I seeing? A nose? OK." No, you have an expectation of what you're going to see.
(Latter) Det er noe galt med denne personen. Og det er fordi du forutser hva som kan forventes. Det er ikke slik at du ser over og sier, hva ser jeg nå? En nese, det er greit. Nei, du har forventninger til hva du skal se.
(Latter)
Every single moment. And finally, let's think about how we test intelligence. We test it by prediction: What is the next word in this ...? This is to this as this is to this. What is the next number in this sentence? Here's three visions of an object. What's the fourth one? That's how we test it. It's all about prediction.
Hele tiden. Og til slutt la oss ta for oss hvordan vi tester intelligens. Vi tester evnen til å forutse. Hva er neste ord i rekken? Og så videre. Denne står til denne som denne står til denne. Hva er neste nummer i denne rekken? Her er tre forskjellige former. Hva er den fjerde? Slik tester vi intelligens. Det handler om å forutse. Så hva er resepten for å lage en hjerneteori?
So what is the recipe for brain theory? First of all, we have to have the right framework. And the framework is a memory framework, not a computational or behavior framework, it's a memory framework. How do you store and recall these sequences of patterns? It's spatiotemporal patterns.
Først av alt trenger vi å ha et rammeverk. Og det rammeverket er et rammeverk for hukommelsen. Ikke et rammeverk for kalkulering eller adferd. Men et rammeverk for hukommelse. Hvordan lagrer og fremkaller du disse mønstrene? Det er spatio-temporære mønstre. Så med et slikt rammeverk, tar du en gjeng med teoretikere.
Then, if in that framework, you take a bunch of theoreticians -- biologists generally are not good theoreticians. Not always, but generally, there's not a good history of theory in biology. I've found the best people to work with are physicists, engineers and mathematicians, who tend to think algorithmically. Then they have to learn the anatomy and the physiology. You have to make these theories very realistic in anatomical terms. Anyone who tells you their theory about how the brain works and doesn't tell you exactly how it's working and how the wiring works -- it's not a theory.
Nå er ikke biologer generelt sett veldig gode teoretikere. Det er selvfølgelig ikke alltid sant, men generelt sett, og historisk sett, er ikke teori biologiens sterkeste side. Så det jeg fant ut var at fysikere var de jeg fikk mest ut av å jobbe med, ingeniører og matematikere, som vanligvis tenker algoritmisk. Men da må de lære anatomi og i tillegg fysiologi. Man må knytte disse teorier opp mot anatomisk terminologi. Om noen forteller om sin teori om hvordan hjernen virker, og ikke forteller deg akkurat hva som skjer i hjernen, og ikke forteller deg hvordan hjernen er "kablet", ja så har de ingen teori. Dette er det vi dette vi driver med på Redwood nevrovitenskaplige institutt.
And that's what we do at the Redwood Neuroscience Institute. I'd love to tell you we're making fantastic progress in this thing, and I expect to be back on this stage sometime in the not too distant future, to tell you about it. I'm really excited; this is not going to take 50 years.
Jeg skulle gjerne hatt mer tid til å fortelle om den fantastiske fremgangen vi har på området, og jeg forventer å komme tilbake på denne scenen, kanskje om ikke så altfor lenge for å fortelle dere om det. Jeg er veldig begeistret. Dette kommer ikke til å ta ytterlige 50 år.
What will brain theory look like? First of all, it's going to be about memory. Not like computer memory -- not at all like computer memory. It's very different. It's a memory of very high-dimensional patterns, like the things that come from your eyes. It's also memory of sequences: you cannot learn or recall anything outside of a sequence. A song must be heard in sequence over time, and you must play it back in sequence over time. And these sequences are auto-associatively recalled, so if I see something, I hear something, it reminds me of it, and it plays back automatically. It's an automatic playback. And prediction of future inputs is the desired output. And as I said, the theory must be biologically accurate, it must be testable and you must be able to build it. If you don't build it, you don't understand it.
Så hvordan vil en hjerneteori se ut? Først av alt, det kommer til å bli en teori om hukommelse. Ikke som en datamaskins minne. Ikke i det hele tatt som datamaskinminne. Det er veldig, veldig forskjellig fra det. Og det er et minne av mønstre med mange dimensjoner, tilsvarende som det du ser med øynene. Det er også et minne av sekvenser. Du kan ikke lære eller gjenkalle noe som ikke er i form av en sekvens. En sang må høres i sekvens over tid, og du må avspille den i sekvens over tid. Og disse sekvensene blir auto-assosiativt gjenkalt, så hvis jeg ser noe, hører noe, så minner dette meg om det og spiller automatisk dette av. Det er en automatisk avspilling. Og hensikten er å forutse kommende inntrykk. Og som sagt, teorien må være biologisk nøyaktig, den må være testbar, og det må være mulig å lage den. Hvis du ikke kan lage den så forstår du den ikke. Så, et lysbilde igjen.
One more slide. What is this going to result in? Are we going to really build intelligent machines? Absolutely. And it's going to be different than people think. No doubt that it's going to happen, in my mind. First of all, we're going to build this stuff out of silicon. The same techniques we use to build silicon computer memories, we can use here. But they're very different types of memories. And we'll attach these memories to sensors, and the sensors will experience real-live, real-world data, and learn about their environment.
Så hva skal dette resultere i? Kommer vi virkelig til å lage intelligente maskiner? Absolutt. Og det kommer til å bli annerledes enn det folk tror. Det er ikke tvil i min sjel om hvorvidt dette kommer til å skje. Først av alt, det kommer det til å bli laget, i silikon. Med den samme teknikken vi bruker for å lage datamaskinminne av silikon, kan vi benytte i dette tilfellet. Men vi snakker om en helt annen type hukommelse. Og vi kommer til å koble denne hukommelsen til sensorer, og disse sensorene vil erfare data fra virkeligheten i sanntid, og disse tingene kommer til å lære av sitt miljø.
Now, it's very unlikely the first things you'll see are like robots. Not that robots aren't useful; people can build robots. But the robotics part is the hardest part. That's old brain. That's really hard. The new brain is easier than the old brain. So first we'll do things that don't require a lot of robotics. So you're not going to see C-3PO. You're going to see things more like intelligent cars that really understand what traffic is, what driving is and have learned that cars with the blinkers on for half a minute probably aren't going to turn.
Det er veldig usannsynlig at det første du vil se på dette området er roboter. Ikke at roboter er ubrukelige, og man kan lage roboter. Men robotdelen er den vanskeligste delen. Da inngår gamlehjernen. Og den er kompleks. Den nye hjernen (hjernebarken) er faktisk enklere enn gamle hjernen. Så det første vi må gjøre er å få på plass det som ikke krever en masse robotteknikk. Du kommer ikke til å se C-3PO (fra Star Wars). Du kommer til å se mer, tja, intelligente biler for eksempel som virkelig forstår hva trafikk er og hva kjøring er og som har lært at de biler som kjører med blinklys på i mer enn 30 sekunder antakelig ikke kommer til å svinge, og så videre.
(Laughter)
(Latter)
We can also do intelligent security systems. Anytime we're basically using our brain but not doing a lot of mechanics -- those are the things that will happen first. But ultimately, the world's the limit. I don't know how this will turn out. I know a lot of people who invented the microprocessor. And if you talk to them, they knew what they were doing was really significant, but they didn't really know what was going to happen. They couldn't anticipate cell phones and the Internet and all this kind of stuff. They just knew like, "We're going to build calculators and traffic-light controllers. But it's going to be big!" In the same way, brain science and these memories are going to be a very fundamental technology, and it will lead to unbelievable changes in the next 100 years. And I'm most excited about how we're going to use them in science. So I think that's all my time -- I'm over, and I'm going to end my talk right there.
Vi kan også lage intelligente sikkerhetssystemer. For så vidt hva som helst der vi benytter hjernen, men samtidig ikke gjør en hel masse. Det er dette som kommer til skje først. Men til slutt kan vi ta for oss hva som helst i hele verden. Jeg vet ikke hvordan det kommer til ende. Jeg kjenner mange av de som oppfant mikroprosessoren og om du snakker med noen av disse, så visste de at de gjorde noe stort, men de så ikke konsekvensen av det de gjorde. De kunne ikke forutse mobiltelefoner og Internet og alt det. De visste bare at de, tja, de skulle lage kalkulatorer og trafikklyskontrollere. Men det ble stort. På samme måte kommer vitenskap om hjernen og hukommelse til å være fundamental teknologi som kommer til å lede til utrolige endringer i løpet av de neste 100 år. Og jeg er mest ivrig angående hvordan vi kan kommer til å bruke dette i vitenskapen. Da tror jeg min tid er ute, jeg er ferdig, og kommer til å slutte mitt foredrag akkurat nå.