I do two things: I design mobile computers and I study brains. Today's talk is about brains and -- (Audience member cheers) Yay! I have a brain fan out there.
Ik doe twee dingen. Ik ontwerp mobiele computers en ik bestudeer hersenen. De lezing van vandaag gaat over hersenen en ... hé, blijkbaar heb ik daar ergens een brein-fan.
(Laughter) If I could have my first slide, you'll see the title of my talk and my two affiliations. So what I'm going to talk about is why we don't have a good brain theory, why it is important that we should develop one and what we can do about it. I'll try to do all that in 20 minutes. I have two affiliations. Most of you know me from my Palm and Handspring days, but I also run a nonprofit scientific research institute called the Redwood Neuroscience Institute in Menlo Park. We study theoretical neuroscience and how the neocortex works. I'm going to talk all about that.
(Gelach) Als ik mijn eerste dia krijg, zie je de titel van mijn lezing en de twee bedrijven waaraan ik verbonden ben. Ik ga het hebben over de reden waarom we nog geen goede hersentheorie hebben, en waarom het belangrijk is dat we er een ontwikkelen en hoe we dat kunnen bereiken. En dat allemaal in twintig minuten. Ik ben verbonden aan twee bedrijven. De meesten van jullie kennen me van mijn tijd bij Palm en Handspring, maar ik leid ook een non-profit wetenschappelijk onderzoeksinstituut, het Redwood Instituut voor Neurowetenschap in Menlo Park. We bestuderen theoretische neurowetenschap en hoe de neocortex werkt.
I have one slide on my other life, the computer life, and that's this slide here. These are some of the products I've worked on over the last 20 years, starting from the very original laptop to some of the first tablet computers and so on, ending up most recently with the Treo, and we're continuing to do this. I've done this because I believe mobile computing is the future of personal computing, and I'm trying to make the world a little bit better by working on these things. But this was, I admit, all an accident. I really didn't want to do any of these products. Very early in my career I decided I was not going to be in the computer industry.
Daar ga ik allerlei over vertellen. Deze dia gaat over mijn andere leven, mijn computerleven. Dit zijn een aantal producten waar ik de laatste twintig jaar aan heb gewerkt, van de allereerste originele laptop tot een paar van de eerste tablet-pc's enz.., met de Treo als de meest recente en hieraan werken we nog verder. Ik heb dit gedaan omdat ik echt geloof dat mobiel computergebruik de toekomst heeft en ik probeer de wereld een klein beetje beter te maken door aan deze dingen te werken. Maar dit was, moet ik toegeven, allemaal slechts toeval. Eigenlijk wou ik deze producten helemaal niet maken. Vroeg in mijn loopbaan besliste ik dat ik niet in de computerindustrie wilde werken.
Before that, I just have to tell you about this picture of Graffiti I picked off the web the other day. I was looking for a picture for Graffiti that'll text input language. I found a website dedicated to teachers who want to make script-writing things across the top of their blackboard, and they had added Graffiti to it, and I'm sorry about that.
Voor ik jullie daarover vertel, moet ik jullie vertellen over dit graffitiplaatje dat ik onlangs vond op het internet. Ik zocht een graffitiplaatje, een taal met weinig tekst. Ik vond een website voor leerkrachten die slogans schrijven bovenaan hun schoolbord. Ze hadden er graffiti aan toegevoegd, mijn excuses daarvoor.
(Laughter)
(Gelach)
So what happened was, when I was young and got out of engineering school at Cornell in '79, I went to work for Intel and was in the computer industry, and three months into that, I fell in love with something else. I said, "I made the wrong career choice here," and I fell in love with brains. This is not a real brain. This is a picture of one, a line drawing. And I don't remember exactly how it happened, but I have one recollection, which was pretty strong in my mind. In September of 1979, Scientific American came out with a single-topic issue about the brain. It was one of their best issues ever. They talked about the neuron, development, disease, vision and all the things you might want to know about brains. It was really quite impressive.
Toen ik jong was en in '79 afstudeerde van de ingenieursschool van Cornell, besloot ik te gaan werken voor Intel. Ik zat in de computerindustrie en drie maanden later werd ik verliefd op iets anders. Ik zei: "Ik heb de verkeerde carrière gekozen." en werd verliefd op hersenen. Dit is geen echt brein. Het is een pentekening. Ik herinner me niet precies meer hoe het gegaan is, maar ik heb een herinnering die me sterk bijgebleven is. In september 1979 verscheen een uitgave van 'Scientific American' volledig gewijd aan de hersenen. Die was erg goed. Het was een van de beste uitgaven ooit. Ze spraken over het neuron, ontwikkeling, ziekte, het gezichtsvermogen en over nog veel meer wat je misschien wil weten over hersenen. Het was echt de moeite. Het gaf de indruk dat we echt veel wisten over de hersenen.
One might've had the impression we knew a lot about brains. But the last article in that issue was written by Francis Crick of DNA fame. Today is, I think, the 50th anniversary of the discovery of DNA. And he wrote a story basically saying, this is all well and good, but you know, we don't know diddly squat about brains, and no one has a clue how they work, so don't believe what anyone tells you. This is a quote from that article, he says: "What is conspicuously lacking" -- he's a very proper British gentleman -- "What is conspicuously lacking is a broad framework of ideas in which to interpret these different approaches." I thought the word "framework" was great. He didn't say we didn't have a theory. He says we don't even know how to begin to think about it. We don't even have a framework. We are in the pre-paradigm days, if you want to use Thomas Kuhn. So I fell in love with this. I said, look: We have all this knowledge about brains -- how hard can it be? It's something we can work on in my lifetime; I could make a difference. So I tried to get out of the computer business, into the brain business.
Het laatste artikel in deze uitgave was geschreven door Francis Crick, beroemd van het DNA. Vandaag is het, geloof ik, de 50ste verjaardag van de ontdekking van DNA. Hij schreef iets wat neerkwam op: "Dit is allemaal goed en wel, maar we weten eigenlijk geen sikkepit over de hersenen en niemand heeft enig idee hoe ze werken. Geloof niet wat ze zeggen." Dit is een citaat uit dat artikel. Hij zegt: "Wat opvallenderwijs ontbreekt," hij is een échte Engelse heer, dus: "Wat opvallenderwijs ontbreekt is een breed kader van ideeën om deze verschillende benaderingen te interpreteren." Ik vond het woord 'kader' goed. Hij zei niet dat we geen theorie hebben. Hij zei dat we zelfs niet weten hoe we erover moeten beginnen te denken. We hebben zelfs geen kader. We zijn in het pre-paradigmatijdperk als je Thomas Kuhn wilt gebruiken. Ik werd hier verliefd op en ik zei: “Kijk, we hebben zoveel kennis over de hersenen. Hoe moeilijk kan het zijn?” Hier kon ik mijn leven aan wijden. Ik voelde dat ik een verschil kon maken dus probeerde ik de overstap te maken van het domein van de computers naar dat van de hersenen.
First, I went to MIT, the AI lab was there. I said, I want to build intelligent machines too, but I want to study how brains work first. And they said, "Oh, you don't need to do that. You're just going to program computers, that's all. I said, you really ought to study brains. They said, "No, you're wrong." I said, "No, you're wrong," and I didn't get in.
Eerst ging ik naar MIT, het lab voor kunstmatige intelligentie en ik zei: “Ik wil ook intelligente machines maken, maar ik wil dit doen door eerst te onderzoeken hoe de hersenen werken.” Ze zeiden: “Je hoeft dat niet te doen. We gaan gewoon computers programmeren, meer hoeft niet.” Ik zei: "Nee, je moet echt eerst de hersenen bestuderen." Zij zeiden: "Nee, je bent verkeerd." Ik zei: "Nee, jullie zijn verkeerd.", en zo werd ik niet aanvaard. (Gelach)
(Laughter)
I was a little disappointed -- pretty young -- but I went back again a few years later, this time in California, and I went to Berkeley. And I said, I'll go in from the biological side. So I got in the PhD program in biophysics. I was like, I'm studying brains now. Well, I want to study theory. They said, "You can't study theory about brains. You can't get funded for that. And as a graduate student, you can't do that." So I said, oh my gosh. I was depressed; I said, but I can make a difference in this field. I went back in the computer industry and said, I'll have to work here for a while. That's when I designed all those computer products.
Ik was een beetje ontgoocheld. Redelijk jong nog, maar ik ging een paar jaar later terug naar Berkeley, Californië. Ik zou het via de biologische kant benaderen. Ik werd aanvaard in het PhD programma van biofysica, en ik zat goed. Ik bestudeerde hersenen en ik zei: "Ik wil theorie studeren." Zij zeiden: "Nee, je kunt geen theorie studeren over de hersenen. Zoiets doe je niet. Je krijgt daar geen subsidies voor. Als bachelorstudent kan je dat niet doen.” Dus ik dacht: "Mijn god!" Ik was heel teleurgesteld, want ik wilde een verschil maken. Dus ging ik terug naar de computerindustrie en besefte dat ik hier even zou moeten werken, iets realiseren. Toen creëerde ik al die computerproducten.
(Laughter)
(Gelach)
I said, I want to do this for four years, make some money, I was having a family, and I would mature a bit, and maybe the business of neuroscience would mature a bit. Well, it took longer than four years. It's been about 16 years. But I'm doing it now, and I'm going to tell you about it. So why should we have a good brain theory? Well, there's lots of reasons people do science. The most basic one is, people like to know things. We're curious, and we go out and get knowledge. Why do we study ants? It's interesting. Maybe we'll learn something useful, but it's interesting and fascinating. But sometimes a science has other attributes which makes it really interesting.
Ik zei: "Ik wil dit vier jaar doen en een beetje geld verdienen." Ik had ondertussen een gezin, ik zou een beetje volwassen worden en misschien zou het veld van de neurowetenschap ook wat volwassen worden. Het duurde wat langer dan vier jaar. Ondertussen al 16 jaar. Maar ik doe het nu en ik zal jullie erover vertellen. Waarom hebben we een goede hersentheorie nodig? Er zijn verschillende redenen waarom mensen aan wetenschap doen. Een ervan is: mensen weten graag dingen. We zijn nieuwsgierig en we gaan gewoon kennis opzoeken. Waarom bestuderen we mieren? Omdat het interessant is. We leren misschien iets nuttig, maar het is vooral interessant en fascinerend. Maar soms heeft een wetenschap nog andere kenmerken wat ze écht interessant maakt.
Sometimes a science will tell something about ourselves; it'll tell us who we are. Evolution did this and Copernicus did this, where we have a new understanding of who we are. And after all, we are our brains. My brain is talking to your brain. Our bodies are hanging along for the ride, but my brain is talking to your brain. And if we want to understand who we are and how we feel and perceive, we need to understand brains. Another thing is sometimes science leads to big societal benefits, technologies, or businesses or whatever. This is one, too, because when we understand how brains work, we'll be able to build intelligent machines. That's a good thing on the whole, with tremendous benefits to society, just like a fundamental technology.
Soms zal een wetenschap iets over onszelf vertellen, ons vertellen wie we zijn. Dit gebeurt maar heel af en toe zoals met de evolutietheorie en Copernicus, waardoor we een nieuw begrip kregen over wie we zijn. Uiteindelijk zijn we onze hersenen. Mijn brein praat nu met jouw brein. Onze lichamen volgen gewoon, maar mijn brein praat met jouw brein. Als we willen begrijpen wie we zijn en hoe we voelen en waarnemen, moeten we echt begrijpen wat hersenen zijn. Iets anders nog: wetenschap leidt soms tot grote maatschappelijke en technologische voordelen, bedrijven of om het even wat eruit voortkomt. Dit is er ook een van. Als we weten hoe de hersenen werken, zullen we intelligente machines kunnen maken en ik denk dat dit uiteindelijk iets goed is. Het zal enorme voordelen hebben voor onze maatschappij net zoals een fundamentele technologie.
So why don't we have a good theory of brains? People have been working on it for 100 years. Let's first take a look at what normal science looks like. This is normal science. Normal science is a nice balance between theory and experimentalists. The theorist guy says, "I think this is what's going on," the experimentalist says, "You're wrong." It goes back and forth, this works in physics, this in geology. But if this is normal science, what does neuroscience look like? This is what neuroscience looks like. We have this mountain of data, which is anatomy, physiology and behavior. You can't imagine how much detail we know about brains. There were 28,000 people who went to the neuroscience conference this year, and every one of them is doing research in brains. A lot of data, but no theory. There's a little wimpy box on top there.
Waarom hebben we dan geen goede hersentheorie? We zijn er al honderd jaar naar op zoek. Laten we eerst kijken naar hoe normale wetenschap eruit ziet. Dit is normale wetenschap. Normale wetenschap is een mooie balans tussen theorie en experimenten. Degenen die de theorie bedenken zeggen: "Ik denk dat dit gebeurt.", terwijl degenen die de experimenten uitvoeren zeggen: "Nee, je zit verkeerd." Zo gaat dat over en weer, snap je? Zo gaat dat in fysica. Zo gaat dat in geologie. Maar als dit normale wetenschap is, hoe ziet neurowetenschap er dan uit? Zo ziet neurowetenschap eruit. We hebben een berg data, bestaande uit anatomie, fysiologie en gedrag. Je kunt je niet voorstellen hoeveel details we weten over de hersenen. Dit jaar kwamen 28.000 mensen naar de neurowetenschapsconferentie en stuk voor stuk deden ze aan hersenonderzoek. Een heleboel data. Maar er is geen theorie. Je ziet slechts een klein kadertje daarboven. Theorie heeft nog nooit een grote rol gespeeld in de neurowetenschap.
And theory has not played a role in any sort of grand way in the neurosciences. And it's a real shame. Now, why has this come about? If you ask neuroscientists why is this the state of affairs, first, they'll admit it. But if you ask them, they say, there's various reasons we don't have a good brain theory. Some say we still don't have enough data, we need more information, there's all these things we don't know. Well, I just told you there's data coming out of your ears. We have so much information, we don't even know how to organize it. What good is more going to do? Maybe we'll be lucky and discover some magic thing, but I don't think so. This is a symptom of the fact that we just don't have a theory. We don't need more data, we need a good theory.
Het is echt zonde. Hoe is dit nu gekomen? Als je aan neurowetenschappers vraagt waarom dit nu de stand van zaken is, zullen ze dat eerst toegeven. Maar als je het vraagt zeggen ze wel: “Er zijn verscheidene redenen waarom we geen goede hersentheorie hebben.” Sommigen zeggen dat we nog steeds niet genoeg data hebben. We hebben meer informatie nodig, er zijn nog zoveel dingen die we niet weten. Ik vertelde net dat er zoveel data is dat het je oren uitkomt. We hebben zo veel informatie, maar weten niet hoe we ze moeten organiseren. Waarom zouden we er nog meer nodig hebben? Misschien hebben we geluk en ontdekken we plots iets magisch, maar dat geloof ik niet. Dit is eigenlijk een symptoom van het feit dat we geen theorie hebben. We hebben niet nog meer data nodig, we hebben een goede theorie nodig.
Another one is sometimes people say, "Brains are so complex, it'll take another 50 years." I even think Chris said something like this yesterday, something like, it's one of the most complicated things in the universe. That's not true -- you're more complicated than your brain. You've got a brain. And although the brain looks very complicated, things look complicated until you understand them. That's always been the case. So we can say, my neocortex, the part of the brain I'm interested in, has 30 billion cells. But, you know what? It's very, very regular. In fact, it looks like it's the same thing repeated over and over again. It's not as complex as it looks. That's not the issue.
Mensen zeggen ook soms dat de hersenen zo complex zijn dat het nog eens 50 jaar zal duren. Ik denk zelfs dat Chris gisteren zoiets zei. Ik weet niet zeker wat je zei Chris, maar iets als: "Het is een van de meest gecompliceerde dingen in het universum." Dat is niet waar. Jij bent gecompliceerder dan je brein. Je hebt een brein. En hoewel het brein er heel gecompliceerd uitziet, lijken dingen enkel gecompliceerd tot je ze begrijpt. Dat is al altijd zo geweest. Al wat we kunnen zeggen is dat onze neocortex, het stuk van de hersenen waarin ik geïnteresseerd ben, 30 miljard cellen heeft. Maar weet je wat? Ze zijn eigenlijk heel gelijkmatig. Eigenlijk lijkt het alsof hetzelfde patroon zich steeds opnieuw herhaalt. Het is niet zo complex als het eruit ziet. Dat is niet het probleem.
Some people say, brains can't understand brains. Very Zen-like. Woo.
Sommigen zeggen, hersenen kunnen geen andere hersenen begrijpen. Heel Zen-achtig.
(Laughter)
(Gelach)
You know, it sounds good, but why? I mean, what's the point? It's just a bunch of cells. You understand your liver. It's got a lot of cells in it too, right? So, you know, I don't think there's anything to that. And finally, some people say, "I don't feel like a bunch of cells -- I'm conscious. I've got this experience, I'm in the world. I can't be just a bunch of cells." Well, people used to believe there was a life force to be living, and we now know that's really not true at all. And there's really no evidence, other than that people just disbelieve that cells can do what they do. So some people have fallen into the pit of metaphysical dualism, some really smart people, too, but we can reject all that.
Het klinkt goed, maar waarom? Maar wat is het punt? Het is slechts een hoopje cellen. Je begrijpt je lever. Die heeft ook een heleboel cellen. Dus ik geloof dat dit niet klopt. En uiteindelijk zijn er sommigen die zeggen: ik voel me niet als een hoopje cellen, ik ben bewust. Ik heb deze ervaring, ik sta in de wereld, ik kan niet alleen maar een hoopje cellen zijn. Mensen geloofden ooit dat er een levenskracht nodig was om te kunnen leven. We weten ondertussen dat dat helemaal niet waar is. Er is eigenlijk geen enkel bewijs, buiten het feit dat mensen gewoon niet geloven dat cellen kunnen doen wat ze doen. Zo zijn sommige mensen in de val van het metafysisch dualisme getrapt, ook hele slimme mensen, maar dat kunnen we allemaal negeren.
(Laughter)
(Gelach)
No, there's something else, something really fundamental, and it is: another reason why we don't have a good brain theory is because we have an intuitive, strongly held but incorrect assumption that has prevented us from seeing the answer. There's something we believe that just, it's obvious, but it's wrong. Now, there's a history of this in science and before I tell you what it is, I'll tell you about the history of it in science. Look at other scientific revolutions -- the solar system, that's Copernicus, Darwin's evolution, and tectonic plates, that's Wegener. They all have a lot in common with brain science.
Ik ga jullie vertellen dat er iets anders is, iets heel fundamenteels, namelijk dit: er is een andere reden waarom we geen goede hersentheorie hebben. Dat is omdat we een sterk intuïtieve, maar verkeerde aanname hebben, die ons ervan weerhoudt het antwoord te zien. We geloven dat iets gewoon vanzelfsprekend is, maar het is verkeerd. Dit heeft een geschiedenis in de wetenschap en vooraleer ik je vertel wat het is, ga ik een beetje vertellen over de geschiedenis ervan in de wetenschap. Als je kijkt naar wetenschappelijke revoluties, in dit geval heb ik het over het zonnestelsel, Copernicus, de evolutieleer van Darwin en de tektonische platen van Wegener. Ze hebben allemaal veel gemeen met neurowetenschap.
First, they had a lot of unexplained data. A lot of it. But it got more manageable once they had a theory. The best minds were stumped -- really smart people. We're not smarter now than they were then; it just turns out it's really hard to think of things, but once you've thought of them, it's easy to understand. My daughters understood these three theories, in their basic framework, in kindergarten. It's not that hard -- here's the apple, here's the orange, the Earth goes around, that kind of stuff.
Eerst hadden ze ook een hoop onverklaarde data. Een heleboel. Het werd echter meer werkbaar toen ze een theorie hadden. De slimste koppen stonden voor een raadsel, heel slimme mensen. We zijn nu niet slimmer dan zij toen waren. Het blijkt gewoon dat het heel moeilijk is om bepaalde dingen te bedenken, maar eenmaal bedacht, is het redelijk gemakkelijk om ze te begrijpen. Mijn dochters begrepen de basisprincipes van deze drie theorieën toen ze nog op de kleuterschool zaten. Het is niet zo moeilijk, hier is de appel, hier is de sinaasappel, de aarde draait rond, dat soort zaken.
Another thing is the answer was there all along, but we kind of ignored it because of this obvious thing. It was an intuitive, strongly held belief that was wrong. In the case of the solar system, the idea that the Earth is spinning, the surface is going a thousand miles an hour, and it's going through the solar system at a million miles an hour -- this is lunacy; we all know the Earth isn't moving. Do you feel like you're moving a thousand miles an hour? If you said Earth was spinning around in space and was huge -- they would lock you up, that's what they did back then.
Het antwoord was er al de hele tijd, maar we negeerden het omwille van dat vanzelfsprekende idee en dat bedoel ik nu. Het was een intuïtief, vastgeroest geloof maar een verkeerd geloof. In het geval van het zonnestelsel bijvoorbeeld, het idee dat de aarde draait en het oppervlak van de aarde een snelheid haalt van 1600 km per uur, en dat de aarde zich met een snelheid van 1,6 miljoen km per uur door het zonnestelsel verplaatst. Dit is krankzinnig. We weten allemaal dat de aarde niet beweegt. Voelt het alsof je met 1600 km per uur beweegt? Natuurlijk niet. En iemand die beweerde dat we ronddraaien in deze enorme ruimte, hebben ze opgesloten.
So it was intuitive and obvious. Now, what about evolution?
(Gelach) De oude aanname leek zo intuïtief en vanzelfsprekend. Wat met de evolutieleer?
Evolution, same thing. We taught our kids the Bible says God created all these species, cats are cats; dogs are dogs; people are people; plants are plants; they don't change. Noah put them on the ark in that order, blah, blah. The fact is, if you believe in evolution, we all have a common ancestor. We all have a common ancestor with the plant in the lobby! This is what evolution tells us. And it's true. It's kind of unbelievable. And the same thing about tectonic plates. All the mountains and the continents are kind of floating around on top of the Earth. It doesn't make any sense.
Evolutie is hetzelfde. We leerden onze kinderen dat, volgens de Bijbel, God al deze levensvormen creëerde, katten zijn katten, honden zijn honden, mensen zijn mensen, planten zijn planten, ze veranderen niet. Noah zette hen op de Ark in die volgorde, bla bla bla. Maar als je in evolutie gelooft, hebben we allemaal dezelfde voorouder en hebben we allemaal dezelfde afkomst als die plant in de lobby. Dit vertelt de evolutie ons. Ook weer een beetje moeilijk om te geloven. Hetzelfde met tektonische platen. Dat al die bergen en continenten zo maar wat ronddrijven op de aarde lijkt geen steek te houden.
So what is the intuitive, but incorrect assumption, that's kept us from understanding brains? I'll tell you. It'll seem obvious that it's correct. That's the point. Then I'll make an argument why you're incorrect on the other assumption. The intuitive but obvious thing is: somehow, intelligence is defined by behavior; we're intelligent because of how we do things and how we behave intelligently. And I'm going to tell you that's wrong. Intelligence is defined by prediction.
Wat is dan de intuïtieve, maar verkeerde aanname, die ons ervan weerhoudt hersenen te begrijpen? Wat ik jullie ga vertellen, gaat vanzelfsprekend juist lijken. En daar gaat het toch om, niet? Ik moet een argument vinden waarom je verkeerd zit met die andere aanname. Het intuïtieve, vanzelfsprekende is dat intelligentie bepaald lijkt te worden door gedrag, dat we intelligent zijn door de manier waarop we dingen doen en de manier waarop we ons intelligent gedragen. Ik ga jullie vertellen dat dat verkeerd is. Intelligentie wordt eigenlijk bepaald door voorspelling. Ik zal het jullie verduidelijken door een aantal dia's
I'm going to work you through this in a few slides, and give you an example of what this means. Here's a system. Engineers and scientists like to look at systems like this. They say, we have a thing in a box. We have its inputs and outputs. The AI people said, the thing in the box is a programmable computer, because it's equivalent to a brain. We'll feed it some inputs and get it to do something, have some behavior. Alan Turing defined the Turing test, which essentially says, we'll know if something's intelligent if it behaves identical to a human -- a behavioral metric of what intelligence is that has stuck in our minds for a long time.
met voorbeelden. Hier heb je een systeem. Ingenieurs en wetenschappers kijken graag naar dergelijke systemen. Ze zeggen: “We hebben iets in een doos en er gaat wat in en er komt wat uit..” Volgens de mensen van kunstmatige intelligentie zat er in de doos een programmeerbare computer omdat dat gelijk is aan een brein. We geven het wat input en het zal iets doen, het zal gedrag vertonen. Alan Turing stelde de Turingtest op, die in principe zegt: “We weten of iets intelligent is als het zich identiek gedraagt als een mens.” Een gedragsmatige maatstaf van wat intelligentie is. Dit idee is lang meegegaan.
Reality, though -- I call it real intelligence. Real intelligence is built on something else. We experience the world through a sequence of patterns, and we store them, and we recall them. When we recall them, we match them up against reality, and we're making predictions all the time. It's an internal metric; there's an internal metric about us, saying, do we understand the world, am I making predictions, and so on. You're all being intelligent now, but you're not doing anything. Maybe you're scratching yourself, but you're not doing anything. But you're being intelligent; you're understanding what I'm saying. Because you're intelligent and you speak English, you know the word at the end of this sentence.
Maar in werkelijkheid vind ik dat échte intelligentie gebaseerd is op iets anders. We ervaren de wereld door een opeenvolging van patronen. We slaan ze op en roepen ze opnieuw op. En wanneer we ze oproepen, toetsen we ze aan de werkelijkheid. We maken voortdurend voorspellingen. Het is een voortdurende controle die blijft nagaan of we de wereld begrijpen? Maak ik voorspellingen? Enzoverder. Jullie zijn nu allemaal intelligent bezig, maar jullie doen niets. Misschien krab je jezelf of zit je in je neus, ik weet het niet, maar je doet niets op dit moment, Maar je bent intelligent bezig want je begrijpt wat ik zeg. Omdat je intelligent bent en je Engels spreekt, weet je welk woord er komt op het einde van deze... (stilte) ... zin.
The word came to you; you make these predictions all the time. What I'm saying is, the internal prediction is the output in the neocortex, and somehow, prediction leads to intelligent behavior. Here's how that happens: Let's start with a non-intelligent brain. I'll argue a non-intelligent brain, we'll call it an old brain. And we'll say it's a non-mammal, like a reptile, say, an alligator; we have an alligator. And the alligator has some very sophisticated senses. It's got good eyes and ears and touch senses and so on, a mouth and a nose. It has very complex behavior. It can run and hide. It has fears and emotions. It can eat you. It can attack. It can do all kinds of stuff. But we don't consider the alligator very intelligent, not in a human sort of way.
Dat woord bedacht je zelf, je maakt voortdurend dergelijke voorspellingen. Wat ik bedoel is dat de eeuwige voorspelling de output is van de neocortex. en dat, op een of andere manier, voorspelling leidt tot intelligent gedrag. Hoe gebeurt dit nu? Laten we van start gaan met een niet-intelligent brein. Ik zeg nadrukkelijk: een niet-intelligent brein, een oud brein. Laten we zeggen dat het geen zoogdier is, maar een reptiel, bijvoorbeeld een alligator. Deze alligator heeft zeer goed ontwikkelde zintuigen. Hij heeft goede ogen, oren, tastzintuigen, een mond en een neus. Hij vertoont complex gedrag. Hij kan lopen en zich verbergen. Hij heeft angsten en emoties. Hij kan je opeten, hij kan aanvallen. Hij kan allerlei dingen doen. Maar we beschouwen de alligator niet echt als intelligent, niet op de manier waarop mensen dat zijn.
But it has all this complex behavior already. Now in evolution, what happened? First thing that happened in evolution with mammals is we started to develop a thing called the neocortex. I'm going to represent the neocortex by this box on top of the old brain. Neocortex means "new layer." It's a new layer on top of your brain. It's the wrinkly thing on the top of your head that got wrinkly because it got shoved in there and doesn't fit.
Toch vertoont hij complex gedrag. Wat gebeurde er in de evolutie? Het eerste wat zoogdieren in de evolutie ontwikkelden was de neocortex. Ik zal de neocortex hier afbeelden aan de hand van deze doos die bovenop het oude brein plakt. Neocortex betekent letterlijk 'nieuwe laag'. Een nieuwe laag bovenop je brein. Mocht je het niet kennen: het is dat gekreukeld ding boven in je hoofd. Het raakte gekreukeld omdat het erin werd geduwd. Het past er niet goed in.
(Laughter)
(Gelach)
Literally, it's about the size of a table napkin and doesn't fit, so it's wrinkly. Now, look at how I've drawn this. The old brain is still there. You still have that alligator brain. You do. It's your emotional brain. It's all those gut reactions you have. On top of it, we have this memory system called the neocortex. And the memory system is sitting over the sensory part of the brain. So as the sensory input comes in and feeds from the old brain, it also goes up into the neocortex. And the neocortex is just memorizing. It's sitting there saying, I'm going to memorize all the things going on: where I've been, people I've seen, things I've heard, and so on. And in the future, when it sees something similar to that again, in a similar environment, or the exact same environment, it'll start playing it back: "Oh, I've been here before," and when you were here before, this happened next. It allows you to predict the future. It literally feeds back the signals into your brain; they'll let you see what's going to happen next, will let you hear the word "sentence" before I said it. And it's this feeding back into the old brain that will allow you to make more intelligent decisions.
Nee, echt waar. Het heeft ongeveer de grootte van een servet. Het paste niet, dus het raakte helemaal verkreukeld. Kijk hoe ik dit getekend heb. Het oude brein is er nog. Je hebt nog steeds dat alligatorbrein. Dat is je emotionele brein. Het zijn al die dingen en alle instinctieve reacties die je hebt. Daarboven hebben we het geheugensysteem dat de neocortex heet. Het geheugensysteem zit over het zintuiglijke deel van het brein. Als de zintuiglijke input binnenkomt via het oude brein gaat hij ook omhoog naar de neocortex. De neocortex registreert gewoon en onthoudt alle gebeurtenissen. Waar ik geweest ben, de mensen die ik gezien heb, dingen die ik hoorde, enz. In de toekomst, wanneer hij nog eens iets gelijkaardigs ziet in een gelijkaardige of in dezelfde omgeving, zal hij het opnieuw afspelen. O, ik ben hier al eens geweest. Toen ik hier was, gebeurde dit. Het laat je toe de toekomst te voorspellen. Hij stuurt letterlijk signalen, die je laten zien wat er straks gaat gebeuren, terug naar je brein. Je hoort het woord 'zin' nog voor ik het uitspreek. Het is dit terugkoppelen naar het oude brein dat je toelaat meer intelligente beslissingen te nemen.
This is the most important slide of my talk, so I'll dwell on it a little. And all the time you say, "Oh, I can predict things," so if you're a rat and you go through a maze, and you learn the maze, next time you're in one, you have the same behavior. But suddenly, you're smarter; you say, "I recognize this maze, I know which way to go; I've been here before; I can envision the future." That's what it's doing. This is true for all mammals -- in humans, it got a lot worse. Humans actually developed the front of the neocortex, called the anterior part of the neocortex. And nature did a little trick. It copied the posterior, the back part, which is sensory, and put it in the front. Humans uniquely have the same mechanism on the front, but we use it for motor control.
Dit is de belangrijkste dia van mijn lezing, ik blijf er even bij stilstaan. Telkens opnieuw merk je dat je dingen kan voorspellen. Als je een rat bent en je gaat door een doolhof, dan leer je de doolhof. De volgende keer wanneer je in de doolhof bent, gedraag je je hetzelfde maar plots ben je nu slimmer omdat je merkt dat je deze doolhof herkent en weet welke kant je uit moet. Je bent hier al geweest, je ziet de toekomst voor je. Dat is wat het doet. Bij mensen, trouwens dit geldt voor alle zoogdieren, maar bij mensen ging het nog veel verder. Bij mensen ontwikkelden we zelfs het voorste stuk van de neocortex het anterieure deel van de neocortex. De natuur gebruikte hier een trucje: zij kopieerde het posterieure deel, het achterste deel, het zintuiglijke, en stopte het in het voorste deel. Enkel bij mensen hebben we hetzelfde mechanisme vooraan. We gebruiken het voor motorische controle.
So we're now able to do very sophisticated motor planning, things like that. I don't have time to explain, but to understand how a brain works, you have to understand how the first part of the mammalian neocortex works, how it is we store patterns and make predictions. Let me give you a few examples of predictions. I already said the word "sentence." In music, if you've heard a song before, when you hear it, the next note pops into your head already -- you anticipate it. With an album, at the end of a song, the next song pops into your head. It happens all the time, you make predictions.
Dus we kunnen nu een heel verfijnde motorische planning maken, dat soort dingen. Ik heb geen tijd om hier dieper op in te gaan, maar als je wilt weten hoe de hersenen werken, moet je begrijpen hoe het eerste deel van de neocortex van zoogdieren werkt, hoe we patronen opslaan en voorspellingen maken. Laat me jullie een paar voorbeelden geven van voorspellingen. Ik zei bijvoorbeeld al het woord 'zin'. Op muzikaal vlak: als je een lied al eens hebt gehoord, als je Jill die liedjes al hebt horen zingen, schieten de volgende noten je al te binnen wanneer ze zingt. Je anticipeert op wat volgt. Als je een volledig album beluistert, zal bij het einde van een lied, het volgende lied je al te binnen schieten. Deze dingen gebeuren constant. Je maakt voorspellingen.
I have this thing called the "altered door" thought experiment. It says, you have a door at home; when you're here, I'm changing it -- I've got a guy back at your house right now, moving the door around, moving your doorknob over two inches. When you go home tonight, you'll put your hand out, reach for the doorknob, notice it's in the wrong spot and go, "Whoa, something happened." It may take a second, but something happened. I can change your doorknob in other ways -- make it larger, smaller, change its brass to silver, make it a lever, I can change the door; put colors on, put windows in. I can change a thousand things about your door and in the two seconds you take to open it, you'll notice something has changed.
Ik heb een experiment het 'gewijzigde-deur-gedachte-experiment' genoemd. In dit experiment gaan we ervan uit dat je thuis een deur hebt. Terwijl je hier bent, verander ik de deur. Ik heb een mannetje dat nu bij jou thuis die deur aan het bewerken is. Hij gaat je deurknop vijf centimeter verplaatsen. Als je vanavond naar huis gaat, ga je je hand uitsteken, naar de deurknop reiken en merken dat die op de verkeerde plaats zit. Je merkt dat er iets is veranderd. Het duurt misschien even voor je het beseft, maar er is iets veranderd. Ik kan je deurknop op verschillende manieren veranderen. Ik kan hem groter of kleiner maken, het koper in zilver veranderen, hem in een hendel veranderen. Ik kan je deur veranderen, ze schilderen. Ik kan er ramen in plaatsen. Ik kan duizend dingen aan je deur veranderen en in de twee seconden die je nodig hebt om je deur te openen, zal je merken dat er iets veranderd is.
Now, the engineering approach, the AI approach to this, is to build a door database with all the door attributes. And as you go up to the door, we check them off one at time: door, door, color ... We don't do that. Your brain doesn't do that. Your brain is making constant predictions all the time about what will happen in your environment. As I put my hand on this table, I expect to feel it stop. When I walk, every step, if I missed it by an eighth of an inch, I'll know something has changed. You're constantly making predictions about your environment. I'll talk about vision, briefly. This is a picture of a woman. When we look at people, our eyes saccade over two to three times a second. We're not aware of it, but our eyes are always moving. When we look at a face, we typically go from eye to eye to nose to mouth. When your eye moves from eye to eye, if there was something else there like a nose, you'd see a nose where an eye is supposed to be and go, "Oh, shit!"
Een ingenieur of kunstmatige intelligentie zou hiervoor een database bouwen die alle deurattributen bevat. Wanneer je de deur benadert, ga je ze allemaal aflopen. Deur, deur, deur, je weet wel, kleur, je weet wat ik bedoel. Wij doen dit niet. Je brein doet dat niet. Je brein maakt constante voorspellingen over wat er gaat gebeuren in je omgeving. Als ik mijn hand op deze tafel leg, verwacht ik te voelen waar ze eindigt. Als ik rondloop en de tafel op een haar na zou missen, zal ik weten dat er iets veranderd is. Je maakt voortdurend voorspellingen over je omgeving. Ik zal het kort hebben over zien. Dit is een plaatje van een vrouw. Wanneer je mensen aankijkt, bewegen je ogen ongeveer 2 à 3 keer per seconde over en weer. Je doet dit onbewust, je ogen zijn constant in beweging. Wanneer je naar iemand zijn gezicht kijkt, ga je normaal van oog naar oog naar oog naar neus naar mond. Wanneer je beweegt van oog naar oog, en er zou daar iets anders staan, bijvoorbeeld een neus, zou je een neus zien op de plaats van het oog.
(Laughter)
Je zou denken: "Oh shit."
"There's something wrong about this person." That's because you're making a prediction. It's not like you just look over and say, "What am I seeing? A nose? OK." No, you have an expectation of what you're going to see.
(Gelach) “Er is iets mis met deze persoon.” Dat is omdat je een voorspelling maakt. Het is niet alsof je er gewoon naar kijkt en zegt: “Wat zie ik nu? Een neus, oké.” Nee, je hebt een verwachting van wat je gaat zien.
(Gelach)
Every single moment. And finally, let's think about how we test intelligence. We test it by prediction: What is the next word in this ...? This is to this as this is to this. What is the next number in this sentence? Here's three visions of an object. What's the fourth one? That's how we test it. It's all about prediction.
Ten laatste, laten we eens denken over hoe we intelligentie testen. We testen het volgens voorspelling. Wat is het volgende woord in deze … Dit verhoudt zich tot dit zoals dit zich verhoudt tot dat. Wat is het volgende nummer in deze rij? Hier zijn drie beelden van een object. Welke is het vierde? Zo testen we dat. Het draait allemaal rond voorspellingen. Dus wat is het recept voor een hersentheorie?
So what is the recipe for brain theory? First of all, we have to have the right framework. And the framework is a memory framework, not a computational or behavior framework, it's a memory framework. How do you store and recall these sequences of patterns? It's spatiotemporal patterns.
Ten eerste: we moeten het juiste kader hebben. Dat kader is een geheugenkader, geen berekenings- of een gedragskader. Een geheugenkader. Hoe sla je al deze reeksen en patronen op? Het zijn tijdelijke ruimtelijke patronen. Vertrekkend vanuit dat kader, zoek je een paar theoretici.
Then, if in that framework, you take a bunch of theoreticians -- biologists generally are not good theoreticians. Not always, but generally, there's not a good history of theory in biology. I've found the best people to work with are physicists, engineers and mathematicians, who tend to think algorithmically. Then they have to learn the anatomy and the physiology. You have to make these theories very realistic in anatomical terms. Anyone who tells you their theory about how the brain works and doesn't tell you exactly how it's working and how the wiring works -- it's not a theory.
Over het algemeen zijn biologen geen goede theoretici. Het is niet altijd zo, maar over het algemeen is er geen goede geschiedenis van theorie in biologie. Voor mij zijn de beste mensen om mee te werken de natuurkundigen, ingenieurs en wiskundigen, die meestal algoritmisch denken. Dan moeten zij de anatomie leren en ook de fysiologie. Je moet deze theorieën realistisch maken in anatomische termen. Iemand die je zijn theorie vertelt over hoe het brein werkt en je niet exact vertelt hoe het werkt in het brein en hoe de connecties werken in de hersenen, heeft geen theorie. Dat doen we aan het Redwood Instituut voor Neurowetenschap.
And that's what we do at the Redwood Neuroscience Institute. I'd love to tell you we're making fantastic progress in this thing, and I expect to be back on this stage sometime in the not too distant future, to tell you about it. I'm really excited; this is not going to take 50 years.
Ik had graag meer tijd gehad, we boeken fantastische vooruitgang en ik verwacht mezelf in de nabije toekomst terug op dit podium om jullie erover te vertellen. Ik zie het volledig zitten. Dit gaat geen 50 jaar duren.
What will brain theory look like? First of all, it's going to be about memory. Not like computer memory -- not at all like computer memory. It's very different. It's a memory of very high-dimensional patterns, like the things that come from your eyes. It's also memory of sequences: you cannot learn or recall anything outside of a sequence. A song must be heard in sequence over time, and you must play it back in sequence over time. And these sequences are auto-associatively recalled, so if I see something, I hear something, it reminds me of it, and it plays back automatically. It's an automatic playback. And prediction of future inputs is the desired output. And as I said, the theory must be biologically accurate, it must be testable and you must be able to build it. If you don't build it, you don't understand it.
Hoe gaat de hersentheorie eruit zien? Eerst en vooral zal het een geheugentheorie zijn. Niet zoals computergeheugen. Helemaal niet zoals computergeheugen. Het is helemaal anders. Het is een geheugen van hoog-dimensionale patronen, vergelijkbaar met hetgeen je ogen produceren. Het is ook een geheugen van sequenties. Je kunt niets leren of onthouden buiten een sequentie. Een liedje moet gehoord worden in een volgorde van tijd, en je moet het terug afspelen in volgorde van tijd. En deze volgorde wordt auto-associatief opgeroepen, ik zie en hoor iets dat mij eraan doet denken en ze wordt automatisch terug afgespeeld. Het is een automatische playback. En voorspelling van toekomstige inputs is de gewenste output. Zoals ik zei moet de theorie biologisch accuraat zijn, ze moet toetsbaar zijn en je moet ze kunnen opbouwen. Als je ze niet opbouwt, begrijp je haar niet. Nog een dia.
One more slide. What is this going to result in? Are we going to really build intelligent machines? Absolutely. And it's going to be different than people think. No doubt that it's going to happen, in my mind. First of all, we're going to build this stuff out of silicon. The same techniques we use to build silicon computer memories, we can use here. But they're very different types of memories. And we'll attach these memories to sensors, and the sensors will experience real-live, real-world data, and learn about their environment.
Wat zal het resultaat zijn? Gaan we intelligente machines maken? Absoluut. En het zal anders zijn dan de mensen zich voorstellen. Voor mij is er geen twijfel mogelijk dat het zal gebeuren. Eerst en vooral bouwen we ze op en zullen we dingen maken van silicium. We kunnen hier dezelfde technieken gebruiken zoals bij het bouwen van computergeheugens van silicium. Maar het zijn zeer verschillende geheugentypes. We zullen deze geheugens aan sensoren koppelen, al de sensoren zullen real-live data ontvangen, en deze dingen zullen leren over hun omgeving.
Now, it's very unlikely the first things you'll see are like robots. Not that robots aren't useful; people can build robots. But the robotics part is the hardest part. That's old brain. That's really hard. The new brain is easier than the old brain. So first we'll do things that don't require a lot of robotics. So you're not going to see C-3PO. You're going to see things more like intelligent cars that really understand what traffic is, what driving is and have learned that cars with the blinkers on for half a minute probably aren't going to turn.
Het is zeer onwaarschijnlijk dat robots de eerste dingen zullen zijn die je zult zien. Robots zijn nuttig en mensen kunnen ze maken. Maar het robotgedeelte is het moeilijkste stuk. Dat is het oude brein. Behoorlijk moeilijk. Het nieuwe brein is eigenlijk gemakkelijker dan het oude brein. De eerste dingen die we gaan doen, zijn dingen die niet veel robotica nodig hebben. Je gaat geen C-3PO zien. Je gaat eerder dingen als intelligente auto's zien die echt begrijpen wat verkeer is en hoe je moet rijden. Die geleerd hebben dat auto’s die langer dan een halve minuut met knipperlichten aan rijden, waarschijnlijk niet gaan afslaan, dat soort dingen.
(Laughter)
(Gelach)
We can also do intelligent security systems. Anytime we're basically using our brain but not doing a lot of mechanics -- those are the things that will happen first. But ultimately, the world's the limit. I don't know how this will turn out. I know a lot of people who invented the microprocessor. And if you talk to them, they knew what they were doing was really significant, but they didn't really know what was going to happen. They couldn't anticipate cell phones and the Internet and all this kind of stuff. They just knew like, "We're going to build calculators and traffic-light controllers. But it's going to be big!" In the same way, brain science and these memories are going to be a very fundamental technology, and it will lead to unbelievable changes in the next 100 years. And I'm most excited about how we're going to use them in science. So I think that's all my time -- I'm over, and I'm going to end my talk right there.
We kunnen ook intelligente beveiligingssystemen maken. Overal waar we onze hersenen gebruiken, maar eigenlijk niet veel mechanisch doen. Dat gaat eerst gebeuren. Maar uiteindelijk zit er geen limiet op. Ik weet niet hoe dit zal verlopen. Ik ken een aantal mensen die de microprocessor uitvonden. Ze wisten dat ze aan iets heel belangrijk werkten, maar ze wisten ook niet wat er ging gebeuren. Ze konden niet anticiperen op mobiele telefoons en het internet. Ze wisten gewoon dat ze rekenmachines gingen maken en verkeerslichtsystemen. Maar het zal groots worden. Op dezelfde manier is dit zoals neurowetenschap en deze geheugens gaan zeer fundamentele technologie worden. Het zal leiden tot ongelofelijke veranderingen in de volgende 100 jaar. Ik ben zeer benieuwd hoe we ze gaan gebruiken in wetenschap. Ik geloof dat mijn tijd er op zit, ik zit er eigenlijk al over. Daarmee eindigt dan mijn lezing.