I do two things: I design mobile computers and I study brains. Today's talk is about brains and -- (Audience member cheers) Yay! I have a brain fan out there.
Két dolgot csinálok. Mobil számítógépeket tervezek és az agyat tanulmányozom. A mai előadás pedig az agyról szól, és ... hurrá, valahol van egy agy-rajongó.
(Laughter) If I could have my first slide, you'll see the title of my talk and my two affiliations. So what I'm going to talk about is why we don't have a good brain theory, why it is important that we should develop one and what we can do about it. I'll try to do all that in 20 minutes. I have two affiliations. Most of you know me from my Palm and Handspring days, but I also run a nonprofit scientific research institute called the Redwood Neuroscience Institute in Menlo Park. We study theoretical neuroscience and how the neocortex works. I'm going to talk all about that.
(Nevetés) Ha kérhetném az első slide-omat megjeleníteni, látható lesz az előadásom címe és a két vállalatom. Amiről tehát beszélni fogok az, hogy miért is nincs egy jó agyelméletünk, miért lenne fontos ennek a kidolgozása, és mit tudunk tenni ennek érdekében. És mindezt megpróbálom 20 perc alatt megtenni. Két vállalatom van. A többség bizonyára a Palm és Handspring-es napjaimból ismer, de vezetek egy nonprofit tudományos kutatóintézetet is a Menlo Parkban, Redwood Neuroscience Institute névvel, ahol elméleti idegtudománnyal foglalkozunk és a neokortex működését tanulmányozzuk.
I have one slide on my other life, the computer life, and that's this slide here. These are some of the products I've worked on over the last 20 years, starting from the very original laptop to some of the first tablet computers and so on, ending up most recently with the Treo, and we're continuing to do this. I've done this because I believe mobile computing is the future of personal computing, and I'm trying to make the world a little bit better by working on these things. But this was, I admit, all an accident. I really didn't want to do any of these products. Very early in my career I decided I was not going to be in the computer industry.
És erről fogok beszélni. Van egy slide-om a másik életemről, a számítógépes életről, ez látható most. Ez itt néhány termék, amelyen az utóbbi 20 évben dolgoztam, kezdve a laptoptól az első tablet pc-kig és így tovább, egészen a legújabb Treo-ig, és ezt a továbbiakban is folytatjuk. Tettem ezeket azért, mert hiszem, hogy a mobil számítástechnika a személyi számítástechnika jövője, és ezeken dolgozva megpróbálom a világot egy kicsivel jobbá tenni. De ez, be kell, hogy valljam, a véletlen műve volt. Én valójában nem akartam egyik ilyen terméket sem kifejleszetni, és már a pályafutásom kezdetén elhatároztam, hogy nem szállok be a számítógépiparba.
Before that, I just have to tell you about this picture of Graffiti I picked off the web the other day. I was looking for a picture for Graffiti that'll text input language. I found a website dedicated to teachers who want to make script-writing things across the top of their blackboard, and they had added Graffiti to it, and I'm sorry about that.
Mielőtt ezt elmesélném, elmondom a kis Graffitis kép történetét, amit a minap szedtem le a webről. A Graffitiről kerestem képet, a kézírásfelismerő programról, és találtam egy tanároknak ajánlott weboldalt, akik ilyen kezírásos betűket akarnak a tábla tetejére tenni, és Graffitist is tettek hozzá, szóval bocsánatot kérek.
(Laughter)
(Nevetés)
So what happened was, when I was young and got out of engineering school at Cornell in '79, I went to work for Intel and was in the computer industry, and three months into that, I fell in love with something else. I said, "I made the wrong career choice here," and I fell in love with brains. This is not a real brain. This is a picture of one, a line drawing. And I don't remember exactly how it happened, but I have one recollection, which was pretty strong in my mind. In September of 1979, Scientific American came out with a single-topic issue about the brain. It was one of their best issues ever. They talked about the neuron, development, disease, vision and all the things you might want to know about brains. It was really quite impressive.
Tehát az történt, hogy amikor fiatal voltam és kijöttem a mérnökiről, a Cornellről '79-ben, eldöntöttem, hogy elmegyek az Intelhez dolgozni. A számítógépiparban voltam, és három hónap alatt beleszerettem valami másba, és azt mondtam "rossz pályát választottam", és beleszerettem az agyba. Ez nem egy igazi agy. Csak egynek a képe, egy vonalrajz. Nem emlékszem, pontosan hogy is történt, de van egy emlékem, ami elég erősen megmaradt a fejemben. 1979 szeptemberében a Scientific American kijött egy tematikus számmal az agyról. És egész jó volt. A valaha megjelent egyik legjobb szám volt. És beszéltek a neuronról, a fejlődésről, a betegségekről, a látásról és mindenről, amit tudni szeretnénk az agyról. Teljesen lenyűgöző volt. És azt a benyomást kelthették, hogy tényleg sokat tudunk az agyról.
One might've had the impression we knew a lot about brains. But the last article in that issue was written by Francis Crick of DNA fame. Today is, I think, the 50th anniversary of the discovery of DNA. And he wrote a story basically saying, this is all well and good, but you know, we don't know diddly squat about brains, and no one has a clue how they work, so don't believe what anyone tells you. This is a quote from that article, he says: "What is conspicuously lacking" -- he's a very proper British gentleman -- "What is conspicuously lacking is a broad framework of ideas in which to interpret these different approaches." I thought the word "framework" was great. He didn't say we didn't have a theory. He says we don't even know how to begin to think about it. We don't even have a framework. We are in the pre-paradigm days, if you want to use Thomas Kuhn. So I fell in love with this. I said, look: We have all this knowledge about brains -- how hard can it be? It's something we can work on in my lifetime; I could make a difference. So I tried to get out of the computer business, into the brain business.
De a szám utolsó cikkét a DNS-ről elhíresült Francis Crick írta. Ma, azt hiszem, a DNS felfedezésének 50-edik születésnapját ünnepeljük. És ő írt egy történetet, amelyben alapjában véve azt mondja, hogy ez mind nagyon szép és jó, de mondok valamit, az égvilágon semmit sem tudunk az agyról és halvány gőze sincs senkinek arról, hogyan működenek ezek a dolgok, tehát ne higgyétek el, amit mások mondanak nektek. Egy idézet a cikkből. Azt mondta "Ami szembetűnően hiányzik," ő egy valódi angol úriember, tehát "Ami szembetűnően hiányzik, az egy átfogó keretrendszer, amelyben értelmeznénk ezeket az eltérő megközelítéseket." Azt gondoltam, hogy a keretrendszer szó nagyszerű. Nem mondja, hogy még csak elméletünk sincs. Azt mondja, hogy még csak azt sem tudjuk, hogyan kezdjünk el gondolkozni róla, még csak egy keretrendszerünk sincs. Thomas Kuhn szavait használva, a pre-paradigma napjaiban élünk. És így beleszerettem ebbe, és azt mondtam, nézd, ismerjük ezeket a dolgokat az agyról. Mennyire lehet ez nehéz? Ezen egy életen át lehet dolgozni. Úgy éreztem, hogy itt tudnék valamit tenni, ezért megpróbáltam átlépni a számítógépes üzletből az agy-üzletbe.
First, I went to MIT, the AI lab was there. I said, I want to build intelligent machines too, but I want to study how brains work first. And they said, "Oh, you don't need to do that. You're just going to program computers, that's all. I said, you really ought to study brains. They said, "No, you're wrong." I said, "No, you're wrong," and I didn't get in.
Először elmentem az MIT-hoz, az MI laboratóriumba, és azt mondtam, hogy nos, én is intelligens gépeket akarok építeni, de oly módon, hogy először az agy működését tanulmányozom. És ők azt mondták, hogy ó, nincs arra szükség. Mi csak számítógépeket programozunk, ennyi nekünk elég. Azt mondtam, tényleg tanulmányoznotok kellene az agyat. Ők azt mondták, tévedsz. Erre én azt mondtam, ti tévedtek, és nem kerültem be. (Nevetés)
(Laughter)
I was a little disappointed -- pretty young -- but I went back again a few years later, this time in California, and I went to Berkeley. And I said, I'll go in from the biological side. So I got in the PhD program in biophysics. I was like, I'm studying brains now. Well, I want to study theory. They said, "You can't study theory about brains. You can't get funded for that. And as a graduate student, you can't do that." So I said, oh my gosh. I was depressed; I said, but I can make a difference in this field. I went back in the computer industry and said, I'll have to work here for a while. That's when I designed all those computer products.
Egy kicsit csalódott voltam, és eléggé fiatal, de néhány évvel később visszamentem, ezúttal Kaliforniába, és elmentem a Berkeley-re. És azt gondoltam, a biológiai oldalról fogom megközelíteni. Tehát bejutottam a doktorátusra biofizikából, és azt gondoltam, rendben, mostmár az agyat tanulmányozom. Az elméletet akartam tanulmányozni. Erre ők azt mondták, hogy ó, nem, nem tanulmányozhatod az agy elméletét. Ezt nem fogod csinálni. Erre nem kapsz finanszírozást. És végzős hallgatóként ezt nem teheted. Erre azt gondoltam, ó, istenem. Nagyon szomorú lettem. Azt mondtam, én akkor is el tudok érni valamit. Így azt tettem, hogy visszatértem a számítógépiparhoz, és azt mondtam magamnak, nos, itt kell dolgozz egy ideig, csinálj valamit. Ekkor terveztem azokat a számítógépes termékeket.
(Laughter)
(Nevetés)
I said, I want to do this for four years, make some money, I was having a family, and I would mature a bit, and maybe the business of neuroscience would mature a bit. Well, it took longer than four years. It's been about 16 years. But I'm doing it now, and I'm going to tell you about it. So why should we have a good brain theory? Well, there's lots of reasons people do science. The most basic one is, people like to know things. We're curious, and we go out and get knowledge. Why do we study ants? It's interesting. Maybe we'll learn something useful, but it's interesting and fascinating. But sometimes a science has other attributes which makes it really interesting.
És azt mondtam, hogy négy évig csinálom ezt, szerzek egy kis pénzt, mivel családom is volt, és kicsit érettebbé válok, és hátha az idegtudomány is érettebbé válik egy kicsit. Hát, tovább tartott négy évnél. Körülbelül 16 évet. De most ezt csinálom, és erről fogok beszélni. Miért lenne szükségünk egy jó agyelméletre? Hát, elég sok oka van annak, hogy az emberek tudománnyal foglalkoznak. Az egyik, a legalapvetőbb az, hogy az emberek szeretnek megtudni dolgokat. Kíváncsiak vagyunk, elmegyünk és megszerezzük a tudást. Miért tanulmányozzuk a hangyákat? Hát, mert érdekes. Lehet, hogy megtudunk valami ténylegesen hasznosat is, de érdekes és lenyűgöző. De néha más sajátosságai teszik a tudományt igazán érdekfeszítővé.
Sometimes a science will tell something about ourselves; it'll tell us who we are. Evolution did this and Copernicus did this, where we have a new understanding of who we are. And after all, we are our brains. My brain is talking to your brain. Our bodies are hanging along for the ride, but my brain is talking to your brain. And if we want to understand who we are and how we feel and perceive, we need to understand brains. Another thing is sometimes science leads to big societal benefits, technologies, or businesses or whatever. This is one, too, because when we understand how brains work, we'll be able to build intelligent machines. That's a good thing on the whole, with tremendous benefits to society, just like a fundamental technology.
Egy tudomány olykor saját magunkról mond el valamit, megmondja, kik vagyunk. Az evolúció megmagyarázta, Kopernikusz megmagyarázta, és egy új magyarázatot kaptunk arra, hogy kik is vagyunk. És elvégre mi a saját agyunk vagyunk. Az én agyam a te agyadhoz beszél. A testünk is ott van, de az agyam beszél a te a agyadhoz. És ha meg akarjuk érteni, kik vagyunk és hogyan érzünk és érzékelünk, valójában az agyunkat akarjuk megérteni. Másrészt a tudomány néha nagy társadalmi haszonhoz, technológiához vagy üzletekhez vezet, vagy akármihez. És ez is az, mivel ha megértjük, hogyan műküdik az agy, képesek leszünk intelligens gépeket építeni, és úgy gondolom, hogy ez egészében véve jó dolog, és óriási hasznára válik a társadalomnak, mint egy alapvető technológia.
So why don't we have a good theory of brains? People have been working on it for 100 years. Let's first take a look at what normal science looks like. This is normal science. Normal science is a nice balance between theory and experimentalists. The theorist guy says, "I think this is what's going on," the experimentalist says, "You're wrong." It goes back and forth, this works in physics, this in geology. But if this is normal science, what does neuroscience look like? This is what neuroscience looks like. We have this mountain of data, which is anatomy, physiology and behavior. You can't imagine how much detail we know about brains. There were 28,000 people who went to the neuroscience conference this year, and every one of them is doing research in brains. A lot of data, but no theory. There's a little wimpy box on top there.
Tehát miért is nincs egy jó elméletünk az agyról? Pedig 100 éve dolgoznak rajta az emberek. Először is nézzük meg, hogyan is néz ki egy normális tudomány. Ez egy normális tudomány. Egy normális tudomány egy szép egyensúly az elmélet és a kísérlet között. Az elméleti fickók azt mondják, nos, azt hiszem ez megy végbe, a kísérletezők pedig azt mondják, nem, tévedsz. És ez így megy oda-vissza. Ez működik a fizikában. Működik a geológiában. De ha ez a normális tudomány, hogyan néz ki az idegtudomány? Így néz ki az idegtudomány. Van ez a hegyoldalnyi adat, ami valójában anatómia, pszichológia és viselkedés. El sem tudják képzelni, mennyi részletet tudunk az agyról. Összesen 28000 ember vett részt az idei idegtudományi konferencián, és mindegyikük az agyat kutatja. Rengeteg adat. De nincs elmélet. Ott van egy kicsi tehetetlen doboz az egésznek a tetején. Az elmélet soha nem kapott nagy szerepet a idegtudományban.
And theory has not played a role in any sort of grand way in the neurosciences. And it's a real shame. Now, why has this come about? If you ask neuroscientists why is this the state of affairs, first, they'll admit it. But if you ask them, they say, there's various reasons we don't have a good brain theory. Some say we still don't have enough data, we need more information, there's all these things we don't know. Well, I just told you there's data coming out of your ears. We have so much information, we don't even know how to organize it. What good is more going to do? Maybe we'll be lucky and discover some magic thing, but I don't think so. This is a symptom of the fact that we just don't have a theory. We don't need more data, we need a good theory.
És ez egy igazi szégyen. Miért történt mindez? Ha megkérdezzük a idegtudósokat, hogy miért ez a helyzet? Először is bevallják, hogy így van. De ha megkérdezzük őket, azt fogják mondani, nos, többféle oka is van annak, hogy nincs egy jó agyelméletünk. Egyesek azt mondják, hogy még mindig nincs elég adatunk, több információra van szükség, itt van ez a csomó dolog, amit nem tudunk. Nemrég mondtam, olyan sok adatunk van, hogy már a fülünkön is az folyik ki. Nagyon sok információnk van, de nem tudjuk, hogyan rendezzük azokat. Mire lenne jó ennél is több? Talán szerencsénk lesz és felfedezünk valamilyen mágikus dolgot, ezt nem igazán hiszem. Ez tulajdonképpen annak a tünete, hogy nincs elméletünk. Nincs szükségünk több adatra, egy jó elméletre van szükségünk azokra vonatkozóan.
Another one is sometimes people say, "Brains are so complex, it'll take another 50 years." I even think Chris said something like this yesterday, something like, it's one of the most complicated things in the universe. That's not true -- you're more complicated than your brain. You've got a brain. And although the brain looks very complicated, things look complicated until you understand them. That's always been the case. So we can say, my neocortex, the part of the brain I'm interested in, has 30 billion cells. But, you know what? It's very, very regular. In fact, it looks like it's the same thing repeated over and over again. It's not as complex as it looks. That's not the issue.
Néha az emberek azt mondják, hogy az agy annyira bonyolult, még 50 évbe beletelik. Azt hiszem, éppen Chris mondott valami hasonlót tegnap. Nem vagyok benne biztos, hogy mit mondtál, Chris, de valami olyasmit, hogy az egyik legbonyolultabb dolog a világegyetemben. Ez nem igaz. Te sokkal bonyolultabb vagy az agyadnál. Neked részed az agyad. És habár az agy nagyon bonyolultnak tűnik, a dolgok csak addig tűnnek bonyolultnak, amíg meg nem értjük őket. Mindig is ez volt a helyzet. Mondhatjuk, hogy a neokortexem, az agyterület, ami engem érdekel, 30 milliárd sejtet tartalmaz. De mondjak valamit? Nagyon, de nagyon szabályos. Tulajdonképpen ugyanaz a dolog van megismételve sokszor egymás után. Nem olyan összetett, mint ahogy látszik. Nem ez a lényeg.
Some people say, brains can't understand brains. Very Zen-like. Woo.
Egyesek azt mondják, az agy nem tudja megérteni az agyat. Nagyon zenként hangzik. Úú. Tudják ...
(Laughter)
(Nevetés)
You know, it sounds good, but why? I mean, what's the point? It's just a bunch of cells. You understand your liver. It's got a lot of cells in it too, right? So, you know, I don't think there's anything to that. And finally, some people say, "I don't feel like a bunch of cells -- I'm conscious. I've got this experience, I'm in the world. I can't be just a bunch of cells." Well, people used to believe there was a life force to be living, and we now know that's really not true at all. And there's really no evidence, other than that people just disbelieve that cells can do what they do. So some people have fallen into the pit of metaphysical dualism, some really smart people, too, but we can reject all that.
Hangzani jól hangzik, de miért? Úgy értem, mi az értelme? Csak egy halom sejt. A tündőnket értjük. Abban is egy halom sejt van, igaz? Ezért én nem hiszem, hogy ennél több lenne. Erre egyes emberek azt mondják, hogy én nem egy kupac sejtnek érzem magam. Én tudatos vagyok. Tudatos vagyok, a világon vagyok. Nem lehetek csak egy kupac sejt. Nos, az emberek hajlamosak azt hinni, hogy létezett egy bizonyos életerő, amely az életet létrehozta, de ma már tudjuk, hogy ez egyáltalán nem igaz. És valójában nincs olyan bizonyíték, az emberek hitetlenkedésén túl, hogy a sejtek képesek minderre. Még ha néhányan bele is estek a metafizikai dualizmus vermébe, néhány igazán eszes ember is, elvethetjük ezt az egészet.
(Laughter)
(Nevetés)
No, there's something else, something really fundamental, and it is: another reason why we don't have a good brain theory is because we have an intuitive, strongly held but incorrect assumption that has prevented us from seeing the answer. There's something we believe that just, it's obvious, but it's wrong. Now, there's a history of this in science and before I tell you what it is, I'll tell you about the history of it in science. Look at other scientific revolutions -- the solar system, that's Copernicus, Darwin's evolution, and tectonic plates, that's Wegener. They all have a lot in common with brain science.
Nem, én elmondom önöknek, hogy másról van szó, egy nagyon alapvető dologról, és ez a következő: egy másik oka annak, hogy nincs egy jó agyelméletünk az, hogy egy intuitív, beidegződött de helytelen feltevésünk meggátolt minket a válasz meglátásától. Van valami, amit nyilvánvalónak tartunk, de helytelenül. Ennek múltja van a tudományban, és mielőtt elmondanám, hogy mi is ez, elmondok egy keveset ennek múltjáról a tudományban. Most néhány forradalmi jelentőségű tudományos felfedezést láthatnak, éspedig a naprendszert, ez Kopernikusz nevéhez fűződik, Darwin evolúcióelméletét és a lemeztektonikát, ami Wegener elmélete. Mindegyik sok hasonlóságot mutat az agytudománnyal.
First, they had a lot of unexplained data. A lot of it. But it got more manageable once they had a theory. The best minds were stumped -- really smart people. We're not smarter now than they were then; it just turns out it's really hard to think of things, but once you've thought of them, it's easy to understand. My daughters understood these three theories, in their basic framework, in kindergarten. It's not that hard -- here's the apple, here's the orange, the Earth goes around, that kind of stuff.
Először is mindenhol nagyon sok tisztázatlan adat volt. Nagyon sok. De egyből kezelhetőbbé vált, amint volt egy elmélet. A legnagyobb elméket, a nagyon de nagyon eszes embereket is zavarba ejtették. Mi sem vagyunk okosabbak, mint ők voltak akkor. Rájövünk, hogy nagyon nehéz gondolkodni a dolgokról, de ha egyszer gondolkoztunk, elég könnyen megértjük azokat. A lányaim is megértették ezt a három elméletet még óvodás korukban. Nem olyan nehéz, tudják, itt az alma, itt a narancs, a Föld körbemegy, valahogy így.
Another thing is the answer was there all along, but we kind of ignored it because of this obvious thing. It was an intuitive, strongly held belief that was wrong. In the case of the solar system, the idea that the Earth is spinning, the surface is going a thousand miles an hour, and it's going through the solar system at a million miles an hour -- this is lunacy; we all know the Earth isn't moving. Do you feel like you're moving a thousand miles an hour? If you said Earth was spinning around in space and was huge -- they would lock you up, that's what they did back then.
Valójában a válasz mindvégig ott volt, de valahogy figyelmen kívül hagytuk emiatt a magától értetődőség miatt, és ez az a valami. Egy intuitív, beidegződött meggyőződés, ami helytelen volt. A naprendszer esetében a gondolat, hogy a Föld forog, és a Föld felülete körülbelül ezer mérföldes sebességgel mozog, és a Föld körülbelül egymillió mérföldes sebességgel száguld a naprendszeren keresztül. Ez őrültség. Mindannyian tudjuk, hogy a Föld nem mozog. Te úgy érzed, hogy ezer mérföldes sebességgel mozogsz? Persze, hogy nem. Ha valaki azt mondta volna, hogy körbe forog az űrben és olyan hatalmas, azt bezárták volna, és ezt meg is tették akkoriban.
So it was intuitive and obvious. Now, what about evolution?
(Nevetés) Tehát intuitív és nyilvánvaló volt. Mi a helyzet az evolúcióval?
Evolution, same thing. We taught our kids the Bible says God created all these species, cats are cats; dogs are dogs; people are people; plants are plants; they don't change. Noah put them on the ark in that order, blah, blah. The fact is, if you believe in evolution, we all have a common ancestor. We all have a common ancestor with the plant in the lobby! This is what evolution tells us. And it's true. It's kind of unbelievable. And the same thing about tectonic plates. All the mountains and the continents are kind of floating around on top of the Earth. It doesn't make any sense.
Az evolúció ugyanaz a mese. Azt tanítottuk a gyermekeinknek, hogy a Biblia azt mondja, Isten teremtette az összes fajt, a macskák macskák, a kutyák kutyák, az emberek emberek, a növények növények, és ezek nem változnak. Noé ilyen sorrendben vitte fel őket a bárkájára, bla, bla, bla. A helyzet az, hogy ha hiszünk az evolúciónak, akkor egyetlen közös őstől származunk, és nekünk valamint az előszobai növénynek közös őseink vannak. Ezt mondja nekünk az evolúció. És ez az igazság. Mennyire hihetetlen. És ugyanez a helyzet a tektonikai lemezekkel is. Az összes hegy és kontinens valahogy a Föld tetején úszik. Ennek sincs semmi értelme.
So what is the intuitive, but incorrect assumption, that's kept us from understanding brains? I'll tell you. It'll seem obvious that it's correct. That's the point. Then I'll make an argument why you're incorrect on the other assumption. The intuitive but obvious thing is: somehow, intelligence is defined by behavior; we're intelligent because of how we do things and how we behave intelligently. And I'm going to tell you that's wrong. Intelligence is defined by prediction.
Tehát, mi az az intuitív de helytelen feltevés, ami meggátolt minket az agy megértésében? Ezt fogom most most elmondani, és nyilvánvaló lesz, hogy ez helyes, és ez a lényeg, rendben? Ezután meg kell majd indokolnom, hogy miért is tévednek a másik feltevéssel kapcsolatban. Az intuitív, de nyilvánvaló dolog az, hogy valamilyen módon az intelligenciát a viselkedés határozza meg, vagyis intelligensek vagyunk, amiatt ahogyan teszünk dolgokat és mert intelligensen viselkedünk, de elárulom, hogy ez helytelen. Valójában az intelligenciát a predikció határozza meg. A következő néhány slide-on ezen fogunk végigmenni,
I'm going to work you through this in a few slides, and give you an example of what this means. Here's a system. Engineers and scientists like to look at systems like this. They say, we have a thing in a box. We have its inputs and outputs. The AI people said, the thing in the box is a programmable computer, because it's equivalent to a brain. We'll feed it some inputs and get it to do something, have some behavior. Alan Turing defined the Turing test, which essentially says, we'll know if something's intelligent if it behaves identical to a human -- a behavioral metric of what intelligence is that has stuck in our minds for a long time.
és adok egy példát arra, hogy ez mit is jelent. Ez egy rendszer. A mérnökök szeretnek így tekinteni egy rendszerre. A tudósok szeretnek így tekinteni egy rendszerre. Azt mondják, van valami egy dobozban, továbbá vannak bemeneteink es kimeneteink. Az MI-sek azt mondják, hogy a dolog a dobozban egy programozható számítógép, mivel az egyenértékű egy aggyal, adunk neki valamilyen bemenetet, és az produkálni fog valamit, valamilyen viselkedést. Alan Turing definiálta a Turing-tesztet, ami tulajdonképpen azt mondja, hogy valami intelligens, ha az emberhez hasonlóan viselkedik. Az intelligenciának egy viselkedési metrikája, amely hosszú ideig megragadt az eszünkben.
Reality, though -- I call it real intelligence. Real intelligence is built on something else. We experience the world through a sequence of patterns, and we store them, and we recall them. When we recall them, we match them up against reality, and we're making predictions all the time. It's an internal metric; there's an internal metric about us, saying, do we understand the world, am I making predictions, and so on. You're all being intelligent now, but you're not doing anything. Maybe you're scratching yourself, but you're not doing anything. But you're being intelligent; you're understanding what I'm saying. Because you're intelligent and you speak English, you know the word at the end of this sentence.
A valóságot azonban én az igazi intelligenciának nevezem. Az igazi intelligencia valami máson alapszik. A világot minták sorozatán keresztül ismerjük meg, eltároljuk azokat, majd visszaemlékezünk rájuk. És amikor visszaemlékszünk, összevetjük azokat a valósággal, és minden alkalommal jóslást végzünk. Ez egy állandó metrika. Van egy állandó metrika, amely valami olyasmit mond, értjük mi a világot? Most jóslásokat végzek? És így tovább. Mindenki önök közül intelligens, pedig nem is csinálnak semmit. Lehet, hogy egyesek vakaróznak, piszkálják az orrukat, nem tudom, de épp most nem csinálnak semmit, azonban intelligensek, értik, amit mondok. Mivel mindenki intelligens és beszél angolul, ezért tudják, hogy milyen szó lesz a végén ennek a ... mondatnak.
The word came to you; you make these predictions all the time. What I'm saying is, the internal prediction is the output in the neocortex, and somehow, prediction leads to intelligent behavior. Here's how that happens: Let's start with a non-intelligent brain. I'll argue a non-intelligent brain, we'll call it an old brain. And we'll say it's a non-mammal, like a reptile, say, an alligator; we have an alligator. And the alligator has some very sophisticated senses. It's got good eyes and ears and touch senses and so on, a mouth and a nose. It has very complex behavior. It can run and hide. It has fears and emotions. It can eat you. It can attack. It can do all kinds of stuff. But we don't consider the alligator very intelligent, not in a human sort of way.
Megtalálták a szót, és ilyen predikciókat végeznek minden alkalommal. Az akarom mondani, hogy az állandó jóslás a neokortex kimenete. És valahogyan a jóslás intelligens viselkedéshez vezet. És ez a következőképpen történik. Kezdjük egy nem-intelligens aggyal. Egy nem-intelligens aggyal fogok érvelni, vegyünk egy régi agyat, mondjuk egy nem-emlős agyat, például hüllőt, például egy aligátort. Van egy aligátorunk. Az aligátornak nagyon kifinomult érzékei vannak. Nagyon jó szeme van és hallása és tapintóérzéke és így tovább, szája és orra. Nagyon bonyolult viselkedéssel rendelkezik. Tud szaladni és el tud rejtőzni. Vannak félelmei és érzelmei. Meg tudja enni önöket. Tud támadni. Mindenféle dolgot tud csinálni. De mi nem igazán tekintjük az aligátort nagyon intelligensnek, legalábbis nem úgy mint az embereket.
But it has all this complex behavior already. Now in evolution, what happened? First thing that happened in evolution with mammals is we started to develop a thing called the neocortex. I'm going to represent the neocortex by this box on top of the old brain. Neocortex means "new layer." It's a new layer on top of your brain. It's the wrinkly thing on the top of your head that got wrinkly because it got shoved in there and doesn't fit.
De akkor is rendelkezik ezzel a bonyolult viselkedéssel. Mi történt az evolúció során? Az első dolog, ami az evolúció során történt az emlősökkel az, hogy elkezdtük kifejleszteni ezt a neokortexnek nevezett dolgot. Itt a neokortexet ez a kis doboz fogja ábrázolni, a régi agy tetejére illesztve. A neokortex egy új réteget jelent. Egy új réteget az agyunkon. Ha még nem ismerik, ez az a barázdás dolog a fejünk tetején, ami azért lett barázdás, mert betuszkolták oda és nem fér el.
(Laughter)
(Nevetés)
Literally, it's about the size of a table napkin and doesn't fit, so it's wrinkly. Now, look at how I've drawn this. The old brain is still there. You still have that alligator brain. You do. It's your emotional brain. It's all those gut reactions you have. On top of it, we have this memory system called the neocortex. And the memory system is sitting over the sensory part of the brain. So as the sensory input comes in and feeds from the old brain, it also goes up into the neocortex. And the neocortex is just memorizing. It's sitting there saying, I'm going to memorize all the things going on: where I've been, people I've seen, things I've heard, and so on. And in the future, when it sees something similar to that again, in a similar environment, or the exact same environment, it'll start playing it back: "Oh, I've been here before," and when you were here before, this happened next. It allows you to predict the future. It literally feeds back the signals into your brain; they'll let you see what's going to happen next, will let you hear the word "sentence" before I said it. And it's this feeding back into the old brain that will allow you to make more intelligent decisions.
Nem, tényleg, ez így van. Körülbelül egy asztalkendő méretű. És nem fér el, tehát összegyűrődik. Most figyeljék meg, hogyan rajzoltam itt le. A régi agy még mindig itt van. Mindenkinek aligátoragya van. Mindenkinek. Ez az érzelmi agyunk. Mindezek a dolgok és az ösztönös reakcióink. És mindennek a tetején ott van ez a memóriarendszer, amit neokortexnek nevezünk. És a memóriarendszer az agy érzékelési részén ül. És így, amint az érzékelt dolog bejön majd továbbmegy a régi agyból, felmegy a neokortexbe is. És a neokortex csak tárol. Ott ül és azt mondja, eltárolok minden dolgot amit történik, ahol voltam, az embereket, akiket láttam, a dolgokat, amit hallottam, és így tovább. És a jövőben, ha valami ezekhez hasonlót lát, tehát egy hasonló környezetben vagy ugyanabban a környezetben, akkor visszajátssza. Elkezdi visszajátszani. Ó, jártam én már itt. És amikor ezelőtt itt voltunk, ez történt ezután. Lehetővé teszi, hogy megjósoljuk a jövőt. Szó szerint visszacsatolja a jeleket az agyunkba, megmutatja mi fog történni a következő pillanatban, megmondja a "mondat" szót, mielőtt én kimondanám. És ez a régi agyba való visszacsatolás az, ami alapján sokkal intelligensebb döntésekre vagyunk képesek.
This is the most important slide of my talk, so I'll dwell on it a little. And all the time you say, "Oh, I can predict things," so if you're a rat and you go through a maze, and you learn the maze, next time you're in one, you have the same behavior. But suddenly, you're smarter; you say, "I recognize this maze, I know which way to go; I've been here before; I can envision the future." That's what it's doing. This is true for all mammals -- in humans, it got a lot worse. Humans actually developed the front of the neocortex, called the anterior part of the neocortex. And nature did a little trick. It copied the posterior, the back part, which is sensory, and put it in the front. Humans uniquely have the same mechanism on the front, but we use it for motor control.
Ez az előadásom legfontosabb slide-ja, ezért el fogok időzni kicsit ennél. Tehát egyfolytában azt mondjuk, ó, meg tudom jósolni a dolgokat. És ha egy patkány vagyok és keresztülmegyek egy labirintuson, és megtanulom a labirintust, a következő alkalommal, amikor egy labirintusban leszek, ugyanúgy fogok viselkedni, de hirtelen sokkal okosabb leszek, mert felismerem a labirintust, tudom, merre kell mennem, már jártam itt, előre tudom vetíteni a jövőt. És ez az mit csinál. Az emberek esetében, egyébként ez igaz minden emlősre, igaz más emlősökre, de az emberek esetén ez sokkal rosszabb lett. Mi, az emberek, kifejlesztettük a neokortex egy új részét, amit a neokortex elülső részének hívunk. És a természet elkövetett egy csínyt. Lemásolta a hátsó, vagyis az érzékelő részt, és betette az elülső részbe. És az emberekben egyedülálló módon ugyanaz a mechanizmus a frontális részben, de ezt a motoros funckiókra használjuk.
So we're now able to do very sophisticated motor planning, things like that. I don't have time to explain, but to understand how a brain works, you have to understand how the first part of the mammalian neocortex works, how it is we store patterns and make predictions. Let me give you a few examples of predictions. I already said the word "sentence." In music, if you've heard a song before, when you hear it, the next note pops into your head already -- you anticipate it. With an album, at the end of a song, the next song pops into your head. It happens all the time, you make predictions.
Így mostmár nagyon kifinomult mozgásterveket tudunk készíteni. Nincs rá idő, hogy igazán belemenjek ezekbe, de ha meg akarjuk érteni, hogyan működik az agy, meg kell értenünk, hogyan működik az emlősök neokortexének első része, hogyan tároljuk a mintákat és hogyan jósolunk. Hadd mutassak be néhány jóslási példát. Már elmondtam a mondatos dolgot. A zenében, ha hallottunk egy dalt valamikor, ha már hallottuk Jillt énekelni azokat a dalokat, amikor énekel, a rákövetkező hang egyből beugrik a fejünkbe, előre halljuk menet közben. Ha egy zenealbumról van szó, a szám végén beugrik a következő dal. És ezek a dolgok egyfolytában megtörténnek. Ilyen jóslásokat végzünk.
I have this thing called the "altered door" thought experiment. It says, you have a door at home; when you're here, I'm changing it -- I've got a guy back at your house right now, moving the door around, moving your doorknob over two inches. When you go home tonight, you'll put your hand out, reach for the doorknob, notice it's in the wrong spot and go, "Whoa, something happened." It may take a second, but something happened. I can change your doorknob in other ways -- make it larger, smaller, change its brass to silver, make it a lever, I can change the door; put colors on, put windows in. I can change a thousand things about your door and in the two seconds you take to open it, you'll notice something has changed.
Van ez a dolog, amit a megváltozott ajtó kísérletének hívunk. A megváltozott ajtó kísérlete úgy szól, hogy van egy ajtód otthon, és amíg te itt vagy, én megváltoztatom. Most épp ott van egy fickó a házadnál, épp az ajtót piszkálgatja, majd le fogja venni a kilincsgombot és két hüvelykkel feljebb teszi. És amikor ma este hazamész, kinyújtod a kezed, el akarod majd érni a kilincsgombot, és észreveszed, hogy rossz helyen van, és azt mondod, várjunk csak, valami történt. Beletelhet egy másodpercbe, hogy rágyere mi is az, de valami történt. Sokféleképpen meg lehetne még változtatni a kilincsgombot. Lehetne nagyobb vagy kisebb, rézből ezüst, kicserélhetem fogantyúsra. Vagy magát az ajtót befesthetném, tehetnék rá ablakokat. Ezer dolgot megváltoztathatnék az ajtódon, de a két másodperc alatt, amíg kinyitnád az ajtót észrevennéd, hogy valami megváltozott.
Now, the engineering approach, the AI approach to this, is to build a door database with all the door attributes. And as you go up to the door, we check them off one at time: door, door, color ... We don't do that. Your brain doesn't do that. Your brain is making constant predictions all the time about what will happen in your environment. As I put my hand on this table, I expect to feel it stop. When I walk, every step, if I missed it by an eighth of an inch, I'll know something has changed. You're constantly making predictions about your environment. I'll talk about vision, briefly. This is a picture of a woman. When we look at people, our eyes saccade over two to three times a second. We're not aware of it, but our eyes are always moving. When we look at a face, we typically go from eye to eye to nose to mouth. When your eye moves from eye to eye, if there was something else there like a nose, you'd see a nose where an eye is supposed to be and go, "Oh, shit!"
A mérnöki megközelítése ennek, az MI megközelítés az hogy készítünk egy ajtóadatbázist. Ez minden ajtóattribútumot tartalmaz. És ahogy az ajtó felé mész, megvizsgáljuk azokat, egyszerre csak egyet. Ajtó, ajtó, ajtó, szín, értik, amit mondok. Ilyet nem csinálunk. Az agyunk nem csinál ilyet. Amit az agyunk tesz az az állandó jóslás egész idő alatt arról, hogy mi fog történni a környezetünkben. Ahogy ráteszem a kezem erre az asztalra, azt várom, hogy érezzem, az megállítja. Amikor megyek, minden egynyolcad hüvelykkel elvétett lépésnél tudom, hogy valami megváltozott. Állandóan jóslásokat végzünk a környezetünkről. Beszélek röviden a látásról is. Ez a kép egy hölgyet ábrázol. Amikor egy emberre nézünk, a szemünket másodpercenként kétszer vagy háromszor elkapjuk. Nem vagyunk tudatában ennek, de a szemünk egyfolytában mozog. Ha valakinek az arcát nézzük, akkor az egyik szeméről a másikra, vissza, az orrára, a szájára nézünk. Amikor a szemünk az egyik szemről a másikra megy, ha ott valami mást talál, mondjuk egy orrot, ha egy orrot látunk ott ahol egy szemnek kellene lennie,
(Laughter)
akkor azt mondjuk, basszus ...
"There's something wrong about this person." That's because you're making a prediction. It's not like you just look over and say, "What am I seeing? A nose? OK." No, you have an expectation of what you're going to see.
(Nevetés) Valami baj van ezzel az alakkal. És ez azért van, mert jóslást végzünk. Nem úgy, hogy csak végigpillantunk és azt mondjuk, mit is látok én most? Egy orrot, az rendben van. Nem, van egy elvárásunk, hogy mit kellene látnunk.
(Nevetés)
Every single moment. And finally, let's think about how we test intelligence. We test it by prediction: What is the next word in this ...? This is to this as this is to this. What is the next number in this sentence? Here's three visions of an object. What's the fourth one? That's how we test it. It's all about prediction.
Minden egyes pillanatban. Végül gondoljuk meg, hogyan vizsgáljuk az intelligenciát. Jóslással vizsgáljuk. Mi a következő szó ebben a, ismerik? Ez ehhez, ahogy amaz ahhoz. Mi lesz a következő szám ebben a mondatban? Itt van három tárgy képe. Mi a negyedik? Így történik a vizsgálat. Minden a jóslásról szól. Szóval mi lenne a recept az agyelméletre?
So what is the recipe for brain theory? First of all, we have to have the right framework. And the framework is a memory framework, not a computational or behavior framework, it's a memory framework. How do you store and recall these sequences of patterns? It's spatiotemporal patterns.
Először is rendelkeznünk kell a megfelelő keretrendszerrel. És a keretrendszer egy memória-keretrendszer, nem egy számítási vagy viselkedési keretrendszer. Egy memória-keretrendszer. Hogyan tároljuk és hívjuk vissza ezeket a mintaszekvenciákat? A tér- és időbeli mintákat. Ha megvan a keretrendszer, akkor veszünk egy halom teoretikust.
Then, if in that framework, you take a bunch of theoreticians -- biologists generally are not good theoreticians. Not always, but generally, there's not a good history of theory in biology. I've found the best people to work with are physicists, engineers and mathematicians, who tend to think algorithmically. Then they have to learn the anatomy and the physiology. You have to make these theories very realistic in anatomical terms. Anyone who tells you their theory about how the brain works and doesn't tell you exactly how it's working and how the wiring works -- it's not a theory.
A biológusok általában nem jó teoretikusok. Ez nem mindig igaz, de elmondható, hogy a biológiában az elméletnek nincs jó múltja. Rájöttem, hogy akikkel a legjobban lehet dolgozni azok a fizikusok, mérnökök és matematikusok, akik hajlamosak algoritmikusan gondolkodni. Meg kell tanulják az anatómiát, és meg kell tanulják az élettant. Ezeket az elméleteket anatómiai értelemben nagyon realisztikussá kell tenni. Bárki, aki kiáll és elmondja az elméletét az agy működéséről, és nem mondja el, pontosan hogyan is működik az az agyban és hogyan működnek a kapcsolatok az agyban, az nem elmélet. Ez az amit mi a Redwood Neuroscience Institute-nál csinálunk.
And that's what we do at the Redwood Neuroscience Institute. I'd love to tell you we're making fantastic progress in this thing, and I expect to be back on this stage sometime in the not too distant future, to tell you about it. I'm really excited; this is not going to take 50 years.
Szerettem volna, ha több időm van, hogy elmondjam milyen fantasztikusuan haladunk e téren, de szeretnék visszatérni erre a színpadra, talán valamikor a nem túl távoli jövőben és akkor elmondom önöknek. Teljesen, teljesen izgatott vagyok. Ez egyáltalán nem fog 50 évbe beletelni.
What will brain theory look like? First of all, it's going to be about memory. Not like computer memory -- not at all like computer memory. It's very different. It's a memory of very high-dimensional patterns, like the things that come from your eyes. It's also memory of sequences: you cannot learn or recall anything outside of a sequence. A song must be heard in sequence over time, and you must play it back in sequence over time. And these sequences are auto-associatively recalled, so if I see something, I hear something, it reminds me of it, and it plays back automatically. It's an automatic playback. And prediction of future inputs is the desired output. And as I said, the theory must be biologically accurate, it must be testable and you must be able to build it. If you don't build it, you don't understand it.
Hogyan is fog kinézni az agyelmélet? Először is egy elmélet lesz, amely a memóriáról szól. Nem olyanról, mint a számítógépes memória. Ez egyáltalán nem olyan, mint a számítógép memóriája. Nagyon, de nagyon különbözik attól. Egy memória ezekkel a nagyon nagydimenziós mintákkal, mint amilyenek a szemünkbe érkező dolgok. De egyúttal a egymásutániság memóriája is. Egymásutániság nélkül nem tudunk tanulni vagy visszaemlékezni. Egy dalt időbeni egymásutániságában kell meghallgatnunk, és időbeni egymásutániságában kell visszajátszanunk. És ezek az egymásutániságok autoasszociatívan felidéződnek, így ha látok valamit, hallok valamit, az agyam eszembe juttatja és automatikusan visszajátssza. Egy automatikus visszajátszás. Ahol a kívánt kimenetet a jövőbeli bemenetek képezik. És ahogy már mondtam, az elméletnek biológiailag pontosnak kell lennie, vizsgálhatónak kell lennie, és képesek kell legyünk azt felépíteni. Ha nem tudjuk felépíteni, akkor nem is értjük. Hadd mutassak még egy slide-ot.
One more slide. What is this going to result in? Are we going to really build intelligent machines? Absolutely. And it's going to be different than people think. No doubt that it's going to happen, in my mind. First of all, we're going to build this stuff out of silicon. The same techniques we use to build silicon computer memories, we can use here. But they're very different types of memories. And we'll attach these memories to sensors, and the sensors will experience real-live, real-world data, and learn about their environment.
Mi lesz ennek a következménye? Képesek leszünk valóban intelligens gépeket építeni? Teljes mértékben. És különbözni fog attól, ahogy az emberek gondolják. Semmi kétségem afelől, hogy ez meg fog történni. Meg fog épülni, meg fogjuk építeni ezt a dolgot szilikonból. Ugyanaz a módszer, amit a szilkon alapú számítógépes memóriánál használunk, használható itt is. De ezek nagyon különböző típusú memóriák. És ezeket a memóriákat szenzorokhoz fogjuk csatolni, és a szenzorok valós életbeli, valós világbeli adatokat fognak tapasztalni, és ezek a dolgok tanulni fognak a környezetükből.
Now, it's very unlikely the first things you'll see are like robots. Not that robots aren't useful; people can build robots. But the robotics part is the hardest part. That's old brain. That's really hard. The new brain is easier than the old brain. So first we'll do things that don't require a lot of robotics. So you're not going to see C-3PO. You're going to see things more like intelligent cars that really understand what traffic is, what driving is and have learned that cars with the blinkers on for half a minute probably aren't going to turn.
Elég valószínűtlen, hogy az első dolgok, amiket látni fogunk azok robotszerűek lesznek. Nem mintha a robotok ne lennének hasznosak, és az emberek tudnak robotokat építeni. De a robotikai rész a legnehezebb. Az a régi agy. Az nagyon nehéz. Az új agy kicsit egyszerűbb a régi agynál. Tehát az első dolog, amit csinálni fogunk, olyan lesz, ami nem igényel sok robotikát. Nem fogjuk látni C-3PO-t. Inkább olyasmiket fogunk látni, mint az intelligens autók, amelyek valóban értik, mit jelent a közlekedés, mit jelent a vezetés, és megtanulták, hogy bizonyos, fél percen keresztül jelzőlámpájukat villogtató autók valószínűleg nem fognak befordulni, és hasonló dolgokat.
(Laughter)
(Nevetés)
We can also do intelligent security systems. Anytime we're basically using our brain but not doing a lot of mechanics -- those are the things that will happen first. But ultimately, the world's the limit. I don't know how this will turn out. I know a lot of people who invented the microprocessor. And if you talk to them, they knew what they were doing was really significant, but they didn't really know what was going to happen. They couldn't anticipate cell phones and the Internet and all this kind of stuff. They just knew like, "We're going to build calculators and traffic-light controllers. But it's going to be big!" In the same way, brain science and these memories are going to be a very fundamental technology, and it will lead to unbelievable changes in the next 100 years. And I'm most excited about how we're going to use them in science. So I think that's all my time -- I'm over, and I'm going to end my talk right there.
Készíthetünk intelligens biztonsági rendszereket is. Bárhol, ahol alapvetően az agyunkat használjuk, és nincs sok mechanika. Ezek lesznek azok a dolgok, amelyeket először létrehozunk. De végső soron csak a képzelet szab határt ezeknek. Nem tudom, hogyan fog ez alakulni. Ismerek egy csomó embert, akik feltalálták a mikroprocesszort, és ha megkérdezed tőlük, tudták, hogy amit csinálnak az nagy jelentőséggel bír, de nem igazán tudták, hogy mi fog utána történni. Nem tudták megjósolni a mobiltelefont és az Internetet és ezeket a dolgokat. Csak olyasmit tudtak, hogy számológépeket fognak építeni és forgalomirányító lámpákat. De valami nagy dolog lesz. Ugyanígy van ez az agytudománnyal is, és ezek a memóriák egy nagyon alapvető technológiát fognak képezni, és hihetetlen változásokhoz fognak vezetni az elkövetkezendő 100 évben. És a legjobban aziránt vagyok izgatott, hogy hogyan fogjuk ezeket a tudományban felhasználni. Azt hiszem ennyi volt az én időm, túl is léptem, és itt be is fejezem az előadásomat.