I do two things: I design mobile computers and I study brains. Today's talk is about brains and -- (Audience member cheers) Yay! I have a brain fan out there.
אני עושה שני דברים. אני מתכנן מחשבים ניידים וחוקר את המח. ההרצאה היום היא על המח ו... יש לנו מעריצי מח כאן!
(Laughter) If I could have my first slide, you'll see the title of my talk and my two affiliations. So what I'm going to talk about is why we don't have a good brain theory, why it is important that we should develop one and what we can do about it. I'll try to do all that in 20 minutes. I have two affiliations. Most of you know me from my Palm and Handspring days, but I also run a nonprofit scientific research institute called the Redwood Neuroscience Institute in Menlo Park. We study theoretical neuroscience and how the neocortex works. I'm going to talk all about that.
(צחוק) אם אפשר להציג את השקופית הראשונה ותראו את נושא ההרצאה ואת שתי ההשתיכויות שלי מה שאני הולך לדבר עליו הוא מדוע אין לנו תיאורית מח טובה, מדוע חשוב שנפתח אחת כזו ומה אנחנו יכולים לעשות בעניין. ואנסה לעשות את כל זה בעשרים דקות. יש לי שתי השתיכויות. רובכם מכירים אותי מימיי בפאלם והנדספרינג אבל אני גם מפעיל מכון מדעי ללא מטרות רווח מוסד רד-ווד למדעי המח בפארק מלנו, ואנו חוקרים תיאוריות במדעי המח ואיך קליפת המח עובדת.
I have one slide on my other life, the computer life, and that's this slide here. These are some of the products I've worked on over the last 20 years, starting from the very original laptop to some of the first tablet computers and so on, ending up most recently with the Treo, and we're continuing to do this. I've done this because I believe mobile computing is the future of personal computing, and I'm trying to make the world a little bit better by working on these things. But this was, I admit, all an accident. I really didn't want to do any of these products. Very early in my career I decided I was not going to be in the computer industry.
ועל זה אדבר. יש לי שקופית אחת על החיים האחרים שלי, חיי המחשבים, אלה כמה מהמוצרים שעבדתי עליהם בעשרים שנים האחרונות, החל מהלפטופ הראשוני ועד מחשבי כף היד הראשוניים וכך הלאה, עד ה-Treo לאחרונה, ואנו ממשיכים עם זה. ועשיתי את זה כי אני באמת מאמין שמחשבים ניידים הם העתיד של המחשוב האישי, ואני מנסה לעשות את העולם מעט יותר טוב על ידי עבודה בתחום הזה. אבל אני חייב להודות, שכל זה קרה בטעות. האמת שלא רציתי לעשות את כל המוצרים האלו ומוקדם מאוד בקריירה שלי החלטתי שאני לא הולך להיות בעסקיי המחשבים.
Before that, I just have to tell you about this picture of Graffiti I picked off the web the other day. I was looking for a picture for Graffiti that'll text input language. I found a website dedicated to teachers who want to make script-writing things across the top of their blackboard, and they had added Graffiti to it, and I'm sorry about that.
ולפני שאספר לכם על כך, אספר על איור שלקחתי מהרשת לפני זמן מה. ניסיתי לחפש תמונה של גרפיטי, מעיין טקסט מעניין של שפה ומצאתי אתר לכתיבת טקסטים המיועד למורים שרוצים להציג משפט קבוע בראש הלוח וליד הם הוסיפו גרפיטי, ואני מצטער על כך.
(Laughter)
(צחוק)
So what happened was, when I was young and got out of engineering school at Cornell in '79, I went to work for Intel and was in the computer industry, and three months into that, I fell in love with something else. I said, "I made the wrong career choice here," and I fell in love with brains. This is not a real brain. This is a picture of one, a line drawing. And I don't remember exactly how it happened, but I have one recollection, which was pretty strong in my mind. In September of 1979, Scientific American came out with a single-topic issue about the brain. It was one of their best issues ever. They talked about the neuron, development, disease, vision and all the things you might want to know about brains. It was really quite impressive.
אז הייתי צעיר ויצאתי מבית הספר להנדסה בקורנל בשנת 79 והגעתי לעבוד באינטל. הייתי בעסקי המחשבים, ותוך שלושה חודשים התאהבתי במשהו אחר, ואמרתי לעצמי "עשיתי החלטה מוטעת", והתאהבתי במח. זה לא מח אמיתי. זה ציור של מח. אני לא זוכר בדיוק איך זה קרה, אבל יש לי זיכרון אחד די חזק בספטמבר 1979, העלון סיינטיפיק אמריקן הוציא לאור מהדורה אך ורק על מח. זה היה ממש טוב. אחת המהדורות הטובות אי פעם. והם דיברו על הנוירונים על התפתחות על מחלות ראיה וכל הדברים שאתה רוצה לדעת על המח. זה היה די מרשים. וזה יצר רושם שאנו יודעים די הרבה על המח.
One might've had the impression we knew a lot about brains. But the last article in that issue was written by Francis Crick of DNA fame. Today is, I think, the 50th anniversary of the discovery of DNA. And he wrote a story basically saying, this is all well and good, but you know, we don't know diddly squat about brains, and no one has a clue how they work, so don't believe what anyone tells you. This is a quote from that article, he says: "What is conspicuously lacking" -- he's a very proper British gentleman -- "What is conspicuously lacking is a broad framework of ideas in which to interpret these different approaches." I thought the word "framework" was great. He didn't say we didn't have a theory. He says we don't even know how to begin to think about it. We don't even have a framework. We are in the pre-paradigm days, if you want to use Thomas Kuhn. So I fell in love with this. I said, look: We have all this knowledge about brains -- how hard can it be? It's something we can work on in my lifetime; I could make a difference. So I tried to get out of the computer business, into the brain business.
אך את המאמר האחרון במהדורה כתב פרנסיס קריק היום, אני חושב, חגיגות החמישים לתגלית הדנ"א. והוא כתב משהו מעין זה, זה הכל יפה וטוב, אבל אתם יודעים מה, אנחנו לא יודעים דבר וחצי דבר על המח ולאף אחד אין מושג איך הדבר הזה עובד, אז אל תאמינו למה שאומרים לכם. הנה ציטוט מהמאמר ההוא. הוא כותב, "מה שחסר באופן מובהק," הוא אדון בריטי מאוד תיקני, "מה שחסר באופן מובהק, זו תבנית רחבה של רעיונות שבעזרתה ניתן יהיה לפרש את הגישות השונות". חשבתי שהמילה "תבנית" נהדרת. הוא לא אמר אין לנו אפילו תאוריה. הוא אמר, אנו לא יודעים איך בכלל להתחיל לחשוב על זה - אין לנו תבנית. אנחנו בעידן של הלפני-תבנית, אם להשתמש במילותיו של תומס קון. אז התאהבתי בזה ואמרתי, יש לנו את כל הידע הזה על המח, כמה קשה זה כבר יכול להיות? וזה משהו שאני יכול לעבוד עליו עוד בחיי ולתרום בו, אז ניסיתי לצאת מעסקי המחשבים, ולהכנס לעסקי המח.
First, I went to MIT, the AI lab was there. I said, I want to build intelligent machines too, but I want to study how brains work first. And they said, "Oh, you don't need to do that. You're just going to program computers, that's all. I said, you really ought to study brains. They said, "No, you're wrong." I said, "No, you're wrong," and I didn't get in.
בהתחלה, ניגשתי לאמ. איי. טי., למעבדת האנטיליגנציה המלאכותית, ואמרתי להם, גם אני רוצה לבנות מכונות חכמות, אבל הדרך שאני רוצה לעשות זאת, היא ללמוד איך המח עובד קודם. והם אמרו, אתה לא צריך לעשות את זה. אנו רק מתכנתים מחשבים, זה כל מה שאנחנו צריכים לעשות. ואמרתי להם, לא, אתם ממש צריכים ללמוד על המח. הם אמרו לא, אתה טועה. ואמרתי, לא, אתם טועים, ולא התקבלתי. (צחוק)
(Laughter)
I was a little disappointed -- pretty young -- but I went back again a few years later, this time in California, and I went to Berkeley. And I said, I'll go in from the biological side. So I got in the PhD program in biophysics. I was like, I'm studying brains now. Well, I want to study theory. They said, "You can't study theory about brains. You can't get funded for that. And as a graduate student, you can't do that." So I said, oh my gosh. I was depressed; I said, but I can make a difference in this field. I went back in the computer industry and said, I'll have to work here for a while. That's when I designed all those computer products.
אז הייתי קצת מאוכזב - די צעיר, חזרתי שוב לאחר כמה שנים והפעם זה היה לקליפורניה, לברקלי. אז אמרתי, אגש מהצד הביולוגי. ונכנסתי לתוכנית דוקטורט בביופיסיקה, ואמרתי לעצמי, מצוין, אני לומד על המח עכשיו, ואני רוצה ללמוד תיאוריה. והם אמרו, אוי לא, אתה לא יכול ללמוד תאוריה של המח. זה לא משהו שאתה יכול לעשות. אתה לא יכול לקבל תקציב לזה. וכתלמיד אתה לא יכול לעשות את זה. אז אמרתי אוי ואבוי. הייתי מאוד מצוברח. הרי אני יכול לתרום לתחום הזה. אז חזרתי לעסקי המחשבים ואמרתי, נו טוב, אעבוד פה לזמן מה, אעשה משהו. זו התקופה שתכננתי את כל המוצרים ההם.
(Laughter)
(צחוק)
I said, I want to do this for four years, make some money, I was having a family, and I would mature a bit, and maybe the business of neuroscience would mature a bit. Well, it took longer than four years. It's been about 16 years. But I'm doing it now, and I'm going to tell you about it. So why should we have a good brain theory? Well, there's lots of reasons people do science. The most basic one is, people like to know things. We're curious, and we go out and get knowledge. Why do we study ants? It's interesting. Maybe we'll learn something useful, but it's interesting and fascinating. But sometimes a science has other attributes which makes it really interesting.
אני רוצה לעשות את זה כארבע שנים, להרוויח קצת כסף, להקים משפחה, ולהתבגר קצת, ואולי תחום מדעי המח יתבגר קצת. אז זה לקח יותר מארבע שנים. זה לקח שש עשרה שנים. אבל אני עושה את זה עכשיו, ואספר לכם על זה. אז למה אנחנו צריכים תיאוריה טובה על המח? יש הרבה סיבות שבגללן אנשים עוסקים במדע. אחת - הסיבה הבסיסית ביותר - אנשים רוצים לדעת. אנו סקרנים ויוצאים לאסוף מידע. למה אנו חוקרים נמלים? כי הן מעניינות. אולי נלמד משהו ממש מועיל עליהן, אבל זה מעניין ומסקרן. אבל לפעמים, למדע יש משהו אחר שהופך אותו למאוד מאוד מעניין.
Sometimes a science will tell something about ourselves; it'll tell us who we are. Evolution did this and Copernicus did this, where we have a new understanding of who we are. And after all, we are our brains. My brain is talking to your brain. Our bodies are hanging along for the ride, but my brain is talking to your brain. And if we want to understand who we are and how we feel and perceive, we need to understand brains. Another thing is sometimes science leads to big societal benefits, technologies, or businesses or whatever. This is one, too, because when we understand how brains work, we'll be able to build intelligent machines. That's a good thing on the whole, with tremendous benefits to society, just like a fundamental technology.
לפעמים המדע יאמר לנו משהו על עצמנו, הוא יאמר לנו מי אנחנו. לעיתים נדירות, האבולוציה עשתה את זה, קופרניקוס עשה את זה, המקום שבו יש לנו הבנה חדשה על מהותנו. ואחרי הכל, אנחנו זה המוחות שלנו. המח שלי מדבר למח שלכם. גופנו מנצל את ההזדמנות להצטרף, אבל המח שלי מדבר למח שלכם. ואם אנחנו רוצים להבין מי אנחנו ומה אנו מרגישים וחווים, אנו חייבים להבין מהו המח. דבר נוסף הוא לפעמים המדע מוביל לתועלות חברתיות וטכנולוגיות גדולות, או עסקים או לא משנה מה. וגם זה חשוב, כי אם נבין איך המח עובד, נוכל לבנות מכונות חכמות, ואני חושב שבאופן רחב זה דבר טוב, ותהיה לזה תועלת מדהימה לחברה בדיוק כמו טכנולוגיה ראשונית.
So why don't we have a good theory of brains? People have been working on it for 100 years. Let's first take a look at what normal science looks like. This is normal science. Normal science is a nice balance between theory and experimentalists. The theorist guy says, "I think this is what's going on," the experimentalist says, "You're wrong." It goes back and forth, this works in physics, this in geology. But if this is normal science, what does neuroscience look like? This is what neuroscience looks like. We have this mountain of data, which is anatomy, physiology and behavior. You can't imagine how much detail we know about brains. There were 28,000 people who went to the neuroscience conference this year, and every one of them is doing research in brains. A lot of data, but no theory. There's a little wimpy box on top there.
אז למה איך לנו תאוריה טובה על המח? ואנשים עבדו על כך מאה שנה. בואו נסתכל קודם איך נראה מדע נורמלי . זה מדע נורמלי. מדע נורמלי הוא שווי משקל בין תאוריה למחקר. התאורתיקן אומר אני חושב שזה מה שקורה, והחוקר אומר, לא, אתה טועה. והולכים לכאן ולשם, ככה זה עובד בפיסיקה. ככה זה עובד בגיאולוגיה. אבל אם זה מדע הנורמלי, איך נראים מדעי המח? יש לנו הר של מידע, על אנטומיה, פיזיולוגיה והתנהגות. אתם לא יכולים לתאר כמה מידע מפורט יש לנו על המח. 28,000 אנשים הגיעו לכנס מדעי המח השנה, וכל אחד מהם חוקר את המח. המון נתונים. אבל אין תאוריה. הקופסא הקטנטנה הזאת למעלה. והתאוריה אף פעם לא שיחקה תפקיד מכריע במדעי המח.
And theory has not played a role in any sort of grand way in the neurosciences. And it's a real shame. Now, why has this come about? If you ask neuroscientists why is this the state of affairs, first, they'll admit it. But if you ask them, they say, there's various reasons we don't have a good brain theory. Some say we still don't have enough data, we need more information, there's all these things we don't know. Well, I just told you there's data coming out of your ears. We have so much information, we don't even know how to organize it. What good is more going to do? Maybe we'll be lucky and discover some magic thing, but I don't think so. This is a symptom of the fact that we just don't have a theory. We don't need more data, we need a good theory.
וזה ממש חבל. למה זה קרה? אם אתם שואלים חוקרי מח למה? הם קודם כל יודו בכך. אבל אם תשאל אותם, הם יאמרו ובכן, יש כמה סיבות לכך, חלק יאמרו, אין לנו מספיק נתונים, אנחנו צריכים לאסוף יותר מידע, יש עדין הרבה דברים שאיננו יודעים. ובכן, הרגע אמרתי לך שכמות הנתונים נשפכת מהאזניים. יש לנו כל כך הרבה מידע שאנחנו לא יודעים איך להתחיל לארגן אותו. איזו טובה תצא לנו מעוד? אולי יהיה לנו מזל ונמצא דבר קסם, אבל אני לא חושב כך זה למעשה תסמין להעדר תאוריה. אנחנו לא צריכים עוד נתונים - אנחנו צריכים תאוריה טובה בשבילם.
Another one is sometimes people say, "Brains are so complex, it'll take another 50 years." I even think Chris said something like this yesterday, something like, it's one of the most complicated things in the universe. That's not true -- you're more complicated than your brain. You've got a brain. And although the brain looks very complicated, things look complicated until you understand them. That's always been the case. So we can say, my neocortex, the part of the brain I'm interested in, has 30 billion cells. But, you know what? It's very, very regular. In fact, it looks like it's the same thing repeated over and over again. It's not as complex as it looks. That's not the issue.
לפעמים אנשים אומרים, המח כה מורכב, זה יקח עוד חמישים שנה. אני חושב שכריס אמר משהו כזה אתמול. אני לא בטוח מה אמרת, אבל משהו כזה, זה אחד הדברים המסובכים ביותר ביקום. זה לא נכון. אתה יותר מסובך מהמח שלך. יש לך מח. וגם, למרות שהמח נראה מאוד מסובך, דברים נראים מסובכים עד שמבינים אותם. תמיד זה היה ככה. אז מה שיכולים לומר, שבקליפת המח, היא החלק שאני מתעניין בו, יש 30 מיליארד תאים. אבל אתם יודעים מה? זה מאוד מאוד סדיר. למעשה, נראה שאותו הדבר בדיוק חוזר על עצמו כל הזמן . זה לא עד כדי כך מסובך כמו שזה נראה. לא זה העניין.
Some people say, brains can't understand brains. Very Zen-like. Woo.
אנשים מסוימים אומרים, מוחות לא יכולים להבין מוחות. מאוד "זֵני".
(Laughter)
(צחוק)
You know, it sounds good, but why? I mean, what's the point? It's just a bunch of cells. You understand your liver. It's got a lot of cells in it too, right? So, you know, I don't think there's anything to that. And finally, some people say, "I don't feel like a bunch of cells -- I'm conscious. I've got this experience, I'm in the world. I can't be just a bunch of cells." Well, people used to believe there was a life force to be living, and we now know that's really not true at all. And there's really no evidence, other than that people just disbelieve that cells can do what they do. So some people have fallen into the pit of metaphysical dualism, some really smart people, too, but we can reject all that.
זה נשמע טוב, אבל למה? מה הנקודה? הם רק כמה תאים. אתה יכול להבין את הכבד שלך. גם בו יש המון תאים, נכון? אני לא חושב שיש בזה משהו. ולסיום, אנשים מסוימים אומרים, אתה יודע, אני לא מרגיש רק כמו תאים. אני מודע. יש לי חוויות, אני בעולם. לא יכול להיות שאני רק ערימה של תאים. ובכן, פעם אנשים האמינו שיש איזשהו כח חיים, וכיום אנו יודעים שזה לא ממש נכון. ואין הוכחה, למעט אנשים שאינם מאמינים שתאים יכולים לעשות מה שהם עושים. כך הרבה אנשים נפלו לבור הדואליזם המטאפיזי גם כמה אנשים ממש חכמים, אבל אנו יכולים לדחות זאת על הסף.
(Laughter)
(צחוק)
No, there's something else, something really fundamental, and it is: another reason why we don't have a good brain theory is because we have an intuitive, strongly held but incorrect assumption that has prevented us from seeing the answer. There's something we believe that just, it's obvious, but it's wrong. Now, there's a history of this in science and before I tell you what it is, I'll tell you about the history of it in science. Look at other scientific revolutions -- the solar system, that's Copernicus, Darwin's evolution, and tectonic plates, that's Wegener. They all have a lot in common with brain science.
אני הולך לומר לכם שיש משהו אחר, בסיסי מאוד, שיש סיבה אחרת לכך שאין לנו תיאורית מח טובה, והיא בגלל שאנו מחזיקים באינטואיציה חזקה, ובהנחה לא נכונה שמונעת מאתנו לראות את התשובה. ישנו דבר שאנו מאמינים בו, מובן מאליו בשבילנו, אך הוא שגוי. יש לכך היסטוריה במדע, ולפני שאומר לכם מהו, אספר לכם מעט על ההסטוריה. הביטו על כמה מהפכות מדעיות אחרות, אני מדבר על מערכת השמש, זה קופרניקוס, האבולוציה של דרווין, והלוחות הטקטונים של וגנר. יש להם המון מהמשותף למדעי המח.
First, they had a lot of unexplained data. A lot of it. But it got more manageable once they had a theory. The best minds were stumped -- really smart people. We're not smarter now than they were then; it just turns out it's really hard to think of things, but once you've thought of them, it's easy to understand. My daughters understood these three theories, in their basic framework, in kindergarten. It's not that hard -- here's the apple, here's the orange, the Earth goes around, that kind of stuff.
קודם כל היו להם המון נתונים לא מוסברים. המון. אבל זה היה הרבה יותר ברור ברגע שהיתה להם תאוריה. האנשים החכמים ביותר היו מבולבלים, אנשים מאוד מאוד חכמים. אנו לא חכמים יותר עכשיו ממה שהם היו אז רק הסתבר שזה מאוד קשה לחשוב על דברים, אבל ברגע שחשבת עליהם, זה די פשוט להבין אותם. הבנות שלי הבינו את שלושת התיאוריות בצורתם הבסיסית, כבר בגן הילדים. וזה לא כזה קשה, הנה התפוח, הנה התפוז, כדור הארץ מקיף, משהו בסגנון הזה.
Another thing is the answer was there all along, but we kind of ignored it because of this obvious thing. It was an intuitive, strongly held belief that was wrong. In the case of the solar system, the idea that the Earth is spinning, the surface is going a thousand miles an hour, and it's going through the solar system at a million miles an hour -- this is lunacy; we all know the Earth isn't moving. Do you feel like you're moving a thousand miles an hour? If you said Earth was spinning around in space and was huge -- they would lock you up, that's what they did back then.
לבסוף, התשובה היתה שם לאורך כל הדרך, אבל די התעלמנו ממנה, בגלל הדבר המובן מאליו. זו היתה אמונה אינטואיטיבית חזקה אך שגויה. במקרה של מערכת השמש, הרעיון שכדור הארץ סב ושכדור הארץ נע במהירות של אלפי קילומטרים לשעה, וסביב מערכת השמש במהירות של מיליוני קילומטרים לשעה. זה טירוף. כולנו יודעים שהקרקע אינה זזה. אתם מרגישים שאתם זזים במהירות של אלפי קילומטרים לשעה? ברור שלא. ומי שהיה אומר, הוא חג בחלל והוא כל כך ענק, הם היו כולאים אותו וזה מה שהם היו עושים.
So it was intuitive and obvious. Now, what about evolution?
(צחוק) זו היתה הנחה ברורה מאליה. ומה לגבי האבולוציה?
Evolution, same thing. We taught our kids the Bible says God created all these species, cats are cats; dogs are dogs; people are people; plants are plants; they don't change. Noah put them on the ark in that order, blah, blah. The fact is, if you believe in evolution, we all have a common ancestor. We all have a common ancestor with the plant in the lobby! This is what evolution tells us. And it's true. It's kind of unbelievable. And the same thing about tectonic plates. All the mountains and the continents are kind of floating around on top of the Earth. It doesn't make any sense.
באותה מידה. לימדנו את ילדנו, שהתנ"ך מספר שאלוהים יצר את כל היצורים, חתולים הם חתולים, כלבים הם כלבים, בני אדם הם בני אדם, צמחים הם צמחים, הם לא משתנים. נוח שם אותם בתיבה לפי הסדר, בלה בלה בלה. ולמעשה, אם אתם מאמינים באבולוציה, אז לכולנו יש אב קדמון, משותף עם העציץ בלובי. זה מה שהאבולוציה מספרת לנו. וזה נכון. אבל ממש לא יאומן. ואותו הדבר עם הלוחות הטקטונים, כל ההרים והיבשות מרחפות להם על פני כדור הארץ, ממש לא הגיוני.
So what is the intuitive, but incorrect assumption, that's kept us from understanding brains? I'll tell you. It'll seem obvious that it's correct. That's the point. Then I'll make an argument why you're incorrect on the other assumption. The intuitive but obvious thing is: somehow, intelligence is defined by behavior; we're intelligent because of how we do things and how we behave intelligently. And I'm going to tell you that's wrong. Intelligence is defined by prediction.
אז מהי ההנחה האינטואיטיבית המוטעית, שמנעה מאיתנו להבין את המח? אני הולך לומר לכם אותה, והיא תישמע מובנת מאליה, וזו הנקודה, נכון? אחר כך אצטרך לטעון טענה מדוע אתם שוגים לגבי אותה הנחה. ההנחה האינטואיטיבית המובנת מאליה היא שהאינטליגנציה, מוגדרת על ידי התנהגות, שאנו אינטליגנטים בזכות הדרך שבה אנו עושים דברים הדרך שבה אנו מתנהגים בצורה אינטליגנטית, ואני אומר לכם שזו טעות. שאינטליגנציה היא ניבוי. ואסביר זאת בשקופיות הבאות,
I'm going to work you through this in a few slides, and give you an example of what this means. Here's a system. Engineers and scientists like to look at systems like this. They say, we have a thing in a box. We have its inputs and outputs. The AI people said, the thing in the box is a programmable computer, because it's equivalent to a brain. We'll feed it some inputs and get it to do something, have some behavior. Alan Turing defined the Turing test, which essentially says, we'll know if something's intelligent if it behaves identical to a human -- a behavioral metric of what intelligence is that has stuck in our minds for a long time.
אתן לכם דוגמא למה אני מתכוון. הנה מערכת. מהנדסים ומדענים אוהבים להביט על מערכות כאלה. הם אומרים, ישנו משהו בקופסא, ולקופסא יש קלט ופלט. אנשי האינטליגנציה המלאכותית אומרים, הדבר שבקופסא הוא מחשב שהוא המקביל למח, נטען אותו בקלט כלשהו ונגרום לו לעשות משהו, להתנהג בצורה מסויימת. ואלן טורינג הגדיר את מבחן טורינג, שעקרונית אומר נדע אם משהו אינטליגנטי אם יתנהג זהה לאדם. התנהגות השקולה לאינטליגנציה. וזה נתקע לנו בתודעה לאורך המון זמן.
Reality, though -- I call it real intelligence. Real intelligence is built on something else. We experience the world through a sequence of patterns, and we store them, and we recall them. When we recall them, we match them up against reality, and we're making predictions all the time. It's an internal metric; there's an internal metric about us, saying, do we understand the world, am I making predictions, and so on. You're all being intelligent now, but you're not doing anything. Maybe you're scratching yourself, but you're not doing anything. But you're being intelligent; you're understanding what I'm saying. Because you're intelligent and you speak English, you know the word at the end of this sentence.
אולם במציאות, אני קורה לזה אינטליגנציה אמיתית. אינטליגנציה אמיתית בנויה על משהו אחר. אנו חווים את העולם באמצעות רצף דפוסים, שומרים אותם, נזכרים בהם ומעמתים אותם עם המציאות, ומנבאים כל הזמן. זו מערכת אין סופית. האם אני מבין את העולם? אני מנבא? וכולי. כולכם אינטליגנטיים ברגע זה, אך אתם לא עושים שום דבר. אולי מגרדים איפשהו או מחטטים באף, אבל אתם לא עושים שום דבר ברגע זה, אך עדיין אינטליגנטים, אתם מבינים את מילותיי. בזכות זה שאתם אינטליגנטים ומדברים אנגלית, אתם יודעים איזו מילה תבוא בסוף... המשפט.
The word came to you; you make these predictions all the time. What I'm saying is, the internal prediction is the output in the neocortex, and somehow, prediction leads to intelligent behavior. Here's how that happens: Let's start with a non-intelligent brain. I'll argue a non-intelligent brain, we'll call it an old brain. And we'll say it's a non-mammal, like a reptile, say, an alligator; we have an alligator. And the alligator has some very sophisticated senses. It's got good eyes and ears and touch senses and so on, a mouth and a nose. It has very complex behavior. It can run and hide. It has fears and emotions. It can eat you. It can attack. It can do all kinds of stuff. But we don't consider the alligator very intelligent, not in a human sort of way.
המילה קפצה לכם, ואתם עושים ניבויים כאלה כל הזמן. ומה שאני אומר שהניבוי הוא הפלט של קליפת המח. ושבצורה כלשהי, הניבויים מובילים להתנהגות אינטליגנטית. וכך זה קורה. בואו נתחיל עם מח לא אינטליגנטי. המח הישן, נניח של לא יונק, זוחל למשל , כמו תנין. ולתנין יש חושים מאוד מתוחכמים. יש לו עיניים ואוזניים טובות, וחוש מישוש, פה ואף. יש לו התנהגות מאוד מורכבת. הוא יכול לרוץ ולהתחבא. יש לו פחדים ורגשות. הוא יכול לטרוף אותך. ולתקוף. כל מיני דברים. אך אנו לא מחשיבים את התנין ליצור מאוד אינטליגנטי, לא במובן האנושי של המילה.
But it has all this complex behavior already. Now in evolution, what happened? First thing that happened in evolution with mammals is we started to develop a thing called the neocortex. I'm going to represent the neocortex by this box on top of the old brain. Neocortex means "new layer." It's a new layer on top of your brain. It's the wrinkly thing on the top of your head that got wrinkly because it got shoved in there and doesn't fit.
למרות שיש לו את ההתנהגות המורכבת הזו. מה קרה במהלך האבולוציה? הדבר הראשון שקרה באבולוציה של היונקים, שפיתחנו את החלק שנקרא קליפת המח. ואני מיצג את קליפת המח כאן, בעזרת התיבה הזו שיושבת מעל המח הישן. קליפת המח משמעותה שכבה חדשה. בראש המח. אם לא ידעתם, היא הדבר המקומט בראש המח, שיש לו קמטים כי הוא נדחס לשם למרות חוסר המקום.
(Laughter)
(צחוק)
Literally, it's about the size of a table napkin and doesn't fit, so it's wrinkly. Now, look at how I've drawn this. The old brain is still there. You still have that alligator brain. You do. It's your emotional brain. It's all those gut reactions you have. On top of it, we have this memory system called the neocortex. And the memory system is sitting over the sensory part of the brain. So as the sensory input comes in and feeds from the old brain, it also goes up into the neocortex. And the neocortex is just memorizing. It's sitting there saying, I'm going to memorize all the things going on: where I've been, people I've seen, things I've heard, and so on. And in the future, when it sees something similar to that again, in a similar environment, or the exact same environment, it'll start playing it back: "Oh, I've been here before," and when you were here before, this happened next. It allows you to predict the future. It literally feeds back the signals into your brain; they'll let you see what's going to happen next, will let you hear the word "sentence" before I said it. And it's this feeding back into the old brain that will allow you to make more intelligent decisions.
ברצינות, זה בערך בגודל של מפית. וזה לא מתאים, אז זה נהיה מקומט. המח הישן עדין כאן. עדין יש לנו מח כמו לתנין. בהחלט יש לנו. זה המח הרגשי שלכם. כל הדברים כמו תחושות הבטן. ומעליו ישנה מערכת זכרון הנקראת קליפת המח. ומערכת הזכרון הזו יושבת בחלק החישתי של המח. וכשקלט חישתי מגיע למח הישן, הוא בנוסף עולה לקליפת המח החדשה. והיא משננת. היא יושבת שם "ואומרת" אני אשנן את כל הדברים שקורים, איפה הייתי, אנשים שראיתי, דברים ששמעתי וכולי. ובעתיד, כשהיא רואה משהו דומה, בסביבה דומה או אפילו זהה, היא תפעיל את זה מחדש. הו, הייתי פה בעבר. וכשהייתי פה, זה מה שקרה הלאה. זה מאפשר לכם לחזות את העתיד. זה מאפשר לכם פשוטו כמשמעו להזין את האותות למוחכם, שיאפשרו לכם לצפות מה יקרה ברגע הבא, יאפשר לכם לשמוע את המילה "משפט" לפני שאמרתי אותה. זו ההזנה-החוזרת למח הישן המאפשרת לקבל החלטות אינטליגנטיות.
This is the most important slide of my talk, so I'll dwell on it a little. And all the time you say, "Oh, I can predict things," so if you're a rat and you go through a maze, and you learn the maze, next time you're in one, you have the same behavior. But suddenly, you're smarter; you say, "I recognize this maze, I know which way to go; I've been here before; I can envision the future." That's what it's doing. This is true for all mammals -- in humans, it got a lot worse. Humans actually developed the front of the neocortex, called the anterior part of the neocortex. And nature did a little trick. It copied the posterior, the back part, which is sensory, and put it in the front. Humans uniquely have the same mechanism on the front, but we use it for motor control.
זו השקופית החשובה ביותר בהרצאה אז אשאר איתה לזמן מה. אז כל הזמן אתה אומר, הו, אני יכול לחזות מה יקרה. אם אתה עכבר שמסתובב במבוך, ולומד אותו, פעם הבאה שאתה במבוך, ההתנהגות שלך זהה, אבל לפתע, אתה חכם יותר כי אתה אומר, אני מכיר את המבוך הזה, אני יודע לאן ללכת, הייתי פה בעבר, אני יכול לצפות את העתיד. וזה מה שהוא עושה. זה נכון לגבי כל היונקים, אבל אצל בני אדם, זה נהיה גרוע יותר. אצל בני אדם, פיתחנו את החלק הקדמי של קליפת המח שנקרא הקליפה הקדמית. והטבע עשה תעלול. הוא העתיק את החלק האחורי החישתי, ושם אותו מקדימה. אצל בני אדם באופן יחודי יש את אותו מנגנון מקדימה, אבל אנו משתמשים בו לתנועה.
So we're now able to do very sophisticated motor planning, things like that. I don't have time to explain, but to understand how a brain works, you have to understand how the first part of the mammalian neocortex works, how it is we store patterns and make predictions. Let me give you a few examples of predictions. I already said the word "sentence." In music, if you've heard a song before, when you hear it, the next note pops into your head already -- you anticipate it. With an album, at the end of a song, the next song pops into your head. It happens all the time, you make predictions.
אנו יכולים עכשיו לעשות תנועות מתוחכמות מאוד. אין לי זמן להכנס להכל, אבל אם אתם רוצים להבין אין המח עובד, אתם חייבים להבין איך החלק הראשון של קליפת המח אצל יונקים עובד, איך אנו מצליחים לאגור דפוסים ולנבא. בואו נראה כמה דוגמאות של ניבוי. כבר נתתי את הדוגמא של המילה "משפט". במוסיקה, אם שמעתם שיר בעבר, אם שמעתם את ג'יל שרה את השירים הללו בעבר, כשהיא שרה אותם, התו הבא קופץ לכם לראש מיד- אתם מצפים לשמוע אותו. אם זה היה אלבום שירים, בסוף כל שיר, השיר הבא קופץ לכם לראש. הדברים האלו קורים כל הזמן. כך אתם מנבאים.
I have this thing called the "altered door" thought experiment. It says, you have a door at home; when you're here, I'm changing it -- I've got a guy back at your house right now, moving the door around, moving your doorknob over two inches. When you go home tonight, you'll put your hand out, reach for the doorknob, notice it's in the wrong spot and go, "Whoa, something happened." It may take a second, but something happened. I can change your doorknob in other ways -- make it larger, smaller, change its brass to silver, make it a lever, I can change the door; put colors on, put windows in. I can change a thousand things about your door and in the two seconds you take to open it, you'll notice something has changed.
יש ניסוי שאני קורא לו ניסוי "הדלת המשתנה". והניסוי אומר, יש לכם בבית דלת, ובזמן שאתם נמצאים כאן, אני משנה אותה, יש לי מישהו בבית שלכם ברגע זה, שמתעסק בדלת, והוא עומד להזיז את ידית הדלת כמה סנטימטרים. כשתגיעו הביתה היום בערב, תושיטו את היד לכוון ידית הדלת ותבחינו שהיא במקום הלא נכון, ותאמרו, וואו, משהו קרה. זה יכול לקחת כמה רגעים להבין מה בדיוק קרה, אבל משהו קרה. אני יכול לשנות את הדלת שלכם בדרכים אחרות. אני יכול לעשות אותה גדולה או קטנה יותר, לשנות אותה מנחושת לכסף, להוסיף לה מנוף. לצבוע אותה, לשים חלונות. אני יכול לשנות אלפי דברים בדלת, ובשתי שניות שלוקח לכם לפתוח אותה, אתם תשימו לב שמשהו השתנה.
Now, the engineering approach, the AI approach to this, is to build a door database with all the door attributes. And as you go up to the door, we check them off one at time: door, door, color ... We don't do that. Your brain doesn't do that. Your brain is making constant predictions all the time about what will happen in your environment. As I put my hand on this table, I expect to feel it stop. When I walk, every step, if I missed it by an eighth of an inch, I'll know something has changed. You're constantly making predictions about your environment. I'll talk about vision, briefly. This is a picture of a woman. When we look at people, our eyes saccade over two to three times a second. We're not aware of it, but our eyes are always moving. When we look at a face, we typically go from eye to eye to nose to mouth. When your eye moves from eye to eye, if there was something else there like a nose, you'd see a nose where an eye is supposed to be and go, "Oh, shit!"
גישת האינטליגנציה מלאכותית לכך, היא לבנות מסד נתונים של דלתות שיש בו את כל תכונות הדלת. וברגע שאתם הולכים לדלת, אתם בודקים את כל התכונות אחת אחרי השניה. דלת, דלת, דלת...צבע. אנו לא עושים את זאת כך. המח שלכם לא עושה זאת כך. מה שהוא עושה זה לנבא ללא הרף ובאופן עקבי מה יקרה בסביבתכם. כשאני שם את ידי על השולחן, אני מצפה שהיא תעצר. כשאני הולך, בכל צעד, אם אפספס אותו בכמה מילימטרים, אדע שמשהו השתנה. אתם מנבאים ללא הרף לגבי סביבתכם. אדבר בקצרה על הראיה. זוהי תמונה של אשה. וכשאתם מסתכלים על אנשים, העיניים שלכם מדלגות פעמיים עד שלוש בשניה. אתם לא מודעים לכך, אבל העיניים שלכם זזות ללא הרף. כשאתם מסתכלים על פנים של מישהו, אתם בדרך כלל עוברים מעין לעין לאף ולפה. כשאתם עוברים מעין לעין, אם היה משהו אחר במקום העין, למשל אף, הייתם רואים אף במקום שעין צריכה להיות,
(Laughter)
הייתם אומרים, אופס...
"There's something wrong about this person." That's because you're making a prediction. It's not like you just look over and say, "What am I seeing? A nose? OK." No, you have an expectation of what you're going to see.
(צחוק) יש משהו לא בסדר באדם הזה. וזה בגלל שאתם מנבאים. זה לא שאתם מסתכלים לשם ואומרים, מה אני רואה עכשיו? אף, זה בסדר. לא, יש לכם צפיה לגבי מה שאתם אמורים לראות.
(צחוק)
Every single moment. And finally, let's think about how we test intelligence. We test it by prediction: What is the next word in this ...? This is to this as this is to this. What is the next number in this sentence? Here's three visions of an object. What's the fourth one? That's how we test it. It's all about prediction.
ולסיום, איך אנו בוחנים אינטליגנציה. אנחנו בוחנים את זה על ידי ניבוי. מהי המילה הבאה? הדבר הזה ביחס לזה הוא כמו הדבר הזה ביחס למה? מה המילה הבאה במשפט? הנה שלושה צדדים של דבר. מהו הרביעי? כך בוחנים את זה. הכל עניין של ניבוי. אז מהו המתכון לתיאורית מח?
So what is the recipe for brain theory? First of all, we have to have the right framework. And the framework is a memory framework, not a computational or behavior framework, it's a memory framework. How do you store and recall these sequences of patterns? It's spatiotemporal patterns.
קודם כל, חייבת להיות לנו תבנית נכונה. תבנית של זיכרון, לא תבנית ממוחשבת או התנהגותית. תבנית זיכרון. איך אנו שומרים וזוכרים את הרצפים והדפוסים? דפוסים הן בזמן והן במרחב. לאחר מכן לוקחים כמה תאורטיקנים.
Then, if in that framework, you take a bunch of theoreticians -- biologists generally are not good theoreticians. Not always, but generally, there's not a good history of theory in biology. I've found the best people to work with are physicists, engineers and mathematicians, who tend to think algorithmically. Then they have to learn the anatomy and the physiology. You have to make these theories very realistic in anatomical terms. Anyone who tells you their theory about how the brain works and doesn't tell you exactly how it's working and how the wiring works -- it's not a theory.
ביולוגים בדרך כלל לא תאורטיקנים טובים. זה לא תמיד נכון, אך באופן כללי, אין ניסיון עשיר של תאוריות בביולוגיה. אז מצאתי לנכון שהאנשים הטובים ביותר לעבוד איתם הם פיסיקאים, מהנדסים ומתמטיקאים, שבאופן טבעי חושבים בצורה אלגוריתמית. והם חייבים ללמוד אנטומיה, והם חייבים ללמוד פיזיולוגיה. צריך לבנות את התיאוריות הללו בצורה מאוד מציאותית מבחינה אנטומית. אם מישהו יקום ויספר לכם על תאוריה ולא יספר לכם איך בדיוק זה עובד במח ואיך החיווט עובד במח, זו לא באמת תאוריה. וזה מה שאנו עושים במכון רד-ווד.
And that's what we do at the Redwood Neuroscience Institute. I'd love to tell you we're making fantastic progress in this thing, and I expect to be back on this stage sometime in the not too distant future, to tell you about it. I'm really excited; this is not going to take 50 years.
הייתי שמח אילו היה לי יותר זמן לספר לכם אנו עושים התקדמות נהדרת בנושא, ואני מצפה לשוב לבמה זו, אולי בעתיד הלא רחוק ולספר לכם על זה. אני מאוד מאוד נלהב. זה ממש לא יקח חמישים שנה.
What will brain theory look like? First of all, it's going to be about memory. Not like computer memory -- not at all like computer memory. It's very different. It's a memory of very high-dimensional patterns, like the things that come from your eyes. It's also memory of sequences: you cannot learn or recall anything outside of a sequence. A song must be heard in sequence over time, and you must play it back in sequence over time. And these sequences are auto-associatively recalled, so if I see something, I hear something, it reminds me of it, and it plays back automatically. It's an automatic playback. And prediction of future inputs is the desired output. And as I said, the theory must be biologically accurate, it must be testable and you must be able to build it. If you don't build it, you don't understand it.
אז איך תיאורית המח תיראה? קודם כל, זו תהיה תאוריה על זיכרון. לא כמו של מחשב. זה אפילו לא דומה לזיכרון של מחשב. זה מאוד, מאוד שונה. וזהו זיכרון של אותם דפוסים רב-מימדיים, אותם הדברים הבאים מהעינים. בנוסף, גם זיכרון של רצפים. אתם לא יכולים ללמוד או לזכור שום דבר מחוץ לרצף כלשהו. שיר חייב להיות מושמע ברצף לאורך זמן, ואתם חייבים להשמיע אותו לעצמכם ברצף לאורך זמן. אנו נזכרים ברצפים האלה בצורה עצמית ואסוציאטיבית, אז אם אני רואה או שומע משהו, אני נזכר, ומושמע בצורה אוטומטית. זו השמעה חוזרת אוטומטית. וניבוי של קלט עתידי הוא הפלט הרצוי. כמו שאמרתי, התאוריה חייבת להיות מדויקת מבחינה ביולוגית, היא חייבת להיות ברת בדיקה, ואתה חייב להיות מסוגל לבנות אותה. אם אתה לא בונה אותה, אתה לא מבין אותה.
One more slide. What is this going to result in? Are we going to really build intelligent machines? Absolutely. And it's going to be different than people think. No doubt that it's going to happen, in my mind. First of all, we're going to build this stuff out of silicon. The same techniques we use to build silicon computer memories, we can use here. But they're very different types of memories. And we'll attach these memories to sensors, and the sensors will experience real-live, real-world data, and learn about their environment.
מה זה הולך ליצור? האם אנחנו באמת הולכים לבנות מכונות אינטליגנטיות? ללא ספק. זה יהיה שונה ממה שאנשים חושבים. אין לי ספק שזה הולך לקרות. קודם כל, זה הולך להבנות מסיליקון. אותה טכניקה שבה השתמשנו לבנות זכרון למחשב, תשמש אותנו כאן. אבל סוג הזכרון הוא מאוד מאוד שונה. נצמיד את מערכת הזכרון הזו לחיישנים, והחיישנים יקלטו נתונים מהעולם האמיתי, והדברים הללו ילמדו על הסביבה שלהם.
Now, it's very unlikely the first things you'll see are like robots. Not that robots aren't useful; people can build robots. But the robotics part is the hardest part. That's old brain. That's really hard. The new brain is easier than the old brain. So first we'll do things that don't require a lot of robotics. So you're not going to see C-3PO. You're going to see things more like intelligent cars that really understand what traffic is, what driving is and have learned that cars with the blinkers on for half a minute probably aren't going to turn.
מאוד לא סביר שהדבר הראשון שנראה יהיו רובוטים. לא בגלל שרובוטים הם חסרי תועלת ובהחלט ניתן לבנות אותם. אלא שהחלק הרובוטי הוא החלק הקשה. זהו המח הישן. זה ממש קשה. המח החדש הוא די קל ביחס למח הישן. אז הדברים הראשונים שאנו עומדים לעשות אינם זקוקוים ליותר מידי רובוטיקה. אתם לא הולכים לראות C-3PO. תראו דברים יותר כמו מכוניות אינטליגנטיות שמבינות תחבורה ונהיגה ולמדו שמכוניות מסויימות עם אורות שמהבהבים במשך חצי דקה כנראה לא עומדות לפנות, דברים מעין אלה.
(Laughter)
(צחוק)
We can also do intelligent security systems. Anytime we're basically using our brain but not doing a lot of mechanics -- those are the things that will happen first. But ultimately, the world's the limit. I don't know how this will turn out. I know a lot of people who invented the microprocessor. And if you talk to them, they knew what they were doing was really significant, but they didn't really know what was going to happen. They couldn't anticipate cell phones and the Internet and all this kind of stuff. They just knew like, "We're going to build calculators and traffic-light controllers. But it's going to be big!" In the same way, brain science and these memories are going to be a very fundamental technology, and it will lead to unbelievable changes in the next 100 years. And I'm most excited about how we're going to use them in science. So I think that's all my time -- I'm over, and I'm going to end my talk right there.
ניתן לעשות אמצעי אבטחה חכמים. כל המקומות שבהם אנו משתמשים הרבה בשכלנו ללא הרבה מכניקה. אלו הדברים שיקרו קודם. בסופו של דבר, השמיים הם הגבול. אינני יודע איך זה יתפתח. אני מכיר אנשים רבים שהמציאו את המיקרו-מעבדים אם הייתם שואלים אותם, הם ידעו שמה שהם עושים הוא מאוד חשוב, אך הם לא ידעו מה יקרה בעתיד. הם לא צפו את הטלפונים הסלולרים, את האינטרנט וכל הדברים הללו. הם רק ידעו שהם עומדים לבנות מחשבונים ובקרת רמזורים. זה הולך להיות גדול. מדעי המח ומערכות הזכרון הללו, יהיו טכנולוגיה מאוד בסיסית, שתוביל לשינויים מרחיקי לכת במאה שנים הקרובות. ואני הכי נלהב לגלות כיצד נשתמש בהם במדע. אני חושב שזמני תם, ובזאת אסיים את ההרצאה.