Аз имам двойник. (Смях) Д-р Геро е прекрасен, но леко луд учен в Dragonball Z "Сагата Андроид". Ако се вгледате много внимателно, ще видите, че черепът му е заменен с прозрачен плексигласов купол, така че да се вижда как работи мозъкът му, и да може да се контролира със светлина. Аз правя точно това -- оптичен контрол на мозъка.
I have a doppelganger. (Laughter) Dr. Gero is a brilliant but slightly mad scientist in the "Dragonball Z: Android Saga." If you look very carefully, you see that his skull has been replaced with a transparent Plexiglas dome so that the workings of his brain can be observed and also controlled with light. That's exactly what I do -- optical mind control.
(Смях)
(Laughter)
Но за разлика от моя злонамерен двойник, който жадува надмощие над света, моите мотиви не са користни. Аз контролирам мозъка, за да разбера как работи. Почакайте, може да кажете, как може да пристъпите директно към контролиране на мозъка, без първо да разбирате как работи? Не означава ли това да поставяме каручката пред коня? Много невролози споделят тази позиция и смятат, че това разбиране ще дойде вследствие на обстойно наблюдение и анализ. Те казват: "Ако можем да регистрираме активността на нашите неврони, бихме разбрали как работи мозъкът." Но помислете за момент какво означава това. Дори ако можехме да преценим какво прави всяка клетка във всеки един момент, пак щеше да е необходимо да намерим логиката в регистрираните модели на активността, а това е толкова трудно, че шансовете да разберем тези модели, са точно толкова малки, колкото и за мозъка, който ги генерира.
But in contrast to my evil twin who lusts after world domination, my motives are not sinister. I control the brain in order to understand how it works. Now wait a minute, you may say, how can you go straight to controlling the brain without understanding it first? Isn't that putting the cart before the horse? Many neuroscientists agree with this view and think that understanding will come from more detailed observation and analysis. They say, "If we could record the activity of our neurons, we would understand the brain." But think for a moment what that means. Even if we could measure what every cell is doing at all times, we would still have to make sense of the recorded activity patterns, and that's so difficult, chances are we'll understand these patterns just as little as the brains that produce them.
Погледнете как би могла да изглежда активността на мозъка. В тази симулация, всяка черна точка представлява една нервна клетка. Точката става видима, всеки път, когато клетката излъчи електрически импулс. Невроните тук са 10 000 на брой. Което означава, че гледате около един процент от мозъка на хлебарка. Вашите мозъци са около 100 милиона пъти по-сложни. Някъде, в модел като този, сте вие, вашите възприятия, вашите емоции, вашите спомени, вашите планове за бъдещето. Но не знаем точно къде, тъй като не знаем как да разчетем модела. Не разбираме кода, използван от мозъка. За да отбележим напредък, трябва да разшифроваме кода. Но как? Всеки добър специалист, ще ви каже, че за да разберете какво означават символите в определен код, от съществено значение е да можете свободно да си служите с тях, да ги пренареждате, както решите. Така че, и в тази ситуация, за да се разшифрова информацията, която се съдържа в модели като тези, само наблюдение няма да е достатъчно; трябва да пренаредим модела. С други думи, вместо да регистрираме активността на невроните, трябва да я контролираме. Не е задължително да контролираме активността на всички неврони в мозъка, само на някои. Колкото по-целенасочени са интервенциите ни, толкова по-добре. И ще ви покажа след малко как можем да постигнем необходимото прецизиране.
Take a look at what brain activity might look like. In this simulation, each black dot is one nerve cell. The dot is visible whenever a cell fires an electrical impulse. There's 10,000 neurons here. So you're looking at roughly one percent of the brain of a cockroach. Your brains are about 100 million times more complicated. Somewhere, in a pattern like this, is you, your perceptions, your emotions, your memories, your plans for the future. But we don't know where, since we don't know how to read the pattern. We don't understand the code used by the brain. To make progress, we need to break the code. But how? An experienced code-breaker will tell you that in order to figure out what the symbols in a code mean, it's essential to be able to play with them, to rearrange them at will. So in this situation too, to decode the information contained in patterns like this, watching alone won't do. We need to rearrange the pattern. In other words, instead of recording the activity of neurons, we need to control it. It's not essential that we can control the activity of all neurons in the brain, just some. The more targeted our interventions, the better. And I'll show you in a moment how we can achieve the necessary precision.
И понеже съм по-скоро реалист, отколкото грандоман, не твърдя, че възможността да се контролира функцията на нервната система ще разгадае мигновено всичките й мистерии. Но със сигурност ще научим много. Аз при всички случаи не съм първия човек, който осъзнава колко мощно средство са подобни интервенции. Исторически, опитите да се разучават функциите на нервната система, датират отдавна и са широко известни. Те водят началото си преди поне 200 години, от известните експерименти на Галвани в края на 18-ти век, както и след това. Галвани показва, че жабешките крачета потръпват, когато свързва лумбалния нерв към източник на електрически ток. Този експеримент разкрива първата и може би най-основна находка за невралния код: информацията е записана под формата на електрически импулси. Подходът на Галвани на изследване на нервната система с електроди, си остава шедьовър и до днес, въпреки немалкото му слабости. Поставянето на жици в мозъка обаче, е очевидно доста непрактично. Трудно е да се направи с животни, които бягат наоколо, а и има физическо ограничение за броя на жиците, които могат да се поставят едновременно.
And since I'm realistic, rather than grandiose, I don't claim that the ability to control the function of the nervous system will at once unravel all its mysteries. But we'll certainly learn a lot. Now, I'm by no means the first person to realize how powerful a tool intervention is. The history of attempts to tinker with the function of the nervous system is long and illustrious. It dates back at least 200 years, to Galvani's famous experiments in the late 18th century and beyond. Galvani showed that a frog's legs twitched when he connected the lumbar nerve to a source of electrical current. This experiment revealed the first, and perhaps most fundamental, nugget of the neural code: that information is written in the form of electrical impulses. Galvani's approach of probing the nervous system with electrodes has remained state-of-the-art until today, despite a number of drawbacks. Sticking wires into the brain is obviously rather crude. It's hard to do in animals that run around, and there is a physical limit to the number of wires that can be inserted simultaneously.
Така, към края на миналия век, започнах да мисля, не би ли било чудесно, ако се ползва същата логика, но в обратен ред. Следователно, вместо поставянето на жица в определена част на мозъка, може да се подходи към самия мозък така, че някои от невралните му елементи да са чувствителни към дифузно излъчвани сигнали, какъвто е например светкавицата. Такъв един подход, буквално светкавично, ще доведе до преодоляването на много препятствия по пътя на откритията. Първо, очевидно е неагресивна, безжична форма на комуникация. И второ, точно както при радио излъчването, може да се комуникира с много получатели на сигнал едновременно. Не е нужно да знаете къде са тези получатели. И е без значение дали тези получатели се движат -- просто си представете стерео уредбата в колата си. А още по-добре е, че се оказва, че можем да измайсторим получателите, измежду веществата, които са кодирани в ДНК. Така, всяка нервна клетка с правилния генетичен състав, може спонтанно да формира получател, който ще ни позволи да контролираме функциите му. Надявам се да оцените очарованието на това, колко проста е тази концепция. Няма никакви високо технологични приспособления, само биология, илюстрирана чрез биология.
So around the turn of the last century, I started to think, "Wouldn't it be wonderful if one could take this logic and turn it upside down?" So instead of inserting a wire into one spot of the brain, re-engineer the brain itself so that some of its neural elements become responsive to diffusely broadcast signals such as a flash of light. Such an approach would literally, in a flash of light, overcome many of the obstacles to discovery. First, it's clearly a non-invasive, wireless form of communication. And second, just as in a radio broadcast, you can communicate with many receivers at once. You don't need to know where these receivers are, and it doesn't matter if these receivers move -- just think of the stereo in your car. It gets even better, for it turns out that we can fabricate the receivers out of materials that are encoded in DNA. So each nerve cell with the right genetic makeup will spontaneously produce a receiver that allows us to control its function. I hope you'll appreciate the beautiful simplicity of this concept. There's no high-tech gizmos here, just biology revealed through biology.
Сега, нека да погледнем по-отблизо тези удивителни приемници. Разглеждайки по-обстойно тези лилави неврони, виждаме, че външната им мембрана e покрита с микроскопични пори. Такива пори провеждат електрически ток и отговарят за цялата комуникация в нервната система. Но тези пори тук са специални. Те са свързани с рецептори за светлина, подобни на тези във вашите очи. В случай на светкавица, достигаща до рецептора, пората се отваря и електрическия поток е налице и невроните излъчват електрически импулси. Тъй като пората, активирана от светлината, е кодирана в ДНК, можем да постигнем изключителна точност. Това е така, защото въпреки, че всяка клетка в телата ни съдържа един и същи комплекс от гени, различни комбинации от гени се "включват" и "изключват" в различните клетки. Това обстоятелство може да бъде уверение, че само някои неврони съдържат порите, които се активират от светлина, други -- не. На тази илюстрация, клетката в синьо-бял цвят в горния ляв ъгъл, не реагира на светлина, защото при нея липсва пора, реагираща на светлина. Този подход работи толкова добре, че можем да пишем изкуствени съобщения директно към мозъка. В този пример, всеки електрически импулс, всяко отклонение на траекторията е предизвикано от кратък импулс светлина. Подходът е приложим също и при движещи се, активни животни.
Now let's take a look at these miraculous receivers up close. As we zoom in on one of these purple neurons, we see that its outer membrane is studded with microscopic pores. Pores like these conduct electrical current and are responsible for all the communication in the nervous system. But these pores here are special. They are coupled to light receptors similar to the ones in your eyes. Whenever a flash of light hits the receptor, the pore opens, an electrical current is switched on, and the neuron fires electrical impulses. Because the light-activated pore is encoded in DNA, we can achieve incredible precision. This is because, although each cell in our bodies contains the same set of genes, different mixes of genes get turned on and off in different cells. You can exploit this to make sure that only some neurons contain our light-activated pore and others don't. So in this cartoon, the bluish white cell in the upper-left corner does not respond to light because it lacks the light-activated pore. The approach works so well that we can write purely artificial messages directly to the brain. In this example, each electrical impulse, each deflection on the trace, is caused by a brief pulse of light. And the approach, of course, also works in moving, behaving animals.
Това е първия по рода си подобен експеримент, нещо като оптичния вариант на този на Галвани. Реализиран е преди шест или седем години, от тогавашната ми студентка, Сузана Лима. Сузана поставя мушицата от ляво по такъв начин, че само две от всички 200 000 клетки в мозъка й проявяват порите, чувствителни към светлина. Вие познавате тези клетки, защото те са точно тези, които ви ядосват, когато се опитате да ударите мухата. Те предизвикват рефлекса, който кара мухата да скочи във въздуха и да отлети всеки път, когато посегнете с ръка. И в случая както виждате, светкавицата има точно такъв ефект. Животното подскача, разперва крилете си, потреперва, но всъщност не може да излети, защото мушиците са поставени между две стъклени плочки. Сега, за да се увери, че това не е реакция на мушицата, към светкавица, която може да види, Сузана прави простичък, но изключително ефективен експеримент. Тя отрязва главите на мушиците. Тези обезглавени тела могат да живеят около ден, но без особени способности. Те просто стоят и щураво се суетят наоколо. Така че изглежда, че единствената черта, която оцелява, е суетата. (Смях) Така или иначе, както ще видите след малко, Сузана успява да активира летателния рефлекс на тази част от мушицата, която е еквивалента на гръбначния стълб и да накара някои от обезглавените тела да излетят и да се придвижат. Очевидно, не стигат много далеч. От момента, в който са направени тези първи стъпки, сферата на оптогенетика търпи бурно развитие. Понастоящем, стотици лаборатории използват тези подходи.
This is the first ever such experiment, sort of the optical equivalent of Galvani's. It was done six or seven years ago by my then graduate student, Susana Lima. Susana had engineered the fruit fly on the left so that just two out of the 200,000 cells in its brain expressed the light-activated pore. You're familiar with these cells because they are the ones that frustrate you when you try to swat the fly. They trained the escape reflex that makes the fly jump into the air and fly away whenever you move your hand in position. And you can see here that the flash of light has exactly the same effect. The animal jumps, it spreads its wings, it vibrates them, but it can't actually take off because the fly is sandwiched between two glass plates. Now to make sure that this was no reaction of the fly to a flash it could see, Susana did a simple but brutally effective experiment. She cut the heads off of her flies. These headless bodies can live for about a day, but they don't do much. They just stand around and groom excessively. So it seems that the only trait that survives decapitation is vanity. (Laughter) Anyway, as you'll see in a moment, Susana was able to turn on the flight motor of what's the equivalent of the spinal cord of these flies and get some of the headless bodies to actually take off and fly away. They didn't get very far, obviously. Since we took these first steps, the field of optogenetics has exploded. And there are now hundreds of labs using these approaches.
Извървяхме дълъг път от първите успехи на Галвани и Сузана да накарат животни да потръпват или скачат. Сега, всъщност можем да влияем на психологията им по доста значим начин, както ще видите в последния ми пример, който се отнася до един известен въпрос. Животът е низ от избори, което създава постоянен натиск да решим какво следва да правим. С този натиск се справяме чрез нашите мозъци, а в нашите мозъци са центровете за вземане на решения, които аз условно съм нарекъл Играчът. Играчът прилага линии на поведение, които отчитат състоянието на заобикалящата го среда и контекстът, в който функционираме. Действията ни променят заобикалящата ни среда или контекст и тези променени величини, отново заемат мястото си в цикъла на решенията.
And we've come a long way since Galvani's and Susana's first successes in making animals twitch or jump. We can now actually interfere with their psychology in rather profound ways, as I'll show you in my last example, which is directed at a familiar question. Life is a string of choices creating a constant pressure to decide what to do next. We cope with this pressure by having brains, and within our brains, decision-making centers that I've called here the "Actor." The Actor implements a policy that takes into account the state of the environment and the context in which we operate. Our actions change the environment, or context, and these changes are then fed back into the decision loop.
Сега, за да вложим невробиологично съдържание в този абстрактен модел, създадохме елементарен модел на света, с едно измерение за нашите любими субекти, плодовите мушици. Всяка от камерите в тези две вертикални хранилища съдържа по една мушица. Левите и десните половини на камерите са пълни с два различни аромата, а камера за видеонаблюдение следи движението на мушиците нагоре и надолу между тях. Ето част от заснетия материал. Всеки път, когато някоя от мушиците достигне средата на камерата, където двата аромата се срещат, тя трябва да вземе решение. Тя трябва да реши дали да се завърти и да остане при същия аромат или да пресече средната линия и да опита нещо ново. Тези решения са ясно отражение на линията на поведение на Играчът. За интелигентно същество като нашата мушица, тази линия на поведение не е неотменима, по-скоро се променя, докато животното се учи от опита си. Можем да включим такъв елемент на адаптивна интелигентност в нашия модел, чрез допускане, че мозъкът на мушицата включва не само Играч, но и различни групи от клетки, Критикa, която предлага постоянен коментар за изборите на Играчa. Може да си представите този натрапчив вътрешен глас, като еквивалента за мозъка на Католическата Църква, ако сте австриец като мен, или на суперегото, ако сте Фройдист или на вашата майка, ако сте евреин.
Now to put some neurobiological meat on this abstract model, we constructed a simple one-dimensional world for our favorite subject, fruit flies. Each chamber in these two vertical stacks contains one fly. The left and the right halves of the chamber are filled with two different odors, and a security camera watches as the flies pace up and down between them. Here's some such CCTV footage. Whenever a fly reaches the midpoint of the chamber where the two odor streams meet, it has to make a decision. It has to decide whether to turn around and stay in the same odor, or whether to cross the midline and try something new. These decisions are clearly a reflection of the Actor's policy. Now for an intelligent being like our fly, this policy is not written in stone but rather changes as the animal learns from experience. We can incorporate such an element of adaptive intelligence into our model by assuming that the fly's brain contains not only an Actor, but a different group of cells, a "Critic," that provides a running commentary on the Actor's choices. You can think of this nagging inner voice as sort of the brain's equivalent of the Catholic Church, if you're an Austrian like me, or the super-ego, if you're Freudian, or your mother, if you're Jewish.
(Смях)
(Laughter)
Очевидно, критиката е ключовият компонент на нашата интелигентност. Сега се насочваме към идентифициране на тези клетки в мозъка на мушицата, които играят ролята на Критиката. Логиката на нашия експеримент е проста. Приемаме, че ако можем да използваме оптичното дистанционно управление, за да активираме клетките на Критиката, следва да можем, изкуствено, да накараме Играчът да промени линията си на поведение. С други думи, мушицата следва да се поучи от грешките, които смята, че е направила, а в действителност не е. Така, създадохме мушици, чиито мозъци са много или малко произволно осеяни с клетки, които са чувствителни към светлина. После взехме тези мушици и им предоставихме избор. И всеки път, когато правят един от два избора, избират даден аромат, в този случай, синия пред оранжевия, включваме светлините. Ако Критиката е съставена от оптично чувствителни клетки, резултатът от тази интервенция следва да бъде промяна в линията на поведение. Мушицата следва да се научи да избягва оптично подсиления аромат.
Now obviously, the Critic is a key ingredient in what makes us intelligent. So we set out to identify the cells in the fly's brain that played the role of the Critic. And the logic of our experiment was simple. We thought if we could use our optical remote control to activate the cells of the Critic, we should be able, artificially, to nag the Actor into changing its policy. In other words, the fly should learn from mistakes that it thought it had made but, in reality, it had not made. So we bred flies whose brains were more or less randomly peppered with cells that were light addressable. And then we took these flies and allowed them to make choices. And whenever they made one of the two choices, chose one odor, in this case the blue one over the orange one, we switched on the lights. If the Critic was among the optically activated cells, the result of this intervention should be a change in policy. The fly should learn to avoid the optically reinforced odor.
Ето какво се случва в два от примерите. Сравняваме два щама мушици, всяка от които има около 100 светло-чувствителни клетки в мозъка си, отразени тук в зелено, в ляво и в дясно. Общото между тези групи от клетки е, че те всички произвеждат невротрансмитера допамин. Същността на отделните неврони, произвеждащи допамин, обаче, очевидно се различава много в ляво и в дясно. Оптичното активиране на тези стотина клетки, при двата щама мушици, дава коренно различни резултати. Ако погледнете първо поведението на мушицата в дясно, ще видите, че всеки път, когато достигне средата на камерата, където двата аромата се срещат, продължава право напред, както и преди. Поведението й е напълно непроменено. Поведението на мушицата в ляво е много различно. Всеки път, когато достигне средата, прави пауза, внимателно изучава разделящата аромата повърхнина, като че ли вдишва заобикалящата го среда и после се обръща. Това означава, че линията на поведение, която Играчът следва сега включва инструкция да се избягва аромата, който е в дясната половина на камерата. Това означава, че Критиката трябва да е проговорила у това животно и че Критиката трябва да се съдържа сред произвеждащите допамин неврони в ляво, но не и сред произвеждащите допамин неврони в дясно.
Here's what happened in two instances: We're comparing two strains of flies, each of them having about 100 light-addressable cells in their brains, shown here in green on the left and on the right. What's common among these groups of cells is that they all produce the neurotransmitter dopamine. But the identities of the individual dopamine-producing neurons are clearly largely different on the left and on the right. Optically activating these hundred or so cells into two strains of flies has dramatically different consequences. If you look first at the behavior of the fly on the right, you can see that whenever it reaches the midpoint of the chamber where the two odors meet, it marches straight through, as it did before. Its behavior is completely unchanged. But the behavior of the fly on the left is very different. Whenever it comes up to the midpoint, it pauses, it carefully scans the odor interface as if it was sniffing out its environment, and then it turns around. This means that the policy that the Actor implements now includes an instruction to avoid the odor that's in the right half of the chamber. This means that the Critic must have spoken in that animal, and that the Critic must be contained among the dopamine-producing neurons on the left, but not among the dopamine producing neurons on the right.
Чрез множество такива експерименти, успяхме да сведем идентичността на Критиката, до едва 12 клетки. Тези 12 клетки, както е показано тук в зелено, изпращат изходните данни към мозъчна структура, която се нарича гъбовидното тяло, което тук е в сиво. Знаем oт нашия условен модел, че в структурата на мозъка, от страната на получаващия коментара на Критиката, е Играчът. Следователно, тази анатомия предполага, че гъбовидните тела имат нещо общо с избора на действие. Въз основа на всичко, което знаем за гъбовидните тела това звучи съвсем логично. Всъщност, звучи толкова логично, че можем да направим платка за електронна играчка, която да стимулира поведението на мушицата. В тази платка на електронната играчка, невроните на гъбовидното тяло са обозначени с вертикален ред от сини светодиоди (LED индикатори), в центъра на полето. Светодиодите са свързани към сензори, които отчитат присъствието на молекули на аромата във въздуха. Всеки аромат активира различна комибинация от сензори, което на свой ред активира различен детектор на аромат, в гъбовидното тяло. Така пилотът в пилотската кабина на мушицата, Играчът, може да различи кой аромат е налице, като просто погледне кой от сините светодиоди е включен.
Through many such experiments, we were able to narrow down the identity of the Critic to just 12 cells. These 12 cells, as shown here in green, send the output to a brain structure called the "mushroom body," which is shown here in gray. We know from our formal model that the brain structure at the receiving end of the Critic's commentary is the Actor. So this anatomy suggests that the mushroom bodies have something to do with action choice. Based on everything we know about the mushroom bodies, this makes perfect sense. In fact, it makes so much sense that we can construct an electronic toy circuit that simulates the behavior of the fly. In this electronic toy circuit, the mushroom body neurons are symbolized by the vertical bank of blue LEDs in the center of the board. These LED's are wired to sensors that detect the presence of odorous molecules in the air. Each odor activates a different combination of sensors, which in turn activates a different odor detector in the mushroom body. So the pilot in the cockpit of the fly, the Actor, can tell which odor is present simply by looking at which of the blue LEDs lights up.
Какво прави Играчът с тази информация, зависи от линията му на поведение, която се съхранява в силата на връзката между детекторите за аромат и двигателните мускули, които дават тласък на уклончивите действия на мушицата. Ако връзката е слаба, двигателните мускули няма да се задействат и мушицата ще продължи напред по курса си. Ако връзката е силна, мускулите се задействат и мушицата прави завой. Сега си представете ситуация, в която двигателните мускули остават в покой, мушицата продължава по пътя си и претърпява болезнено следствие, като например да бъде ударена. В ситуация като тази, се очаква Критиката да заговори и да каже на Играчът да промени линията си на поведение. Ние създаваме такава ситуация изкуствено, чрез задействане на Критиката със светлинен проблясък. Това води до засилване на връзките между активния в момента детектор на аромат и двигателните мускули. Така, следващия път, мушицата се оказва пред същия аромат отново, връзката е достатъчно силна, за да задейства двигателните мускули и да предизвика отстъпление.
What the Actor does with this information depends on its policy, which is stored in the strengths of the connection, between the odor detectors and the motors that power the fly's evasive actions. If the connection is weak, the motors will stay off and the fly will continue straight on its course. If the connection is strong, the motors will turn on and the fly will initiate a turn. Now consider a situation in which the motors stay off, the fly continues on its path and it suffers some painful consequence such as getting zapped. In a situation like this, we would expect the Critic to speak up and to tell the Actor to change its policy. We have created such a situation, artificially, by turning on the critic with a flash of light. That caused a strengthening of the connections between the currently active odor detector and the motors. So the next time the fly finds itself facing the same odor again, the connection is strong enough to turn on the motors and to trigger an evasive maneuver.
Не знам за вас, но аз считам, че е обнадеждаващо да се види как неясни психологически схващания отстъпват място на началото на едно материално, механистично възприятие за мозъка, дори и да става дума за мозъка на муха. Това е своебразна добра новина. Другата своебразна добра новина, или поне добра за един учен, е че предстоят още много открития. В експериментите, за които ви споменах, въведохме величината идентичност на Критиката, но все още нямаме идея как работи Критиката. Като се замисля над това, да знаете, че когато грешите учителя ви или майка ви ги няма, за да ви кажат, е много трудна задача. Съществуват идеи в компютърната наука и в тази за изкуствения интелект, как може да се направи това, но все още не намираме обяснение в нито един пример, как интелигентно поведение възниква от физически взаимодействия в живата материя. Мисля, че ще го постигнем в обозримото бъдеще.
I don't know about you, but I find it exhilarating to see how vague psychological notions evaporate and give rise to a physical, mechanistic understanding of the mind, even if it's the mind of the fly. This is one piece of good news. The other piece of good news, for a scientist at least, is that much remains to be discovered. In the experiments I told you about, we have lifted the identity of the Critic, but we still have no idea how the Critic does its job. Come to think of it, knowing when you're wrong without a teacher, or your mother, telling you, is a very hard problem. There are some ideas in computer science and in artificial intelligence as to how this might be done, but we still haven't solved a single example of how intelligent behavior springs from the physical interactions in living matter. I think we'll get there in the not too distant future.
Благодаря ви!
Thank you.
(Аплодисменти)
(Applause)