I have a doppelganger. (Laughter) Dr. Gero is a brilliant but slightly mad scientist in the "Dragonball Z: Android Saga." If you look very carefully, you see that his skull has been replaced with a transparent Plexiglas dome so that the workings of his brain can be observed and also controlled with light. That's exactly what I do -- optical mind control.
Am un alter-ego cu intenții rele. (Râsete) Dr. Gero este un om de știință strălucitor, dar puțin nebun din "Povestea androidului" din Dragonball Z. [serial japonez] Dacă vă uitați cu atenție, veți vedea că osatura craniului a fost înlocuită cu o calotă transparentă din plexiglas astfel încât funcționarea creierului se poate observa și se poate controla cu lumină. Exact asta fac eu -- control optic al minții.
(Laughter)
(Râsete)
But in contrast to my evil twin who lusts after world domination, my motives are not sinister. I control the brain in order to understand how it works. Now wait a minute, you may say, how can you go straight to controlling the brain without understanding it first? Isn't that putting the cart before the horse? Many neuroscientists agree with this view and think that understanding will come from more detailed observation and analysis. They say, "If we could record the activity of our neurons, we would understand the brain." But think for a moment what that means. Even if we could measure what every cell is doing at all times, we would still have to make sense of the recorded activity patterns, and that's so difficult, chances are we'll understand these patterns just as little as the brains that produce them.
Dar în contrast cu geamănul meu rău, care râvnește la dominarea lumii, motivele mele nu sunt sinistre. Eu controlez creierul pentru a înțelege cum funcționează. Ați putea spune: stai un pic, cum poți trece direct la controlul creierului fără a-l înțelege mai întâi? Nu înseamnă asta a pune carul înaintea boilor? Mulți neurologi sunt de acord cu această părere și cred că înțelegerea va veni din observarea și analiza mai detaliată. Ei spun, "Dacă am putea înregistra activitatea neuronilor, am înțelege creierul." Dar gândiți-vă un pic ce înseamnă asta. Chiar dacă am putea măsura ce face fiecare celulă în fiecare moment, tot ar trebui să interpretăm modelele de activitate înregistrate, iar asta este foarte dificil, șansele de a înțelege aceste modele sunt invers proporționale cu mărimea creierului care le produce.
Take a look at what brain activity might look like. In this simulation, each black dot is one nerve cell. The dot is visible whenever a cell fires an electrical impulse. There's 10,000 neurons here. So you're looking at roughly one percent of the brain of a cockroach. Your brains are about 100 million times more complicated. Somewhere, in a pattern like this, is you, your perceptions, your emotions, your memories, your plans for the future. But we don't know where, since we don't know how to read the pattern. We don't understand the code used by the brain. To make progress, we need to break the code. But how? An experienced code-breaker will tell you that in order to figure out what the symbols in a code mean, it's essential to be able to play with them, to rearrange them at will. So in this situation too, to decode the information contained in patterns like this, watching alone won't do. We need to rearrange the pattern. In other words, instead of recording the activity of neurons, we need to control it. It's not essential that we can control the activity of all neurons in the brain, just some. The more targeted our interventions, the better. And I'll show you in a moment how we can achieve the necessary precision.
Priviți cum poate arăta activitatea creierului. În această simulare, fiecare punct negru este o celulă nervoasă. Punctul este vizibil ori de câte ori celula transmite un impuls electric. Aici sunt 10.000 de neuroni. Vă uitați la aprox. 1% din creierul unui gândac de bucătărie. Creierul vostru e cam de 100 milioane ori mai complicat. Undeva, într-un model ca acesta, sunteți voi, senzațiile voastre, emoțiile voastre, amintirile voastre, planurile voastre de viitor. Dar nu știm unde sunt, deoarece nu știm să descifrăm tiparul. Nu înțelegem codul utilizat de creier. Pentru a progresa, trebuie să spargem codul. Dar cum? Un spărgător de coduri experimentat vă va spune că pentru a desluși simbolurile dintr-un cod, e esențial să fi în stare să te joci cu ele, să le rearanjezi după cum vrei. Așa că și în această situație, pentru a decodifica informația conținută în modele ca acesta, doar urmărirea lor nu este de ajuns; trebuie să rearanjăm modelul. Cu alte cuvinte, în loc să înregistrăm activitatea neuronilor, trebuie să o controlăm. E neesențial să controlăm activitatea tuturor neuronilor din creier, doar a unora. Cu cât sunt intervențiile mai precise, cu atât mai bine. Și vă voi arăta într-o clipă cum putem obține precizia necesară.
And since I'm realistic, rather than grandiose, I don't claim that the ability to control the function of the nervous system will at once unravel all its mysteries. But we'll certainly learn a lot. Now, I'm by no means the first person to realize how powerful a tool intervention is. The history of attempts to tinker with the function of the nervous system is long and illustrious. It dates back at least 200 years, to Galvani's famous experiments in the late 18th century and beyond. Galvani showed that a frog's legs twitched when he connected the lumbar nerve to a source of electrical current. This experiment revealed the first, and perhaps most fundamental, nugget of the neural code: that information is written in the form of electrical impulses. Galvani's approach of probing the nervous system with electrodes has remained state-of-the-art until today, despite a number of drawbacks. Sticking wires into the brain is obviously rather crude. It's hard to do in animals that run around, and there is a physical limit to the number of wires that can be inserted simultaneously.
Și deoarece eu sunt realist și nu pretențios, nu pretind că abilitatea de a controla funcțiile sistemului nervos va dezvălui dintr-odată toate misterele acestuia. Dar sigur vom învăța o mulțime. Acum, eu nu sunt în niciun caz prima persoană care realizează cât de puternică este unealta intervenției. Istoria tentativelor de a interveni în funcționarea sistemului nervos este lungă și renumită. Ea datează cu cel puțin 200 de ani în urmă, de la celebrele experiențe ale lui Galvani de la sfârșitul secolului 18 și mai târziu. Galvani a arătat că piciorul unei broaște s-a contractat când el a conectat nervul lombar la o sursă de curent electric. Acest experiment a dezvăluit prima, și poate cea mai fundamentală, revelație despre codul neural: că informația este scrisă în forma unor impulsuri electrice. Modul de abordare al lui Galvani de a sonda sistemul nervos cu electrozi a rămas necontestat până în ziua de azi, în ciuda unui număr de dezavantaje. A înfige sârme în creier este evident o metodă cam grosolană. E greu de făcut cu animale care aleargă peste tot, și există o limită fizică pentru numărul de fire care pot fi inserate simultan.
So around the turn of the last century, I started to think, "Wouldn't it be wonderful if one could take this logic and turn it upside down?" So instead of inserting a wire into one spot of the brain, re-engineer the brain itself so that some of its neural elements become responsive to diffusely broadcast signals such as a flash of light. Such an approach would literally, in a flash of light, overcome many of the obstacles to discovery. First, it's clearly a non-invasive, wireless form of communication. And second, just as in a radio broadcast, you can communicate with many receivers at once. You don't need to know where these receivers are, and it doesn't matter if these receivers move -- just think of the stereo in your car. It gets even better, for it turns out that we can fabricate the receivers out of materials that are encoded in DNA. So each nerve cell with the right genetic makeup will spontaneously produce a receiver that allows us to control its function. I hope you'll appreciate the beautiful simplicity of this concept. There's no high-tech gizmos here, just biology revealed through biology.
Așa că pe la sfârșitul secolului trecut am început să mă gândesc, că ar fi minunat să putem întoarce acastă logică pe dos. Deci în loc să inserăm o sârmă într-un punct al creierului, să reconfigurăm creierul însuși astfel încât unele elemente neurale să devină sensibile la semnale transmise difuz, ca de exemplu un flash de lumină. O asemenea abordare ar depăși, literalmente, într-o sclipire, multe obstacole din fața descoperirii. În primul rând, este evident o formă de comunicare non-invazivă, fără fir. În al doilea rând, ca într-o transmisie radio, poți comunica cu mai multe receptoare simultan. Nu este nevoie să știi unde sunt receptoarele. Și nu contează dacă subiecții se mișcă -- gândiți-vă la radioul din mașină. E chiar mai bine, pentru că s-a dovedit că putem fabrica aceste receptoare din materiale care sunt codificate în ADN. Deci fiecare celulă nervoasă cu materialul genetic potrivit va produce în mod spontan un receptor care ne permite să-i controlăm funcționarea. Sper să apreciați frumoasa simplitate a acestui concept. Nu e nevoie de dispozitive de ultimă oră, doar biologie dezvăluită prin biologie.
Now let's take a look at these miraculous receivers up close. As we zoom in on one of these purple neurons, we see that its outer membrane is studded with microscopic pores. Pores like these conduct electrical current and are responsible for all the communication in the nervous system. But these pores here are special. They are coupled to light receptors similar to the ones in your eyes. Whenever a flash of light hits the receptor, the pore opens, an electrical current is switched on, and the neuron fires electrical impulses. Because the light-activated pore is encoded in DNA, we can achieve incredible precision. This is because, although each cell in our bodies contains the same set of genes, different mixes of genes get turned on and off in different cells. You can exploit this to make sure that only some neurons contain our light-activated pore and others don't. So in this cartoon, the bluish white cell in the upper-left corner does not respond to light because it lacks the light-activated pore. The approach works so well that we can write purely artificial messages directly to the brain. In this example, each electrical impulse, each deflection on the trace, is caused by a brief pulse of light. And the approach, of course, also works in moving, behaving animals.
Acum să privim de aproape la aceste receptoare miraculoase. Pe măsură ce mărim unul din acești neuroni violeți, vedem că membrana lui exterioară e împânzită cu pori microscopici. Pori ca aceștia transmit curentul electric și sunt responsabili pentru toată comunicația din sistemul nervos. Dar acești pori sunt speciali. Ei sunt cuplați la receptoare de lumină similare cu cele din ochii noștri. Când un flash de lumină activează receptorul, porul se deschide, curentul electric e transmis, iar neuronul emite impulsuri electrice. Deoarece porul activat de lumină este codificat în ADN, putem atinge o precizie incredibilă. Asta deoarece, deși fiecare celulă din corpurile noastre conține același set de gene, combinații diferite de gene sunt activate sau dezactivate în celule diferite. Putem exploata asta pentru a fi siguri că numai anumiți neuroni conțin pori activați de lumină, iar alții nu. Deci în acest desen animat, celula alb-albăstruie din colțul stânga sus nu răspunde la lumină fiindcă îi lipsește porul activat de lumină. Abordarea funcționează așa de bine că putem scrie mesaje pur artificiale direct în creier. În acest exemplu, fiecare impuls electric, fiecare abatere de la traseu, e produs de un scurt puls de lumină. Și abordarea funcționează și în animale active, cu comportare naturală.
This is the first ever such experiment, sort of the optical equivalent of Galvani's. It was done six or seven years ago by my then graduate student, Susana Lima. Susana had engineered the fruit fly on the left so that just two out of the 200,000 cells in its brain expressed the light-activated pore. You're familiar with these cells because they are the ones that frustrate you when you try to swat the fly. They trained the escape reflex that makes the fly jump into the air and fly away whenever you move your hand in position. And you can see here that the flash of light has exactly the same effect. The animal jumps, it spreads its wings, it vibrates them, but it can't actually take off because the fly is sandwiched between two glass plates. Now to make sure that this was no reaction of the fly to a flash it could see, Susana did a simple but brutally effective experiment. She cut the heads off of her flies. These headless bodies can live for about a day, but they don't do much. They just stand around and groom excessively. So it seems that the only trait that survives decapitation is vanity. (Laughter) Anyway, as you'll see in a moment, Susana was able to turn on the flight motor of what's the equivalent of the spinal cord of these flies and get some of the headless bodies to actually take off and fly away. They didn't get very far, obviously. Since we took these first steps, the field of optogenetics has exploded. And there are now hundreds of labs using these approaches.
Acesta este primul experiment de acest tip, un fel de echivalent optic al experimentului Galvani. A fost realizat acum șase sau șapte ani de studenta mea, Susana Lima. Susana a creat musculița drosofila din stânga astfel încât doar două din cele 200.000 de celule din creier prezentau porul activat de lumină. Sunteți obișnuiți cu aceste celule fiindcă ele sunt cele care vă zădărnicesc planurile când încercați să pocniți musculița. Și-au perfectat reflexul de evadare care face musculița să sară în aer și să zboare de fiecare dată când apropiați mâna. Și vedeți aici că licărirea de lumină are exact același efect. Insecta sare, își întinde aripile, le vibrează, dar de fapt nu poate decola, fiindcă e prinsă între două lamele de sticlă. Acum, pentru a fi siguri că asta nu a fost o reacție a musculiței la o licărire de lumină pe care a văzut-o, Susana a făcut un experiment eficient simplu dar brutal. Ea a tăiat capul musculițelor. Aceste corpuri fără cap pot trăi cam o zi, dar nu fac multe. Ele doar stau și se îngrijesc în mod excesiv. Pare-se, singura trăsătură ce supraviețuiește decapitării e vanitatea. (Râsete) Oricum, așa cum veți vedea într-o clipă, Susana a fost în stare să pornească motorul de zbor din echivalentul măduvei spinării al acestor musculițe și să facă unele corpuri fără cap să decoleze efectiv și să zboare. Evident, nu au ajuns foarte departe. De când am făcut acești primi pași ramura optogeneticii a explodat. Acum sunt sute de laboratoare folosind aceste abordări.
And we've come a long way since Galvani's and Susana's first successes in making animals twitch or jump. We can now actually interfere with their psychology in rather profound ways, as I'll show you in my last example, which is directed at a familiar question. Life is a string of choices creating a constant pressure to decide what to do next. We cope with this pressure by having brains, and within our brains, decision-making centers that I've called here the "Actor." The Actor implements a policy that takes into account the state of the environment and the context in which we operate. Our actions change the environment, or context, and these changes are then fed back into the decision loop.
Și am făcut cale lungă de la primele succese ale lui Galvani și ale Susanei făcând animalele să zvâcnească sau să sară. Putem acum să interferăm cu psihologia lor în moduri destul de profunde așa cum vă voi arăta în ultimul meu exemplu, care este orientat spre o întrebare familiară. Viața e un șir de alegeri care crează o presiune constantă pentru a decide următoarea acțiune. Facem față acestei presiuni prin a avea creier, și în creier avem centre de luare de decizii, pe care le-am numit aici "Actor". Actorul implementează o regulă care ia în considerare starea mediului și contextul în care funcționăm. Acțiunile noastre schimbă mediul, contextul, și aceste schimbări sunt reintroduse în bucla de decizie.
Now to put some neurobiological meat on this abstract model, we constructed a simple one-dimensional world for our favorite subject, fruit flies. Each chamber in these two vertical stacks contains one fly. The left and the right halves of the chamber are filled with two different odors, and a security camera watches as the flies pace up and down between them. Here's some such CCTV footage. Whenever a fly reaches the midpoint of the chamber where the two odor streams meet, it has to make a decision. It has to decide whether to turn around and stay in the same odor, or whether to cross the midline and try something new. These decisions are clearly a reflection of the Actor's policy. Now for an intelligent being like our fly, this policy is not written in stone but rather changes as the animal learns from experience. We can incorporate such an element of adaptive intelligence into our model by assuming that the fly's brain contains not only an Actor, but a different group of cells, a "Critic," that provides a running commentary on the Actor's choices. You can think of this nagging inner voice as sort of the brain's equivalent of the Catholic Church, if you're an Austrian like me, or the super-ego, if you're Freudian, or your mother, if you're Jewish.
Acum, ca să realizăm un context neurobiologic pe acest model abstract, am construit o lume simplă, monodimensională pentru subiectul nostru favorit, musculița drosofila. Fiecare galerie din aceste două stive verticale conține câte o musculiță. Cele două jumătăți ale culoarului sunt umplute cu două mirosuri diferite, și o cameră de supraveghere urmărește cum umblă musculițele dus-întors între cele 2 jumătăți. Iată aici niște înregistrări ale camerei de supraveghere. De fiecare dată când o musculiță ajunge la mijlocul culoarului unde se întâlnesc cele două mirosuri, ea trebuie să ia o decizie. Trebuie să decidă dacă să se întoarcă și să stea în același miros, sau să treacă de linia de mijloc și să încerce ceva nou. Aceste decizii sunt o reflectare a tacticii Actorului. Acum, pentru o creatură inteligentă ca musculița noastră, regula aceasta nu-i definitivă, ci se schimbă pe măsură ce creierul învață din experiență. Putem încorpora un asemenea element al inteligenței adaptive în modelul nostru presupunând că creierul musculiței conține nu doar un Actor, ci un grup diferit de celule, un Critic, care furnizează un comentariu continuu al alegerilor Actorului. Puteți să vă gândiți la această voce internă sâcâitoare ca la un fel de echivalent în creier pentru Biserica Catolică, dacă sunteți austriac ca mine, sau ca un superego, dacă sunteți adeptul lui Freud, sau ca mama voastră, dacă sunteți evreu.
(Laughter)
(Râsete)
Now obviously, the Critic is a key ingredient in what makes us intelligent. So we set out to identify the cells in the fly's brain that played the role of the Critic. And the logic of our experiment was simple. We thought if we could use our optical remote control to activate the cells of the Critic, we should be able, artificially, to nag the Actor into changing its policy. In other words, the fly should learn from mistakes that it thought it had made but, in reality, it had not made. So we bred flies whose brains were more or less randomly peppered with cells that were light addressable. And then we took these flies and allowed them to make choices. And whenever they made one of the two choices, chose one odor, in this case the blue one over the orange one, we switched on the lights. If the Critic was among the optically activated cells, the result of this intervention should be a change in policy. The fly should learn to avoid the optically reinforced odor.
În mod evident criticul este componenta cheie în ceea ce ne face inteligenți. Deci vrem să identificăm celule din creierul musculiței care joacă rolul de Critic. Și logica experimentului nostru a fost simplă. Ne-am gândit că dacă am putea folosi telecomanda optică pentru a activa celulele Criticului, Am fi în stare să sâcâim artificial Actorul pentru a-și schimba decizia. Cu alte cuvinte, musculița ar trebui să învețe din greșelile pe care crede că le-a făcut, dar în realitate nu le-a făcut. Așa că am crescut musculițe al căror creier a fost mai mult sau mai puțin presărat cu celule sensibile la lumină. Apoi am luat aceste musculițe și le-am permis să facă alegeri. Și de fiecare dată când au făcut o alegere din cele două, au ales un miros, în acest caz cel albastru în favoarea celui portocaliu, am pornit luminile. Dacă criticul e printre celulele activate optic, rezultatul acestei intervenții ar trebui să fie o schimbare a deciziei. Musculițele ar trebui să evite mirosul întărit de semnalul optic.
Here's what happened in two instances: We're comparing two strains of flies, each of them having about 100 light-addressable cells in their brains, shown here in green on the left and on the right. What's common among these groups of cells is that they all produce the neurotransmitter dopamine. But the identities of the individual dopamine-producing neurons are clearly largely different on the left and on the right. Optically activating these hundred or so cells into two strains of flies has dramatically different consequences. If you look first at the behavior of the fly on the right, you can see that whenever it reaches the midpoint of the chamber where the two odors meet, it marches straight through, as it did before. Its behavior is completely unchanged. But the behavior of the fly on the left is very different. Whenever it comes up to the midpoint, it pauses, it carefully scans the odor interface as if it was sniffing out its environment, and then it turns around. This means that the policy that the Actor implements now includes an instruction to avoid the odor that's in the right half of the chamber. This means that the Critic must have spoken in that animal, and that the Critic must be contained among the dopamine-producing neurons on the left, but not among the dopamine producing neurons on the right.
Iată ce s-a întâmplat în cele două cazuri. Comparăm două soiuri de musculițe fiecare din ele având cam 100 de celule adresabile optic în creierele lor, arătate aici cu verde la stânga și la dreapta. Ceea ce e comun pentru aceste grupuri de celule e că toate produc neurotransmițătorul numit dopamină. Dar identitatea neuronilor individuali producători de dopamină sunt în mod clar diferite în stânga și în dreapta. Activarea optică a acestor aprox. o sută de celule în cele două soiuri de musculițe, are consecințe dramatic diferite. Dacă vă uitați întâi la comportamentul musculiței din dreapta, vedeți că de fiecare dată când atinge punctul de mijloc al camerei unde se întâlnesc cele două mirosuri, ea merge drept înainte cum a făcut și înainte. Comportarea ei este complet neschimbată. Dar comportarea musculiței din stânga este foarte diferită. De fiecare dată când atinge punctul din mijloc, se oprește, cercetează atent mirosurile, ca și cum ar mirosi mediul, și apoi se întoarce. Asta înseamnă că regula implementată de Actor include acum o instrucțiune de evitare a mirosului care umple jumătatea din dreapta a camerei. Asta înseamnă că, Criticul trebuie că a vorbit în acel animal, și că, Criticul este conținut între neuronii producători de dopamină din stânga, dar nu între neuronii producători de dopamină din dreapta.
Through many such experiments, we were able to narrow down the identity of the Critic to just 12 cells. These 12 cells, as shown here in green, send the output to a brain structure called the "mushroom body," which is shown here in gray. We know from our formal model that the brain structure at the receiving end of the Critic's commentary is the Actor. So this anatomy suggests that the mushroom bodies have something to do with action choice. Based on everything we know about the mushroom bodies, this makes perfect sense. In fact, it makes so much sense that we can construct an electronic toy circuit that simulates the behavior of the fly. In this electronic toy circuit, the mushroom body neurons are symbolized by the vertical bank of blue LEDs in the center of the board. These LED's are wired to sensors that detect the presence of odorous molecules in the air. Each odor activates a different combination of sensors, which in turn activates a different odor detector in the mushroom body. So the pilot in the cockpit of the fly, the Actor, can tell which odor is present simply by looking at which of the blue LEDs lights up.
Prin multe asemenea experimente, am fost în stare să reducem identitatea criticului la numai 12 celule. Aceste 12 celule, arătate aici în verde, trimit semnalul la o structură a creierului numită "corpul ciupercă" [mushroom body], care-i aici în gri. Știm din modelul nostru formal că structura creierului de la capătul receptor al comentariilor Criticului e Actorul. Deci această anatomie sugerează că structura ciupercă ar avea legătură cu alegerea acțiunii. Bazat pe tot ce știm despre corpurile ciupercă, asta-i perfect plauzibil. De fapt, e atât de plauzibil, că putem construi un circuit electronic care simulează comportamentul musculiței. În acest circuit electronic, neuronii din corpurile ciupercă sunt simbolizate prin blocul vertical de LED-uri albastre, din centrul plăcii. Aceste LED-uri sunt cablate la senzori care detectează prezența moleculelor parfumate din aer. Fiecare miros activează o combinație diferită de senzori, care la rândul lui activează un detector diferit de mirosuri în corpul ciupercă. Deci pilotul din cabina de comandă a zborului este Actorul, poate spune care miros e prezent doar uitându-se care din LED-urile albastre luminează.
What the Actor does with this information depends on its policy, which is stored in the strengths of the connection, between the odor detectors and the motors that power the fly's evasive actions. If the connection is weak, the motors will stay off and the fly will continue straight on its course. If the connection is strong, the motors will turn on and the fly will initiate a turn. Now consider a situation in which the motors stay off, the fly continues on its path and it suffers some painful consequence such as getting zapped. In a situation like this, we would expect the Critic to speak up and to tell the Actor to change its policy. We have created such a situation, artificially, by turning on the critic with a flash of light. That caused a strengthening of the connections between the currently active odor detector and the motors. So the next time the fly finds itself facing the same odor again, the connection is strong enough to turn on the motors and to trigger an evasive maneuver.
Ce face Actorul cu această informație depinde de tactica lui, care e stocată în tăria conexiunilor, dintre detectoarele de miros și motoarele care activează acțiunile evazive ale musculiței. Dacă o conexiune e slabă, motoarele nu vor fi pornite și musculița va continua cursa în linie dreaptă. Dacă o conexiune e puternică, motoarele vor porni și musculița va iniția o întoarcere. Acum să considerăm o situație în care motoarele rămân oprite, musculița își continuă traseul și suferă niște consecințe dureroase, de exemplu un șoc electric. Într-o asemenea situație, ne-am aștepta ca Criticul să intervină și să-i spună Actorului să-și schimbe regula. Am creat o asemenea situație în mod artificial activând Criticul printr-un puls de lumină. Asta a dus la întărirea conexiunilor dintre detectorul de miros tocmai activ și motoare. Așa că data viitoare când musculița se va găsi în fața aceluiași miros, conexiunea e suficient de puternică pentru a porni motoarele și a declanșa o manevră evazivă.
I don't know about you, but I find it exhilarating to see how vague psychological notions evaporate and give rise to a physical, mechanistic understanding of the mind, even if it's the mind of the fly. This is one piece of good news. The other piece of good news, for a scientist at least, is that much remains to be discovered. In the experiments I told you about, we have lifted the identity of the Critic, but we still have no idea how the Critic does its job. Come to think of it, knowing when you're wrong without a teacher, or your mother, telling you, is a very hard problem. There are some ideas in computer science and in artificial intelligence as to how this might be done, but we still haven't solved a single example of how intelligent behavior springs from the physical interactions in living matter. I think we'll get there in the not too distant future.
Nu știu despre voi, dar eu găsesc fascinant să văd cum noțiuni psihologice vagi dispar și dau naștere unei înțelegeri fizice, mecanice a minții, chiar dacă e mintea unei musculițe. Asta-i una din veștile bune. Cealaltă veste bună, cel puțin pentru un om de știință, e că multe rămân de descoperit. În experimentele de care v-am spus, am aflat identitatea Criticului, dar tot nu avem idee cum lucrează Criticul. Gândiți-vă, a ști când greșești, fără ca un profesor sau o mamă să vă spună, e o problemă foarte dificilă. Sunt niște idei în informatică și în inteligența artificială despre cum s-ar putea face asta, dar noi încă nu am rezolvat nici un singur exemplu de comportare inteligentă, sărind de la interacțiunile fizice la materia vie. Cred că vom ajunge acolo în viitorul nu prea îndepărtat.
Thank you.
Vă mulțumesc.
(Applause)
(Aplauze)