This is a photograph by the artist Michael Najjar, and it's real, in the sense that he went there to Argentina to take the photo. But it's also a fiction. There's a lot of work that went into it after that. And what he's done is he's actually reshaped, digitally, all of the contours of the mountains to follow the vicissitudes of the Dow Jones index. So what you see, that precipice, that high precipice with the valley, is the 2008 financial crisis. The photo was made when we were deep in the valley over there. I don't know where we are now. This is the Hang Seng index for Hong Kong. And similar topography. I wonder why.
Aceasta este o fotografie făcută de artistul Michael Najjar și este reală în sensul că el a fost în Argentina pentru a face această fotografie. Dar este, de alfel, și ficțiune. S-a lucrat mult la ea după aceea. Și ceea ce a realizat este că a remodelat digital toate contururile munților pentru a indica fluctuațiile indexului Dow Jones. Astfel că ceea ce vedeți aici, acea prăpastie, acea prăpastie mare cu valea ei, este criza financiară din 2008. Poza a fost făcută când noi eram chiar la baza văii aceea. Nu știu unde suntem noi acum. Acesta este indexul Hang Seng pentru Hong Kong. Și topografie similară. Mă întreb de ce?
And this is art. This is metaphor. But I think the point is that this is metaphor with teeth, and it's with those teeth that I want to propose today that we rethink a little bit about the role of contemporary math -- not just financial math, but math in general. That its transition from being something that we extract and derive from the world to something that actually starts to shape it -- the world around us and the world inside us. And it's specifically algorithms, which are basically the math that computers use to decide stuff. They acquire the sensibility of truth because they repeat over and over again, and they ossify and calcify, and they become real.
Și aceasta este artă. Este o metaforă. Dar ideea este că avem de-a face cu o metaforă cu dinți. Legându-mă de acei dinți vreau să propun azi ca noi să regândim puțin rolul matematicii contemporane -- nu doar matematica financiară, ci matematica în general. Că tranziția sa de la ceva care este extras și derivă din lume la ceva care chiar începe să modeleze -- lumea din jurul nostru și lumea dinăuntrul nostru. Și este vorba aici de algoritmi, care reprezintă, la bază, chiar matematica folosită de calculatoare pentru a lua decizii. Ei dobândesc înțelepciunea adevărului pentru că se repetă de foarte multe ori. Ei se osifică și se calcifică, și devin reali.
And I was thinking about this, of all places, on a transatlantic flight a couple of years ago, because I happened to be seated next to a Hungarian physicist about my age and we were talking about what life was like during the Cold War for physicists in Hungary. And I said, "So what were you doing?"
Și mă gândeam la acest lucru, unde altundeva, într-un zbor transatlantic în urmă cu câțiva ani pentru că întâmplarea a făcut să stau lângă un fizician maghiar de-o vârstă cu mine și vorbeam despre cum era viața în timpul Războiului Rece pentru fizicienii din Ungaria. Și i-am zis: ''Cu ce te ocupai?''
And he said, "Well we were mostly breaking stealth."
El a răspuns: ''Ei bine, noi ne ocupam, în general, de detectoare radar!''
And I said, "That's a good job. That's interesting. How does that work?" And to understand that, you have to understand a little bit about how stealth works. And so -- this is an over-simplification -- but basically, it's not like you can just pass a radar signal right through 156 tons of steel in the sky. It's not just going to disappear. But if you can take this big, massive thing, and you could turn it into a million little things -- something like a flock of birds -- well then the radar that's looking for that has to be able to see every flock of birds in the sky. And if you're a radar, that's a really bad job.
Și am zis: ''Este o muncă bună. Chiar interesantă.' Cum funcționează?'' Și, pentru a înțelege aceasta, trebuie să înțelegeți puțin modul în care camuflajul funcționează. Astfel - și aceasta este o simplificare - de fapt, nu este ca și cum ai putea trece un semnal radar tocmai prin 156 de tone de oțel în mijlocul cerului. Nu va dispărea. Dar, dacă iei acest lucru foarte mare și îl transformi într-un milion de lucruri mici - ceva asemănător unui stol de păsări - ei bine, radarul care caută acest lucru trebuie să poată vedea fiecare stol de păsări de pe cer. Și, dacă ești un radar, aceasta este o muncă foarte neplăcută.
And he said, "Yeah." He said, "But that's if you're a radar. So we didn't use a radar; we built a black box that was looking for electrical signals, electronic communication. And whenever we saw a flock of birds that had electronic communication, we thought, 'Probably has something to do with the Americans.'"
Și el a replicat: ''Da, dar este valabil doar dacă ești un radar. Așa că noi nu am folosit un radar, ci am construit o cutie neagră care căuta semnale electrice, comunicare electronică. Și, de fiecare dată când vedeam un stol de păsări care avea comunicare electronică, ne gândeam că, probabil, are ceva de-a face cu americanii.''
And I said, "Yeah. That's good. So you've effectively negated 60 years of aeronautic research. What's your act two? What do you do when you grow up?" And he said, "Well, financial services." And I said, "Oh." Because those had been in the news lately. And I said, "How does that work?" And he said, "Well there's 2,000 physicists on Wall Street now, and I'm one of them." And I said, "What's the black box for Wall Street?"
Și am zis: ''Da. Este bine. Deci, ai anulat pur și simplu 60 de ani de cercetări aeronautice. Ce vei face mai departe? Ce vei face când vei crește mare? '' Și el a zis: '' Ei bine, servicii financiare.'' Și am replicat: ''Oh.'' Pentru că ele erau în atenția știrilor în ultima perioadă. Și l-am întrebat: ''Cum functionează treaba aceasta?'' Mi-a răspuns:''Ei bine, sunt peste 2000 de fizicieni acum pe Wall Street, iar eu sunt unul dintre ei.'' Apoi, l-am întrebat: ''Care este cutia neagră pentru Wall Street?''
And he said, "It's funny you ask that, because it's actually called black box trading. And it's also sometimes called algo trading, algorithmic trading." And algorithmic trading evolved in part because institutional traders have the same problems that the United States Air Force had, which is that they're moving these positions -- whether it's Proctor & Gamble or Accenture, whatever -- they're moving a million shares of something through the market. And if they do that all at once, it's like playing poker and going all in right away. You just tip your hand. And so they have to find a way -- and they use algorithms to do this -- to break up that big thing into a million little transactions. And the magic and the horror of that is that the same math that you use to break up the big thing into a million little things can be used to find a million little things and sew them back together and figure out what's actually happening in the market.
El a răspuns:''Este ciudat că întrebi acest lucru, pentru că, de fapt, se numește comerțul cutiei negre. Iar uneori i se mai zice și algo-comerț, comerț algoritmic.'' Iar comerțul algoritmic a evoluat în parte datorită comercianților instituționali aveau aceleași probleme cu care s-au confruntat și Forțele Aeriene ale Statelor Unite, și anume este vorba de faptul că ei mutau aceste poziții -- fie că este vorba de Proctor & Gamble sau Accenture, orice - ei mută un milion de acțiuni de ceva anume prin piață. Și, dacă ei fac acest lucru dintr-o dată este ca și cum ar juca poker și mizează totul de la inceput. Tu doar îți înclini mâna. Si deci trebuie să găsească o cale - și folosesc algoritmii pentru a face aceasta -- pentru a rupe acel lucru mare într-un milion de tranzacții mici. Iar magia și problema mare în aceasta este că aceeași matematică folosită pentru a rupe acel lucru mare într-un milion de lucruri mici poate fi folosită pentru a găsi un milion de lucruri mici și a le suda înapoi impreuna și pentru a afla ce se petrece, de fapt, în piață.
So if you need to have some image of what's happening in the stock market right now, what you can picture is a bunch of algorithms that are basically programmed to hide, and a bunch of algorithms that are programmed to go find them and act. And all of that's great, and it's fine. And that's 70 percent of the United States stock market, 70 percent of the operating system formerly known as your pension, your mortgage.
Așadar, dacă vreți să aveți o imagine asupra a ceea ce se petrece pe piața de acțiuni acum vă puteți imagina o serie de algoritmi care sunt programați să ascundă și o serie de algoritmi programați să îi găsească și să acționeze. Și toate aceste lucruri sunt minunate, sunt bune. Și este vorba de 70% din piața de acțiuni al Statelor Unite 70% al sistemului de operare cunoscut sub numele de pensia voastră, ipoteca voastră.
And what could go wrong? What could go wrong is that a year ago, nine percent of the entire market just disappears in five minutes, and they called it the Flash Crash of 2:45. All of a sudden, nine percent just goes away, and nobody to this day can even agree on what happened because nobody ordered it, nobody asked for it. Nobody had any control over what was actually happening. All they had was just a monitor in front of them that had the numbers on it and just a red button that said, "Stop."
Și ce ar putea să meargă prost? Ce ar putea să meargă prost este că în urmă cu un an 9% din întreaga piață a dispărut în cinci minute, și ei au numit aceasta Căderea Fulger a lui 2:45. Dintr-o dată, 9% se duce pur și simplu și nimeni, până în această zi, nu poate cădea de acord legat de ce s-a întâmplat, pentru că nimeni nu a dat comanda, nimeni nu a cerut asta. Nimeni nu avea control asupra ceea ce se petrecea de fapt. Tot ce aveau era doar un monitor în fața lor care avea numere pe el și doar un buton roșu care spunea: ''Stop.''
And that's the thing, is that we're writing things, we're writing these things that we can no longer read. And we've rendered something illegible, and we've lost the sense of what's actually happening in this world that we've made. And we're starting to make our way. There's a company in Boston called Nanex, and they use math and magic and I don't know what, and they reach into all the market data and they find, actually sometimes, some of these algorithms. And when they find them they pull them out and they pin them to the wall like butterflies. And they do what we've always done when confronted with huge amounts of data that we don't understand -- which is that they give them a name and a story. So this is one that they found, they called the Knife, the Carnival, the Boston Shuffler, Twilight.
Și despre asta este vorba, că noi scriem lucruri, noi scriem lucruri pe care nu le mai putem citi. Și am creat ceva ilizibil. Și am pierdut șirul a ceea ce se petrece în fapt în această lume pe care ne-am construit-o. Și abia am început să ne creăm drumul. Există o companie în Boston numită Nanex, și ei folosesc matematica și magia și încă ceva pe lângă, și ei au acces la toate datele din piață și ei chiar găsesc, uneori, unii dintre acești algoritmi. Și, atunci când îi găsesc îi extrag și îi lipesc pe perete ca pe fluturi. Și ei fac ceea ce am făcut noi dintotdeauna când suntem confruntați cu o mulțime de informații pe care nu le înțelegem -- și anume, le dă un nume și o poveste. Deci, acesta este unul pe care l-au găsit și l-au numit Cuțitul Carnavalul, Cartoforul din Boston, Amurgul.
And the gag is that, of course, these aren't just running through the market. You can find these kinds of things wherever you look, once you learn how to look for them. You can find it here: this book about flies that you may have been looking at on Amazon. You may have noticed it when its price started at 1.7 million dollars. It's out of print -- still ... (Laughter) If you had bought it at 1.7, it would have been a bargain. A few hours later, it had gone up to 23.6 million dollars, plus shipping and handling. And the question is: Nobody was buying or selling anything; what was happening? And you see this behavior on Amazon as surely as you see it on Wall Street. And when you see this kind of behavior, what you see is the evidence of algorithms in conflict, algorithms locked in loops with each other, without any human oversight, without any adult supervision to say, "Actually, 1.7 million is plenty."
Și surpriza este ca, desigur, acestea nu rulează doar în piață. Poți da de aceste lucruri oriunde te uiti, odată ce ai învățat cum să te uiți după ele. Poți da de ele aici: în această carte despre muște pe care s-ar putea să o fi căutat pe pagina de internet a Amazon. Poate că le-ai remarcat când prețul său a început de la 1,7 milioane de dolari. Este epuizată -- încă ..... Dacă ați fi cumpărat-o la 1,7 milioane ar fi fost un târg bun. După câteva ore prețul a crescut la 23,6 milioane de dolari, plus expedierea și coletul. Și întrebarea este: Nimeni nu a cumpărat nimic, ce s-a petrecut? Și vezi acest comportament pe Amazon la fel cu îl poți vedea pe Wall Street. Și când vezi acest tip de comportament ceea ce vezi este dovada unor algoritmi în conflict, algoritmi prinși în cicluri între ei fără nici un fel de control uman, fără nici o supraveghere a unui adult, care să zică: ''De fapt, 1,7 milioane este deajuns.''
(Laughter)
...
And as with Amazon, so it is with Netflix. And so Netflix has gone through several different algorithms over the years. They started with Cinematch, and they've tried a bunch of others -- there's Dinosaur Planet; there's Gravity. They're using Pragmatic Chaos now. Pragmatic Chaos is, like all of Netflix algorithms, trying to do the same thing. It's trying to get a grasp on you, on the firmware inside the human skull, so that it can recommend what movie you might want to watch next -- which is a very, very difficult problem. But the difficulty of the problem and the fact that we don't really quite have it down, it doesn't take away from the effects Pragmatic Chaos has. Pragmatic Chaos, like all Netflix algorithms, determines, in the end, 60 percent of what movies end up being rented. So one piece of code with one idea about you is responsible for 60 percent of those movies.
Și, așa cum este cu Amazon, așa este și cu Netflix. Și deci Netflix a folosit mai mulți algoritmi de-a lungul anilor. Ei au început cu Cinematch și au încercat și câțiva alții. Au folosit Dinosaur Planet, și Gravity. Ei folosesc acum Haos Pragmatic. Haos Pragmatic, asemeni tuturor celorlalți algoritmi ai Netflix, încearcă să facă același lucru. Încearcă să te înțeleagă, să pătrundă în creierul tău, ca mai apoi să îți recomande ce film ai dori să vezi în continuare -- lucru care este foarte, foarte dificil. Dar dificultatea problemei și a faptului că algoritmul nu reușește pe deplin nu șterge efectele pe care Haos Pragmatic le determină. Haos Pragmatic, asemeni tuturor algoritmilor Netflix, are ca rezultat final 60% din filmele care ajung să fie împrumutate. Așadar, o bucată de cod cu o idee despre tine este responsabilă pentru 60% din acele filme.
But what if you could rate those movies before they get made? Wouldn't that be handy? Well, a few data scientists from the U.K. are in Hollywood, and they have "story algorithms" -- a company called Epagogix. And you can run your script through there, and they can tell you, quantifiably, that that's a 30 million dollar movie or a 200 million dollar movie. And the thing is, is that this isn't Google. This isn't information. These aren't financial stats; this is culture. And what you see here, or what you don't really see normally, is that these are the physics of culture. And if these algorithms, like the algorithms on Wall Street, just crashed one day and went awry, how would we know? What would it look like?
Dar dacă ai putea da o notă acelor filme înainte de a fi create? Nu ar fi util acest lucru? Ei bine, câțiva cercetători de date din Marea Britanie sunt la Hollywood și ei au algoritmi pentru scenarii -- o companie numită Epagogix. Și poți rula un cod de acolo iar ei îți pot spune, cuantificabil, că acesta este un film de 30 de milioane de dolari sau un film de 200 de milioane de dolari. aici nu este vorba de Google. Aceasta nu este informație. Acestea nu sunt statistici financiare, aceasta este cultură. Și ceea ce vedeți aici sau ceea ce nu vedeți de fapt este că avem de-a face cu o fizică a culturii. Și dacă acești algoritmi, asemeni algoritmilor de pe Wall Street, nu ar mai funcționa la un moment dat și ar lua-o razna, cum am putea știi, cum ar arăta situația?
And they're in your house. They're in your house. These are two algorithms competing for your living room. These are two different cleaning robots that have very different ideas about what clean means. And you can see it if you slow it down and attach lights to them, and they're sort of like secret architects in your bedroom. And the idea that architecture itself is somehow subject to algorithmic optimization is not far-fetched. It's super-real and it's happening around you.
Și ei sunt în casele voastre. Sunt în casele voastre. Iată doi algoritmi în competiție pentru camera voastră. Aceștia sunt doi roboți de curățenie diferiți care au idei diferite legat ceea ce înseamnă curat. Și poți vedea acesta dacă îi încetinești și le atașezi lumini. Iar ei sunt un fel de arhitecți secreți în dormitorul vostru. Iar ideea că arhitectura însăși este oarecum obiectul optimizării algoritmice nu este exagerată. Este cât se poate de reală și se petrece în jurul tău.
You feel it most when you're in a sealed metal box, a new-style elevator; they're called destination-control elevators. These are the ones where you have to press what floor you're going to go to before you get in the elevator. And it uses what's called a bin-packing algorithm. So none of this mishegas of letting everybody go into whatever car they want. Everybody who wants to go to the 10th floor goes into car two, and everybody who wants to go to the third floor goes into car five. And the problem with that is that people freak out. People panic. And you see why. You see why. It's because the elevator is missing some important instrumentation, like the buttons. (Laughter) Like the things that people use. All it has is just the number that moves up or down and that red button that says, "Stop." And this is what we're designing for. We're designing for this machine dialect. And how far can you take that? How far can you take it? You can take it really, really far.
Simți acest lucru mai mult atunci când ești închis într-o cutie de metal, un lift de model nou, numit lift cu controlul destinației. Sunt acele lifturi la care trebuie să apeși la ce etaj vrei să ajungi înainte de a te urca în ele. Iar acestea folosesc ceea ce se numește un algoritm bin packing. Deci, nu se permite nebunia de a da voie tuturor sa intre în orice lift vor. Toți cei care vor să ajungă la etajul 10 intră în liftul 2, și toți cei care vor să ajungă la etajul trei intră în liftul 5. Problema cu aceasta este că oamenii se sperie. Oamenii intră în panică. Și poți vedea de ce. Poți vedea de ce. Asta pentru că liftului îi lipsesc niște instrumente importante, adică butoanele. ... Lucruri pe care oamenii le folosesc. Tot ceea ce are este doar un numărul care crește sau scade și acel buton roșu care spune :''Stop.'' Iată pentru ce facem noi proiectele.. Noi proiectăm pentru acest dialect al mașinilor. Și cât de departe poți duce asta? Cât de departe? Poți să ajungi chiar foarte, foarte departe.
So let me take it back to Wall Street. Because the algorithms of Wall Street are dependent on one quality above all else, which is speed. And they operate on milliseconds and microseconds. And just to give you a sense of what microseconds are, it takes you 500,000 microseconds just to click a mouse. But if you're a Wall Street algorithm and you're five microseconds behind, you're a loser. So if you were an algorithm, you'd look for an architect like the one that I met in Frankfurt who was hollowing out a skyscraper -- throwing out all the furniture, all the infrastructure for human use, and just running steel on the floors to get ready for the stacks of servers to go in -- all so an algorithm could get close to the Internet.
Așadar, hai să ne întoarcem la Wall Street. Pentru că algoritmii de pe Wall Street depind cel mai mult de o calitate, și aceasta este viteza. Iar ei funcționează la milisecundă sau microsecundă. Ca să vă creez o idee legată de ceea ce sunt microsecundele, aveți nevoie de 500 000 de microsecunde doar pentru a da clic cu mouse-ul. Dar, dacă tu ești un algoritm de pe Wall Street și ești cu cinci microsecunde în urmă, atunci ai pierdut. Deci, dacă ai fi un algoritm tu ai căuta un arhitect ca cel pe care l-am întâlnit în Frankfurt care golea un zgârie-nor aruncând mobila, toată infrastructura folosită de oameni lăsând doar oțelul podelelor, pregătind locul pentru stivele de servere -- toate doar ca un algoritm să ajungă aproape de internet.
And you think of the Internet as this kind of distributed system. And of course, it is, but it's distributed from places. In New York, this is where it's distributed from: the Carrier Hotel located on Hudson Street. And this is really where the wires come right up into the city. And the reality is that the further away you are from that, you're a few microseconds behind every time. These guys down on Wall Street, Marco Polo and Cherokee Nation, they're eight microseconds behind all these guys going into the empty buildings being hollowed out up around the Carrier Hotel. And that's going to keep happening. We're going to keep hollowing them out, because you, inch for inch and pound for pound and dollar for dollar, none of you could squeeze revenue out of that space like the Boston Shuffler could.
Te gândești la internet ca la acel model de sistem distribuit. Este, desigur, distribuit, dar este distribuit din anumite locuri. În New York este distribuit de aici: Hotelul Carrier localizat pe Hudson Street. Acesta este locul de unde vin firele în oraș. Adevărul este că distanța tot mai mare față de acest loc duce la pierderea a cât mai multor microseunde. Băieții aceștia de pe Wall Street, generația Marco Polo și Cherokee , sunt cu opt microsecunde în urma acestor băieți care sunt în spatele clădirilor golite din jurul Hotelului Carrier. Iar acesta se va întâmpla încontinuu. Noi vom continua să le golim pentru că voi, centimetru cu centimetru, și kilogram cu kilogram și dolar cu dolar, niciunul dintre voi nu ați putea obține venit din acel spațiu așa cum a făcut Boston Shuffler.
But if you zoom out, if you zoom out, you would see an 825-mile trench between New York City and Chicago that's been built over the last few years by a company called Spread Networks. This is a fiber optic cable that was laid between those two cities to just be able to traffic one signal 37 times faster than you can click a mouse -- just for these algorithms, just for the Carnival and the Knife. And when you think about this, that we're running through the United States with dynamite and rock saws so that an algorithm can close the deal three microseconds faster, all for a communications framework that no human will ever know, that's a kind of manifest destiny; and we'll always look for a new frontier.
Dar, dacă mărim harta, dacă mărim harta, veți vedea un șanț de 825 de mile între New York și Chicago care a fost construit în ultimii ani de către o companie numită Spread Networks. Acesta este un cablu din fibră optică care a fost pus între cele două orașe pentru a fi capabil să transmită un semnal de 37 de ori mai repede decât poți da tu clic pe un mouse - doar pentru acești algoritmi, doar pentru Carnaval și Cuțitul. Și când te gândești la acest lucru că noi umblăm prin State Unite cu dinamită și spărgătoare de pietre, pentru ca un algoritm să poată încheia o tranzacție cu trei microsecunde mai repede, totul pentru un cadru al comunicării pe care nici un om nu îl va știi vreodată, care este ca un fel de destin manifest și care se va uita mereu după noi granițe.
Unfortunately, we have our work cut out for us. This is just theoretical. This is some mathematicians at MIT. And the truth is I don't really understand a lot of what they're talking about. It involves light cones and quantum entanglement, and I don't really understand any of that. But I can read this map, and what this map says is that, if you're trying to make money on the markets where the red dots are, that's where people are, where the cities are, you're going to have to put the servers where the blue dots are to do that most effectively. And the thing that you might have noticed about those blue dots is that a lot of them are in the middle of the ocean. So that's what we'll do: we'll build bubbles or something, or platforms. We'll actually part the water to pull money out of the air, because it's a bright future if you're an algorithm.
Din nefericire, ne-am găsit munca potrivită. Aceasta este doar teorie. Iată niște matematicieni de la MIT. Și adevărul este că nu înțeleg pe deplin tot ceea ce zic ei acolo. Este ceva legat de conuri de lumină și încurcătură cuantică, și nu prea înțeleg nimic din acestea. Dar pot citi această hartă. Și ceea ce zice acestă hartă este că, dacă vrei să faci bani în piețele indicate de punctele roșii, acolo sunt oamenii, acolo unde sunt orașele, trebuie să îți pui serverele în punctele albastre pentru a face acest lucru în cel mai eficient mod. Și ceea ce poate ai remarcat la aceste puncte albastre este că o mulțime sunt în mijlocul oceanului. Deci, iată ce vom face: vom construi baloane sau ceva în genul sau platforme. De fapt, vom despărți apele pentru a scoate bani din aer pentru că este un viitor strălucit dacă ești un algoritm.
(Laughter)
...
And it's not the money that's so interesting actually. It's what the money motivates, that we're actually terraforming the Earth itself with this kind of algorithmic efficiency. And in that light, you go back and you look at Michael Najjar's photographs, and you realize that they're not metaphor, they're prophecy. They're prophecy for the kind of seismic, terrestrial effects of the math that we're making. And the landscape was always made by this sort of weird, uneasy collaboration between nature and man. But now there's this third co-evolutionary force: algorithms -- the Boston Shuffler, the Carnival. And we will have to understand those as nature, and in a way, they are.
De fapt, nu banii sunt obiectul interesului aici. Este motivația din spatele banilor. Faptul că noi ”terraformăm” Pământul însuși cu acest gen de eficiență algoritmică. Și, în lumina acestui fapt, te întorci în timp și te uiți la fotografiile lui Michael Najjar și îți dai seama că ele nu sunt o metaforă, ele sunt o profeție. Ele sunt profeția efectelor seismice, terestre, determinate de matematica făcută de noi. Iar peisajul a fost format întotdeauna din acest fel ciudat și neliniștitor de colaborări între natură și om. Dar acum există a treia forță co-evoluționară: algoritmii -- Cartoforul din Boston, Carnavalul. Și trebuie să îi înțelegem ca parte a naturii. Și, într-un fel, chiar sunt.
Thank you.
Mulțumesc.
(Applause)
(Aplauze)