Mám otázku. Může počítač napsat báseň? Je to provokativní otázka. Jenom o tom na minutku popřemýšlejte a najednou máte hromadu dalších otázek jako: Co je to počítač? Co je to poezie? Co je to kreativita? Ale to jsou otázky, na které se lidé snaží odpovědět celý svůj život, ne v jednom TED Talku. Budeme tedy muset vyzkoušet odlišný přístup.
I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Tady nahoře máme dvě básně. Jedna je napsána člověkem a druhá zase počítačem.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer.
Zeptám se vás, která je která. Zkuste to:
I'm going to ask you to tell me which one's which. Have a go:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Poem 2: We can feel / Activist through your life's / morning /
Dobře, čas vypršel.
Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Zvedněte ruku, pokud si myslíte, že báseň 1 napsal člověk. OK, většina z vás. Zvedněte ruku, pokud si myslíte, že báseň 2 napsal člověk. To je od vás odvážné, protože první báseň byla napsána lidským básníkem Williamem Blakem. Druhá byla napsána algoritmem, jenž vzal k určitému datu všechnu slovní zásobu z mého Facebooku a poté ji algoritmicky znovu sestavil podle metod, které vám popíši o něco později. Tak pojďme na další test. Znova, nemáte na čtení celou věčnost, tak jen věřte svému instinktu.
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful!
Dobrá, čas vypršel.
Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Jestliže myslíte, že první báseň byla napsána člověkem, zvedněte ruku. OK. Jestliže myslíte, že druhá báseň byla napsána člověkem, ruku nahoru. Máme to víceméně půl na půl. Tohle bylo mnohem težší.
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Odpověď je první báseň byla vygenerována algoritmem zvaným Racter, vytvořeným v 70. letech 19. století. a druhá byla napsána chlápkem jménem Frank O'Hara, který je jedním z mých oblíbených lidských básníků.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
(smích)
(Laughter)
To, co jsme pravě udělali je Turingův test poezie. Turingův test byl poprvé navržen tímto pánem, Alanem Turingem, v roce 1950, aby zodpověděl otázku, může počítač myslet? Alan Turing věřil, že dokázal-li počítač konverzovat s člověkem pomocí textu s takovou kvalitou, že člověk nemohl určit, zda hovoří s počítačem nebo člověkem, lze o počítači říci, že je inteligentní.
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
V roce 2013, můj přítel Benjamin Laird a já jsme stvořili online Turingův test poezie. Jmenuje se Bot, nebo ne a můžete si ho sami zkusit. Ale je to prakticky hra, kterou jsme teď hráli. Je vám prezentována báseň, nevíte, zda ji napsal člověk nebo počítač, a musíte hádat. Tisíce lidí ten test zkusily takže máme výsledky.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
A jaké ty výsledky jsou? Turing řekl, že pokud by počítač dokázal člověka oklamat ve 30 procentech případů, že je člověk, pak splňuje Turingův test inteligence. Máme básně v databázi Bot, nebo ne, u kterých si 65 procent lidských čtenářů mylně myslelo, že byly napsány člověkem. Myslím, že máme odpověď na naši otázku. Podle logiky Turingova testu, může počítač psát poezii? Ano, rozhodně může. Ale pokud s touto odpovědí máte trochu problém, je to v pořádku. Pokud máte řadu instinktivních otázek, to je také v pořádku, protože to není konec.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
Pojďme si zahrát náš třetí a poslední test. Opět, budete muset číst a říct mi, která je od člověka.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; /
OK, čas vypršel.
'Tis but the ecstasy of death, / And then the brake is almost done (...)
Ruce nahoru, kdo má za to, že báseň 1 je od člověka. Ruce nahoru, kdo myslí, že báseň 2 je od člověka. Páni, to je mnohem více lidí. Tak to budete překvapeni, když zjistíte, že báseň 1 byla napsána velmi lidskou spisovatelkou Gertrude Steinovou. A druhá byla vygenerována algoritmem jménem RKCP. Než se posuneme, nechte mne velmi rychle a jednoduše popsat, jak RKCP funguje. RKCP je algoritmus navržený Rayem Kurzweilem, což je ředitel vývoje v Googlu a pevný zastánce umělé inteligence. RKCP dáte zdroj textu, ten je zanalyzován kvůli způsobu, jakým je v něm použita slovní zásoba, a ta je pak přeskládána tak, aby napodobovala první text.
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
V případě básně, kterou jsme zrovna viděli, básně 2, u které jste si mysleli, že ji psal člověk, RKCP dostal řadu básní od básnířky Emily Dickinsonové, podíval se, jak používá slovní zásobu, naučil se model, a pak přeskládal model podle stejné struktury. Důležitá věc o RKCP, kterou bychom měli vědět, je, že nezná význam slov, která používá. Jazyk je jenom syrový materiál, mohla to být čínština, mohla to být švédština, mohla to být slovní zásoba jednoho dne na vašem Facebooku. Je to jen surový materiál. Nicméně, algoritmus je schopen vytvořit báseň, která se zda být více lidská než báseň Gertrude Steinové, a Gertrude Steinová je člověk.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
Takže to, co jsme zde dělali, je víceméně obrácený Turingův test Gertrude Steinová, která je člověk, dokáže napsat báseň, která většinu lidských soudců oklame tak, že si myslí, že byla napsána počítačem. Tudíž, podle logiky obráceného Turingova testu, Gertrude Steinová je počítač.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
(smích)
(Laughter)
Cítíte se zmatení? Myslím, že se vám ani nedivím.
Feeling confused? I think that's fair enough.
Zatím jsme měli lidi, kteří píší jako lidé, počítače, kteří píší jako počítače, počítače, kteří píší jako lidé, ale také máme, což je asi nejvíce zarážející, lidi, kteří píší jako počítače.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Takže, co si z toho můžeme vzít? Můžeme říct, že William Blake je nějakým způsobem lidštější než Gertrude Steinová? Nebo že Gertrude Steinová je více počítač než William Blake?
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
(smích)
(Laughter)
To jsou otázky, které jsem si kladl již asi dva roky, a nemám na ně žádné odpovědi. Ale co mám, je hromada nových náhledů na náš vztah s technologií.
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Moje první zjištění je, že z nějakého důvodu spojujeme poezii s tím, že jsme lidé. Takže když se pak zeptáme, "Může počítač psát poezii?", tak se zároveň ptáme, "Co znamená být člověkem a kde jsou hranice této kategorie? Jak můžeme určit, kdo nebo co může být součástí této kategorie?" Věřím, že je to především filozofická otázka a nemůže být zodpovězena prostým ano, nebo ne jako při Turingově testu. Též věřím, že to Alan Turing chápal, a že když navrhl svůj test v roce 1950, měla to být filozofická provokace.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Mé druhé zjištění je, že když děláme Turingův test poezie, ve skutečnosti nezkoušíme možnosti počítačů, protože algoritmy generátorů poezie jsou dost jednoduché a existují už zhruba od 50. let 19. století. To, co děláme Turingovým testem poezie, je spíš sbírání názorů o tom, co představuje lidskost. Na co jsem přišel, už jsme to dnes viděli, řekněme, že William Blake je více člověk než Gertrude Steinová. Samozřejmě to neznamená, že William Blake je opravdu více člověk nebo že Gertrude Steinová je více počítač. Jednoduše to znamená, že kategorie člověka je nestabilní. To mě vedlo k porozumění, že člověk není jen chladný holý fakt. Spíše je to něco, co je utvářeno našimi názory, a něco, co se časem mění.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Takže mé poslední zjištění je, že počítač, více či méně, funguje jako zrcadlo, kde se odráží všechny myšlenky o člověku, které mu ukážeme. Ukážeme mu Emily Dickinsonovou, a on nám Emily Dickinsonovou vrátí zpět. Ukážeme mu Williama Blakea a to je to, co nám on ukáže nazpět. Ukážeme tomu Gertrude Steinovou, a dostaneme nazpět Gertrude Steinovou. Více než kterákoliv jiná část technologie, počítač je zrcadlo, které odráží všechny myšlenky o člověku, které ho naučíme.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Jsem si jistý, že mnoho z vás poslední dobou slyšelo hodně o umělé inteligenci. A valná část konverzace je o tom, zdali ji můžeme vytvořit. Dokážeme postavit inteligentní počítač? Dokážeme postavit kreativní počítač? Na co se nejspíše ptáme pořád dokola je: dokážeme postavit počítač, který by byl jako člověk?
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Ale to co jsme právě viděli je, že člověk není vědecký fakt, ale je to stále se vyvíjející, řetězící se myšlenka taková, která se mění s časem. Takže když začneme zápasit s myšlenkami o umělé inteligenci v budoucnosti, neměli bychom se sami sebe tázat jen: "Dokážeme ji postavit?" Ale měli bychom se také ptát, "Jaké představy o člověku chceme, aby nám odrážela zpět?" To je především filozofická myšlenka a ta nemůže být zodpovězena jen samotným softwarem, ale, myslím si, vyžaduje okamžik celodruhové existenciální reflexe.
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Děkuji vám.
Thank you.
(potlesk)
(Applause)