I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Jag har en fråga. Kan en dator skriva poesi? Det här är en provokativ fråga. Du tänker på den en stund, sen har du plötsligt en massa andra frågor, som: Vad är en dator? Vad är poesi? Vad är kreativitet? Men det här är frågor som tar en hel livstid att besvara, man kan inte göra det i ett enda TED-föredrag. Så vi ska prova en annan infallsvinkel.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Här uppe har vi två dikter. En av dem är skriven av en människa, och den andra är skriven av en dator. Jag skulle vilja att ni gissar vilken som är vilken. Testa!
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Dikt 1: "Lilla fluga! / Din sommarlek dog då min tanklösa hand / dig slog Är ej jag / av ditt slag? Är ej du / mänska som jag?"
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Dikt 2: "Vi kan känna / aktivist genom ditt livs / morgon / Stannar för att se, påve jag hatar / icke hela natten (...)"
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Okej, tiden är ute. Upp med en hand om du tror att dikt 1 är skriven av en människa. Okej, de flesta av er. Upp med en hand om du tror att dikt 2 är skriven av en människa. Väldigt modigt av er, för den första är skriven av den mänskliga poeten William Blake. Den andra är skriven av en algoritm som tog allt språk från mitt Facebook-flöde under en dag och regenererade det med hjälp av sina beräkningsmetoder, på ett sätt som jag ska beskriva senare. Vi provar med att annat test. Ni har inte så lång tid på er att läsa, så lita bara på er magkänsla.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
Dikt 1: "Ett lejon ryter, en hund skäller Det är intresserande / och fascinerande att en fågel flyger och inte / ryter eller skäller. Nervpirrande historier om djur är i mina drömmar och jag ska sjunga alla om jag / inte är utmattad eller trött."
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Dikt 2: "Åh! kängurur, paljetter, glassdrinkar! /Ni är verkligen underbara! Pärlor, munspel, geléhallon, aspirintabletter! Allt / sånt där man alltid talar om (...)"
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Okej, tiden är ute. Om du tror att den första dikten är skriven av en människa, upp med en hand. Okej. Om du tror att den andra dikten är skriven av en människa, upp med en hand. Vi har, mer eller mindre, en jämn fördelning här. Det var mycket svårare.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
Svaret är, att den första dikten är genererad av en algoritm som heter Racter, som skapades på 1970-talet, och den andra dikten skrevs av en kille som hette Frank O'Hara, som råkar vara en av mina favoriter bland mänskliga poeter.
(Laughter)
(Skratt)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Det vi gjorde nu var ett Turing-test för poesi. Turing-testet utformades av Alan Turing på 1950-talet i syfte att besvara frågan "Kan datorer tänka?" Alan Turing ansåg att om en dator kunde ha en textbaserad konversation med en människa som var så pass flytande att människan inte kunde avgöra om den pratade med en dator eller människa, så kunde datorn sägas ha intelligens.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
År 2013 skapade jag och min vän Benjamin Laird ett Turing-test för poesi på nätet. Det heter Bot or not, och ni kan gå in och leka med det själva. Det fungerar likadant som leken vi just lekte. Man får se en dikt, man vet inte om den är skriven av en människa eller en dator och man får gissa. Tusentals människor har gjort det här testet på nätet, så vi har resultat.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
Och vilka är resultaten? Turing sa att om en dator kan lura en människa att tro att den är mänsklig 30 procent av gångerna, så klarar den Turings intelligenstest. Vi har dikter i Bot or not-databasen som har fått 65 procent av de mänskliga läsarna att tro att de är skrivna av människor. Jag tror att vi har ett svar på vår fråga. Enligt Turing-testets logik, kan en dator skriva poesi? Ja, det kan den absolut. Men om du känner dig lite obekväm med det här svaret så är det okej. Om du har en massa magkänslor kring det så är det också okej, för det här är inte slutet på historien.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Vi tar och gör vårt tredje och sista test. Återigen ska ni läsa och berätta vilken ni tror är mänsklig.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Dikt 1: "Röda flaggor skälet till vackra flaggor. / Och band. Band av flaggor / Och bär tyg / Skäl till att bära tyg. (...)"
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
Dikt 2: "En skadad hjort hoppar högst, / jag har hört påskliljan Jag har hört flaggan i dag / Jag har hört jägaren säga: / Det är inget annat än dödens hänryckning,/ Och sen är bromsen nästan klar (...)"
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Okej, tiden är ute. Upp med en hand om du tror att dikt 1 är skriven av en människa. Upp med en hand om du tror att dikt 2 är skriven av en människa. Oj, det var många fler. Då kommer ni bli överraskade av att få reda på att dikt 1 är skriven av den högst mänskliga poeten Gertrude Stein Dikt 2 är genererad av en algoritm som heter RKCP. Innan vi går vidare tänkte jag beskriva väldigt snabbt och enkelt hur RKCP fungerar. RKCP är en algoritm som är utformad av Ray Kurzweil, en teknikchef på Google som tror stenhårt på artificiell intelligens. Man ger RKCP en källtext, och så analyserar den källtexten för att se hur den använder språk och sen regenererar den språk som efterliknar den första texten.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
I dikten vi såg alldeles nyss - - dikt 2, den ni trodde var skriven av en människa - - den matades med ett gäng dikter av en poet som heter Emily Dickinson. Den tittade på hur hon använder språk, lärde sig modellen, och sen regenererade den en modell enligt samma struktur Det som är viktigt att veta om RKCP är att den inte förstår vad orden den använder betyder. Språket är bara råmaterial, det kan vara kinesiska eller svenska, det skulle kunna vara det samlade språket från ditt Facebook-flöde under en dag. Det är bara råmaterial. Och ändå kan den skapa en dikt som verkar mer människogjord än Gertrude Steins dikt, och Gertrude Stein är en människa.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
Man kan säga att vi har gjort ett omvänt Turing-test. Gertrude Stein, en människa, kan skriva en dikt som lurar en majoritet av mänskliga bedömare att tro att den är skriven av en dator. Enligt det omvända Turing-testets logik är Gertrude Stein alltså en dator.
(Laughter)
(Skratt)
Feeling confused? I think that's fair enough.
Förvirrad? Det är inte så konstigt.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Hittills har vi haft människor som skriver som människor, vi har datorer som skriver som datorer, vi har datorer som skriver som människor, men vi har också, vilket kanske är det mest förvirrande, människor som skriver som datorer.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
Vad tar vi med oss från allt det här? Tar vi med oss att William Blake på något sätt är mer mänsklig än Gertrude Stein? Eller att Gertrude Stein är mer lik en dator än William Blake?
(Laughter)
(Skratt)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Såna här saker har jag frågat mig själv i ungefär två år nu, och jag har inga svar. Men det jag faktiskt har är en massa insikter om vårt förhållande till teknologi.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Min första insikt är att vi, av någon anledning, associerar poesi med att vara mänsklig. Så när vi frågar "Kan en dator skriva poesi?" så frågar vi också "Vad är det att vara människa, och hur avgränsar vi den här kategorin? Hur avgör vi vem eller vad som hör till kategorin?" Jag tror att det här är en filosofisk fråga, som inte kan besvaras med ett ja- och nej-test som Turing-testet. Jag tror också att Alan Turing förstod det, och att han utformade sitt test då 1950 för att uppnå en filosofisk provokation.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Min andra insikt är att när vi använder Turing-testet för poesi testar vi egentligen inte datorernas kapacitet. För poesi-genererande algoritmer är ganska enkla och har funnits sedan 1950-talet, mer eller mindre. Det vi faktiskt gör när vi Turing-testar poesi är att samla åsikter om vad som utgör mänsklighet. Det jag har kommit fram till - det har vi sett tidigare i dag - är att vi tycker att Blake är mer människa än Gertrude Stein. Det här betyder förstås inte att William Blake faktiskt var mer människa eller att Gertrude Stein var mer dator. Det betyder helt enkelt att kategorin "mänsklighet" är instabil. Det här har fått mig att förstå att mänsklighet inte är kalla, hårda fakta. Det är i stället något som skapas av våra uppfattningar och något som förändras över tid.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Min sista insikt är att datorn fungerar som en spegel som reflekterar varje tanke om mänsklighet som vi visar den. Vi visar den Emily Dickinson, den ger oss Emily Dickinson. Vi visar den William Blake, och det är det den reflekterar tillbaka. Vi visar den Gertrude Stein, och det vi får tillbaka är Gertrude Stein. Datorn är den teknologi som är villigast att vara en spegel som reflekterar varje uppfattning om mänsklighet som vi lär den.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Många av er har säkert hört mycket om artificiell intelligens på sistone. Mycket av det man pratar om är ... Kan vi kan bygga det? Kan vi bygga en intelligent dator? Kan vi bygga en kreativ dator? Det vi verkar fråga om och om igen är om vi kan bygga en människolik dator,
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Men det vi såg nyss är att mänsklighet inte är ett vetenskapligt faktum, utan ett ständigt skiftande och hoplänkande koncept som förändras över tid. När vi börjar brottas med de här tankarna om artificiell intelligens i framtiden så bör vi inte bara fråga oss "Kan vi bygga den?" Vi ska också fråga oss "Vilken uppfattning av det mänskliga vill vi att den ska reflektera?" Det här är en filosofisk fråga, och den kan inte besvaras enbart med mjukvara, men jag tycker att den kräver en stunds existentiell reflektion.
Thank you.
Tack.
(Applause)
(Applåder)