I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Teño unha pregunta. Pode un ordenador escribir poesía? Esta é unha pregunta provocadora. Pensas neso por un minuto, e de golpe unha morea de preguntas como: Que é un ordenador? Que é poesía? Que é creatividade? Pero estas son preguntas que a xente pasa toda a súa vida tratando de responder, non nunha única charla TED Polo que intentaremos un enfoque diferente
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Velaquí arriba temos dous poemas. Un deles está escrito por un humano, e o outro por un ordenador. Vouvos a pedir que me digades cal é cal Intentádeo:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Poema1: Pequena mosca/ Os teus xogos de estío,/ A miña atolondrada man/ Levaron Non son eu / Unha mosca coma ti?/ Non es ti / Un home coma min?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Poema 2: Podémonos sentir / Activista ao longo / das mañás da túa vida/ Para ao ver, Papa odio o / non toda a noite para comezar unha gran outra cousa (...)
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Ben, rematouse o tempo. Mans arriba quen crea que o Poema 1 foi escrito por un humano. Vale, a maioría de vós. Mans arriba quen crea que o Poema 2 foi escrito por un humano. Moi valentes, porque o primeiro foi escrito polo poeta William Blake. O segundo foi escrito por un algoritmo que colleu toda a linguaxe da miña conta de Facebook nun só día e logo rexenerouno algoritmicamente, seguindo métodos que describirei brevemente máis adiante Entón vamos a intentar outra proba. De novo, non tedes toda a vida para ler isto, confiade no voso instinto.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
Poema 1: Un león ruxe e o can ladra. É interesante / é fascinante que o paxaro voará e non / ruxirá ou ladrará. Cautivadoras historias sobre animais están nos meus soños e cantareinos todos se eu/ non estou exhausto ou agotado.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Poema 2: Oh! canguros, abelorios, sodas de chocolate!/ Sodes realmente belos! Perlas, / harmónicas, lambetadas, aspirinas! Todas / as cousas das que sempre se falou (...)
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Ben, rematouse o tempo. Se pensedes que o primeiro poema, foi escrito por un humano levantade a man. Vale. E se pensades que o segundo poema foi escrito por un humano, levantade a man. Temos, máis ou menos, unha división aquí de 50/50. Foi moito máis difícil.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
Velaquí a resposta, o primeiro poema foi xerado por un algoritmo chamado Racter, que foi creado no 1970, e o segundo poema foi escrito por un tipo chamado Frank O'Hara, quen resulta ser un dos meus poetas favoritos.
(Laughter)
(Risas)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Así que o que acabamos de facer agora é un test Turing de poesía. O test Turing foi proposto por primeira vez por este tipo, Alan Turing, no 1950. co fin de responder á pregunta, poden os ordenadores pensar? Alan Turing cría que se o ordenador fose capaz de ter un texto basaedo na conversación cun humano, con tal dominio que o humano non puidese dicir se están falando cun ordenador ou cun humano, logo poderíase dicir do ordenador que ten intelixencia.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
Así que no 2013, o meu amigo Benjamin Laird e eu, creamos un test Turing online para a poesía. Chámase robot ou non, e podedes probalo por vós mesmos. Pero basicamente, é un xogo ao que xa xogamos. Preséntasevos un poema, e non sabedes se foi escrito por un humano ou un ordenador e tedes que adivinar. Miles e miles de persoas xa fixeron esta proba online, polo que temos os resultados.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
E cales son eses resultados? Turing dixo que se un ordenador poidese enganar a un humano o 30% do tempo que iso sería un humano, entón pasaría o test Turing por intelixencia. Temos poemas na base de datos de robot ou non que enganaron ao 65% dos lectores humanos ao creer que foi escrito por un humano. Porén, penso que temos unha resposta a nosa pregunta. De acordo coa lóxica o test Turing, pode un ordenador escribir poesía? Claro, por suposto que pode. Pero se vos sentides un pouco molestos coa resposta, non pasa nada. se tedes un montón de reaccións instintivas, iso tamén está ben porque isto non é o final da historia.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Vamos a xogar o noso terceiro e derradeiro test. De novo, vades a ter que ler e dicirme cal pensades que é humano.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Poema 1: Bandeiras vermellas son a razón para fermosas bandeiras. / e cenefas. Cenefas de bandeiras /E materiais pesados / Razóns para levar materiais pesados. (...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
Poema 2: Un cervo salta ao máis alto, / xa escoitei ao narciso Xa escoitei á bandeira hoxe / Xa escoitei ao cazador contar;/ Isto non é máis que o éxtase da morte, / E despois a pausa está case rematada (...)
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Ok, rematouse o tempo. Mans arriba os que pensedes que o Poema 1 foi escrito por un humano. Mans arriba os que pensedes que o Poema 2 foi escrito por un humano. Guau!, iso é máis xente do esperado. Estaredes sorprendidos de descubrir que o Poema 1 foi escrito pola gran poetisa Gertrude Stein. E o Poema 2 foi xerado por un algoritmo chamado RKCP. Agora, antes de que sigamos, deixádeme describir moi rápida e brevemente, cómo funciona RKCP. Pois ben... RKP é un algoritmo deseñado por Ray Kurzweill, director de enxeñería en Google e un firme crente da intelixencia artificial Entón, vós dades a RKP un texto de orixe, e él analíza o texto de orixe co fin de descubrir como emprega a linguaxe, e logo rexenera a linguaxe que imita ese primeiro texto.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
Polo que no poema que acabamos de ver, Poema 2, o que todos pensastes que era humano, foi creado a través dun montón de poemas dunha poetisa chamada Emily Dickinson observando a maneira na que ela empregaba a linguaxe, aprendiu o modelo, e logo xerou un modelo de acordo a esa mesma estrutura. Pero o máis importante que hai que saber de RKCP é que non sabe o significado das palabras que está a usar. A linguaxe é tan só materia prima, podería ser chino, podería ser Sueco, podería ser a linguaxe recompilada no día en Facebook é só materia prima. E aínda así, é capaz de crear un poema que parece máis humano que o poema de Gertrude Stein, e Gertrude Stein é humana.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
Así que o que fixemos aquí é, máis ou menos, o contrario o test Turing. Polo que, Gertrude Stein, humana, é capaz de escribir un poema que leva á maioría de xuíces humanos a pensar que foi escrito por un ordenador. Polo tanto, segundo a lóxica revertida do test de Turing, Gertrude Stein é un ordenador.
(Laughter)
(Risas)
Feeling confused? I think that's fair enough.
Confundidos? Bastante xusto.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Ata agora tivemos humanos que escribiron como humanos, temos ordenadores que escriben como ordenadores, temos ordenadores que escriben como humanos, pero tamén temos, quizáis máis confusamente, humanos que escriben como ordenadores.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
Así que...que sacamos de todo isto? Damos por sentado que William Blake é dalguna maneira máis humano que Gertrude Stein? Ou que Gertrude Stein é máis ordenador que William Blake?
(Laughter)
(Risas)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Estas son preguntas que me preguntei a min mesmo durante arredor de dous anos, e aínda non teño respostas, Pero o que sí teño son unha morea de percepcións sobre a nosa relación coa tecnoloxía.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Así que a miña primeira percepción é que, por algunha razón, asociamos a poesía co ser humano. Porén cando preguntamos, "Pode un ordenador escribir poesía?" tamén estamos a preguntar, " Que siginifica ser humano e como poñemos límites a esta categoría? Como dicimos quen ou que pode ser parte desta categoría? Esta é unha pregunta filosófica esencial, creo, e non pode ser respondida con un test de sí ou non como o test Turing. Tamén creo que Alan Turing comprendiu isto, e cando ideou o seu test no 1950, el fíxoo como unha provocación filosófica.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Polo que a miña segunda percepción é que, cando realizamos o test Turing para poesía, non estamos realmente probando a capacidade dos ordenadores porque a poesía xerada mediante algoritmos, é bastante simple e xa existiu, máis ou menos, dende o 1950. O que estamos a facer co test Turing de poesía, preferentemente, é recolectar opinións sobre que consitúe a raza humana. Así, o que descubrín, o que xa vimos antes, dixemos que William Blake é máis humano que Gertrude Stein. Por suposto, isto non significa que William Blake fose realmente máis humano ou que Gertrude Stein fose máis un ordenador. Simplemente quere dicir que a categoría de humano é inestable. Isto levoume a entender que o ser humano non é un obxecto frío e duro. Senón que é máis ben algo construído a través das nosas opinións e que cambia co tempo.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Polo que a miña percepción final é que o ordenador, máis ou menos, funciona como un espello que reflicte calquer idea do ser humano que lle mostremos. Mostrámoslle a Emily Dickinson, e devólvenos a Emily Dickinson. Mostrámoslle a William Blake, e iso é o que nos reflicte a nós. Mostrámoslle Gertrude Stein. o que nos mostra de volta é a Gertrude Stein. Máis que calquera outra tecnoloxía, o ordenador é un espello que reflicte calquera idea
So I'm sure a lot of you have been hearing
do ser humano que lle ensinemos.
a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Porén, estou seguro de que moitos de vós oístes un montón sobre intelixencia artifical ultimamente. E a maior parte da conversación é sobre, podemos creala? Podemos crear un ordenador intelixente? Podemos construír un ordenador creativo? O que parece que nos preguntamos continuamente é se podemos crear un humano como un ordenador?
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Pero o que vimos ata agora é que o ser humano non é un feito científico, iso é unha idea concatenante e en constante evolución e unha que cambia co tempo. Polo que cando comezamos a pelear con estas ideas de intelixencia artifical no futuro, non deberíamos de preguntarnos, "Podemos construíla?" Pero tamén deberiamos plantearnos, "Que idea do humano queremos reflectir en nós mesmos?" Esta é unha idea filosófica esencial, e é unha que non pode ser respondida por un software solo, pero creo que require un momento de reflexión existencial
Thank you.
sobre a amplitude da especie.
Graciñas.
(Applause)
(Aplausos)