I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Eu tenho uma pergunta. Um computador consegue escrever poesia? É uma pergunta provocativa. Se você pensar nela por um minuto, de repente vêm várias outras perguntas como: o que é um computador? O que é poesia? O que é criatividade? Mas essas são perguntas que pessoas passaram a vida inteira tentado responder, não numa única palestra TED. Então vamos ter que tentar uma abordagem diferente.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Aqui nós temos dois poemas. Um deles foi escrito por um humano, e o outro escrito por um computador. Vou pedir que vocês digam qual é qual. Tentem:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Poema 1: Mosquinha / Tua peça de verão, / Minha mão descuidada / A afastou. Será que não sou / uma mosquinha também? / Ou será que és / Um homem como eu?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Poema 2: Podemos sentir-nos / Ativistas por nossas vidas / manhãs / Pausa para ver, papa odeio / Não a noite para começar uma grande a não ser (...)
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Certo, acabou o tempo. Levantem a mão se pensam que o poema 1 foi escrito por um humano. Certo, a maioria. Levantem a mão se pensam que o poema 2 foi escrito por um humano. Muito corajosos vocês, porque o primeiro foi escrito pelo poeta humano William Blake. O segundo foi escrito por um algoritmo que pegou toda a linguagem da minha página do Facebook em um dia e a regenerou com um algoritmo, de acordo com métodos que vou descrever mais adiante. Vamos tentar outro teste. De novo, vocês não têm muito tempo para ler, então confiem no seu instinto.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
Poema 1: Um leão urra e um cachorro late. É interessante / e fascinante que uma ave voa e não / urra ou late. Histórias fascinantes sobre animais estão em meus sonhos e vou cantá-las todas se eu / não estiver cansado ou exausto.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Poema 2: Oh! cangurus, lantejoulas, chocolate! / Vocês são muito bonitos! Pérolas, / gaitas, jujubas, aspirinas! Todas / as coisas de sempre falaram (...)
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Certo, acabou o tempo. Se vocês acham que o primeiro poema foi escrito por um humano, levantem a mão. Certo. E se pensam que o segundo poema foi escrito por um humano, levantem a mão. Temos, mais ou menos, uma divisão 50/50. Estava mais difícil.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
A resposta é: o primeiro poema foi gerado por um algoritmo chamado Racter, que foi criado na década de 70, e o segundo poema foi escrito por um cara chamado Frank O'Hara, que, por acaso, é um dos meus poetas humanos favoritos.
(Laughter)
(Risos)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
E o que acabamos de fazer agora foi um teste de Turin para poesia. O teste de Turin foi proposto por esse cara, Alan Turing em 1950, a fim de responder a pergunta: os computadores conseguem pensar? Alan Turing acreditava que se um computador fosse capaz de ter uma conversa em texto com um ser humano, com tal proficiência que o ser humano não saberia se estava falando com um computador ou com um ser humano, assim se diria que o computador tinha inteligência.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
E em 2013, meu amigo Benjamin Laird e eu, nós criamos um teste de Turing para poesia on-line. Ele se chama "bot or not", e vocês podem ir e tentar vocês mesmos. Mas basicamente é o jogo que acabamos de jogar. É apresentado um poema, você não sabe se foi escrito por um ser humano ou por um computador e você tem que adivinhar. Milhares e milhares de pessoas já fizeram esse teste online, e temos os resultados.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
E quais são os resultados? Bem, Turing dizia que se um computador conseguisse enganar um humano 30% das vezes como se fosse um humano, então ele passaria o teste de Turing de inteligência. Nós temos poemas no banco de dados do "bot or not" que enganaram 65% dos humanos leitores a pensarem que tinha sido escrito por um humano. Bem, acho que temos uma resposta para a nossa pergunta. De acordo com a lógica do teste de Turing, um computador consegue escrever poesia? Bem, sim, absolutamente. Mas se você estiver se sentindo um pouco desconfortável com essa resposta, tudo bem. Se você estiver tendo uma reação instintiva, também está tudo bem porque esse não é o final da história.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Vamos fazer nosso terceiro e último teste. De novo, vocês vão ter que ler e me dizer qual vocês acham que é humano.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Poema 1: O vermelho indica a razão para bandeiras bonitas. / e laços. laços de bandeiras / Material de vestir / Razões para vestir o material. (...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
Poema 2: Um cervo salta mais alto, / Eu escutei o narciso Eu escutei a bandeira hoje / Eu escutei o caçador dizer; / Isso mas o êxtase da morte, / E então o freio está quase pronto (...)
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Acabou o tempo. Levantem a mão se vocês acham que o poema 1 foi escrito por um humano. Levantem a mão se vocês acham que o poema 2 foi escrito por um humano. Uau, tem muito mais gente. Vocês ficariam surpresos de saber que o poema 1 foi escrito pela poetisa muito humana Gertrude Stein. E o poema 2 foi gerado por um algoritmo chamado RKCP. Agora, antes de continuar, vou descrever de maneira breve e simples, como funciona o RKCP. O RKCP é um algoritmo criado por Ray Kurzweil, que é diretor de engenharia no Google e acredita firmemente em inteligência artificial. E nós damos ao RKCP um texto fonte, ele analisa o texto fonte a fim de descobrir como a linguagem é usada, e então regenera linguagem que emula o primeiro texto. E no poema que acabamos de ver,
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
o poema 2, aquele que vocês todos pensaram que era humano, ele recebeu um monte de poemas de uma poetisa chamada Emily Dickinson, observou a maneira como ela usa a linguagem, aprendeu o modelo, e então regenerou um modelo de acordo com aquela mesma estrutura. Mas o importante para saber sobre o RKCP é que ele não sabe o significado das palavras que está usando. A linguagem é só a matéria prima, poderia ser chinês, poderia ser sueco, poderia ser a linguagem coletada da sua página do Facebook em um dia. É só matéria prima. E mesmo assim, ele é capaz de criar um poema que parece mais humano do que o poema de Gertrude Stein e Gertrude Stein é um ser humano.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
E o que fizemos aqui, é mais ou menos um teste de Turing inverso. Gertrude Stein, que é um ser humano, consegue escrever um poema que engana a maioria dos seres humanos a pensar que foi escrito por um computador. Portanto, de acordo com a lógica do teste de Turing inverso, Gertrude Stein é um computador.
(Laughter)
(Risos)
Feeling confused? I think that's fair enough.
Parece confuso? Acho que vocês têm razão.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Até agora tivemos humanos que escrevem como humanos, temos computadores que escrevem como computadores, temos computadores que escrevem como humanos, mas também temos, talvez o mais confuso, humanos que escrevem como computadores.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
E o que aprendemos com isso tudo? Aprendemos que William Blake é de alguma maneira mais humano do que Gertrude Stein? Ou que Gertrude Stein é mais computador do que William Blake?
(Laughter)
(Risos)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Essas são perguntas que eu venho me fazendo há uns dois anos, e eu não tenho respostas. Mas o que eu tenho são várias descobertas sobre nosso relacionamento com a tecnologia.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
E minha primeira descoberta é que, por alguma razão, nós associamos a poesia com ser humano. Tanto que quando perguntamos: "Um computador consegue escrever poesia?" também perguntamos: "O que significa ser humano e como definimos limites para essa categoria? Como definimos quem ou o que pode ser parte dessa categoria?" Essa é uma pergunta essencialmente filosófica, acredito eu, e não pode ser respondida com um teste sim ou não, como o teste de Turing. Eu também acredito que Alan Turing entendia isso, e quando ele criou seu teste em 1950, ele o fazia como uma provocação filosófica.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
E minha segunda descoberta é que, quando fazemos o teste de Turing para poesia, não estamos realmente testando a capacidade dos computadores, porque algoritmos de geração de poesia são bem simples e já existem mais ou menos desde a década de 1950. O que estamos fazendo com o teste de Turing para poesia, melhor, é coletar opiniões sobre o que constitui a natureza humana. E o que eu compreendi, nós vimos isso hoje mais cedo, quando dissemos que William Blake é mais humano do que Gertrude Stein. Claro que isso não significa que William Blake era realmente mais humano ou que Gertrude Stein era mais computador. Simplesmente significa que a categoria de humano é instável. E isso me levou a entender que o ser humano não é um fato frio e duro. Mas sim, é algo construído com nossas opiniões e algo que muda com o tempo.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
E minha descoberta final é que o computador, mais ou menos, funciona como um espelho que reflete qualquer noção de humano que lhe mostramos. Nós lhe mostramos Emily Dickinson, ele nos devolve Emily Dickinson. Nós lhe mostramos William Blake, é isso que ele reflete de volta para nós. Nós lhe mostramos Gertrude Stein, e o que recebemos é Gertrude Stein. Mais do que qualquer pedaço de tecnologia, o computador é um espelho que reflete a noção de humano que lhe mostramos.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Tenho certeza de que vários de vocês vêm escutando muito sobre inteligência artificial recentemente. E muito do que se fala é: será que conseguimos construí-la? Será que conseguimos construir um computador inteligente? Será que conseguimos construir um computador criativo? O que parece que estamos perguntando repetidamente é será que conseguimos construir um computador que pareça humano?
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Mas o que acabamos de ver é que o ser humano não é um fato científico, que é uma ideia em constante mudança e concatenação e que muda com o tempo. Tanto que quando começamos a nos agarrar à ideia de inteligência artificial no futuro, não deveríamos somente nos perguntar: "Será que conseguimos construir?" Mas também deveríamos nos perguntar: "Que noção de humano gostaríamos de receber refletida para nós?" Essa é uma ideia essencialmente filosófica, e uma que não pode ser respondida somente com software, mas acho que exige um momento de reflexão existencial para uma espécie.
Thank you.
Obrigado.
(Applause)
(Aplausos)