I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Tenho uma pergunta. Pode um computador escrever poesia? Esta é uma pergunta provocadora. Pensem nisso por um minuto, e subitamente têm muitas outras perguntas como: O que é um computador? O que é poesia? O que é criatividade? Estas são perguntas que as pessoas passam a vida inteira a tentar responder, não apenas numa palestra TED. Então, vamos ter de tentar uma abordagem diferente.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Temos aqui dois poemas. Um deles foi escrito por uma pessoa, e o outro foi escrito por um computador. Vou pedir que me digam qual é qual. Experimentem.
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
[Poema 1 [Pequena mosca, o teu jogo de verão, [a minha mão irrefletida afastou para longe.
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
[Não sou eu uma mosca como tu? Ou não és tu um homem como eu?] [Poema 2 [Sentir-nos ativistas durante a manhã da nossa vida [Para e vê, o papa que odeio
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
[Não toda a noite para começar uma outra grande coisa (...)] Pronto, o tempo acabou. Mãos no ar se pensam que o Poema 1 foi escrito por uma pessoa. Ok, a maior parte. Mãos no ar se pensam que o Poema 2 foi escrito por uma pessoa. Impressionante, porque o primeiro foi escrito pelo poeta William Blake. O segundo foi escrito por um algoritmo que usou toda a linguagem do meu perfil de Facebook de um dia e depois a regenerou de forma algorítmica, de acordo com os métodos que irei descrever daqui a pouco. Vamos fazer outro teste. Também não têm muito tempo para ler isto, portanto, confiem no vosso instinto.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating
[Poema 1
that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
[Um leão ruge e um cão ladra. É interessante e fascinante [que um pássaro voe mas não ruge nem ladra. [Nos meus sonhos há histórias apaixonantes sobre animais [e irei cantá-las todas se eu não estiver exausto ou cansado.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful!
[Poema 2
Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
[Oh! Cangurus, lantejoulas, batidos de chocolate [Vocês são muito bonitos! [Pérolas, harmónicas, jujubas, aspirinas!
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
[Todas as coisas de que sempre falaram fazem de um poema uma surpresa (...)] Pronto, acabou o tempo. Se pensam que o primeiro poema foi escrito por uma pessoa, ponham a mão no ar. E se pensam que o segundo poema foi escrito por uma pessoa, ponham a mão no ar. Temos, mais ou menos, uma divisão de 50/50. Isto foi muito mais difícil.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
A resposta é, o primeiro poema foi gerado por um algoritmo chamado Racter, que foi criado na década de 70, e o segundo poema foi escrito por um sujeito chamado Frank O' Hara, que, por acaso, é um dos meus poetas favoritos.
(Laughter)
(Risos)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Acabámos de fazer um teste Turing para poesia. O teste Turing foi proposto pela primeira vez por Alan Turing, em 1950, a fim de responder à pergunta: "Os computadores podem pensar?" Alan Turing acreditava que, se um computador fosse capaz de ter uma conversa baseada num texto com uma pessoa, com tamanha proficiência que a pessoa não conseguisse distinguir se estava a falar com um computador ou uma pessoa, então pode dizer-se que o computador possui inteligência.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
Então, em 2013, o meu amigo Benjamin Laird e eu, criámos um teste Turing para poesia "online". É chamado "bot or not", e, se quiserem, podem ir lá jogá-lo, Mas, basicamente é o jogo que acabámos de jogar. Apresentam-nos um poema, que não sabemos se foi escrito por uma pessoa ou um computador e temos de adivinhar. Milhares e milhares de pessoas fizeram este teste "online", e temos os resultados.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
Quais são os resultados? Turing disse que, se um computador pudesse enganar uma pessoa 30% do tempo, de que ele era um ser humano, então passava o teste Turing para a inteligência. Temos poemas na base de dados da "bot or not" que levaram 65% dos leitores humanos a pensar que fora escrito por uma pessoa. Penso que temos a resposta para a nossa pergunta. De acordo com a lógica do teste Turing, um computador pode escrever poesia? Bem, sim, claro que pode. Mas se se sentem um pouco desconfortáveis com esta resposta, tudo bem. Se estão a ter muitas reações de aversão a isso, também está tudo bem porque não é o final da história.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Vamos jogar o nosso terceiro e último teste. Mais uma vez, vão ter que ler e dizer-me qual deles acham que é de uma pessoa.
Poem 1: Red flags the reason for pretty flags. / And ribbons.
[Poema 1
Ribbons of flags / And wearing material / Reasons for wearing material. (...)
[Bandeiras vermelhas, a razão para bandeiras bonitas. [E laços. Laços de bandeiras E material gasto [Razões para material gasto (...)]
Poem 2: A wounded deer leaps highest, / I've heard the daffodil
[Poema 2
I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
[Um veado ferido salta mais alto, [Ouvi o narciso, hoje ouvi a bandeira, ouvi o conto do caçador; [Isto é o êxtase da morte, e a pausa está quase a acabar, [o nascer do sol aproxima-se (...)]
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Pronto, acabou o tempo, Então, mãos no ar se pensam que o Poema 1 foi escrito por uma pessoa. Mãos no ar se pensam que o Poema 2 foi escrito por uma pessoa. Uau! muito mais pessoas! Então, vão ficar surpreendidos ao descobrir que o Poema 1 foi escrito pela poetisa chamada Gertrude Stein. E o Poema 2 foi gerado por um algoritmo chamado RKCP. Antes de continuarmos, vou descrever muito rápida e simplesmente, como é o que o RKCP funciona. O RKCP é um algoritmo concebido por Ray Kurzwell, que é diretor de engenharia na Google e um crente firme na inteligência artificial. Damos ao RKCP um texto de origem, que ele analisa de forma a descobrir como usar a linguagem, e depois volta a gerar uma linguagem que simula aquele primeiro texto.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
No poema que vimos antes, o Poema 2, aquele que vocês todos pensaram que era humano, foi alimentado por muitos poemas da poetisa Emily Dickinson. Olhou para a forma como ela usou a linguagem, aprendeu o modelo, e voltou a gerar um modelo de acordo com a mesma estrutura. Mas uma coisa importante relativamente ao RKCP é que ele não sabe o significado das palavras que está a usar. A linguagem é apenas material bruto, podia ser chinês, podia ser sueco, podia ser a linguagem retirada da vossa página do Facebook. É apenas material bruto. Mesmo assim, é capaz de criar um poema que parece mais próprio de uma pessoa do que o poema da Gertrude Stein e Gertrude Stein é uma pessoa.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
Nós fizemos, mais ou menos, um teste Turing ao contrário. Gertrude Stein, que é uma pessoa, é capaz de escrever um poema que engana a maioria das pessoas e leva-as a pensar que foi escrito por um computador. Então, de acordo com a lógica do teste Turing ao contrário, Gertrude Stein é um computador.
(Laughter)
(Risos)
Feeling confused? I think that's fair enough.
Sentem-se confusos? Penso que isso é justo.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Até agora tivemos pessoas que escrevem como pessoas, temos computadores que escrevem como computadores, temos computadores que escrevem como pessoas, mas também temos — talvez de forma mais confusa — pessoas que escrevem como computadores.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
Então o que retiramos disto tudo? Será que William Blake, de certo modo, tem mais de pessoa do que Gertrude Stein? Ou que Gertrude Stein tem mais de computador que William Blake?
(Laughter)
(Risos)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Estas são perguntas que tenho feito a mim mesmo desde há dois anos, e não tenho nenhuma resposta. O que tenho são muitas perceções sobre a nossa relação com a tecnologia.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
A minha primeira perceção é que, por alguma razão, associamos a poesia com as pessoas. Quando perguntamos: "Um computador pode escrever poesia?" também estamos a perguntar: "O que significa ser uma pessoa "e como colocar fronteiras nesta categoria? "Como dizemos quem ou o quê pode fazer parte desta categoria?" Acho que esta é uma questão essencialmente filosófica e não pode ser respondida por um teste de sim ou não, como o teste Turing. Também acredito que o Alan Turing compreendeu isto, e que, quando criou o teste em 1950, estava a fazê-lo como uma provocação filosófica.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
A minha segunda perceção é que, quando fazemos o teste Turing de poesia, não estamos a testar a capacidade dos computadores porque os algoritmos geradores de poesia, são muito simples e existem, mais ou menos, desde os anos 50. Em vez disso, com o teste Turing para poesia, estamos a reunir opiniões sobre o que constitui a humanidade. Então, o que é que descobri? Vimos isto quando, há bocado, dissemos que William Blake tem mais de uma pessoa do que Gertrude Stein. Claro, isto não significa que William Blake fosse, de facto, mais pessoa ou que Gertrude Stein tivesse mais de computador. Simplesmente significa que a categoria de "pessoa" é instável. Isto fez-me compreender que a pessoa não é um facto puro e duro. Em vez disso, é algo construído com as nossas opiniões é algo que muda com o tempo.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
A minha última perceção é que o computador, mais ou menos, trabalha como um espelho que reflete qualquer ideia de pessoa que nós lhe mostrarmos. Mostramos-lhe Emily Dickinson, devolve-nos Emily Dickinson. Mostramos-lhe William Blake, é isso que reflete de volta. Mostramos-lhe Gertrude Stein, iremos receber Gertrude Stein. Mais do que qualquer outro pedaço de tecnologia, o computador é um espelho que reflete qualquer ideia de pessoa que lhe ensinarmos.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Então tenho a certeza que muitos de vocês têm ouvido muito sobre inteligência artificial recentemente. E grande parte da conversa é: "Podemos construí-lo? "Podemos construir um computador inteligente? "Podemos construir um computador criativo? Parece que estamos a perguntar vezes sem conta: "Podemos construir um computador como uma pessoa?"
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Mas o que temos visto agora é que a pessoa não é um facto científico, é uma ideia encadeada e sempre em mudança e que muda ao longo do tempo. De modo que, quando começamos a lidar com as ideias da inteligência artificial no futuro, não devíamos perguntar-nos: "Podemos construí-lo?" Também devíamos perguntar-nos: "Qual é a ideia de pessoa que queremos ver refletida?" Esta é uma ideia essencialmente filosófica, é uma ideia que não pode ser respondida apenas com "software". Penso que requer um momento de reflexão existencial enquanto espécie.
Thank you.
Obrigado.
(Applause)
(Aplausos)