I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Ho una domanda. Un computer può scrivere poesie? È una domanda provocatoria. Se ci pensate per un minuto, immediatamente vi sorgono una serie di altre domande come: Che cos'è un computer? Che cos'è la poesia? Che cos'è la creatività? Ma queste sono domande a cui le persone dedicano l'intera vita in cerca di una risposta, non una sola conferenza TED. Quindi proveremo ad utilizzare un approccio diverso.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Qui sopra, abbiamo due poesie. Una delle due è scritta da un umano, l'altra è scritta da un computer. Ora vi chiederò di dirmi quale è stata scritta da chi. Provateci:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
1: Piccola Mosca / il tuo gioco d’estate / la mia mano spensierata / ha spazzato via. Non sono io / una mosca come te? / E non sei tu / un uomo come me?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
2: Possiamo sentire / L'attivista attraverso la mattina / della tua vita Ferma a vedere, Papa odio il / Non tutta notte ad iniziare / altrimenti ottimo (..)
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Ok, tempo scaduto. Su le mani se credete che la prima poesia sia stata scritta da un umano. Ok, siete in maggioranza. Su le mani se credete che la seconda poesia sia stata scritta da un umano. Molto coraggiosi, perché la prima è stata scritta dal poeta umano William Blake. La seconda è stata scritta da un algoritmo che ha preso tutti i contenuti presenti sulla mia bacheca Facebook in un giorno e l'ha rigenerato algoritmicamente, secondo metodi che vi descriverò fra un po'. Proviamo con un altro test. Neanche qui avrete molto tempo, quindi fidatevi del vostro istinto.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
1: Un leone ruggisce e un cane abbaia. È interessante / e affascinante che un uccello voli e non / ruggisca o abbai. Sogno storie affascinanti sugli animali, e le canterò tutte se non sarò esausto o stanco.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
2: Oh! Canguri, lustrini, bibite al cioccolato! / Siete davvero meravigliose! Perle / armoniche, giuggiole, aspirine! Tutto / ciò di cui parlano sempre (...)
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Ok, tempo scaduto. Se credete che la prima poesia sia stata scritta da un umano, alzate la mano. Ok. Se credete che la seconda poesia sia stata scritta da un umano, alzate la mano. Siete divisi più o meno al 50 per cento. Questa era molto più difficile.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
La risposta è: la prima poesia è stata generata da un algoritmo chiamato Racter, creato negli anni '70, e la seconda poesia è stata scritta da un tale chiamato Frank O'Hara, che guarda caso è uno dei miei poeti umani preferiti.
(Laughter)
(Risate)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Quello che abbiamo appena eseguito è un test di Turing per le poesie. Il test di Turing fu ideato da quest'uomo, Alan Turing, nel 1950, per rispondere alla domanda: i computer possono pensare? Alan Turing credeva che se un computer fosse stato in grado di sostenere una conversazione testuale con un umano, con una tale padronanza che l'umano non potesse distinguere di stare parlando con un computer o con un umano, allora si sarebbe potuto dire che il computer è intelligente.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
Quindi nel 2013, io e il mio amico Benjamin Laird abbiamo creato un test di Turing online per le poesie. Si chiama "bot o no," e potete provarlo voi stessi. Ma è il gioco a cui abbiamo appena giocato. Vi viene mostrata una poesia, non sapete se sia stata scritta da un umano o da un computer, e dovete indovinare. Migliaia e migliaia di persone si sono sottoposte a questo test online, quindi abbiamo dei risultati.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
E quali sono i risultati? Secondo Turing se un computer riuscisse a far credere ad un uomo di essere un umano il 30% delle volte, allora supererebbe il test di Turing per l'intelligenza. Abbiamo poesie nel database di "bot o no" che hanno ingannato il 65% dei lettori, facendo loro credere di essere state scritte da un umano. Quindi credo abbiamo una risposta alla nostra domanda. Secondo la logica del test di Turing, può un computer scrivere poesie? Beh, sì, assolutamente sì. Ma se vi sentite un po' a disagio con questa risposta, è normale. In caso abbiate reazioni istintive, va comunque bene perché questa non è la fine della storia.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Giochiamo al terzo ed ultimo test. Di nuovo, dovrete leggere e dirmi quale delle poesie credete sia umana.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
1: Bandiere rosse, la ragione delle belle bandiere. / E dei fiocchi Fiocchi di bandiere / E materiale da indossare / Motivi per il materiale (...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
2: Un cervo ferito salta più in alto, / Ho sentito il narciso Oggi ho sentito la bandiera / Ho sentito il caccatore dire; / Questo tranne la gioia della morte, / E poi la boscaglia è quasi finita (...)
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Ok, tempo scaduto. Su le mani se credete che la prima poesia sia stata scritta da un umano. Su le mani se credete che la seconda poesia sia stata scritta da un umano. Wow, molte più persone. Sarete quindi sorpresi di sapere che la prima poesia è stata scritta da Gertrude Stein, una poetessa decisamente umana. E la seconda è stata generata da un algoritmo chiamato RKCP. Prima di continuare, lasciate che vi descriva, in modo semplice e facile, come funziona l'RKCP. L'RKCP è un algoritmo progettato da Ray Kurzweil, che è un direttore dell'ingegneria a Google e un convinto sostenitore dell'intelligenza artificiale. Quando fornite un testo a RKCP, esso analizza il testo sorgente per capire come utilizza il linguaggio, e poi rigenera un linguaggio che emula quel testo di partenza.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
Quindi, nella poesia che abbiamo visto prima, la seconda poesia, quella che tutti credevate fosse umana, gli sono state fornite delle poesie da parte della poetessa Emily Dickinson, ha analizzato il modo in cui lei utilizzò il linguaggio, ha imparato il modello, e poi ha rigenerato un modello conforme a quella stessa struttura. Ma la cosa importante da sapere di RKCP è che non conosce il significato delle parole che utilizza. Il linguaggio è solo un materiale grezzo: potrebbe essere cinese, potrebbe essere svedese, potrebbe essere il linguaggio raccolto dai post del tuo Facebook in un giorno. Non è altro che una materia prima. Ciò nonostante, riesce a creare una poesia che sembra più umana della poesia di Gertrude Stein, e Gertrude Stein è umana.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
Ciò che abbiamo fatto qui è, più o meno, un test di Turing inverso. Quindi Gertrude Stein, che è umana, riesce a scrivere una poesia che fa credere ad una maggioranza di giudici umani di essere stata scritta da un computer. Quindi, secondo la logica del test di Turing inverso, Gertrude Stein è un computer.
(Laughter)
(Risata)
Feeling confused? I think that's fair enough.
Vi sentite confusi? Mi sembra abbastanza giusto.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Finora abbiamo avuto umani che scrivono come umani, abbiamo computer che scrivono come computer, abbiamo computer che scrivono come umani, ma abbiamo anche, forse in modo più confusionario, umani che scrivono come computer.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
Che cosa ricaviamo da tutto questo? Ne traiamo che William Blake è in qualche modo più umano di Gertrude Stein? O che Gertrude Stein è più computer di William Blake?
(Laughter)
(Risate)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Queste sono domande che mi sto ponendo da circa due anni, e non ho nessuna risposta. Ma quello che ho è un po' di conoscenza sul nostro rapporto con la tecnologia.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
La mia prima opinione è che, per qualche ragione, associamo la poesia con l'essere umani. Quindi quando chiediamo "Può un computer scrivere poesie?" stiamo anche chiedendo: "Che cosa significa essere umani e come facciamo a mettere dei paletti intorno a questo concetto? Come facciamo a capire chi o cosa può essere parte di questo concetto?" Questa credo sia una questione essenzialmente filosofica, a cui non si può rispondere con un test sì/no come il test di Turing. Credo inoltre che Alan Turing l'avesse capito, e che quando ideò il suo test nel lontano 1950, lo stesse facendo come provocazione filosofica.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
La mia seconda opinione è che, quando utilizziamo il Turing test per le poesie, non stiamo davvero testando la capacità dei computer perché gli algoritmi di generazione delle poesie sono abbastanza semplici ed esistono, più o meno, dagli anni '50. Quello che stiamo facendo con il test di Turing per la poesia, invece, è raccogliere opinioni su quello che costituisce l'essere umani. Quello che ho scoperto, e l'abbiamo visto oggi, è che diciamo che William Blake è più un umano di Gertrude Stein. Ovviamente, questo non significa che William Blake fosse effettivamente più umano oppure che Gertrude Stein fosse più un computer. Semplicemente significa che il concetto di umano è instabile. Questo mi ha fatto capire che l'essere umani non è un dato di fatto nudo e crudo. Al contrario, è qualcosa di costruito con le nostre opinioni, qualcosa che muta nel tempo.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Quindi la mia idea finale è che il computer, più o meno, funziona come uno specchio che riflette qualsiasi idea di un umano che noi gli mostriamo. Gli mostriamo Emily Dickinson, ci restituisce Emily Dickinson. Gli mostriamo William Blake, ed è quello che ci riflette. Gli mostriamo Gertrude Stein, quello che otteniamo è Gertrude Stein. Più di ogni altro pezzo di tecnologia, il computer è uno specchio che riflette ogni idea umana che gli insegniamo.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Sono sicuro che ultimamente molti di voi hanno sentito parlare di intelligenza artificiale. E gran parte della discussione è: possiamo costruirlo? Possiamo costruire un computer intelligente? Possiamo costruire un computer creativo? Quello che pare continuiamo a chiedere è se possiamo costruire un computer che somigli ad un umano.
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Ma ciò che abbiamo appena visto è che l'uomo non è solo un fatto scientifico, ma che è un'idea sempre in mutamento, concatenata e che cambia nel tempo. Quindi quando in futuro inizieremo a scontrarci con le idee dell'intelligenza artificiale, non dovremmo solamente chiederci "Possiamo costruirlo?" Ma dovremmo anche chiederci: "Quale idea di uomo vogliamo ci venga riflessa?" Questa è un'idea essenzialmente filosofica e che non può essere affrontata solo con il software ma credo richieda un momento di riflessione esistenziale collettiva.
Thank you.
Grazie.
(Applause)
(Applausi)