Έχω μια ερώτηση για εσάς. Μπορεί ένας υπολογιστής να γράψει ποίηση; Είναι μια προκλητική ερώτηση. Τη σκέφτεστε περίπου ένα λεπτό και ξαφνικά έχετε νέες ερωτήσεις, όπως: Τι είναι ένας υπολογιστής; Τι είναι ποίηση; Τι είναι δημιουργικότητα; Ωστόσο, αυτές είναι ερωτήσεις που οι άνθρωποι προσπαθούν καθ' όλη τους τη ζωή να απαντήσουν, όχι στα πλαίσια μιας ομιλίας TED. Άρα, θα επιχειρήσουμε μια διαφορετική προσέγγιση.
I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Εδώ σας παραθέτω δύο ποιήματα. Ένα από αυτά είναι γραμμένο από άνθρωπο και το άλλο από υπολογιστή. Θα σας ζητήσω να μου πείτε ποιο ποίημα είναι τίνος. Ξεκινήστε την ανάγνωση:
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Ποίημα 1: Μικρή Μύγα / Καλοκαιρινό Παιχνίδι, / Το απερίσκεπτό μου χέρι / Την έδιωξε μακριά. Δεν είμαι / Μια μύγα όπως εσύ; / Ή δεν είσαι; / Ένας άντρας όπως εγώ;
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Ποίημα 2: Μπορούμε να αισθανθούμε / Ακτιβιστής στης ζωής σου / το πρωινό / Σταματά να δει, πάπα τον μισώ / Δεν όλη νύχτα να ξεκινήσει μια / (...)
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Τέλος χρόνου. Σηκώστε τα χέρια, αν πιστεύετε ότι το πρώτο είναι γραμμένο από άνθρωπο. Ωραία, η πλειοψηφία. Τώρα όσοι νομίζετε ότι το δεύτερο είναι από άνθρωπο. Πολύ θαρραλέοι, καθώς το πρώτο ήταν γραμμένο από τον ποιητή Γουίλιαμ Μπλέικ. Το δεύτερο γράφτηκε από έναν αλγόριθμο, που μια μέρα συνέλεξε οτιδήποτε ήταν γραμμένο στη σελίδα μου στο Facebook και την αναπαρήγαγε αλγοριθμικά, ακολουθώντας κάποιες μεθόδους που θα αναλύσω λίγο αργότερα. Ας κάνουμε μία ακόμα δοκιμή. Όπως και πριν, δεν έχετε πολύ χρόνο, άρα βασιστείτε στο ένστικτό σας.
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Ποίημα 1: Ένα λιοντάρι βρυχάται κι ένας σκύλος γαβγίζει. Είναι ενδιαφέρον / και όμορφο ότι ένα πουλί πετά και δεν / βρυχάται ή γαβγίζει. Συναρπαστικές ιστορίες για ζώα είναι στα όνειρά μου και θα τα τραγουδήσω όλα αν δεν είμαι / εξαντλημένος ή κουρασμένος.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
Ποίημα 2: Ω! Καγκουρό, πούλιες, σόδες σοκολάτας! / Είσαι πραγματικά όμορφη! Μαργαριτάρια, / φυσαρμόνικες, τζίτζιφα, ασπιρίνες! Όλα / τα πράγματα για τα οποία μιλούσαν πάντα (...)
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Τέλος χρόνου. Αν πιστεύετε ότι το πρώτο ποίημα γράφτηκε από άνθρωπο, σηκώστε το χέρι. Ωραία. Αν πιστεύετε ότι το δεύτερο είναι γραμμένο από άνθρωπο, σηκώστε το χέρι. Έχουμε πάνω κάτω 50-50 εδώ. Ήταν πολύ πιο δύσκολο.
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Η απάντηση έχεις ως εξής: το πρώτο ποίημα είναι δημιουργημένο από έναν αλγόριθμο με όνομα Ράκτερ, που σχεδιάστηκε τη δεκαετία του 1970, και το δεύτερο ποίημα γράφτηκε από έναν τύπο με όνομα Φρανκ ο Χάρα, που τυχαίνει να συγκαταλέγεται στους αγαπημένους μου ποιητές.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
(Γέλια)
(Laughter)
Αυτό που μόλις κάναμε ήταν ένα τεστ Τούρινγκ για την ποίηση. Το τεστ Τούρινγκ προτάθηκε αρχικά από τον Άλαν Τούρινγκ το 1950, με σκοπό να απαντήσει στο αν οι υπολογισές μπορούν να σκεφτούν. Ο Άλαν Τούρινγκ πίστευε ότι, εάν ένας υπολογιστής ήταν ικανός να έχει μια γραπτή επικοινωνία με έναν άνθρωπο σε τέτοιο επίπεδο που ο άνθρωπος δε θα μπορούσε να πει αν συνομιλεί με υπολογιστή ή άνθρωπο, τότε μπορεί να υποστηριχθεί ότι ο υπολογιστής έχει ευφυΐα.
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Το 2013, μαζί με τον φίλο μου Μπέναζμιν Λερντ, δημιουργήσαμε το διαδικτυακό Τεστ Τούρινγκ για ποίηση. Ονομάζεται Μποτ ή όχι, μπορείτε και εσείς να μπείτε να παίξετε. Βασικά, είναι το παιχνίδι που παίξαμε. Σας παρουσιάζεται ένα ποίημα, δεν ξέρετε από ποιον είναι γραμμένο και πρέπει να μαντέψετε. Πολλές χιλιάδες άνθρωποι δοκίμασαν διδαδικτυακά κι έτσι έχουμε αποτελέσματα.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
Ποια είναι αυτά; Εάν ένας υπολογιστής μπορούσε να κοροϊδέψει κάποιον ότι ήταν άνθρωπος το 30% των φορών, τότε περνάει το τεστ ευφυΐας του Τούρινγκ. Έχουμε ποιήματα στη βάση δεδομένων μας που έχουν εξαπατήσει το 65% των αναγνωστών που πίστεψαν ότι είναι από άνθρωπο. Επομένως, νομίζω πως έχουμε μια απάντηση στην ερώτησή μας. Σύμφωνα με τη λογική του τεστ Τούρινγκ, μπορεί ένας υπολογιστής να γράψει ποίηση; Λοιπόν, ναι, φυσικά μπορεί. Ωστόσο, εάν νιώθετε λίγο άβολα με αυτή την απάντηση, κανένα πρόβλημα. Αν έχετε μερικές ενστικτώδεις αντιδράσεις, επίσης κανένα πρόβλημα, διότι δεν τελειώνει εδώ η ιστορία.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
Ας κάνουμε την τρίτη και τελευταία δοκιμή. Θα πρέπει να διαβάσετε, όπως πριν, και να πείτε ποιο θεωρείτε ανθρώπινο.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Ποίημα 1: Κόκκινες σημαίες ο λόγος για όμορφες σημαίες. / Και κορδέλες. Κορδέλες από σημαίες / Και φορεσιές / Λόγοι για φορεσιές. (...)
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Ποίημα 2: Το πληγωμένο ελάφι πηδά πιο ψηλά / Έχω ακούσει τον νάρκισσο Άκουσα σήμερα τη σημαία / Άκουσα τον κυνηγό να λέει / Είναι η έκσταση του θανάτου, / Και μετά σχεδόν φρενάρει (...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
Ωραία, τέλος χρόνου. Σηκώστε το χέρι, αν θεωρείτε ότι το πρώτο ποίημα γράφτηκε από άνθρωπο. Σηκώστε το χέρι, αν θεωρείτε ότι το δεύτερο ποίημα γράφτηκε από άνθρωπο. Εδώ έχουμε ισχυρή πλειοψηφία. Ξέρω ότι θα εκπλαγείτε, αλλά το πρώτο γράφτηκε από μια ανθρώπινη ποιήτρια, τη Γερτρούδη Στάιν, και το δεύτερο από έναν αλγόριθμο που ονομάζεται RKCP. Πριν πάω παρακάτω, επιτρέψτε μου να περιγράψω γρήγορα και απλά το πώς δουλεύει ο αλγόριθμος. O αλγόριθμος RKCP σχεδιάστηκε από τον Ρέι Κούρζγειλ, διευθυντή μηχανολογίας στην Google και θερμό υποστηρικτή της τεχνητής νοημοσύνης. Οπότε, δίνεις ένα κείμενο - πηγή στο RKCP, αυτός αναλύει το κείμενο με σκοπό να αντιληφθεί τη χρήσης της γλώσσας και στη συνέχεια αναπαράγει γραπτό λόγο που μιμείται το πρώτο κείμενο.
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Στο ποίημα που είδαμε προηγουμένως, το δεύτερο ποίημα, που όλοι θεωρήσατε ανθρώπινο, τροφοδοτήθηκε με μερικά ποιήματα της ποιήτριας Έμιλι Ντίκινσον, εξέτασε τον τρόπο που χρησιμοποίησε τη γλώσσα, έμαθε το μοντέλο, και μετά αναπαρήγαγε το μοντέλο σύμφωνα με αυτή την ίδια δομή. Το σημαντικό σχετικά με τον RKCP είναι ότι δε γνωρίζει τη σημασία των λέξεων που χρησιμοποιεί. Η γλώσσα είναι απλώς πρώτη ύλη, θα μπορούσε να είναι Κινέζικα ή Σουηδικά, ακόμα και γλώσσα συλλεχθείσα από τη σελίδα σας στο Facebook κάποια μέρα. Είναι απλώς πρώτη ύλη. Ωστόσο, είναι ικανός να γράψει ένα ποίημα που μοιάζει περισσότερο ανθρώπινο από αυτό της Γερτρούδη Στάιν, η οποία είναι άνθρωπος.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
Οπότε, εδώ έχουμε κάνει, λίγο ως πολύ, ένα αντίστροφο Τούρινγκ τεστ. Η Γερτρούδη Στάιν, που είναι άνθρωπος, μπορεί να γράψει ένα ποίημα που εξαπατά την πλειοψηφία των ανθρώπινων κριτών να πιστέψουν ότι το ποίημα είναι από υπολογιστή. Επομένως, σύμφωνα με τη λογική του αντίστροφου τεστ Τούρινγκ, η Γερτρούδη Στάιν είναι υπολογιστής.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
(Γέλια)
(Laughter)
Νιώθετε μπερδεμένοι; Πιστεύω πως είναι λογικό.
Feeling confused? I think that's fair enough.
Μέχρι στιγμής έχουμε ανθρώπους που γράφουν σαν άνθρωποι, έχουμε υπολογιστές που γράφουν σαν υπολογιστές, έχουμε υπολογιστές που γράφουν όπως οι άνθρωποι, αλλά έχουμε, επίσης, ίσως μας μπερδεύει περισσότερο, ανθρώπους που γράφουν όπως οι υπολογιστές.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Τι κρατάμε από όλο αυτό; Ότι ο Γουίλιαμ Μπλέικ είναι περισσότερο άνθρωπος από τη Γερτρούδη Στάιν; Ή ότι η Γερτρούδη είναι πιο υπολογιστής από τον Γουίλιαμ Μπλέικ;
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
(Γέλια)
(Laughter)
Αυτές είναι ερωτήσεις που έκανα στον εαυτό μου εδώ και δύο χρόνια, χωρίς να έχω λάβει απάντηση. Αυτό που έχω είναι μερικές αντιλήψεις γύρω από τη σχέση μας με την τεχνολογία.
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Η πρώτη μου αντίληψη είναι πως, για κάποιο λόγο, συνδέουμε την ποίηση αποκλειστικά με τον άνθρωπο. Έτσι όταν αναρωτιόμαστε, «Μπορεί ένας υπολογιστής να γράψει ποίηση;» ταυτόχρονα ρωτάμε, «Τι σημαίνει να είσαι άνθρωπος και πώς θέτουμε τα όρια γύρω από αυτή την κατηγορία;» «Πώς ορίζουμε ποιος και τι μπορούν να ανήκουν σε αυτήν;» Πιστεύω ότι αυτό είναι κατά βάση ένα φιλοσοφικό ερώτημα, αδύνατο να απαντηθεί με ένα τεστ τύπου ναι ή όχι, όπως αυτό του Τούρινγκ. Επίσης, πιστεύω πως ο Άλαν Τούρινγκ το αντιλήφθηκε αυτό και όταν επινόησε αυτό το τεστ το 1950, το έκανε ως φιλοσοφική πρόκληση.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Η δεύτερη μου αντίληψη είναι πως, όταν κάνουμε το τεστ Τούριγνκ για την ποίηση, δεν ελέγχουμε βασικά την ικανότητα των υπολογιστών, διότι οι αλγόριθμοι ποιητικής παραγωγής είναι σχετικά απλοί και υπάρχουν, πάνω κάτω, από τη δεκαετία του 1950. Αυτό που κάνουμε με το τεστ για την ποίηση, αντιθέτως, είναι η συλλογή γνωμών σχετικά με το τι συνθέτει την ανθρώπινη φύση. Έχω καταλήξει στο συμπέρασμα, το είδαμε αυτό νωρίτερα σήμερα, είδαμε πως ο Γουίλιαμ Μπλέικ είναι πιο άνθρωπος από την Γερτρούδη Στάιν. Φυσικά, αυτό δε σημαίνει ότι ο Γουίλιαμ Μπλέικ ήταν πράγματι περισσότερο άνθρωπος ή ότι η Γερτρούδη Στάιν ήταν πιο υπολογιστής. Απλά, σημαίνει ότι το ανθρώπινο δεν είναι μια σταθερή κατηγορία. Αυτό με έχει οδηγήσει στο να αντιληφθώ ότι το ανθρώπινο δεν είναι μια κρύα, σκληρή πραγματικότητα. Αντιθέτως, είναι κάτι δημιουργημένο μέσα από τις αντιλήψεις μας και που αλλάζει μέσα στο χρόνο.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Οπότε, η τελική μου αντίληψη είναι ότι ο υπολογιστής, λίγο ως πολύ, δουλεύει ως ένας καθρέφτης που αντανακλά κάθε ανθρώπινη ιδέα που του προβάλουμε. Του προβάλουμε Έμιλι Ντίκινσον και μας δίνει πίσω Έμιλι Ντίκινσον. Του δείχνουμε Γουίλιαμ Μπλέικ και αυτό ακριβώς αντανακλάς πίσω σε εμάς. Του προβάλουμε Γερτρούδη Στάιν και παίρνουμε Γερτρούδη Στάιν. Περισσότερο από κάθε άλλη τεχνολογία, ο υπολογιστής είναι ο καθρέφτης που αντανακλά κάθε ιδέα που του διδάσκουμε.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Είμαι σίγουρος πως πολλοί από εσάς έχετε ακούσει πολλά σχετικά με την τεχνητή νοημοσύνη πρόσφατα. Και η συζήτηση περιστρέφεται κυρίως γύρω από τα εξής: είναι κάτι το εφικτό; Να φτιάξουμε έναν έξυπνο υπολογιστή; Ένα δημιουργικό υπολογιστή; Δείχνουμε να αναρωτιόμαστε συνεχώς αν μπορούμε να χτίσουμε έναν υπολογιστή - άνθρωπο.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Όμως, όπως μόλις είδαμε, το ανθρώπινο δεν είναι μια επιστημονική αλήθεια, αλλά μια συνεχώς μεταβαλλόμενη συνένωση ιδεών, που αλλάζει μέσα στον χρόνο. Όταν ξεκινήσουμε να καταπιανόμαστε με τις ιδέες της τεχνητής νοημοσύνης στο μέλλον, δε θα πρέπει να αναρωτιόμαστε μόνο αν μπορούμε να το κάνουμε. Θα πρέπει, επιπλέον, να αναρωτιόμαστε ποια ανθρώπινη έκφανση θέλουμε να αντανακλάται πίσω σε εμάς. Αυτή είναι είναι μια, βασικά, φιλοσοφική ιδέα που δεν μπορεί να απαντηθεί μόνο μέσω λογισμικού, αλλά πιστεύω προϋποθέτει μια στιγμή υπαρξιακού συλλογισμού για όλα τα είδη.
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Ευχαριστώ.
Thank you.
(Χειροκρότημα)
(Applause)