Ich habe eine Frage: Kann ein Computer Gedichte schreiben? Das ist eine provokante Frage. Denkt man kurz darüber nach, stellt man sich plötzlich eine Menge anderer Fragen wie: Was ist ein Computer? Was ist ein Gedicht? Was ist Kreativität? Das sind aber Fragen, mit denen sich manche Menschen ein Leben lang beschäftigen, nicht in einem einzigen TEDTalk. Deshalb müssen wir wohl anders an die Sache herangehen.
I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Wir sehen hier zwei Gedichte. Eines stammt von einem Menschen, das andere von einem Computer. Sie sollen herausfinden, welches nun was ist. Versuchen wir es.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Gedicht 1: Kleine Fliege, / Dein Sommerspiel / Meine Hand achtlos / Überfiel. / Gleich ich dir, / Oh Fliege, nicht? Oder bist du / Ein Mensch wie ich?
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Gedicht 2: Wir können uns fühlen / Aktiv durch deines Lebens / Morgen / Pausen in Sicht, Papst, ich hasse das / Nicht die ganze Nacht ein zu beginnen
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Gut, die Zeit ist um. Hand hoch, wer glaubt, dass Gedicht 1 von einem Menschen stammt. Okay, die meisten. Hand hoch, wer glaubt, dass Gedicht 2 von einem Menschen stammt. Sehr mutig von Ihnen. Gedicht 1 wurde nämlich von dem Dichter William Blake geschrieben. Das zweite stammt von einem Algorithmus, der Wörter aus meinem Facebook-Feed von einem Tag algorithmisch neu zusammensetzte. Die genaue Methode werde ich später erklären. Machen wir noch einen Test. Wieder haben Sie nicht viel Zeit zum Lesen. Vertrauen Sie einfach auf Ihr Gefühl.
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Gedicht 1: Ein Löwe brüllt und ein Hund bellt. Es ist interessant / und faszinierend, dass ein Vogel fliegt und nicht / brüllt oder bellt. Spannende Geschichten über Tiere aus meinen Träumen werde ich singen. Wenn ich nicht erschöpft oder müde bin.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary. Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful!
Gedicht 2: Ach! Kängurus, Pailletten, Schoko-Shakes! / Schön seid ihr! Perlen, / Harmonikas, Fruchtgummis, Aspirin! All / das Zeug, worüber sie (...)
Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Die Zeit ist um. Wer denkt, dass Gedicht 1 von einem Menschen stammt? Hand hoch. Okay. Wer denkt, dass Gedicht 2 von einem Menschen stammt? Hand hoch. Also mehr oder weniger unentschieden. Das war viel schwieriger.
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Die Antwort lautet: Das erste Gedicht stammt von einem Algorithmus namens Racter, der in den 1970ern erstellt wurde. Das zweite wurde von Frank O'Hara geschrieben -- zufällig einer meiner Lieblingsdichter.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
(Gelächter)
(Laughter)
Sie haben eben einen Turing-Test für Gedichte abgelegt. Der Turing-Test wurde erstmals 1950 von Alan Turing vorgeschlagen, um die Frage zu beantworten: Können Computer denken? Alan Turing glaubte, wenn ein Computer imstande wäre, eine textbasierte Unterhaltung mit einem Menschen zu führen, und zwar so, dass der Mensch nicht feststellen könnte, ob er sich mit einem Menschen oder einem Computer unterhält, dann besäße der Computer Intelligenz.
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Und so entwickelte ich 2013 mit meinem Freund Benjamin Laird einen Online-Turing-Test für Gedichte. Er heißt "bot or not" [Mensch oder Maschine]. Sie können ihn selbst ausprobieren. Er ähnelt dem Test von vorhin. Man muss bei einem Gedicht erraten, ob es von einem Menschen oder einem Computer stammt. Tausende von Menschen haben den Online-Test gemacht. Nun liegen die Ergebnisse vor.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
Und was zeigen uns diese? Laut Turing besteht ein Computer den Intelligenztest dann, wenn er 30 % der Testpersonen von seiner Menschlichkeit überzeugt. Wir haben Gedichte in unserer Datenbank, die 65 % der Teilnehmer davon überzeugt haben, dass sie von einem Menschen stammen. Damit haben wir wohl eine Antwort auf unsere Frage. Kann nach der Logik des Turing-Tests ein Computer Gedichte schreiben? Ja, durchaus. Wenn Sie sich bei dieser Antwort nicht ganz wohl fühlen, ist das okay. Wenn Ihnen Ihr Bauchgefühl etwas anderes sagt, ist das auch okay. Das ist nämlich bisher nur die halbe Wahrheit.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
Machen wir einen dritten und letzten Test. Lesen Sie wieder und sagen Sie mir dann, welches von einem Menschen stammt.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Gedicht 1: Rote Fahnen, der Grund für schöne Fahnen. / Und Schleifen. Fahnenschleifen. / Und festes Material / Grund für festes Material.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Gedicht 2: Ein verwundetes Reh springt am höchsten, / Ich hörte die Narzisse / Ich hörte die Fahne heute / Ich hörte den Jäger sagen; / Nichts als die Wonne des Todes, / Und dann ist das Dickicht beinahe fertig (...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
Okay, die Zeit ist um. Hand hoch, wer denkt, dass Gedicht 1 von einem Menschen stammt. Hand hoch, wer glaubt, dass Gedicht 2 von einem Menschen stammt. Wow, eindeutig die Mehrheit. Es überrascht Sie wahrscheinlich: Gedicht 1 stammt von der sehr menschlichen Dichterin Gertrude Stein. Gedicht 2 wurde von einem Algorithmus namens RKCP erstellt. An dieser Stelle möchte ich kurz erklären, wie der RKCP funktioniert. Der RKCP wurde von Ray Kurzweil entwickelt. Er ist Leiter der technischen Entwicklung bei Google und glaubt fest an die künstliche Intelligenz. Man gibt dem RKCP also einen Ausgangstext und er analysiert den Sprachgebrauch in diesem Text. Daraufhin erstellt der RKCP einen Text, der die Sprache des Ausgangstexts nachahmt.
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
In Gedicht 2 von vorhin, das Sie für ein menschliches hielten, wurde der Algorithmus mit Gedichten von Emily Dickinson gefüttert. Der RKCP untersuchte ihren Sprachgebrauch. Er lernte das Muster und bildete dann die Struktur nach. Wichtig dabei ist, dass der RKCP die Bedeutung der Wörter, die er verwendet, nicht kennt. Die Sprache ist reines Rohmaterial, sei es Chinesisch oder Schwedisch, oder Wörter aus einem Ihrer Facebook-Feeds. Sie ist nur Rohmaterial. Und dennoch kann der RKCP ein Gedicht kreieren, das menschlicher scheint als Gertrude Steins Gedicht. Und Gertrude Stein ist ein Mensch.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
Das hier ist also eine Art umgekehrter Turing-Test. Gertrude Stein, ein Mensch, kann ein Gedicht schreiben, das die Mehrheit der Testpersonen für ein Computerprodukt hält. Dem umgekehrten Turing-Test zufolge ist Gertrude Stein also ein Computer.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
(Gelächter)
(Laughter)
Verwirrt? Das ist verständlich.
Feeling confused? I think that's fair enough.
Es gibt also Menschen, die wie Menschen schreiben. Es gibt Computer, die wie Computer schreiben. Es gibt Computer, die wie Menschen schreiben. Und es gibt -- was wohl am verwirrendsten ist -- Menschen, die wie Computer schreiben.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Was zeigt uns das nun alles? Ist William Blake für uns irgendwie menschlicher als Gertrude Stein? Oder ist Gertrude Stein computerhafter als William Blake?
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
(Gelächter)
(Laughter)
Diese Fragen stelle ich mir nun seit etwa zwei Jahren und ich habe keine Antworten darauf. Dafür habe ich aber eine Menge Erkenntnisse über unsere Beziehung zur Technologie gewonnen.
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Meine erste Erkenntnis ist, dass wir aus irgendeinem Grund Gedichte mit dem Menschsein verbinden. Wenn wir uns also fragen: "Kann ein Computer Gedichte schreiben?", fragen wir damit auch: "Was heißt es, ein Mensch zu sein, und wo sind die Grenzen?" "Wie können wir sagen, wer oder was in die Kategorie Mensch fallen kann?" Ich sehe dies als eine im Grunde philosophische Frage. Sie kann nicht mit einem einfachen Ja-oder-Nein-Test, wie dem Turing-Test, beantwortet werden. Auch Alan Turing war das wohl bewusst und sein 1950 entwickelter Test war wohl als eine Art philosophische Herausforderung gedacht.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Meine zweite Erkenntnis ist, dass wir mit dem Turing-Test für Gedichte eigentlich nicht die Fähigkeiten des Computers testen. Algorithmen zur Erstellung von Gedichten sind nämlich ziemlich einfach und es gibt sie schon seit etwa 1950. Vielmehr sammeln wir mit dem Turing-Test für Gedichte Meinungen darüber, was das Menschsein ausmacht. Die Erkenntnis, die ich gewann, zeigt sich an dem Beispiel von vorhin, dass William Blake menschlicher als Gertrude Stein wirkt. Das heißt natürlich nicht, dass William Blake tatsächlich mehr Mensch oder Gertrude Stein mehr wie ein Computer war. Es heißt nur, dass die Kategorie Mensch nicht eindeutig ist. Mir ist klar geworden, dass Menschsein keine nackte, unumstößliche Tatsache ist. Vielmehr ist es ein Konstrukt aus unseren Meinungen, das sich mit der Zeit verändert.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Meine letzte Erkenntnis ist also, dass ein Computer in etwa wie ein Spiegel funktioniert und menschliche Gedanken zurückwirft, die wir ihm zeigen. Zeigen wir ihm Emily Dickinson, erhalten wir Emily Dickinson zurück. Füttern wir ihn mit William Blake, spuckt er Blake für uns aus. Zeigen wir ihm Gertrude Stein, erhalten wir als Ergebnis Gertrude Stein. Mehr als jede andere Technologie ist der Computer ein Spiegel, der jeden menschlichen Gedanken reflektiert, den wir ihm zeigen.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Sicher haben in letzter Zeit viele von Ihnen viel von künstlicher Intelligenz gehört. Eine zentrale Frage dabei ist: Können wir sie herstellen? Können wir einen intelligenten Computer herstellen? Können wir einen kreativen Computer herstellen? Am Ende geht es um die wiederkehrende Frage: Können wir einen menschenähnlichen Computer herstellen?
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Wir haben aber nun gerade gesehen, dass der Mensch keine wissenschaftliche Tatsache ist, sondern ein sich stets veränderndes, komplexes Konzept. Wenn wir uns in Zukunft mit dem Konzept der künstlichen Intelligenz beschäftigen, sollten wir uns also nicht nur fragen: "Können wir sie herstellen?" Wir sollten uns auch fragen: "Welches Menschenbild wollen wir überhaupt gespiegelt haben?" Das ist eine im Grunde philosophische Frage. Sie kann nicht allein durch Software beantwortet werden, sondern bedarf einer die ganze Menschheit umfassenden, existenziellen Reflexion.
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Danke.
Thank you.
(Applaus)
(Applause)