I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Mam pytanie. Czy komputer może pisać poezję? To prowokujące pytanie. Jeśli chwilę o nim pomyślisz, nagle przyjdzie ci do głowy kilka innych pytań: Czym jest komputer? Czym jest poezja? Czym jest kreatywność? To pytania, nad którymi niektórzy rozmyślają całe swoje życie, a nie podczas jednej prelekcji TED. Musimy więc spróbować innego podejścia.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Oto dwa wiersze. Jeden napisany przez człowieka, a drugi przez komputer. Powiedzcie mi, który jest który. Proszę:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Wiersz 1: Mała muszko / Twe letnie harce Ma tępa dłoń / Przegoniła palcem. Czyż nie jestem / Twoim echem? Czyż nie jesteś / Jak ja, człowiekiem?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Wiersz 2: Czujemy / Aktywisto przez życia twego / ranek Przerwa, spójrz, papieża nie cierpię / Nie cała noc, by zacząć / niewspaniały...
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
OK, koniec czasu. Podnieś rękę, jeśli myślisz, że wiersz 1 jest dziełem człowieka. Większość z was. A teraz, jeśli myślisz, że wiersz 2 jest dziełem człowieka. Odważni jesteście. Pierwszy wiersz napisał poeta, William Blake. Drugi powstał przy użyciu algorytmu, który zebrał wszystkie słowa z mojej tablicy na Facebooku i poukładał według algorytmu, przy użyciu metod, które wyjaśnię za chwilę. Spróbujmy innego testu. Wiem, że nie macie dużo czasu, żeby to przeczytać, więc zaufajcie intuicji.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
Wiersz 1: Lew ryczy, a pies szczeka, To interesujące i fascynujące że ptak lata, ale nie ryczy ani szczeka. Wciągające historie o zwierzętach wciąż mi się śnią i będę je opiewać, póki starczy sił.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Wiersz 2: Och! Kangury, cekiny, czekoladowe napoje! Jesteście tak piękne! Perły, harmonijki, głożyny, aspiryny! To wszystko, o czym tyle gadamy
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Koniec czasu. Jeśli sądzisz, że pierwszy wiersz jest dziełem człowieka, podnieś rękę. OK. A jeśli myślisz, że to drugi wiersz jest dziełem człowieka, podnieś rękę. Mamy mniej więcej remis. To było trudniejsze.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
Odpowiedź brzmi: pierwszy wiersz powstał przy użyciu algorytmu o nazwie Racter, stworzonego jeszcze w latach 70. Drugi wiersz napisał Frank O'Hara, jeden z moich ulubionych. ludzkich poetów.
(Laughter)
(Śmiech)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Przed chwilą rozwiązaliście test Turinga w dziedzinie poezji. Test ten wymyślił w roku 1950 Alan Turing. Miał odpowiedzieć na pytanie "Czy komputery myślą?". Turing sądził, że jeśli komputer potrafiłby prowadzić z człowiekiem pisemną rozmowę tak biegle, że człowiek nie byłby w stanie odróżnić, czy rozmawia z komputerem, czy z drugim człowiekiem, komputer ten można by nazwać inteligentnym.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
Więc w 2013 roku, razem z moim kumplem, Benjaminem Lairdem, stworzyliśmy w internecie test Turinga w dziedzinie poezji. Nazywa się "Bot or Not" - "Bot, czy nie bot". Możecie sami się nim pobawić. Przypomina grę, w którą właśnie zagraliśmy. Pojawia się wiersz. nie wiecie, czy napisał go człowiek, czy komputer, i naszym zadaniem jest zgadnąć. Test wykonało już tysiące ludzi, więc mamy wyniki.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
Jak one wyglądają? Turing stwierdził, że jeśli komputer oszuka człowieka, że sam jest człowiekiem, w 30% przypadków, to wystarczy, żeby przeszedł test. W naszej bazie danych mamy wiersze, które przez 65% odbiorców zostały mylnie uznane za napisane przez człowieka. Mamy więc odpowiedź na nasze pytanie. Idąc za logiką Turinga, czy komputer może pisać poezję? Tak, jak najbardziej. Ale jeśli nie czujecie się do końca komfortowo z taką odpowiedzią, w porządku. Jeśli macie w tym względzie mieszane odczucia, to w porządku, bo to nie koniec tej historii.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Pobawmy się trzeci i ostatni raz. Znów przeczytacie dwa wiersze i powiecie, który z nich napisał człowiek.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Wiersz 1: Czerwony jest powodem pięknych flag. / I wstążek. Wstążki flag, noszony materiał. Przyczyna noszenia materiału.
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
Wiersz 2: Zraniony jeleń skacze najwyżej, Usłyszałem żonkila, Usłyszałem dziś flagę, Usłyszałem bajkę myśliwego; Nic, prócz ekstazy śmierci, I gdy na koniec przyjdzie stop (...)
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
OK, koniec czasu. Podnieś rękę, jeśli sądzisz, że wiersz 1 jest dziełem człowieka. A teraz, jeśli obstawiasz wiersz 2. Miażdżąca większość. Zaskoczę was, ale to wiersz 1 został napisany przez jak najbardziej ludzką poetkę, Gertrudę Stein. Drugi został wygenerowany przy pomocy algorytmu znanego jako RKCP. Zanim przejdziemy dalej, spróbuję krótko i zwięźle wyjaśnić działanie RKCP. Algorytm ten zaprojektował Ray Kurzweil, dyrektor działu programowania w Google, zwolennik sztucznej inteligencji. Wybierasz tekst źródłowy, a RKCP analizuje go, by odkryć, jak stosuje się tam język. Potem generuje nowy tekst, naśladując ten pierwotny.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
Przed utworzeniem wiersza, który pokazałem, tego drugiego, który uznaliście za dzieło człowieka, program zanalizował całą kupę wierszy autorstwa Emily Dickinson. Algorytm zbadał, jak używała języka, nauczył się schematu, i wygenerował tekst o takiej samej strukturze. Jednak najważniejsze w RKCP jest to, że nie zna on znaczenia słów, których używa. To dla niego tylko dane. Mogą być po chińsku, po szwedzku. Albo posty z czyjegoś dnia na Facebooku. To tylko surowiec. Mimo to algorytm jest w stanie napisać wiersz, który wydaje się bardziej ludzki niż dzieło Gertrudy Stein, która była człowiekiem.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
To, do czego doszliśmy, to odwrotność testu Turinga. Gertruda Stein, człowiek, napisała wiersz, który przekonał większość jury, że napisał go komputer. Zgodnie z logiką odwrotnego testu Turinga, Gertruda Stein jest komputerem.
(Laughter)
(Śmiech)
Feeling confused? I think that's fair enough.
Pogubiliście się? Zrozumiałe.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Do tej pory mówiliśmy o ludziach, którzy piszą jak ludzie, i komputerach, które piszą jak komputery, a także o komputerach, które piszą jak ludzie, oraz, co być może wnosi pewien zamęt, o ludziach, którzy piszą jak komputery.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
Jakie wnioski możemy wyciągnąć? Czy taki, że William Blake jest jakoś bardziej ludzki niż Gertruda Stein? A może to ona jest bardziej komputerowa?
(Laughter)
(Śmiech)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Zadaję sobie te pytania od około dwóch lat. Odpowiedzi brak. Ale poczyniłem kilka spostrzeżeń co do naszych relacji z techniką.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Pierwsze jest takie, że z jakiegoś powodu łączymy poezję z byciem człowiekiem. Kiedy pytamy "Czy komputer może pisać poezję?", pytamy także "Co to znaczy być człowiekiem, i gdzie przebiegają granice tej kategorii?". "Jak mamy ocenić, kto i co może być jej częścią?". To bardzo filozoficzne pytanie. Nie da się odpowiedzieć "tak" lub "nie", jak przy teście Turinga. Sądzę, że sam Turing też zdawał sobie z tego sprawę. Test, który stworzył w 1950 roku, był trochę filozoficzną prowokacją.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Zrozumiałem też, że biorąc udział w poetyckim teście Turinga, tak naprawdę nie sprawdzamy możliwości komputerów, bo algorytmy piszące wiersze są całkiem proste i istnieją od lat pięćdziesiątych. Przy pomocy tego testu raczej zbieramy opinie na temat tego, co czyni nas ludźmi. Zorientowałem się, że, jak kilka minut temu, ludzie miewają odczucie, że William Blake jest bardziej człowiekiem niż Gertruda Stein. Oczywiście, to nie znaczy, że William Blake był bardziej ludzki, ani że Gertruda Stein była bardziej komputerowa. To znaczy po prostu, że kategoria człowieczeństwa jest płynna. Dzięki temu zrozumiałem, że bycie człowiekiem to nie po prostu fakt. Stwierdzenie czyjegoś człowieczeństwa wynika z naszych opinii, i dlatego pojęcie człowieczeństwa zmienia się z biegiem czasu.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Moja ostatnia refleksja: że komputery w pewnym sensie działają jak zwierciadło, odbijając każdą ludzką ideę, jaką im przedstawimy. Pokażemy komputerowi Emily Dickinson, to odtworzy dla nas Emily Dickinson. Pokażemy mu Williama Blake'a, i pokaże nam go, jak w lustrze. Pokażemy mu Gertrudę Stein, i dostaniemy Gertrudę Stein. Komputer, w większym stopniu niż inne urządzenia, jak lustro odbija ideę człowieczeństwa, jaką mu przekazujemy.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Z pewnością wiele ostatnio słyszeliście o rozwoju sztucznej inteligencji. Wiele osób zadaje sobie pytanie, czy potrafimy ją stworzyć? Czy powstanie inteligentny komputer? Czy powstanie komputer twórczy? To pytanie chyba powinno brzmieć "Czy zbudujemy ludzki komputer?".
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Ale z tego, co widzimy, wynika, że bycie ludzkim to nie naukowy fakt, ale płynna, złożona idea, która zmienia się z biegiem czasu. W przyszłości, rozmyślając nad naturą sztucznej inteligencji, powinniśmy pytać nie tylko "Czy uda się ją zbudować?", ale także "Jaką ludzkość chcemy zobaczyć w tym lustrze?". To pytanie z natury filozoficzne i nie poradzi sobie z nim wyłącznie oprogramowanie. Wymaga ono egzystencjalnej refleksji całego naszego gatunku.
Thank you.
Dziękuję.
(Applause)
(Brawa)