I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
여러분께 묻고 싶습니다. 컴퓨터가 시를 쓸 수 있을까요? 도발적인 질문이지만 잠시 생각해 보신다면 다른 의문이 갑자기 떠오를 것입니다. 컴퓨터가 뭘까? 시는 또 뭐지? 창의성은 뭘까? 하지만 이런 질문들은 인류가 평생을 바쳐 답을 찾아가는 질문들이지 단순히 TED 강연 한 번으로 답할 수 있는게 아닙니다. 그래서, 우리는 다른 방법으로 접근해 보려합니다.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
여기, 시가 두 편 있습니다. 하나는 사람이 썼고 다른 하나는 컴퓨터가 썼습니다. 두 시를 보고 각각 누가 지었는지 알아내 보세요. 시작합니다!
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
시 1: 작은 파리야 / 너의 여름날 놀이를 / 내 부주의한 손이 / 쓸어 버렸구나. 나는 너와 같은 파리가 아니냐? 아니면 너는 / 나와 같은 사람이 아니냐?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
시 2 : 우리는 느낄 수 있네 / 네 삶의 아침을 통한 행동가를 잠시 멈춰서 보시오, 교황이여. 나는 싫어하네/모든 아무 밤도 시작하는/위대한 (...)
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
좋아요, 시간이 다 되었습니다. 1번 시가 사람이 쓴 시라고 생각하신다면 손을 들어보세요. 좋아요, 대부분이 손을 드셨네요. 그러면 2번을 사람이 썼다고 생각하시는 분 손 들어보세요. 대담하신 분들이네요. 첫 번째 시는 시인 윌리엄 블레이크의 시입니다. 두 번째 시는 알고리즘이 썼습니다. 제 페이스북 피드에 있는 모든 글자들을 알고리즘을 통해 재배열하는 방법이 이용됐죠. 그 방법에 대해서는 조금 있다가 설명해 드리도록 하겠습니다. 그럼, 다른 문제를 내 보겠습니다. 이번에도, 시들을 전부 다 읽어 볼 시간은 없습니다. 그냥 여러분들의 직감을 믿으시면 됩니다.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
시 1 : 사자는 포효하고 개는 짖네. 흥미롭고 매력적인 것은 새는 포효하거나 짖지 않고 나는 것이네. 동물들의 놀라운 이야기는 내 꿈 속에 나오고 나는 그들을 노래하네 내가 지치거나 피곤하지 않다면.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
시 2 : 오! 캥거루, 세퀸장식, 초콜릿 소다! / 너는 참 아름답구나! 진주/ 하모니카, 대추, 아스피린! 모두/ 사람들이 말하는 것이네. (...)
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
좋아요 시간이 다 되었네요. 첫 번째 시가 사람이 쓴 시라고 생각하신다면 손을 들어주세요. 좋습니다. 그럼 두 번째 시가 사람이 쓴 시라고 생각하시는 분 손을 들어주세요. 절반 정도로 나뉘었네요. 이번 건 좀 더 어러우셨을겁니다.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
답을 알려드리죠. 첫 번째 시는 랙터라고 불리는 알고리즘에 의해 지어졌습니다. 1970년대에 만들어진 알고리즘이죠. 두 번째 시는 프랭크 오하라라는 사람이 지었습니다. 제가 가장 좋아하는 '인간' 시인 중 한 명이죠.
(Laughter)
(웃음)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
지금까지 우리는 시에 대한 '튜링 테스트'를 해 보았습니다. '튜링 테스트'는 1950년에 앨런 튜링이라는사람에 의해 아래의 질문에 답하려고 제안되었습니다. '컴퓨터가 생각을 할 수 있는가?' 앨런 튜링은 만약 컴퓨터가 사람과 텍스트를 기반으로 대화를 할 때 상대방이 자신이 인간과 대화하고 있는지 아니면 컴퓨터와 대화하고 있는지를 알아내지 못할 정도의 언어 구사력을 가질 수 있다면 컴퓨터는 지능을 가질 수 있다고 믿었습니다.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
그래서 2013년, 저와 제 친구 벤자민 럴드는 시에 대한 '온라인 튜링 테스트 ' 를 만들었습니다. 이름은 bot or not 이고 여러분 혼자 해 볼 수도 있습니다. 하지만, 기본적으로, 그것은 우리가 조금 전 한 게임과 같습니다. 여러분은 시를 보게 될 것이고 그 시를 사람이 지었는지, 컴퓨터가 지었는지 모릅니다. 그걸 추측해야만 하죠. 수많은 사람들이 테스트에 참가하였습니다. 테스트 결과가 나왔죠.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
결과는 어땠을까요? 글쎄요, 튜링은 만약 컴퓨터가 30% 확률로 자신이 사람인 것처럼 상대방을 속일 수 있다면 그 컴퓨터는 지능에 대한 튜링테스트를 통과한 것이라고 말했습니다. 'bot or not' 프로그램 데이터 베이스에는 65% 정도의 확룰로 사람들을 속인 시들이 존재합니다. 자, 질문에 대한 답이 나온 것 같군요. '튜링 테스트'의 논리에 따르면 컴퓨터는 시를 쓸 수 있을까요? 네, 물론 쓸 수 있습니다. 하지만 이 대답이 기분이 좀 나쁘시다면 괜찮습니다, 그럴 수 있어요. 만약 본능적으로 수많은 반응들이 나온다면 그것도 괜찮습니다. 왜냐하면 이게 끝이 아니기 때문이죠.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
그럼 마자막 테스트를 해 봅시다. 다시 한번, 시를 읽으시고 어떤 것이 사람이 쓴 시인지 말해 주세요.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
시 1 : 레그 깃발은 예쁜 깃발. / 그리고 리본들. 깃발의 리본들/ 착용하는 물건/ 착용하는 물건들인 이유. (...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
시 2 : 다친 사슴이 가장 높이 뛴다, / 수선화의 소리가 들린다. 지금까지 깃발의 소리를 듣는다 / 나는 사냥꾼이 말하는 소리를 듣는다. 이것은 죽음의 황홀함, / 그리고 나면 거의 끝난다.
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
좋아요 시간이 다 되었네요. 1번 시가 사람이 썼다고 생각하시면 손을 들어보세요. 그럼 두 번째 시라고 생각하시면 손 들어주세요. 오, 손을 많이 드셨네요 그럼 여러분들은 첫 번째 시가 사람 시인인 거트루드 슈타인이 썼다는 걸 알면 놀라시겠네요. 그리고 두 번째 시는 RKCP라고 불리는 알고리즘이 썼습니다. 자 그럼 이야기를 이어가기 전에, 제가 짧고 단순하게 어떻게 RKCP가 작동하는지 알려드리겠습니다. RKCP는 레이 커즈와일이 고안한 알고리즘입니다. 그는 구글에서 엔지니어 이사를 맡고 있고 인공 지능에 대한 확고한 믿음을 가지고 있죠. RKCP에 원시 텍스트가 투입되면 RKCP는 그것을 분석해 어떤 형식으로 쓰여졌는지 알아낸 후 원시 텍스트을 모방하여 새 문장을 만들어 냅니다.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
우리가 전에 보았던 시들도 모두 그렇게 만들어졌습니다. 여러분들이 모두 사람이 쓴 것이라고 생각했던 두 번째 시 또한 시인 에밀이 디킨슨의 수많은 시들이 투입되었습니다. RKCP는 그녀의 문체를 알아냈고 그 문체를 학습하여 같은 형식의 문체를 이용해 시를 재생산했습니다. 하지만 RKCP에 대해 알아야 할 중요한 것은 RKCP는 시에 사용되는 어휘들의 뜻을 모른다는 것입니다. 언어는 단지 원자재일 뿐입니다. 중국어가 될 수도, 스웨덴어가 될 수도, 여러분의 페이스북 피드에서 수집된 언어일 수도 있습니다. 그건 단지 원자재일 뿐이죠. 그럼에도 불구하고, RKCP는 사람인 거트루드 슈타인의 시보다도 사람이 쓴 것 같은 시를 창조해 낼 수 있습니다.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
우리는 지금까지 '튜링테스트'를 역으로 생각해 보았습니다. 그러니까, 사람인 거트루드 슈타인은 자신의 시를 컴퓨터가 썼다고 믿게 대다수의 사람을 속인 겁니다. 그러므로, '튜링테스트'를 역으로 생각해 본 결과는, 거트루드 슈타인이 컴퓨터라는 거네요.
(Laughter)
(웃음)
Feeling confused? I think that's fair enough.
혼란스러우신가요? 이 정도면 충분한 것 같습니다.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
지금까지 우리는 사람처럼 글을 쓰는 사람도 컴퓨터처럼 글을 쓰는 컴퓨터도 사람처럼 글을 쓰는 컴퓨터도 심지어 아마 가장 혼란스러우시겠지만 컴퓨터처럼 글을 쓰는 사람도 보았습니다.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
그래서 우리가 이것들부터 얻을 수 있는게 도대체 뭘까요? 윌리엄 블레이크가 거트루드 슈타인보다 더 인간답다고 해야 하나요? 아니면, 거트루드 슈타인이 윌리엄 블레이크보다 더 컴퓨터답다고요?
(Laughter)
(웃음)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
이 질문들은 거의 2년 동안 제가 제 자신에게 묻고 있는 질문입니다. 그리고 저는 답을 얻지 못했습니다. 하지만 제가 한 질문들은 인간과 기술간의 관계에 대한 큰 통찰들입니다.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
제 첫 번째 통찰은, 어떤 이유에선지 우리는 시를 '인간이라는 것'과 연관시킨다는 것입니다. 우리가 '컴퓨터가 시를 쓸 수 있을까?' 라고 질문하는 것은 다음 질문들과 같습니다. '인간이라는 것'은 무엇인가?' '인간이라는 범주에 어떤 경계를 세워야 하는가?' 어떻게 '누구 또는 무엇'이 이 범주에 속한다고 말할 수 있는가? ' 이건 본질적으로 철학적 질문이라고 저는 믿습니다. 그리고 이 질문들은 '튜링 테스트' 처럼 '예' 또는 '아니요' 테스트를 통해 답해질 수 있는 것이 아닙니다. 저는 또한 앨런 튜링이 이것을 이해했었으며 1950년, 그가 '철학적 도발'로써 이 테스트를 고안했고, 실행했다고 믿습니다.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
제 두번째 통찰에 대해 설명하자면, 우리는 시에 대해 튜링테스트를 할 때 컴퓨터의 역량을 시험하고 있는 것이 아닙니다. 왜냐하면 시 - 생산 알고리즘들은 매우 간단하고, 1950년대 정도부터 존재했으니까요. 우리가 '튜링 테스트'를 통해 정말로 하고 있는 것은 '무엇이 인간성을 구성하는가'에 대한 의견을 모으는 것입니다. 제가 알아낸 것은 우리가 좀 전에 알아낸 것과 같습니다. 우리는 윌리엄 블레이크가 거트루드 슈타인보다 더 인간답다고 말했었습니다. 물론, 이건 정말로 윌리엄 블레이크가 더 인간답다는 의미는 아닙니다. 또는, 거트루드 슈타인이 더 컴퓨터답다는 의미도 아닙니다. 이건 단순히 '인간'이라는 범주가 불안정하다는 뜻입니다. 이것은 제가 '인간이라는 것' 이 차갑고, 딱딱한 사실이 아닌 우리의 의견들로 구성되어 있으며, 시간이 지남에 따라 변하는 것이라는 것을 이해하게 해 주었습니다.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
제 마지막 통찰은 '컴퓨터'라는 것이 우리가 보여주는 인간의 생각을 반영하는 '거울' 처럼 작동한다는 것입니다. 우리가 에밀리 디킨슨을 보여주면 그것은 우리에게 에밀리 디킨슨을 돌려줍니다. 우리가 윌리엄 블레이크를 보여주면 그것은 우리에게 윌리엄 블레이크를 반영해 줍니다. 우리가 거트루드 슈타인을 보여주면 우리는 거트루드 슈타인을 다시 받습니다. 어떠한 다른 기술보다도 컴퓨터는 우리가 가르치는 인간의 생각을 반영하는 거울입니다.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
여러분은 아마도 최근 들어 인공지능에 대한 많은 이야기를 들었을 겁니다. 그리고 대부분 대화의 주제는 우리가 만들 수 있을까? 우리가 지능적인 컴퓨터를 만들 수 있을까? 우리가 창조적인 컴퓨터를 만들 수 있을까? 우리는 끝없이 인간 같은 컴퓨터를 만들 수 있을까?' 라고 질문하는 것처럼 보입니다.
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
하지만 우리는 방금 '인간이라는 것'이 과학적 사실이 아닌 영원히 가변적인, 시간이 지남에 따라 변해가는 사슬과 같은 생각이라는 사실을 보았습니다. 그러므로 미래에 우리가 인공지능에 대해 고심하기 시작할 때 우리는 단지 우리자신에게 '우리가 만들 수 있을까?' 라고 질문해서는 안됩니다. 우리는 자신에게 이 질문을 해야 합니다. '우리는 컴퓨터가 인간의 어떤 생각을 반영해 나타내기를 원하는가? ' 이것은 본질적으로 철학적 생각이며 소프트웨어 만으로는 답할 수 없는 질문입니다. 저는 '인간'이라는 종의 존재적 반영의 순간이 필요하다고 믿습니다.
Thank you.
감사합니다.
(Applause)
(박수)