I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
Я хочу задать вопрос. Может ли компьютер сочинять стихи? Это провокационный вопрос. Стóит задуматься лишь на минуту, и неожиданно возникает много других вопросов, например: Что такое компьютер? Что такое поэзия? Что такое творчество? Но это вопросы, ответы на которые люди ищут на протяжении всей жизни, а не в одном выступлении TED. Так что нам придётся действовать иначе.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Перед вами два стихотворения. Одно из них написано человеком, а другое написано компьютером. Я попрошу вас сказать, где какое. Давайте попробуем:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
[Стих 1: Мошка, день беспечный твой Я, шутя, смахнул рукой. С мошкою сравню себя: Ты — создание, как я.]
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
[Стих 2: Мы можем чувствовать, Активист всё жизненное утро, Паузы увидеть, священника я ненавижу, Не вся ночь для начала, великий иначе...]
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Всё, время закончилось. Поднимите руки те, кто считает, что первое стихотворение сочинил человек. Хорошо, большинство. Поднимите руки те, кто считает, что второе стихотворение сочинил человек. Очень смело, потому что первое стихотворение было написано поэтом Вильямом Блейком. Второе было написано при помощи алгоритма, который запомнил все записи из моей ленты Facebook за один день и затем восстановил их алгоритмически в соответствии с методами, которые я опишу немного позже. Давайте попробуем ещё раз. У вас снова не будет много времени прочитать весь текст, поэтому просто прислушайтесь к себе.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
[Стих 1: Лев рычит и собака лает. Интересно и захватывающе то, что птица летает, а не рычит и не лает. Увлекательные истории о животных в моих снах, и я буду петь о них, если не буду обессилен или утомлён.]
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
[Стих 2: О! кенгуру, блёстки, шоколадная газировка! Вы по-настоящему прекрасны! Жемчуг, губные гармоники, ююба, аспирин! Всё то, о чём они всё время говорили...]
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Хорошо, время истекло. Поднимите руки те, кто считает, что первое стихотворение сочинил человек. Хорошо. Поднимите руки те, кто считает, что второе стихотворение сочинил человек. Теперь у нас разделение примерно 50/50. Сейчас было гораздо сложнее.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
Ответ такой: первый стих был создан алгоритмом, который называется Racter, написанным в 1970-х годах, а второй стих был написан человеком по имени Френк О'Хара, который является одним из моих любимых одушевлённых поэтов.
(Laughter)
(Смех)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Только что мы прошли тест Тьюринга на поэзию. Тест Тьюринга был впервые предложен им же, Аланом Тьюрингом, в 1950 году для ответа на вопрос: могут ли компьютеры думать? Алан Тьюринг полагал, что если компьютер сможет поддерживать беседу с человеком в текстовом режиме на таком уровне, что человек не сможет сказать наверняка, общается ли он с компьютером или с человеком, тогда можно сказать, что у компьютера есть интеллект.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
В 2013 году мы с моим другом Бенджамином Лэйрдом создали тест Тьюринга для поэзии онлайн. Он называется «Бот или не бот», и вы можете пройти этот тест сами. По сути это игра, в которую мы с вами только что играли. Вы читаете стихотворение, не зная, написано ли оно человеком или компьютером, и вам нужно угадать. Миллионы людей прошли этот тест онлайн, и у нас есть результаты.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
И какие же они? Тьюринг сказал, что если компьютер сможет убедить человека в 30 процентах случаев, что он человек, то он проходит тест на интеллект. У нас в базе данных «Бот или не бот» есть стихи, которые заставили 65 процентов читателей подумать, что они были написаны человеком. Так что я думаю, у нас есть ответ на наш вопрос. Согласно логике теста Тьюринга, может ли компьютер писать стихи? Безусловно, да. И если вам немного не по себе от такого заключения, это нормально. Если у вас возникает внутреннее отторжение, это тоже нормально, потому что это не конец истории.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Давайте пройдём наш третий, заключительный, тест. И снова вам нужно будет прочитать и выбрать стихотворение, написанное человеком.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
[Стих 1: Красные флаги — причина для красивых флагов. И лент. Ленты от флагов и изнашивающийся материал причины для изнашивающегося материала...]
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
[Стих 2: Раненый олень подпрыгнул ввысь, Я слышал нарцисс, Я слышал знамя сегодня, Я слышал рассказ охотника. Это экстаз перед смертью, И разрыв не продлится долго...]
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Время вышло. Поднимите руки те, кто думает, что первый стих написан человеком. Поднимите руки те, кто думает, что второй стих написан человеком. Ух ты, намного больше людей. Вы удивитесь, узнав, что первый стих был написан поэтессой Гертрудой Стайн. А второй стих был сгенерирован алгоритмом, который называется RKCP. Прежде чем двигаться дальше, разрешите вкратце объяснить как работает RKCP. RKCP — это алгоритм, созданный Рэем Курцвейлом, техническим директором Google, твёрдо верящим в возможность искусственного интеллекта. Вы загружаете в RKCP исходный текст, он анализирует его, чтобы определить, какие приёмы в нём используются, и затем создаёт свою версию, повторяя приёмы из исходного текста.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
Так, в стихе, который мы только что видели, стихе №2, который, как вы думали, написал человек, алгоритм собрал несколько стихов поэтессы Эмили Дикинсон, проанализировал используемые ею средства языка, изучил модель, и затем преобразовал её в соответствии с изученной структурой. Про алгоритм RKCP также важно знать то, что он не знает значений используемых слов. Язык является лишь сырым материалом: это может быть китайский или шведский язык, или слова, выбранные из чьей-то ленты Facebook за день. Это просто сырой материал. И тем не менее алгоритм способен создать стих, который больше похож на настоящий стих, чем стих Гертруды Стайн, а Гертруда Стайн — человек.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
То, что мы только что сделали, можно назвать обратным тестом Тьюринга. Гертруда Стайн, будучи человеком, сочиняет стих, принимаемый большинством ценителей за компьютерное сочинение. Следовательно, продолжая логику обратного теста Тьюринга, Гертруда Стайн — это компьютер.
(Laughter)
(Смех)
Feeling confused? I think that's fair enough.
Озадачены? Я думаю, это объяснимо.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
Итак, перед нами были люди, которые пишут как люди, есть компьютеры, которые пишут как компьютеры, есть компьютеры, которые пишут как люди, и, наконец, пожалуй, самое труднообъяснимое, есть люди, которые пишут как компьютеры.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
Какой урок мы можем из этого извлечь? То, что Уильям Блэйк является человеком в большей степени, чем Гертруда Стайн? Или Гертруда Стайн является компьютером в большей степени, чем Уильям Блэйк?
(Laughter)
(Смех)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Это те вопросы, которые я задавал себе в течение почти двух лет, и у меня до сих пор нет ответов. Но я открыл для себя несколько важных особенностей наших отношений с технологиями.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Первая особенность состоит в том, что так или иначе мы ассоциируем поэзию с людьми. И когда мы задаём вопрос: «Может ли компьютер писать стихи?», мы одновременно спрашиваем: «Что значит быть человеком, и какие границы мы создаём для этого понятия? Как мы определяем, кто или что может быть частью этого понятия?» Я считаю, что это, по своей сути, философские вопросы, ответы на которые не найти в тестах с вариантами «да» или «нет», как в тесте Тьюринга. Я также считаю, что Алан Тьюринг понимал это и, создавая в далёком 1950 году свой тест, он делал это с целью некой философской провокации.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Вторая особенность заключается в том, что, проходя тест Тьюринга на поэзию, мы на самом деле тестируем не способности компьютера, потому что алгоритмы создания поэзии достаточно простые и существуют примерно с 1950-х годов. При помощи теста Тьюринга на поэзию мы, скорее, собираем знания о том, что включает в себя понятие «человек». Сегодня я выяснил на примере увиденного ранее, что Уильям Блэйк является человеком в большей степени, чем Гертруда Стайн. Конечно, это не значит на самом деле, что Уильям Блэйк был в большей степени человеком, а Гертруда Стайн — компьютером. Это значит только то, что понятие «человек» не постоянно. Данный вывод дал мне понимание того, что человек — это не определённая и неоспоримая сущность. Скорее, это нечто, построенное на наших идеях и меняющееся со временем.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Последняя особенность состоит в том, что в большей или меньшей степени компьютер работает по принципу зеркала, отражающего любую идею человека, которую ему показывают. Мы показываем ему Эмили Дикинсон — и он показывает нам Эмили Дикинсон в ответ. Мы показываем ему Уильяма Блэка — и он показывает нам его же в ответ. Мы показываем ему Гертруду Стайн — и в ответ получаем Гертруду Стайн. По сравнению с другими технологиями компьютер — это самое точное зеркало любой изученной им человеческой идеи.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Я уверен, что за последнее время многие из вас слышали о концепции искусственного интеллекта. Ведётся много споров о том, можем ли мы создать искусственный интеллект? Можем мы ли мы создать умный компьютер? Можем ли мы создать творческий компьютер? Но мы, скорее, спрашиваем снова и снова: можем ли мы создать компьютер, похожий на человека?
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Но мы только что увидели, что человек — это не просто научный факт, а собирающее, меняющееся понятие, которое, к тому же, не постоянно во времени. Поэтому, когда мы начинём вкладывать ресурсы в создание искусственного интеллекта в будущем, мы не должны спрашивать себя лишь о том, сможем ли мы его создать. Мы также должны задать себе вопрос: «Какое понятие о человеке мы хотели бы получить от компьютера в ответ?» Это по своей сути философская мысль, ответить на которую невозможно только с помощью программного обеспечения, и которая, на мой взгляд, требует многогранного, осмысленного подхода.
Thank you.
Спасибо.
(Applause)
(Аплодисменты)