I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
У мене є запитання. Чи може комп'ютер писати вірші? Це провокаційне запитання. Варто задуматись хвилину, і раптом виникає ряд інших запитань, як: Що таке комп'ютер? Що таке поезія? Що таке творчість? Але це запитання, відповіді на які люди шукають все життя, а не за одну промову TED. Тому ми будемо діяти інакше.
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
Перед вами два вірші. Один з них написаний людиною, а інший написаний комп'ютером. Я попрошу вас сказати, де який. Отож, вперед:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
Вірш1: Мушко, моя рука, твій літній танець відміта/ Чи я не муха, як і ти? Чи, може, не людина ти?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
Вірш2: Можемо відчувати, активіст, за ранок усього життя глянь, паузи, ненавиджу попа, не ніч для старту...
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
Добре, час вийшов. Підніміть руки ті, хто думає, що Вірш 1 написаний людиною. Добре, більшість з вас. Підніміть руки, якщо думає, що Вірш 2 написаний людиною. Дуже сміливо, бо №1 написаний поетом Вільямом Блейком. №2 написаний за алгоритмом, який зібрав записи з моєї сторінки на Facebook за день і відтворив їх алгоритмічно, за методами, про які я розкажу пізніше. Отож, спробуємо ще один тест. Знову ж таки, у вас небагато часу, тож просто довіртесь інтуіції.
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
Вірш1: Лев ричить, собака гавкає. Цікаво та захопливо птахи літають, не ричать, не гавкають. Чарівні історії про них у моїх снах і я співатиму їх, якщо не втомлений і повен сил.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
Вірш2: О! Кенгуру, блискітки, шоколадна содова! Ви прекрасні! Перли, гармоніки, ююби, аспірин! Усе про що вони говорять...
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
Добре, час вийшов. Тож, якщо думаєте, що №1 написаний людиною, підніміть руку. Добре. І якщо думаєте, що №2 написаний людиною, підніміть руку. Тепер у нас 50/50. Це було значно тяжче.
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
Відповіддю є те, що перший вірш згенерований алгоритмом Рактер, який був створений у 1970-х, а другий написаний Френком О'Хара, який є моїм улюбленим людським поетом.
(Laughter)
(Сміх)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
Щойно ми пройшли тест на поезію Тьюрінга. Тест Тьюрінга був вперше запропонований Аланом Тьюрінгом у 1950, з метою відповісти на запитання, чи може комп'ютер думати? Алан Тьюрінг вважав, що якщо комп'ютер здатен підтримувати текстову розмову з людиною, так, що людина не зможе сказати точно, говорить вона з комп'ютером чи з людиною, тоді можна сказати, що він має інтелект.
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
В 2013, я з моїм другом Бенжаміном Леєрдом, створили тест Тьюрінга для поезії онлайн. Його назва "Бот чи не бот" і ви можете самі пройти його. По суті, це гра, яку ми щойно грали. Ви читаєте вірші, не знаючи написані вони людиною чи комп'ютером, і ви повинні вгадати. Тисячі людей пройшли цей тест онлайн, отож у нас є результати.
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
Якими ж є результати? Тьюрінг сказав, що якщо комп'ютер зможе переконати, що він людина у 30% випадків, значить він здав тест на інтелект. У базі даних "Бот чи не бот" у нас є вірші, які переконали 65% людей, що вони написані людиною. Тож, я думаю, у нас є відповідь на питання. Згідно з логікою тесту Тьюрінга, чи може комп'ютер писати вірші? Що ж, так, безперечно. Якщо ж вас не зовсім влаштовує відповідь, це цілком нормально. Якщо у вас виникає внутрішнє відторгнення, це теж нормально, бо це не кінець історії.
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
Давайте пройдемо третій і останній тест. Знову ж таки, вам треба прочитати і сказати мені, який написала людина.
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
Вірш1: червоні прапори - причина гарним прапорам. І стрічкам. Стрічки прапорів і зношений матеріал - причини для зношеного матеріалу...
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
Вірш2: Поранений олень стрибнув, нарциса я чув. Я чув сьогодні знак, історію мисливця чув; Екстаз перед смертю, не довгий розрив...
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
Добре, час вийшов. Підніміть руку, якщо думаєте, що Вірш 1 написала людина. Підніміть руку, якщо 2-ий написала людина. Вав, це набагато більше людей. Тож ви будете здивовані, адже Вірш 1 написаний дуже навіть людським поетом - Гертрудою Стайн. А Вірш 2 згенерований алгоритмом RKCP. Перед тим, як іти далі, дозвольте мені коротко пояснити, як працює RKCP. RKCP - це алгоритм Рея Курцвейля, технічного директора Google, який твердо вірить в штучний інтелект. Ви завантажуєте в RKCP первинний текст, він аналізується, щоб виявити використані прийоми і потім генерує свою версію, повторюючи прийоми першого тексту.
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
У вірші, який ми щойно бачили, Вірш 2, що, як ви думали, написала людина, було зібрано декілька віршів поетеси Емілі Діккінсон; алгоритм проаналізував використані засоби, дослідив модель, і згенерував модель за вивченою структурою. Щодо алгоритму RKCP, важливо знати, що він не розуміє значення слів, що використовує, мова є лише сирим матеріалом, це може бути китайська чи шведська, це можуть бути слова, зібрані зі стрічки на Facebook за один день. Це просто сирий матеріал. Тим не менше, він здатен створити вірш, що більш схожий на вірш, ніж вірш Гертруди, а Гертруда Стайн - людина.
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
Щойно ми здійснили зворотній тест Тьюрінга Гертруда Стайн, будучи людиною, пише вірші, які більшість поціновувачів сприймають, як написані комп'ютером. Тож, за логікою зворотнього тесту Тьюрінга, Гертруда Стайн - комп'ютер.
(Laughter)
(Сміх)
Feeling confused? I think that's fair enough.
Почуваєтесь збентеженими? Я думаю, це справедливо.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
У нас були люди, які пишуть як люди, комп'ютери, які пишуть як комп'ютери, були комп'ютери, які писали як люди, але були і, як не дивно, люди, які пишуть як комп'ютери.
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
Тож який висновок можна зробити? Що Вільям Блейк - людина більшою мірою, ніж Гертруда Стайн? Чи Г. Стайн більше комп'ютер, ніж В. Блейк?
(Laughter)
(Сміх)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
Це запитання, які я ставив собі протягом майже двох років, і в мене немає відповідей. Але я зрозумів декілька особливостей про наші відносини з технологіями.
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
Перша полягає в тому, що ми якимось чином асоціюємо поезію з людиною. Тож питаючи, "Чи може комп'ютер писати вірші?", ми також запитуємо, "Що означає бути людиною, і як ми створюємо рамки для цієї категорії? Як визначаємо, хто чи що - частина категорії?" Я думаю, що це філософське запитання, На яке важко відповісти "так" або "ні", як у тесті Тьюрінга. Я також думаю, що Алан Тьюрінг розумів це, і створюючи свій тест в далекому 1950, він робив це як філософську провокацію.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
Другою особливістю є те, що проходячи тест Тьюрінга на поезію, ми не зовсім тестуємо здатність комп'ютера, тому що алгоритми створення поезії досить прості і існували задовго до 1950-х За допомогою тесту Тьюрінга ми швидше збираємо дані про те, що таке людяність. Ось що я з'ясував: те, що ми бачили сьогодні, коли сказали, що Вільям Блейк більше людина, ніж Гертруда Стайн. Звичайно, це не означає, що Вільям Блейк був дійсно більше людиною, чи Гертруда Стайн була більше комп'ютером. Це просто означає, що поняття "людина" - непостійне. Це дозволило мені зрозуміти, що людина - не холодний беззаперечний факт. Це швидше щось побудоване на наших ідеях і щось, що змінюється з часом.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
Тож останнє, що я зрозумів - це те, що комп'ютер, певною мірою, працює як дзеркало, що відображає будь-які людські ідеї, які ми йому показуємо. Ми показали йому Емілі Діккінсон, він показав Емілі Діккінсон у відповідь. Ми показали йому Вільяма Блейка, і його ж отримали у відповідь. Ми показали йому Гертруду Стайн, що ми отримали назад - Гертруду Стайн. Порівняно з іншими технологіями, комп'ютер - це дзеркало, яке відтворює будь-які ідеї, які ми показуємо.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
Тож, я впевнений, чимало з вас чули багато про штучний інтелект останнім часом. Багато дискусій ведуться щодо питання, чи можемо ми його створити? Чи можемо ми створити розумний комп'ютер? Чи можемо ми створити творчий комп'ютер? Та схоже ми запитуємо знову і знову, чи можемо ми створити комп'ютер,
But what we've seen just now
схожий на людину?
is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
Але те, що ми бачили щойно, означає, що людина - це не науковий факт, а мінливе, збірне поняття, яке змінюється з часом. Тож коли ми почнемо боротись з ідеєю штучного інтелекту у майбутньому, ми не маємо питати себе лиш про те, "Чи можемо ми зробити це?" Нам варто також спитати себе, "Яку людську ідею ми хочемо отримати у відповідь?" Це, по суті, філософська ідея, на яку неможливо відповісти з допомогою програмного забезпечення і яка, я думаю,
Thank you.
потребує широкого та обдуманого підходу.
Дякую.
(Applause)
(Оплески)