I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
יש לי שאלה האם מחשב יכול לכתוב שירה? זו שאלה פרובוקטיבית תחשבו על זה לרגע ופתאם צצות לכם עוד כמה שאלות, כמו: מהו מחשב? מהי שירה? מה זו יצירתיות? אבל אלו הן שאלות שאנשים מבלים חיים שלמים בנסיון לענות עליהן ולא בהרצאת TED אחת אז נאלץ להשתמש בגישה שונה
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
לפנינו שני שירים אחד מהם נכתב ע״י אדם והשני נכתב ע״י מחשב אני הולך לבקש מכם להגיד לי מיהו מי בואו ננסה:
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
שיר 1: זבוב קטן/ לך מחזהו של הקיץ/ ידי חסרת המחשבה/ סולקה משם האם אני לא/ זבוב כמותך/ או אומנות לא אתה/ אדם כמותי?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
שיר 2: אנו יכולים להרגיש/ פעילים בעשיית חיינו/ שחר עוצרים לראות, אפיפיור אני שונא את/ לא כל הלילה להתחיל/ נהדר אחרת (...)
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
אוקי, נגמר הזמן ידיים למעלה אם אתם חושבים ששיר 1 נכתב בידי אדם טוב, רובכם ידיים למעלה אם אתם חושבים ששיר 2 נכתב בידי אדם מאד אמיץ מצידך בגלל שהשיר הראשון נכתב בידי אדם, המשורר ויליאם בלייק השני נכתב ע״י אלגוריתם שלקח את כל השפה מדף הפייסבוק שלי ביום אחד ואז יצר את השיר באמצעות אלגוריתם בשיטות שאתאר עוד מעט בהמשך. בואו ננסה עוד מבחן שוב אין לכם המון זמן לקריאה אז תסמכו על תחושת הבטן שלכם
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
שיר 1: האריה שואג והכלב נובח. זה מעניין/ ומרתק שציפור עפה ולא/ שאגה או נביחה סיפורים מרתקים על בעלי החיים נמצאים בחלומותי ואשיר את כולם אם אני/ לא עייף או מותש.
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
שיר 2: הו! קנגורו, פאייטים, שוקולד משקאות מוגזים! / את ממש יפה! פנינים, / מפוחיות, סוכריות גומי, אספירין! הכל / הדברים עליהם תמיד ידברו (...)
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
אוקי, הזמן תם. אז אם אתם חושבים שהשיר הראשון נכתב ע״י אדם הרימו ידיים OK ואם אתם חושבים שהשיר השני נכתב ע״י אדם הרימו ידיים אתם מתחלקים בערך חצי חצי היה הרבה יותר קשה
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
התשובה היא שיר 1 נוצר ע״י אלגוריתם בשם רקטר שנוצר בשנות ה 70 והשיר השני נכתב ע״י בחור בשם פרנק אוהרה שבמקרה הוא אחד מהמשוררים האהובים עלי.
(Laughter)
(צחוק)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
אז מה שעשינו כרגע זה מבחן טיורינג לשירה. מבחן טיורינג הוצע לראשונה ע״י הבחור הזה, אלן טיורינג ב 1950 על מנת לענות על השאלה האם מחשבים יכולים לחשוב? אלן טיורינג האמין שאם מחשב מסוגל לנהל שיחה מבוססת טקסט עם אדם במיומנות כזו שהאדם לא יבחין האם הוא מדבר עם מחשב או מכונה אז אפשר לומר שלמחשב יש אינטליגנציה
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
בשנת 2013, חברי בינימין לירד ואני יצרנו מבחן טיורינג לשירה מקוונת זה נקרא ׳בוט או לא׳ ואתם יכולים להשמיע את זה לעצמכם אבל למעשה זה המשחק שכרגע שיחקנו מציגים לכם שיר אתם לא יודעים אם הוא נכתב בידי אדם או מחשב ואתם תדרשו לנחש ובכן אלפי אלפים של אנשים ביצעו את המבחן באופן מקוונן ויש לנו תוצאות
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
ומה התוצאות? ובכן, טיורינג אמר שאם מחשב יכול לעבוד על אנשים 30% מהזמן שהוא אדם אז הוא עובר את מבחן טיורינג לאינטליגנציה יש לנו שירים על בסיס הנתונים של ׳בוט או לא׳ שהצליחו לעבוד על 65% מהאנשים שקראו וחשבו שזה נכתב בידי אדם אז, אני חושב שיש לנו תשובה לשאלה שלנו לפי ההיגיון של מבחן טיורינג, האם מחשב מסוגל לכתוב שירה? ובכן כן, הוא לגמרי יכול. אבל אם אתם מרגישים קצת חוסר נוחות עם התשובה הזו, זה בסדר אם יש לכם אוסף של תחושות בטן לגבי זה זה גם בסדר בגלל שזה לא סוף הסיפור
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
בואו נשחק את המשחק השלישי והאחרון שוב, תצטרכו לקרא ולהגיד לי איזה אתם חושבים הוא האדם
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
שיר 1: דגלים אדומים הסיבה לדגלים יפים/ וסרטים שרשרת דגלים/ וחומר מתכלה/ סיבות לחומרים מתכלים
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
שיר 2: צבי פצוע מזנק הכי גבוהה/ שמעתי את הנרקיס שמעתי את דגל היום/ שמעתי את הצייד אומר/ רק זו אקסטזת המוות/ ואז העצירה כמעט הושלמה.
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
אוקי נגמר הזמן. אז ידיים למעלה אם אתם חושבים ששיר 1 נכתב בידי אדם ידיים למעלה אם אתם חושבים ששיר 2 נכתב בידי אדם וואו, זה הרבה יותר אנשים אז תתפלאו לגלות ששיר 1 נכתב ע״י המשוררת המאוד אנושית גרטרוד שטיין. והשני חולל ע״י אלגוריתם בשם RKCP עכשיו לפני שאנו ממשיכים, תנו לי לתאר לכם מהר ובפשטות איך RKCP עובד אז RKCP זה אלגוריתם שכתב ריי קרוצל שהוא מנהל פיתוח בגוגל ומאמין גדול בבינה מלאכותית אז מספקים ל RKCP טקסט מקור הוא בוחן את טקסט המקור על מנת למצוא איך הוא משתמש בשפה ואז הוא מחולל מחדש שפה שמדמה את הטקסט הראשון
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
אז בשיר שהרגע ראינו שיר 2, זה שכולכם חשבתם שאדם כתב הוזנו לו מספר שירים של משוררת בשם אמילי דיקנסון הוא בחן את האופן בה השתמשה בשפה למד את התבנית ואז חולל מחדש תבנית לפי אותו מבנה אבל הדבר שחשוב לדעת אודות RKCP שהוא לא מבין את משמעות המילים בהן הוא בוחר להשתמש השפה הינה רק חומר גלם זה יכול להיות סינית, זה יכול להיות שוודית זה יכול להיות השפה שנאספה מדף הפייסבוק שלך זה רק חומר גלם. ועדיין זה מסוגל לייצר שיר שנראה יותר אנושי מזה של גרטרוד שטיין. וגרטרוד שטיין היא אדם
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
אז מה שעשינו כאן זה היפוך של מבחן טיורינג. אז גרטרוד שטיין, שהיא אדם, יכולה לכתוב שיר שהפיל את מרבית השופטים האנושיים לחשוב שנכתב בידי מחשב לכן לפי ההגיון של היפוך מבחן טיורינג גרטרוד שטיין היא מחשב
(Laughter)
(צחוק)
Feeling confused? I think that's fair enough.
מרגישים מבולבלים? אני חושב שזה הוגן.
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
עד כה היו לנו אנשים שכותבים כמו אנשים יש לנו מחשבים שכותבים כמו מחשבים יש לנו מחשבים שכותבים כמו אנשים אבל גם יש לנו, אולי המבלבל ביותר אנשים שכותבים כמו מחשבים
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
אז מה אנחנו לוקחים מכל זה? האם אנו לוקחים שויליאם בלייק הוא איכשהו יותר בן-אדם מאשר גרטרוד שטיין? או שגרטרוד שטיין היא יותר מחשב מויליאם בלייק?
(Laughter)
(צחוק)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
אלו שאלות ששאלתי את עצמי בערך שנתיים ואין לי תשובות אבל מה שיש לי הן מספר תובנות אודות היחסים שלנו עם הטכנולוגיה
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
אז התובנה הראשונה שלי היא שמסיבה כלשהיא אנו משייכים שירה להיותנו בני אנוש כך שכשנשאל ״האם מחשב יכול לכתוב שירה?״ אנו גם שואלים מה המשמעות להיות בן-אדם ואיך אנו מגדרים גבולות סביב הקטגוריה הזו? איך אנו קובעים מי או מה שייכים אליה? זוהי בעצם שאלה פילוסופית, אני מאמין ולא ניתן לענות עליה במבחן כן או לא, כמו מבחן טוירינג אני גם מאמין שאלן טיורינג הבין זאת, וכשהמציא את המבחן בשנת 1950 הוא עשה זאת כפרובוקציה פילוסופית.
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
אז התובנה השניה שלי היא, כשאנו בוחנים שירה במבחן טיורינג אנו לא באמת בוחנים את היכולת של המחשבים כי אלגוריתמים מניבי שירה, הם די פשוטים וקיימים פחות או יותר מאז שנות ה 50. מה שאנו עושים עם מבחן טיורינג לשירה, זה איסוף דעות על מה מהווה אנושיות אז מה שגיליתי, ראינו את זה כאשר עוד קודם היום אמרנו שויליאם בלייק הוא יותר בן-אנוש מאשר גרטרוד שטיין, כמובן, זה לא אומר שויליאם בלייק הוא באמת יותר אנושי או שגרטרוד שטיין היא יותר מחשב זה פשוט אומר שהקטגוריה של בן-אדם לא יציבה. זה הוביל אותי להבין שאדם זה לא עובדה מוצקה במקום זה, הוא משהוא שמורכב מדעות ומשהו שמשתנה עם הזמן.
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
אז התובנה האחרונה שלי היא שמחשבים פחות או יותר עובדים כמו מראה שמשקפת כל רעיון אנושי שאנו מראים לו. הראנו לו את אמילי דיקסון והוא החזיר את אמילי דיקסון הראנו לו את ויליאם בלייק וזה מה שהשתקף לנו חזרה הראנו לו את גרטרוד שטיין, ומה שקיבלנו חזרה זה את גרטרוד שטיין, יותר מכל חלקת טכנולוגיה המחשב הוא מראה שמשקפת כל רעיון של האדם שאנו מלמדים אותו.
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
אז אני בטוח שרבים מכם שמעו הרבה על בינה מלאכותית לאחרונה. ורוב השיחה היא האם אנו יכולים לבנות את זה? האם אנו יכולים לבנות מחשב חכם? האם אנו יכולים לבנות מחשב יצירתי? נראה שמה שאנו שואלים שוב ושוב זה האם אנחנו יכולים לייצר מחשב דמוי אדם?
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
אבל מה שראינו כרגע זה שהאדם אינו עובדה מדעית שהוא כל הזמן משתנה ומשרשר רעיונות ואחד שמשתנה לאורך הזמן אז כשאנחנו מתחילים להתחבט עם רעיונות של בינה מלאכותית בעתיד אנחנו לא רק צריכים לשאול את עצמנו, "אנו יכולים לבנות את זה?" אבל אנו גם צריכים לשאול את עצמנו מהו הרעיון האנושי שאנו רוצים שישתקף אלינו חזרה? זהו למעשה רעיון פילוסופי והוא לא ניתן למענה רק בעזרת תוכנה אלא אני חושב, דורש רגע של השתקפות קיומית של כלל המינים,
Thank you.
תודה
(Applause)
(מחיאות כפיים)