I have a question. Can a computer write poetry? This is a provocative question. You think about it for a minute, and you suddenly have a bunch of other questions like: What is a computer? What is poetry? What is creativity? But these are questions that people spend their entire lifetime trying to answer, not in a single TED Talk. So we're going to have to try a different approach.
みなさんに質問があります コンピュータに 詩は書けるでしょうか これは挑発的な質問です 少し考えてみてください するとたちまち 多くの疑問が浮かんでくるでしょう コンピュータとは何か? 詩とは何か? 創造性とは何か? こうした問いは 一生かけて答を考えるべきもので たった1回のTEDトークでは到底無理です だから今日は やり方を変えたほうが良さそうです
So up here, we have two poems. One of them is written by a human, and the other one's written by a computer. I'm going to ask you to tell me which one's which. Have a go:
ここに2つの詩があります 1つは人間の手によって書かれた詩 もう一つはコンピュータが書いた詩です どちらが人間が書いた詩でしょうか 当ててみてください
Poem 1: Little Fly / Thy summer's play, / My thoughtless hand / Has brush'd away. Am I not / A fly like thee? / Or art not thou / A man like me?
詩1: 小さなハエよ/お前の夏の遊びを/ 思慮のない私の手が/叩き潰してしまった 私とて そうではないのか/お前と同じハエでは? お前とて そうではないのか/私と同じ人間では?
Poem 2: We can feel / Activist through your life's / morning / Pauses to see, pope I hate the / Non all the night to start a / great otherwise (...)
詩2: 我らは感じる/活動家は 君らの青き/時代の中にいると 立ち止まり法王を見ては嫌うのさ/ 今夜始めよう/別の素晴らしい事を(...)
Alright, time's up. Hands up if you think Poem 1 was written by a human. OK, most of you. Hands up if you think Poem 2 was written by a human. Very brave of you, because the first one was written by the human poet William Blake. The second one was written by an algorithm that took all the language from my Facebook feed on one day and then regenerated it algorithmically, according to methods that I'll describe a little bit later on. So let's try another test. Again, you haven't got ages to read this, so just trust your gut.
時間です 1番が人間の書いた詩だと思う人は 手を挙げてください 大多数ですね 2番だと思う人は手を挙げてください 勇気がありますね 1番は詩人の ウィリアム・ブレイクが書いた詩 2番はアルゴリズムが書いた詩です そのアルゴリズムは ある日の私のFacebookのフィードから 言葉をかき集め アルゴリズムで生成しなおしたものです 方法については後ほど説明します 別の詩も見てみましょう あまり時間は取りませんから 自分の直感を信じてみましょう
Poem 1: A lion roars and a dog barks. It is interesting / and fascinating that a bird will fly and not / roar or bark. Enthralling stories about animals are in my dreams and I will sing them all if I / am not exhausted or weary.
詩1: ライオンはうなり 犬は吠える 興味深きはうならず吠えずただ飛ぶ鳥よ 動物たちが紡ぐ面白き物語は私の夢の中 今度は私が歌ってあげようか/ そんな元気さえあるならば
Poem 2: Oh! kangaroos, sequins, chocolate sodas! / You are really beautiful! Pearls, / harmonicas, jujubes, aspirins! All / the stuff they've always talked about (...)
詩2: あぁ!カンガルー スパンコール チョコレートにソーダ!/実に美しいものたちよ! 真珠/ハーモニカ ナツメ それからアスピリン! どれもみな/こいつらの話をしているのさ(...)
Alright, time's up. So if you think the first poem was written by a human, put your hand up. OK. And if you think the second poem was written by a human, put your hand up. We have, more or less, a 50/50 split here. It was much harder.
はい ここまで では 最初の詩が 人間の書いた詩だと思う人 手を挙げてください わかりました では 次の詩が 人間の書いた詩だと思う人 手を挙げてください 大体五分五分といったところですね 今度は難しかったですよね
The answer is, the first poem was generated by an algorithm called Racter, that was created back in the 1970s, and the second poem was written by a guy called Frank O'Hara, who happens to be one of my favorite human poets.
では 答え合わせです 1番の詩の書き手は ラクターというアルゴリズムです 1970年代に作成されました 2番が フランク・オハラという 男性が書いた詩 奇遇にも私の大好きな「人間の」詩人です
(Laughter)
(笑)
So what we've just done now is a Turing test for poetry. The Turing test was first proposed by this guy, Alan Turing, in 1950, in order to answer the question, can computers think? Alan Turing believed that if a computer was able to have a to have a text-based conversation with a human, with such proficiency such that the human couldn't tell whether they are talking to a computer or a human, then the computer can be said to have intelligence.
このテストは 詩における チューリングテストです チューリングテストは1950年に アラン・チューリングにより発案されました コンピュータは思考できるのか という問いへの答です もし コンピュータと人間との間に テキストベースの会話が成り立ち しかもそれが 人間が気付かないほどに自然で 優れた会話能力であるならば コンピュータに知能があると言える そう考えました
So in 2013, my friend Benjamin Laird and I, we created a Turing test for poetry online. It's called bot or not, and you can go and play it for yourselves. But basically, it's the game we just played. You're presented with a poem, you don't know whether it was written by a human or a computer and you have to guess. So thousands and thousands of people have taken this test online, so we have results.
2013年に私は 友人のベンジャミン・レアードと 詩のチューリングテストを ネットに公開しました 「ボットかヒトか」です 誰でも使えて 自分で遊べます しかし基本的には 先ほどのゲームと一緒です 提示される詩を 人間が書いたか コンピュータが書いたか 推測する遊びです 何千もの人がこのテストを使い 結果が出ました
And what are the results? Well, Turing said that if a computer could fool a human 30 percent of the time that it was a human, then it passes the Turing test for intelligence. We have poems on the bot or not database that have fooled 65 percent of human readers into thinking it was written by a human. So, I think we have an answer to our question. According to the logic of the Turing test, can a computer write poetry? Well, yes, absolutely it can. But if you're feeling a little bit uncomfortable with this answer, that's OK. If you're having a bunch of gut reactions to it, that's also OK because this isn't the end of the story.
さて どんな結果でしょう? チューリングは コンピュータが 人間の30%を騙す ことができれば 知能があると 考えました 一方で「ボットかヒトか」の 詩のデータベースでは 65%の読者を騙しました 人間の詩だと信じたのです もう何を言いたいか わかったはずです チューリングテストの理屈で言えば コンピュータは詩を書けるか? ええ 書けます 間違いなく書けます しかし そう聞いて 違和感があっても 問題ありません 直感的に拒否感があるかもしれません 大丈夫です まだ話は続きます
Let's play our third and final test. Again, you're going to have to read and tell me which you think is human.
3回目 最後のテストです 今度も詩を読んで 人間が書いた方を当ててください
Poem 1: Red flags the reason for pretty flags. / And ribbons. Ribbons of flags / And wearing material / Reasons for wearing material. (...)
詩1: 赤い旗 なぜ可愛い旗があるのか/ そしてリボン そう 旗のリボン/装飾品よ/ なぜ身を飾るのか(...)
Poem 2: A wounded deer leaps highest, / I've heard the daffodil I've heard the flag to-day / I've heard the hunter tell; / 'Tis but the ecstasy of death, / And then the brake is almost done (...)
詩2: 傷負う鹿が高々と飛ぶ/ ラッパズイセンの花が言うには 旗が言うには/ そして狩人が言うには/ それこそが 死の絶頂/ 憩いの終わりは近い(...)
OK, time is up. So hands up if you think Poem 1 was written by a human. Hands up if you think Poem 2 was written by a human. Whoa, that's a lot more people. So you'd be surprised to find that Poem 1 was written by the very human poet Gertrude Stein. And Poem 2 was generated by an algorithm called RKCP. Now before we go on, let me describe very quickly and simply, how RKCP works. So RKCP is an algorithm designed by Ray Kurzweil, who's a director of engineering at Google and a firm believer in artificial intelligence. So, you give RKCP a source text, it analyzes the source text in order to find out how it uses language, and then it regenerates language that emulates that first text.
はい 時間です では 1番が人間の詩だと思う人 2番が人間の詩だと思う人 2番の方が随分と多いですね もし1番が人間の書いた詩だとしたら? そう これはれっきとした人間 ガートルード・スタインの詩です 2番がRKCPという アルゴリズムの詩です では進む前に 少し簡単に説明します RKCPがどう動くのか RKCPはレイ・カーツワイルが 考えました Googleの開発責任者の 一人で 人工知能の可能性を強く信じています まずRKCPに文章を読み込ませます RKCPは文章を分析し 文体を学びます そして最初の文章の文体を 真似ながら言葉を再構築します
So in the poem we just saw before, Poem 2, the one that you all thought was human, it was fed a bunch of poems by a poet called Emily Dickinson it looked at the way she used language, learned the model, and then it regenerated a model according to that same structure. But the important thing to know about RKCP is that it doesn't know the meaning of the words it's using. The language is just raw material, it could be Chinese, it could be in Swedish, it could be the collected language from your Facebook feed for one day. It's just raw material. And nevertheless, it's able to create a poem that seems more human than Gertrude Stein's poem, and Gertrude Stein is a human.
誰もが人間が書いたと信じた 先程の2番の詩は 大量の詩をもとに再構成されています エミリー・ディキンソンの詩です 彼女の文体を解析し 型を学習し 同じ構造に従って 型を生成しなおしました しかし RKCPは驚くべきことに 言葉の意味を 全く理解していないのです 言葉は単なる素材でしかありません 中国語でも スウェーデン語でも 言語が混ざった フィードでもいい ただの材料なのですから それにもかかわらず RKCPには詩が書けます ガートルード・スタインという 人間の詩よりも より「人間らしい」と思わせる ような詩を書けるのです
So what we've done here is, more or less, a reverse Turing test. So Gertrude Stein, who's a human, is able to write a poem that fools a majority of human judges into thinking that it was written by a computer. Therefore, according to the logic of the reverse Turing test, Gertrude Stein is a computer.
先ほどやっていただいたのは チューリングテストの逆バージョンといったところです ガートルード・スタインは人間で 詩を書くことができます しかし それは大多数の人を欺き コンピュータによって書かれた詩だと 思わせました つまり逆チューリングテスト によれば 詩人スタインは コンピュータです
(Laughter)
(笑)
Feeling confused? I think that's fair enough.
混乱してきましたか? 無理のないことだと思います
So far we've had humans that write like humans, we have computers that write like computers, we have computers that write like humans, but we also have, perhaps most confusingly, humans that write like computers.
さて ここまでのおさらいです 人間らしい詩を書く人間と コンピュータらしい詩を書くコンピュータ 人間らしい詩を書くコンピュータ しかし それに加えて たいへんややこしいことに コンピュータらしい詩を書く人間
So what do we take from all of this? Do we take that William Blake is somehow more of a human than Gertrude Stein? Or that Gertrude Stein is more of a computer than William Blake?
ここから何が言えるでしょう? ブレイクはスタインよりも 人間的なのでしょうか? 逆にスタインは コンピュータ的?
(Laughter)
(笑)
These are questions I've been asking myself for around two years now, and I don't have any answers. But what I do have are a bunch of insights about our relationship with technology.
私はこの点を 考えてきました 2年近くもです でも答えはまだ見つからないままです でもいくつかの知見が得られたのです テクノロジーと人間の 関係について気づいた点です
So my first insight is that, for some reason, we associate poetry with being human. So that when we ask, "Can a computer write poetry?" we're also asking, "What does it mean to be human and how do we put boundaries around this category? How do we say who or what can be part of this category?" This is an essentially philosophical question, I believe, and it can't be answered with a yes or no test, like the Turing test. I also believe that Alan Turing understood this, and that when he devised his test back in 1950, he was doing it as a philosophical provocation.
1つめの知見ですが どういうわけか 私たちは 詩を書くことと 人間であることを 結び付けています だから 「コンピュータに詩は書けるか」と 疑問に思った時には 「何が人間たらしめるのか? 人間以外とはどう 線引きするか? どうすれば それが人間だと言い切れるのか」 と考えるのです これは かなり哲学的な質問だと 思います はい・いいえでは 答えられません チューリングテストとは違うのです アラン・チューリングも1950年に そのことを理解した上で 哲学的な挑戦の意を込めて テストを発明したのだと思います
So my second insight is that, when we take the Turing test for poetry, we're not really testing the capacity of the computers because poetry-generating algorithms, they're pretty simple and have existed, more or less, since the 1950s. What we are doing with the Turing test for poetry, rather, is collecting opinions about what constitutes humanness. So, what I've figured out, we've seen this when earlier today, we say that William Blake is more of a human than Gertrude Stein. Of course, this doesn't mean that William Blake was actually more human or that Gertrude Stein was more of a computer. It simply means that the category of the human is unstable. This has led me to understand that the human is not a cold, hard fact. Rather, it is something that's constructed with our opinions and something that changes over time.
2つめの知見ですが 詩のチューリングテストは 実はコンピュータの能力を 計っているわけではありません なぜなら詩を生成するアルゴリズムは 非常にシンプルで 1950年代から存在していたのですから 詩のチューリングテストの真の目的は 人間らしさを構成するものは何か 意見を集めることです わかったことがあります 今日このトークで みなさんは ブレイクはスタインよりも 人間らしいと判断しました もちろんウィリアム・ブレイクが 実際に より人間らしく ガートルード・スタインのほうが コンピュータらしいわけではありません 人間か否かという線引きは あいまいなのです 私は この結果を踏まえこう理解しました 人間とは かっちりした事実をもって 定義できるものではなく むしろ 人々の意見のなかに 築かれる概念なのです 日々変化するものが人間なのです
So my final insight is that the computer, more or less, works like a mirror that reflects any idea of a human that we show it. We show it Emily Dickinson, it gives Emily Dickinson back to us. We show it William Blake, that's what it reflects back to us. We show it Gertrude Stein, what we get back is Gertrude Stein. More than any other bit of technology, the computer is a mirror that reflects any idea of the human we teach it.
そして最後の知見は コンピュータはいわば鏡のように 人間が示した考えを何でも映すということ エミリー・ディキンソンを見せれば エミリー・ディキンソンを映し出し ウィリアム・ブレイクを見せれば ウィリアム・ブレイクを映し出し ガートルード・スタインを見せれば ガートルード・スタインを映し出します 世の中にテクノロジーは 数多く存在しますが コンピュータは 教える人の考えを反映する鏡です
So I'm sure a lot of you have been hearing a lot about artificial intelligence recently. And much of the conversation is, can we build it? Can we build an intelligent computer? Can we build a creative computer? What we seem to be asking over and over is can we build a human-like computer?
近頃は 人工知能について よく耳にするようになりました よく議論に上るのは 人工知能は作れるか? 知性の高いコンピュータや 創造性のあるコンピュータは作れるか? そして何度も考えるはずです 「人間みたいなコンピュータは作れるのか?」と
But what we've seen just now is that the human is not a scientific fact, that it's an ever-shifting, concatenating idea and one that changes over time. So that when we begin to grapple with the ideas of artificial intelligence in the future, we shouldn't only be asking ourselves, "Can we build it?" But we should also be asking ourselves, "What idea of the human do we want to have reflected back to us?" This is an essentially philosophical idea, and it's one that can't be answered with software alone, but I think requires a moment of species-wide, existential reflection.
しかし お分かりのように 人間は科学的事実などではありません 絶え間なく変化し続け 思考を重ねる 概念なのです いつまでも同じ「モノ」ではないのです 未来の人工知能について あれこれ考えをめぐらす時は 「そんなものを作れるか?」と 自問自答するだけでは収まりません こんなことも 問うべきなのです 「一体どんな人間の考えを映し出そうか」と これは真理をつく哲学的な疑問です しかも ソフトウェアには 到底答えが出せない疑問です しかし 人間にとっても 人類全体で存在意義を問うことなのです
Thank you.
ありがとうございました
(Applause)
(拍手)