What I want to tell you about today is how I see robots invading our lives at multiple levels, over multiple timescales. And when I look out in the future, I can't imagine a world, 500 years from now, where we don't have robots everywhere. Assuming -- despite all the dire predictions from many people about our future -- assuming we're still around, I can't imagine the world not being populated with robots. And then the question is, well, if they're going to be here in 500 years, are they going to be everywhere sooner than that? Are they going to be around in 50 years? Yeah, I think that's pretty likely -- there's going to be lots of robots everywhere. And in fact I think that's going to be a lot sooner than that. I think we're sort of on the cusp of robots becoming common, and I think we're sort of around 1978 or 1980 in personal computer years, where the first few robots are starting to appear.
本日お話ししたいのは 様々なレベルや時間尺度おいて ロボットが私たちの生活を 侵略していることついての私見です 今から500年後の未来を考えると 至る所にロボットが存在する 世界しか想像できません 人類の運命に関する 悲観的な予測は別として 我々がこの世に存在しているとすれば ロボットもたくさんいるはずです 疑問は500年後に この様に存在するであろうロボットが それ以前に 至る所に存在するようになるか 50年後にでも 既にそうなるかということです 十分にありえると思います ロボットはそこらじゅうに存在し 実際 もっと早い時期に そうなると考えています 現在はロボット普及の 「幕開け」であるとも言えます 丁度 1978年から1980年あたりの パソコンがそうであったように ロボットが徐々に登場し始めると 思っています
Computers sort of came around through games and toys. And you know, the first computer most people had in the house may have been a computer to play Pong, a little microprocessor embedded, and then other games that came after that. And we're starting to see that same sort of thing with robots: LEGO Mindstorms, Furbies -- who here -- did anyone here have a Furby? Yeah, there's 38 million of them sold worldwide. They are pretty common. And they're a little tiny robot, a simple robot with some sensors, a little bit of processing actuation.
コンピューターは はじめ ゲームや玩具を通してやってきました 家庭に一番先にやってきたのは 「Pong」が遊べる コンピューターだったかもしれません 小さなマイクロプロセッサー内蔵のものです 他のゲームも次々に登場しました ロボットでも同じような事が 起こっています LEGOマインドストームやファービー ファービーを持っていた人は? いますね 全世界で3800万個も売れました 結構 流行っていました これは とても小さな センサー数個の シンプルなロボットで ちょっとした情報処理や動きをします
On the right there is another robot doll, who you could get a couple of years ago. And just as in the early days, when there was a lot of sort of amateur interaction over computers, you can now get various hacking kits, how-to-hack books. And on the left there is a platform from Evolution Robotics, where you put a PC on, and you program this thing with a GUI to wander around your house and do various stuff. And then there's a higher price point sort of robot toys -- the Sony Aibo. And on the right there, is one that the NEC developed, the PaPeRo, which I don't think they're going to release. But nevertheless, those sorts of things are out there.
右側は数年前に売られていた 別の人形ロボットです コンピューターの初期 マニアの人たちが コンピューターをいじっていた頃のように 様々なハッキング・キットや本も売っています 左側はEvolution Robotics社の プラットフォームです PCをのせGUIでプログラムし 家の中をウロウロさせて いろんな事ができます もっと高額な ロボット玩具のようなものもあって ソニーのアイボ 右側はNECの開発した PaPeRoです 発売はされないと思いますが でも こういったものが存在しています
And we've seen, over the last two or three years, lawn-mowing robots, Husqvarna on the bottom, Friendly Robotics on top there, an Israeli company. And then in the last 12 months or so we've started to see a bunch of home-cleaning robots appear. The top left one is a very nice home-cleaning robot from a company called Dyson, in the U.K. Except it was so expensive -- 3,500 dollars -- they didn't release it.
ここ数年 芝刈りロボットも出てきました 下はHusqvarna社製 上はイスラエルのFriendly Robotics社製 そして 昨年あたりから たくさんの 家庭用掃除ロボットを 見るようになりました 左上は とても素晴らしい 家庭用掃除ロボットで イギリスのDyson社製です ただ とても高額で 3,500ドルです 市場には出ませんでしたが
But at the bottom left, you see Electrolux, which is on sale. Another one from Karcher. At the bottom right is one that I built in my lab about 10 years ago, and we finally turned that into a product. And let me just show you that. We're going to give this away I think, Chris said, after the talk. This is a robot that you can go out and buy, and that will clean up your floor. And it starts off sort of just going around in ever-increasing circles. If it hits something -- you people see that? Now it's doing wall-following, it's following around my feet to clean up around me. Let's see, let's -- oh, who stole my Rice Krispies? They stole my Rice Krispies! (Laughter) Don't worry, relax, no, relax, it's a robot, it's smart! (Laughter) See, the three-year-old kids, they don't worry about it. It's grown-ups that get really upset. (Laughter) We'll just put some crap here. (Laughter) Okay. (Laughter) I don't know if you see -- so, I put a bunch of Rice Krispies there, I put some pennies, let's just shoot it at that, see if it cleans up. Yeah, OK. So -- we'll leave that for later. (Applause)
でも左下のElectrolux社製のものは 販売されています Karcher社製の また別のものもあって 右下は 私の研究室で 10年ほど前に作ったもので 最近製品化されました これをお見せしましょう 後でこれは誰かに差し上げるとか クリスは言っています これは皆さんも購入できるロボットで 床を掃除します だんだん円を大きく描きながら動き 何かにぶつかると…見えました? 壁に沿って移動したり 私の足に沿って 周りを掃除してくれています ではここで... あれ?誰か僕のシリアルを盗みました? シリアルが盗まれてしまいました! (笑) 心配しないで 大丈夫ですよ ロボットだから賢いんです! (笑) 3歳の子供は心配しないんですよね 大人だけが取り乱すんです (笑) では「ゴミ」を少しここに置いて (笑) はい (笑) 見えにくいですが ここにたくさんシリアルを置きました 硬貨もいくつか置いて あれに向かって 動かしてみましょう 掃除するかどうか はい 大丈夫ですね では… これはひとまず置いておきましょう (拍手)
Part of the trick was building a better cleaning mechanism, actually; the intelligence on board was fairly simple. And that's true with a lot of robots. We've all, I think, become, sort of computational chauvinists, and think that computation is everything, but the mechanics still matter. Here's another robot, the PackBot, that we've been building for a bunch of years. It's a military surveillance robot, to go in ahead of troops -- looking at caves, for instance. But we had to make it fairly robust, much more robust than the robots we build in our labs. (Laughter) On board that robot is a PC running Linux. It can withstand a 400G shock. The robot has local intelligence: it can flip itself over, can get itself into communication range, can go upstairs by itself, et cetera. Okay, so it's doing local navigation there. A soldier gives it a command to go upstairs, and it does. That was not a controlled descent. (Laughter) Now it's going to head off. And the big breakthrough for these robots, really, was September 11th. We had the robots down at the World Trade Center late that evening. Couldn't do a lot in the main rubble pile, things were just too -- there was nothing left to do. But we did go into all the surrounding buildings that had been evacuated, and searched for possible survivors in the buildings that were too dangerous to go into. Let's run this video. Reporter: ...battlefield companions are helping to reduce the combat risks. Nick Robertson has that story. Rodney Brooks: Can we have another one of these? Okay, good. So, this is a corporal who had seen a robot two weeks previously. He's sending robots into caves, looking at what's going on. The robot's being totally autonomous. The worst thing that's happened in the cave so far was one of the robots fell down ten meters.
難しかったのは 良い掃除メカニズムの デザインでした 中の頭脳はかなり単純なものです 概してこれは他のロボットでも同じです 私たちはある意味で コンピュータ優位論者であるようで コンピュータ処理が全てと考えがちです でも 機械部も大切なんです これは 別のロボット PacBotというもので ここ何年も作っているものです 軍事用の偵察ロボットで 兵隊に先立って 例えば 洞窟を偵察したりするものですが かなり頑丈に作る必要がありました 研究室で普段作るロボットよりも かなり頑丈にね (笑) ロボットの頭脳はLinux搭載のPCでして 400Gの衝撃に耐えることができます ロボット自身が知能を持っていて 自分を反転させたり 通信域に移動したり 自力で階段を昇ったりすることなどができます ここでは 現場でのナビゲーションを 行っています 兵士が階段を昇る指令を出すと それに従います 今のは意図的な落下ではありませんが… (笑) 今度は回避します これらのロボットの大きな転換点は 9・11の多発テロでした あの夜遅く ワールドトレードセンターに 出動させましたが 中心の瓦礫の山では 大したことは出来ませんでした 全てがとても… できることはありませんでした しかし 避難済みの周囲の建物に 全て入って行って 危険すぎて入ることができない建物の中で 生存者の探索を行うことができました この映像をご覧ください 戦場の友が 戦闘リスクの軽減に役立っています ニック・ロバートソンの報告です ロドニー:これをもうひとつもらえますか? ありがとう これは2週間前に ロボットをはじめて見た伍長です ロボットを洞窟に送り込み 状況を確認しています ロボットは完全に自律して動きます 過去 洞窟内で起きた最悪の出来事は ロボットの1つが10m落下したことでした
So one year ago, the US military didn't have these robots. Now they're on active duty in Afghanistan every day. And that's one of the reasons they say a robot invasion is happening. There's a sea change happening in how -- where technology's going. Thanks. And over the next couple of months, we're going to be sending robots in production down producing oil wells to get that last few years of oil out of the ground. Very hostile environments, 150˚ C, 10,000 PSI. Autonomous robots going down, doing this sort of work. But robots like this, they're a little hard to program. How, in the future, are we going to program our robots and make them easier to use? And I want to actually use a robot here -- a robot named Chris -- stand up. Yeah. Okay. Come over here. Now notice, he thinks robots have to be a bit stiff. He sort of does that. But I'm going to -- Chris Anderson: I'm just British. RB: Oh. (Laughter) (Applause) I'm going to show this robot a task. It's a very complex task. Now notice, he nodded there, he was giving me some indication he was understanding the flow of communication. And if I'd said something completely bizarre he would have looked askance at me, and regulated the conversation. So now I brought this up in front of him. I'd looked at his eyes, and I saw his eyes looked at this bottle top. And I'm doing this task here, and he's checking up. His eyes are going back and forth up to me, to see what I'm looking at -- so we've got shared attention. And so I do this task, and he looks, and he looks to me to see what's happening next. And now I'll give him the bottle, and we'll see if he can do the task. Can you do that? (Laughter) Okay. He's pretty good. Yeah. Good, good, good. I didn't show you how to do that. Now see if you can put it back together. (Laughter) And he thinks a robot has to be really slow. Good robot, that's good.
米軍がこの様なロボットを 使うようになって まだ一年ですが 現在アフガニスタンで 毎日のように活躍しています ロボットの侵略が起きていると 言われる理由のひとつです テクノロジーの未来もどんどん 変わって来ています ありがとう 数ヶ月先には 私達はロボットを油田に送り出し 地中に残った数年分の石油を取り出すために 地下産出を行う予定です 150℃ 圧力も10,000psiという とても過酷な環境です 自律型ロボットが地中に潜り この種の仕事を行うのです しかし このようなロボットの制御は多少難しく 将来 どの様にプログラムし ロボットを使いやすくするかが 課題になります ここで 実際にロボットを見てみましょう クリスという名前のロボットです 立ち上がって はい OK こっちへ来て ロボットだから 堅苦しく しなくてはと思っているようですね そんな風に見えますが ここで... 単にイギリス人だからですよ なるほど (笑) (拍手) このロボットにタスク(作業)を見せます とても複雑なタスクです 頷きましたね ここで何かを私に伝えているわけです コミュニケーションの流れを 理解したのだとわかります 私が突拍子もないことを言ったとすると 顔をしかめて 会話を調整したでしょう ここで これを彼の前にかざしてみます 彼の目を見て ボトルの頭を見たと 確認します そしてここでタスクを行い 彼はそれを見ています 彼は 私の目と 私の見ているものを 交互に見ています つまり 注意を共有しているわけです タスクを置こうなうと それ見ると同時に 私のことも見て 次に何が起こるか理解しようとしています ここでボトルを渡します ここでタスクができるでしょうか できますか? (笑) OK 上手ですね はい 上手 上手 それは教えてないよ では 元に戻せるか見てみましょう (笑) ロボットはゆっくり動くと 思っているみたいですね いいロボットだ よくできました
So we saw a bunch of things there. We saw when we're interacting, we're trying to show someone how to do something, we direct their visual attention. The other thing communicates their internal state to us, whether he's understanding or not, regulates a social interaction. There was shared attention looking at the same sort of thing, and recognizing socially communicated reinforcement at the end. And we've been trying to put that into our lab robots because we think this is how you're going to want to interact with robots in the future. I just want to show you one technical diagram here. The most important thing for building a robot that you can interact with socially is its visual attention system. Because what it pays attention to is what it's seeing and interacting with, and what you're understanding what it's doing. So in the videos I'm about to show you, you're going to see a visual attention system on a robot which has -- it looks for skin tone in HSV space, so it works across all human colorings. It looks for highly saturated colors, from toys. And it looks for things that move around. And it weights those together into an attention window, and it looks for the highest-scoring place -- the stuff where the most interesting stuff is happening -- and that is what its eyes then segue to. And it looks right at that. At the same time, some top-down sort of stuff: might decide that it's lonely and look for skin tone, or might decide that it's bored and look for a toy to play with. And so these weights change.
さあ これでいろいろ解りました 相互のやりとりでは 何かやり方を見せるとき 相手の視線の注意を引きます 相手は自分の状態を伝え 理解したかどうかとか 対話を調整します 同じものを見ることで 注意が共有され 最後には対話で 褒められたのを認識するのもわかりました 現在 これを研究室のロボットに 取り入れようとしています これが将来ロボットとやりとりする 望ましい方法だと思います ここで技術的な図をひとつお見せします 対話できるロボットをつくる上で最も重要なのが 視覚的な注意喚起システムです なぜなら 注意を払っている対象は それが見たり 関連している対象であり ロボットの行動を理解するものだからです 今からお見せする映像では ロボットの視覚的な注意喚起システムを ご覧いただきます これは…HSV色空間で 肌色を探すので 全ての人種の色に対応していてます 玩具の鮮やかなを見つけ出したり 動くものを探します それらを視野の中で比較し 最も高いスコアの箇所を見つけます 最も興味深い出来事が起きている箇所に そして そこに目をすみやかに移し それを注視します 同時に トップダウン的に 寂しいので 肌色を探そうと判断したり 退屈なので 遊ぶための玩具を 探そうと判断したりするので ウエイトがかわります
And over here on the right, this is what we call the Steven Spielberg memorial module. Did people see the movie "AI"? (Audience: Yes.)
そして この右側は 私達がスティーブン・スピルバーグの 記念モジュールと呼ぶ… 「AI」という映画をご覧になりました? (観客:はい)
RB: Yeah, it was really bad, but --
ひどい映画でしたが
remember, especially when Haley Joel Osment, the little robot, looked at the blue fairy for 2,000 years without taking his eyes off it? Well, this gets rid of that, because this is a habituation Gaussian that gets negative, and more and more intense as it looks at one thing. And it gets bored, so it will then look away at something else. So, once you've got that -- and here's a robot, here's Kismet, looking around for a toy. You can tell what it's looking at. You can estimate its gaze direction from those eyeballs covering its camera, and you can tell when it's actually seeing the toy. And it's got a little bit of an emotional response here. (Laughter) But it's still going to pay attention if something more significant comes into its field of view -- such as Cynthia Breazeal, the builder of this robot, from the right. It sees her, pays attention to her. Kismet has an underlying, three-dimensional emotional space, a vector space, of where it is emotionally. And at different places in that space, it expresses -- can we have the volume on here? Can you hear that now, out there? (Audience: Yeah.)
特に ハーレイ・ジョエル・オスメントの扮した 小さなロボットが ひと時も目を離さずに 青い妖精を 2000年もの間 見続けたのも これは それに対処する答えです なぜなら これは負に作用する ガウス的な馴化でありまして 一つのものを見続けると 結果的に 飽きてしまい 何か他のものを見るようになります 簡単な説明でしたが これがロボットの Kismetです おもちゃを探しています 何を見ているかわかりますね カメラを覆っている目玉から 目線の方向を推測できます おもちゃを見つける様子が わかります ちょっと感情的な反応を示しましたね (笑) しかし 注意は継続しています もし もっと面白いものが視野に入れば 例えば右にいる このロボットの 生みの親であるシンシア・ブリジールなどに 気づくと そちらに注意を払います Kismetは内的な3次元の感情空間を持っていて それは感情の位置を示すベクトル空間で その空間のどこにいるかを表現します 音声を出してもらえますか? 聞こえますか?(観客:はい)
Kismet: Do you really think so? Do you really think so? Do you really think so?
本当にそう思う?本当にそう思う? 本当にそう思う?
RB: So it's expressing its emotion through its face and the prosody in its voice. And when I was dealing with my robot over here, Chris, the robot, was measuring the prosody in my voice, and so we have the robot measure prosody for four basic messages that mothers give their children pre-linguistically. Here we've got naive subjects praising the robot:
表情と声の調子を通して 感情を表現するのです ここで私がロボットとやりとりしていた際 ロボットのクリスが私の声の調子を 測っていたように 声の調子で表現される 4種の基本メッセージを測るようにしました これは言葉以前に 母親が子供に伝えるものです ここでは事前情報のない被験者が ロボットを褒めています
Voice: Nice robot. You're such a cute little robot. (Laughter) RB: And the robot's reacting appropriately.
いいロボットね 小さくてかわいいロボットね (笑) そして ロボットは適切に反応しています
Voice: ...very good, Kismet. (Laughter)
よくできたわ Kismet (笑)
Voice: Look at my smile.
私の笑顔を見て
RB: It smiles. She imitates the smile. This happens a lot. These are naive subjects. Here we asked them to get the robot's attention and indicate when they have the robot's attention.
笑顔になります 笑顔を真似するんです これは頻繁に起こります これらは事前情報のない被験者です ロボットの気を引いて ロボットの気が引けたら 知らせるように頼みました
Voice: Hey, Kismet, ah, there it is.
Kismet はい そうね
RB: So she realizes she has the robot's attention. Voice: Kismet, do you like the toy? Oh.
彼女はロボットの注意が 得られたとわかりました おもちゃが好き?
RB: Now, here they're asked to prohibit the robot, and this first woman really pushes the robot into an emotional corner.
さて ここではロボットを咎めるよう 頼みました この最初の女性はほんとうにロボットを 感情的に追い詰めます
Voice: No. No. You're not to do that. No. (Laughter)
だめ だめ やっちゃいけません だめ (笑)
Not appropriate. No. No. (Laughter)
そんなのだめ だめ だめ (笑)
RB: I'm going to leave it at that.
これくらいにしておきましょう
We put that together. Then we put in turn taking. When we talk to someone, we talk. Then we sort of raise our eyebrows, move our eyes, give the other person the idea it's their turn to talk. And then they talk, and then we pass the baton back and forth between each other. So we put this in the robot. We got a bunch of naive subjects in, we didn't tell them anything about the robot, sat them down in front of the robot and said, talk to the robot. Now what they didn't know was, the robot wasn't understanding a word they said, and that the robot wasn't speaking English. It was just saying random English phonemes. And I want you to watch carefully, at the beginning of this, where this person, Ritchie, who happened to talk to the robot for 25 minutes -- (Laughter) -- says, "I want to show you something. I want to show you my watch." And he brings the watch center, into the robot's field of vision, points to it, gives it a motion cue, and the robot looks at the watch quite successfully. We don't know whether he understood or not that the robot -- Notice the turn-taking. Ritchie: OK, I want to show you something. OK, this is a watch that my girlfriend gave me. Robot: Oh, cool. Ritchie: Yeah, look, it's got a little blue light in it too. I almost lost it this week. (Laughter) RB: So it's making eye contact with him, following his eyes. Ritchie: Can you do the same thing? Robot: Yeah, sure. RB: And they successfully have that sort of communication.
これらを組み合わせ 順番交替を追加しました 誰かと話す際 まず話して 次に 眉を上げたり 目を動かしたりして 相手に会話の順番が来たと気づかせます そうして相手が話し そして交互に かわるがわる話します これをロボットに組み込みました 何も知らない被験者を 何人も用意して ロボットのことは何も教えず ロボットの前に座らせ 会話をしてもらいました 彼らが知らないのは ロボットは実は言葉を全く理解せず 話しているのも英語ではない という事です ランダムな英語の音素を話すだけです この冒頭の部分を 良く見て頂きたいのですが この方 リッチーはロボットと 25分も会話をしました (笑) 「見せたいものがあるんだ この時計を見せたいんだ」と言って 彼は時計をロボットの 視界の中心に持ってきて 指さし 動かして示し ロボットに時計を見せる事に成功します 気が付いていたかわかりませんが ロボットは順番交替もしています 「見せたいものがあるんだ これは時計 僕の彼女がくれたんだ」 「あら、いい」 「そうだろ 見て 中に青いライトも あるんだ 先週失くしそうになったよ」 (笑) 彼の目を追いかけて 彼とアイ・コンタクトをとっています 「まねできる?」 「ええ もちろん」 こんな具合で コミュニケーションに成功しました
And here's another aspect of the sorts of things that Chris and I were doing. This is another robot, Cog. They first make eye contact, and then, when Christie looks over at this toy, the robot estimates her gaze direction and looks at the same thing that she's looking at. (Laughter) So we're going to see more and more of this sort of robot over the next few years in labs. But then the big questions, two big questions that people ask me are: if we make these robots more and more human-like, will we accept them, will we -- will they need rights eventually? And the other question people ask me is, will they want to take over? (Laughter) And on the first -- you know, this has been a very Hollywood theme with lots of movies. You probably recognize these characters here -- where in each of these cases, the robots want more respect. Well, do you ever need to give robots respect? They're just machines, after all. But I think, you know, we have to accept that we are just machines. After all, that's certainly what modern molecular biology says about us. You don't see a description of how, you know, Molecule A, you know, comes up and docks with this other molecule. And it's moving forward, you know, propelled by various charges, and then the soul steps in and tweaks those molecules so that they connect. It's all mechanistic. We are mechanism. If we are machines, then in principle at least, we should be able to build machines out of other stuff, which are just as alive as we are. But I think for us to admit that, we have to give up on our special-ness, in a certain way. And we've had the retreat from special-ness under the barrage of science and technology many times over the last few hundred years, at least. 500 years ago we had to give up the idea that we are the center of the universe when the earth started to go around the sun; 150 years ago, with Darwin, we had to give up the idea we were different from animals. And to imagine -- you know, it's always hard for us. Recently we've been battered with the idea that maybe we didn't even have our own creation event, here on earth, which people didn't like much. And then the human genome said, maybe we only have 35,000 genes. And that was really -- people didn't like that, we've got more genes than that. We don't like to give up our special-ness, so, you know, having the idea that robots could really have emotions, or that robots could be living creatures -- I think is going to be hard for us to accept. But we're going to come to accept it over the next 50 years or so.
クリスと私がやった また別のこともお見せします これは別の「コグ」というロボットで 最初にアイ・コンタクトをして 次に クリスティーが玩具に目をやると ロボットは彼女の視線を推測して 彼女が見ているのと同じ物を見ます (笑) この種のロボットが さらに多く 研究されるようになるでしょ そこで大きな疑問が出てきます 私が聞かれる2つの大きな疑問は これらのロボットが更にもっと 人間に近づいたら 彼らを受け入れられるでしょうか? 将来 彼らにも権利が必要になるでしょうか? もう一つ良く訊かれるのが ロボットは人間にとって代わろうとするか? (笑) 最初の疑問は ハリウッドの映画によくある テーマです これらのキャラクターはお馴染みですが いずれの場合も ロボット達は尊厳を求めています ロボットに権利を与える必要があるでしょうか? たかが機械です でも 良く考えれば 私たちだって機械です 分子科学者の目でみると そうなります 例えば「A」という分子がやってきて 他の分子と結合するなんて 説明はありませんが いろいろな力がはたらいて 進んできて そこに魂がやってきて分子が きちんとつながる様になっている 全て機械的なのです 私たちは機械です もし我々が機械なら 少なくとも原則的には 他のものから機械を作って 私たちの様に生きてるものを 作れるはずです でも それを認めるには 自分たちが 特別な存在である事を あきらめなければなりません これまでも この特別性から 後退してきました 少なくとも過去数百年渡り 科学と技術の攻撃を受け何度もです 少なくとも過去数百年渡り 科学と技術の攻撃を受け何度もです 500年前には宇宙の中心であるという考えを 捨てなければなりませんでした 地球が太陽の中心を周りはじめたときにです 150年前には ダーウィンによって 他の動物と違うという考えを 捨てなければなりませんでした そして想像するに…いつもながら厳しいことですが 近年 こんな考えもつきつけられています 我々は地球で生まれたのでは ないかもしれない これは皆嫌います そして人間の遺伝子は 3500個しかないなんて言われると そんなはずでない もっとあるはずだと感じるものです このように人間の特別性を あきらめたくないので ロボットが本当に感情を持つ可能性や 生き物と考えられるとなると 受け入れがたいものになるでしょう でも ここ50年ぐらいで これを受け入れるようになるでしょう
And the second question is, will the machines want to take over? And here the standard scenario is that we create these things, they grow, we nurture them, they learn a lot from us, and then they start to decide that we're pretty boring, slow. They want to take over from us. And for those of you that have teenagers, you know what that's like. (Laughter) But Hollywood extends it to the robots. And the question is, you know, will someone accidentally build a robot that takes over from us? And that's sort of like this lone guy in the backyard, you know -- "I accidentally built a 747." I don't think that's going to happen. And I don't think -- (Laughter) -- I don't think we're going to deliberately build robots that we're uncomfortable with. We'll -- you know, they're not going to have a super bad robot. Before that has to come to be a mildly bad robot, and before that a not so bad robot. (Laughter) And we're just not going to let it go that way. (Laughter) So, I think I'm going to leave it at that: the robots are coming, we don't have too much to worry about, it's going to be a lot of fun, and I hope you all enjoy the journey over the next 50 years. (Applause)
次の疑問は 機械が我々に とって代わるかということですが 一般的なシナリオとしては 我々が彼らを創造し 彼らが育ち 我々が育成し 彼らが我々から多くを学習し いつかしら我々をのろまで 退屈だと判断するようになる 我々にとって代わりたいとなるわけです 10代のお子さんをお持ちなら よくわかると思います (笑) ハリウッドでは この感情を ロボットに延長するわけですが でも ここで不思議に思うのは 一体誰が 人間をのっとる ロボットを間違って作るかということです 庭で一人でゴチャゴチャやって 「間違って747を作っちまった!」という感じで それは起きないでしょう そして… (笑) 故意に危険なロボットを作るということは あり得ないでしょう すごく悪いロボットが登場する前に なんとなく悪いロボットが登場するはずですし その前には大して悪くはないロボットが いるはずです (笑) だから これを放っておくわけありません (笑) 結論としては ロボットはやってきます でも心配する程の事はありません 楽しいものになるでしょう これからの50年の旅を 楽しみましょう (拍手)