Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
(クリス・アンダーソン) 機械学習というのは いったい何なのか 教えていただけませんか? それが人工知能を巡る 熱狂や不安の中心に あるもののようなので いったいどんな仕組み なんでしょう? (セバスチャン・スラン) 人工知能と 機械学習は
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
60年くらいの 歴史があるんですが 最近まで目覚ましい結果は 出ていませんでした 近頃になってようやく 機械を賢いものにするのに 必要な規模の 計算能力やデータセットが 得られるようになったからです その仕組みはこうです たとえばスマートフォンの プログラムを作ろうと思ったら ソフトウェアエンジニアを雇って すごく長いレシピを 書いてもらうことになります 「水が熱すぎたら温度を下げる 冷たすぎたら温度を上げる」 みたいな感じに そのレシピは10行とかではなく 何百万行にもなり得ます 今時の携帯電話には 1200万行のコードがあり ブラウザーには 500万行のコードがあります しかもレシピに何か欠陥があると コンピューターをクラッシュさせかねません だからソフトウェアエンジニアは あんなに稼いでいるんです ところが 今やコンピューターが 自分でルールを見付けられるようになっています 専門家がステップに分解し あらゆる事態に対して ルールを書く代わりに コンピューターに例を示して ルールを自分で導かせるのです
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
その良い例が 最近Googleが買収した 囲碁プログラムのAlphaGoです 通常なら ゲームをさせるには あらゆるルールを記述することになりますが AlphaGoの場合 何百万という対局を見て 自分で独自にルールを導き 現役のチャンピオンを 下してしまったのです その何が嬉しいかというと プログラミングの重荷が データへと押しやられ ソフトウェアエンジニアはそんなに頭が 良くなくともよくなったことです それが可能になったというのが 大きな転換点でした 気恥ずかしいのは 私の博士論文は機械学習でしたが 大したものじゃないので どうか読まないで 20年前のことで 当時のコンピューターは ゴキブリ並の頭しか なかったんです 今日では専門的な人間の思考を 模倣できるくらいに 強力になりました しかもコンピューターには 人間が見られるよりも ずっと多くのデータを 見ることができます AlphaGoは何百万という 対局を検討しますが 人間にはそんなに沢山 検討することはできません Googleは千億以上の ウェブページを見ていますが 千億ページを 読める人間はいません だからコンピューターは 人間に見付けられないようなルールを 見付けることができるのです
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
(アンダーソン) つまり 「相手がこう来たらこうしよう」と考えるのではなく 「こういうのが勝ちパターンのようだ」 と考えるわけですね
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
(スラン) ええ 子育てを考えてください 最初の18年間で あらゆる事態に 対するルールを教え込み それから世に出す わけではありません 躓き 倒れ 立ち上がり はたかれ ぶたれ 楽しい経験をし 良い成績を取り そうやって自分で 見付けていくのです それが今コンピューターにも 起きているのです それによってプログラミングが 突如 簡単なものになります 考える必要はなく ただ沢山のデータを与えれば良いのです
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
(アンダーソン) それが自動運転車の 目覚ましい進歩の 鍵というわけですね 事例をお持ち いただきましたが ここで何が起きているのか 説明していただけますか?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
(スラン) これは自動運転車の 走行の様子で Udacityで作り Voyageとして スピンオフしたものです 自律走行できるよう ディープラーニングと呼ばれる手法で 車をトレーニングし マウンテンビューから サンフランシスコまで エル・カミーノ・レアルを雨の日に 自転車や歩行者や 133の信号がある中で走っています 私はずっと昔に Googleで自動運転車の 開発チームを作りました 当時は世界最高の ソフトウェアエンジニアを集めて 世界最高のルールを 見付けようとしたものです ここでは単に トレーニングするだけです この道を20回走り すべてのデータを コンピューターに取り込み 数時間の処理の後 人間よりも上手いくらいに 運転できるようになりました だからプログラミングは すごく簡単です 完全に自律的に 53キロを1時間半で走っています
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
(アンダーソン) 画面左側の大きな部分が コンピューターの見ているもので トラックや車を表す点が 動いているわけですか
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
(スラン) 右側がカメラ映像で これが主要な入力となり レーンや他の車や信号を 見付けるのに使っています この車には距離を測るための レーダーがあります このようなシステムでは よく使われているものです 左側に出ているのが レーザーによる画像で 樹木などの障害物が 検出されています でも今では興味深いことのほとんどが カメラ映像を使って行われています レーダーやレーザーといった 精密なセンサーから 安価で一般的なセンサーを 使うように変わってきています カメラは8ドルもしません
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
(アンダーソン) 左に出ている緑の点は どんな意味があるんですか?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
(スラン) あれはアダプティブ・ クルーズ・コントロールの基準点で 前の車との車間距離に応じて スピードを制御するためのものです
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
(アンダーソン) 学習の部分が どう行われるかの例も お持ちいただいているので それを見ながら お話しを伺いましょう
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
(スラン) これはUdacityの学生に 自動運転車の「ナノ学位」を取るための 課題として出したものです このデータを示して 「この車をどう運転させたものだろう?」 と聞いたんです 映像を見てもらうと分かりますが 人間でもちゃんと運転するのが かなり難しいものです 「さあディープラーニングのコンペだ AI コンペをしようよう」と言って 学生に48時間与えたんです GoogleやFacebookのような ソフトウェア企業でも このようなものには 最低半年はかかります だから48時間でできたら すごいものです 48時間で100人の学生が提出し 特に上位4人のものは完璧でした この映像に対して 私がやるよりも上手く運転するんです ディープラーニングを使ってです これも同じ手法で 魔法のようですが 今やコンピューターは 十分なデータと それを咀嚼するための 十分な時間があれば 自分でルールを 見つけ出すんです
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
(アンダーソン) それによって あらゆる領域で 強力なアプリケーションが 開発されるようになったわけですね 先日ガンの話を していただきましたが あのビデオを 出しましょうか?
ST: Yeah, absolutely, please. CA: This is cool.
(スラン) お願いします (アンダーソン) これはすごいですよ
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
(スラン) これはまったく異なる分野で 得られた知見です これは高度な専門家であり 年に40万ドル稼ぐ 皮膚科医を 見方によっては 支援するとも 競合するとも 言えるものです 優れた皮膚科医になるには 10年におよぶ修行が必要です これは機械学習版の 皮膚科医で ニューラルネットワークを 使っています 「ニューラルネットワーク」というのは こういう機械学習アルゴリズムを指す専門用語で 1980年代頃から 研究されています ここに出ているのはFacebookのフェローである ヤン・ルカンが1988年に作ったもので 人の脳のように 段階的にデータが 伝播するようになっています 脳と同じわけではありませんが 模倣したものです 段階的になっています 最初の段階で 視覚的な入力から へりや棒や点を抽出します 次の段階で もう少し複雑なへりや形 半月形なんかを 取り出します 最終的には非常に複雑な概念を 構成することができます アンドリュー・エンは 膨大な量の画像から 猫の顔や犬の顔を見付けられる ようになることを示しました
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
スタンフォードの 私の学生のチームは 黒色腫や癌腫を含む 12万9千の皮膚疾患例で AIをトレーニングすることにより 最高の皮膚科医並の仕事が 可能になることを 示しました それを検証するため AIのトレーニングに使ったのとは 別のデータを AIと 25人のスタンフォードの 認定皮膚科医に診断させて 結果を比較しました ほとんどのケースで AIは人間の皮膚科医に 匹敵するか それ以上の精度で 分類することができました
CA: You were telling me an anecdote. I think about this image right here. What happened here?
(アンダーソン) この画像に関する ある逸話を伺いましたが どんなことが あったんでしょう?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
(スラン) これは先週の木曜のことで 進展し続けている話なんです 今年初めにネイチャー誌で 発表したのは 皮膚科医と コンピュータープログラムに 画像で診断させたら どんな精度になるか ということでした 使った画像はすべて 過去の症例です 生研をして正しい分類の 分かっているものです これは違いました 協力してくれているスタンフォードの医者が 診断したものです その協力者というのは 世界で3本の指に入るような 高名な皮膚科医なんですが この写真の痣を見て 「皮膚癌ではないな」と言いました でもそれから考え直して 「ちょっとアプリでチェックしてみよう」と iPhoneを取り出し 「ポケット皮膚科医」とも言うべき 私たちのアプリで調べたところ ガンという結果が出ました 悪性黒色腫だと 彼は戸惑いましたが 「まあ自分よりは iPhoneの方が幾分信頼できるしな」と 生検に回すことにしました 進行性の悪性黒色腫という結果でした ディープラーニングがなかったら 見落とされていたであろう 悪性黒色腫が見つかったという これは最初の事例になると思います
CA: I mean, that's incredible.
(アンダーソン) すごいものですね
(Applause)
(拍手)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
そのようなアプリに対しては すぐにも需要がありそうです 多くの人が殺到するかも みんなが自分で診断できるアプリを 作ろうとは思っていますか?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
(スラン) 私の受信箱を 溢れさせているのは ガンのアプリについての 胸が痛むような話が書かれたメールです 黒色腫を10個とか20個とか 取り除いたけど こういうのが見落とされてや しないかと不安なんです 他にも 空飛ぶ車や 講演依頼のメールもありますが でも もっとテストが 必要だと思っています すごく慎重に進めたいです 見かけ倒しの結果で 聴衆を感心させるのは簡単ですが 倫理的なちゃんとしたものを出すのは 大変なことです 人々が私たちのアプリを使って 医者にかからず それで間違いがあったりしたら とても申し訳なく思います 今 臨床試験をやっていますが それで確証が得られれば いつか このような技術を 大学病院から外の世界に出して スタンフォードの医者が 行けないような場所で 使えるように できるかもしれません
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
(アンダーソン) 私の理解が正しいなら あなたはUdacityの学生の 集団の力を使い ある意味 企業で行われているのとは 違う形で 機械学習を集合知と 組み合わせているように見えます そのようなやり方は 巨大企業でさえ出し抜くことが できるかもしれないと思いますか?
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
(スラン) 度肝を抜かれるような 事例があり まだ理解しようと 努めているところなんですが— クリスが言ったのは 私たちのやっているコンペのことです マウンテンビューから サンフランシスコまで 一般道を自律走行できる車を 作ることができました Googleが7年間開発してきたものと 同等とは行きませんが かなり近くまで行き 2人のエンジニアで 3ヶ月しかかかりませんでした その理由は コンペに参加する 大勢の学生がいたからです クラウドソーシングを使っているのは 私たちばかりではありません UberやDidiは運転について クラウドソーシングを使っています Airbnbは宿泊業について クラウドソーシングを使っています 今では沢山のことに使われていて バグの発見や タンパク質の折り畳みなど 様々なクラウドソーシングがあります この自動運転車を 3ヶ月で作れたことで 企業の組織の仕方について 考え直すようになりました
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
採用したわけでもなく 解雇することもない スタッフが9千人います 知りもしない人たちが 働きにやってきます そして9千通りの答えを 送ってきます それを使わなければならない わけでもありません 優勝者にだけ 賞金を出します しみったれで いいことではないかもしれませんが 彼らが教育の一環と考えてくれるのは ありがたいことです そういう学生たちがディープラーニングで 目を見張るような結果を出しています 優れた人たちと 優れた機械学習の組み合わせは 実に素晴らしいものです
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
(アンダーソン) TED2017の初日に ガルリ・カスパロフが話したことですが チェスのトーナメントで 優勝したのは驚いたことに 2人のアマチュアのチェスプレーヤーと 3台の普通のパソコンの組み合わせで それがグランドマスターと スーパーコンピューターを破り それはそういう流れの一部なのだと あなたの話されているのは それをさらに すごいものに したように見えます
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
(スラン) 昨日の朝に 「ロボットの支配者」と「人間的反応」という AI関係の素晴らしい セッションが2つあって いろいろ興味深い話がありました 懸念されるのは AIが実際にやっていることと 意識を持ったAIによる 支配の脅威のような話が 混同されることです AIに一番持って欲しくないものが意識です 台所に行ったら 冷蔵庫と皿洗い機が 恋に落ちていて 私の態度が悪いと 食品を冷やしてくれないなどというのは 勘弁して欲しいです そんな製品を買う気はないし 欲しくありません 私に言わせるなら AIは常に人間を 拡張するものでした 人間を拡張し 増強するものです カスパロフはまさに正しくて 人間の知恵と機械の知恵の 組み合わせによって 私たちは強くなれるのです 機械が人間を強くするというあり方は 機械の始まりからありました 農業革命が起きても 蒸気機関や農機具が 自分で農業をできるわけではなく 人間を置き換えはしませんでした 人間を強くしたのです このAIの新しい波は 種としての人類を ずっと強いものにするでしょう
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
(アンダーソン) その点については 後で取り上げたいと思いますが 人々がAIに対して抱く 恐怖についてもう少し話しましょう 人々が恐れているのは コンピューターが自分のコードを 書き換えるということです 自分のコピーをいくつも作り 沢山の違うバージョンを試し それはランダムに かもしれませんが それから目標が達成されたか 改善されたかをチェックします たとえば目標は知能テストで 良い点を取ることだとしましょう コンピューターが そこそこ得意とすることで 何百万というバージョンを 試すことができます それでより良いものが 見つかるかもしれず それを繰り返していきます そこで懸念されるのは ある種の暴走が起きることです 木曜の夜には 何の問題もなかったのが 金曜の朝に戻ってみると コンピューターの スピードやなんかのため 物事が突如として とんでもないことになりかねない
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
(スラン) 可能性はあるにしても 小さなものだと思います あなたの言われたことを 言い換えてみましょう AlphaGoでは まさにそういうことがありました コンピューターが 自分自身を相手に対局をして 新たなルールを学びました 機械学習というのは ルールの書き換えであり コードの書き換えです しかしAlphaGoが 世界を支配するという懸念は まったくないでしょう チェスさえできないのです
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
(アンダーソン) そりゃ 今はみんな 限られた1つの領域のことしかできませんが 想像することはできますよね 大学入試に合格できる コンピューターというのを 目にしたばかりです コンピューターは私たちがするように 読んだり理解したりすることはできませんが あらゆる文章を取り込んで 意味のパターンを 見出していくかもしれません それがもっと広がって 別種の暴走効果が起きることは あり得ませんか?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
(スラン) そこは一線を画しておきたいところです 可能性はあり 見くびるつもりはありませんが それは小さく 私の心を占めてはいません 大きな革命的なことは 別にあると思うからです これまでのAIで成功したものは すべてごく特化したものであり 1つのアイデアに基づいています— すなわち膨大な量のデータです AlphaGoが ああもうまくいった理由は 膨大な数の碁の対局にあり AlphaGoには車の運転も 飛行機の操縦もできません GoogleやUdacityの自動運転車は 膨大なデータを糧にしており 他のことは何もできず オートバイの制御さえできません 特定の領域に特化したもので ガンのアプリも それは同じことです 「汎用人工知能」と呼ばれるものについては ほとんど何も進展がありません 一般相対論とか 超弦理論を作ってくれと 頼めるようなAIはありません まったくの初期段階なんです
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
この点を強調するのは 不安を目にしていて それは認めたいからです しかし私が何か 1つのことを考えるとしたら 私が問いたい疑問は 「繰り返し的なものを何か取り上げて 100倍効率化できるとしたらどうか?」ということです 300年前には みんな農業をやっていて 繰り返し的なことを していました 今日では75%の人は オフィスで働いていて 繰り返し的なことを しています 私たちはスプレッドシート奴隷になったのです 低レベルの労働 だけじゃありません 皮膚科医も 繰り返し的なことをしているし 弁護士も 繰り返し的なことをしています AIが私たちの肩越しに見ていて 繰り返し的なことを10倍とか50倍とか 効率化してくれるという時代が 間もなくやってくる だろうと思います それが私の考えていることです
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
(アンダーソン) すごくワクワクすることですね そこへ至る道のりは ある人々には怖いものかもしれません コンピューターが 繰り返し的なことを 皮膚科医やドライバーよりも ずっと上手くできるようになったなら 今やよく話題になることですが 突如 何百万という職が 失われることになり それで可能になる輝かしい部分を 手にする前に 社会は革命的な状況を 経ることになるでしょう
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
(スラン) それは確かに問題で 大きな問題です 昨日の朝のセッションでも 何人かのスピーカーが触れていました ステージに上がる前に 私はポジティブで楽観的な人間だと 打ち明けましたが ひとつ楽観的な意見を 言わせてください 300年前のことを 考えてみてください ヨーロッパは140年もの間 戦争に明け暮れ 誰も読み書きできず 皆さんのしているような仕事は 何もありませんでした 投資銀行家にせよ ソフトウェアエンジニアにせよ ニュースキャスターにせよ みんな野に出て 農業をしていました そこへ小さなセバスチャンが ポケットに小さな蒸気機関を入れてやってきます 「ねえ みんな これを見てよ みんな100倍も強くなって 他のことができるよ」 当時はこんなステージは ありませんでしたが クリスと私は家畜小屋の 牛の側で話していて 彼が言います 「すごく懸念しているよ 僕は毎日牛の乳を搾ってるけど それを機械がするようになったらどうなるかと」
The reason why I mention this is, we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
なんでこんな話を しているかというと 私たちは過去における進歩と その恩恵については良く理解できます iPhoneとか 飛行機とか 電気とか 医薬品とか 私たちは80まで生きたいと思っていますが 300年前には無理な相談でした しかし私たちは同じルールを 未来には適用しないのです 私のCEOとしての仕事を 振り返ってみると 9割は繰り返し的で 楽しいものではありません 毎日4時間を繰り返し的で 馬鹿みたいなメールに費やしています それをやらなくて済むように してくれるものを切望しています なぜか? それは私たちはみんな ものすごくクリエイティブだと思うからです TEDのコミュニティは ことのほかそうでしょう でもブルーカラーの人であっても そうなんです ホテルのメイドを捕まえて 一緒に飲んでご覧なさい 1時間後にはきっとクリエイティブな アイデアを手にしています AIの力によって 創造力を現実のものに 変えられるようになるでしょう もしGoogleを1日で 作れるとしたらどうしますか? ビール片手に 次のSnapchatになるものを思い付き それが何であれ 翌朝には運用開始できるとしたら?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
それがもう SFではなくなるのです これから起きることは 歴史上すでに 経験していることです 農作業からの解放 後には工場労働からの 解放によって ものすごい創造性が溢れ出て 多くのものが生み出されました 今回のはさらに すごいものになるでしょう そして素晴らしい 副作用もあります 副作用の1つは 食べ物や医薬品や 教育や住居や輸送などが 金持ちだけでなく みんなにとって ずっと手に入り やすくなることです
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
(アンダーソン) なるほど マーティン・フォードは 今回は違うと主張していて それは過去には 知恵によって 新たな方法を 見付けていましたが コンピューターが 同じペースで そういうことも やるようになるからだと しかしあなたは 人間の創造性のため 完全に淘汰はされない というわけですね 人間の創造性は コンピューターにできることとは 根本的に異なるとお考えですか?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
(スラン) これはAIの専門家として 強く信じていることですが 創造性や独創的思考という面で 本当の進展というのは 見られません 私が見ていることに みんなも気付いて欲しいんですが 「人工知能」という言葉は すごく怖いものに見え コンピューターが突如として 支配者となる映画を作る スピルバーグのような人もいますが でもそれは テクノロジーにすぎないのです 私たちが繰り返し的なことをする 手助けをしてくれるテクノロジーです 進歩が見られるのは 繰り返し的な部分です 法務的な資料を 見付けるとか 契約書の草稿を 作成するとか 胸のX線写真の 検査をするとか そういったことは とても特化したことであり 人類への脅威が あるとは思いません 私たち人間こそが 超人になるんです 向き合いましょう 私たちは自らを 超人にしたのです 大西洋を11時間で泳ぎ渡るとか ポケットから装置を出して 遙か彼方のオーストラリアにいる人に叫び リアルタイムで向こうからも 叫び返してくるとか 物理的に無理なことで 物理法則を破っているのです できた暁には 見聞きしたことすべて 会った人すべてを 記憶するようになるでしょう それはアルツハイマー気味の私には ありがたいことです 何の話でしたっけ?
CA: (Laughs)
(アンダーソン) ハハハ
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
(スラン) 私たちのIQは 1,000以上にもなるでしょう 私たちの子供には 綴り字の授業なんかなくなるでしょう 綴りの問題はなくなるので 数学の問題もなくなります そして起きることは みんながすごく クリエイティブになれるということです 実際 私たちはクリエイティブなんです それが人類の秘密兵器です
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
(アンダーソン) 仕事は失われることになり 痛みは伴うにしても 人類にはそれ以上のことができると 夢ですね 新たなレベルの力と 発見の世界へと 人類が引き上げられる それが夢なのだと
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
(スラン) 考えてみてください 人類の歴史を見れば 6〜10万年というところですが 発明とか技術とか 私たちがありがたいと思う 作られたもののほとんどは この150年間に 発明されています まあ本とか車輪は もう少し古いですが あと斧も でも電話とか スニーカーとか この椅子とか 現代的な製造技術 ペニシリン 私たちがありがたいと思うものの 多くがそうです これからの150年で 人類はさらに多くのものを 発見するでしょう 物事が発明されるペースは 遅くではなく早くなっています 興味深いもので既に発明されているのは 1%くらいのものだろうと思います まだガンを治癒できるように なっていません 空飛ぶ車をまだ持っていません それを変えたいと思っていますが 空飛ぶ車というのは 笑いのネタにされることでした (笑) 可笑しくないですか? 密かに空飛ぶ車に取り組んでいるというのは まだ寿命を2倍に 延ばせてはいません 欲しい情報をくれる 魔法のインプラントを 頭の中に持ってはいません ぞっとするかもしれませんが 1度付けたら 気に入るはずだと思いますよ そう望みます ちょっと怖い感じはしますが
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
人類が発明するだろうもので まだ発明されていないものは 沢山あります 重力シールドはありません 別の場所に人間を ビーム転送できません 馬鹿げたことに聞こえますが 200年前には 飛行は不可能だと 専門家が言っていたんです 120年前でさえそうです 走れるよりも早く移動したら 死んでしまうと 地球から火星に 人間をビームでは送れないと 誰に言えるでしょう?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
(アンダーソン) 素晴らしく 刺激的なビジョンを見せていただき ありがとうございました セバスチャン・スランでした 素晴らしかった (拍手)