Chris Anderson: Help us understand what machine learning is, because that seems to be the key driver of so much of the excitement and also of the concern around artificial intelligence. How does machine learning work?
Chris Anderson : Expliquez-nous ce qu'est le « machine learning » car cela semble être le facteur clé de toute cette excitation et de toutes ces craintes autour de l'intelligence artificielle. Comment cela fonctionne-t-il ?
Sebastian Thrun: So, artificial intelligence and machine learning is about 60 years old and has not had a great day in its past until recently. And the reason is that today, we have reached a scale of computing and datasets that was necessary to make machines smart. So here's how it works. If you program a computer today, say, your phone, then you hire software engineers that write a very, very long kitchen recipe, like, "If the water is too hot, turn down the temperature. If it's too cold, turn up the temperature." The recipes are not just 10 lines long. They are millions of lines long. A modern cell phone has 12 million lines of code. A browser has five million lines of code. And each bug in this recipe can cause your computer to crash. That's why a software engineer makes so much money. The new thing now is that computers can find their own rules. So instead of an expert deciphering, step by step, a rule for every contingency, what you do now is you give the computer examples and have it infer its own rules.
Sebastian Thrun : L'intelligence artificielle et le « machine learning » remontent à environ 60 ans et n'ont pas eu leur heure de gloire jusqu'à récemment. La raison est qu'aujourd'hui, nous avons atteint l'échelle de puissance de calcul et de volume de données qui était nécessaire pour rendre les machines intelligentes. Voici comment cela fonctionne. Si vous voulez programmer un ordinateur, disons, votre téléphone, vous devez embaucher des ingénieurs logiciels qui écrivent une très, très longue recette de cuisine comme : « Si l'eau est trop chaude, baisse la température. Si l'eau est trop froide, augmente la température. » Les recettes n'ont pas juste 10 lignes. Elles ont des millions de lignes. Un téléphone mobile récent a 12 millions de lignes de code. Un navigateur internet 5 millions de lignes de code. Chaque erreur dans la recette peut provoquer une panne de votre ordinateur. C'est pourquoi un ingénieur logiciel gagne autant d'argent. La nouveauté est que les ordinateurs peuvent trouver leurs propres règles. Au lieu d'avoir un expert qui écrit, pas à pas, une règle pour chaque cas de figure, vous donnez maintenant à l'ordinateur des exemples pour qu'il déduise lui-même ses règles.
A really good example is AlphaGo, which recently was won by Google. Normally, in game playing, you would really write down all the rules, but in AlphaGo's case, the system looked over a million games and was able to infer its own rules and then beat the world's residing Go champion. That is exciting, because it relieves the software engineer of the need of being super smart, and pushes the burden towards the data. As I said, the inflection point where this has become really possible -- very embarrassing, my thesis was about machine learning. It was completely insignificant, don't read it, because it was 20 years ago and back then, the computers were as big as a cockroach brain. Now they are powerful enough to really emulate kind of specialized human thinking. And then the computers take advantage of the fact that they can look at much more data than people can. So I'd say AlphaGo looked at more than a million games. No human expert can ever study a million games. Google has looked at over a hundred billion web pages. No person can ever study a hundred billion web pages. So as a result, the computer can find rules that even people can't find.
Un bon exemple est AlphaGo, qui a récemment été acheté par Google. Normalement, dans les jeux, vous voulez écrire toutes les règles, mais dans le cas d'AlphaGo, le système a regardé plus d'un million de parties et a été en mesure de déduire ses propres règles et de battre le tenant du titre mondial du jeu de go. C'est excitant, car cela évite d'avoir à faire appel à des ingénieurs logiciels extrêmement intelligents, et repousse la contrainte vers les données. Comme je le disais, le point d'inflexion où cela est vraiment devenu possible -- très embarrassant, ma thèse était sur le « machine learning ». C'était complètement insignifiant, ne la lisez pas, car elle a 20 ans et alors, les ordinateurs étaient aussi gros que le cerveau d'un cafard. Ils sont maintenant assez puissants pour imiter une sorte de pensée humaine spécialisée. Les ordinateurs usent du fait qu'ils peuvent regarder beaucoup plus de données que les gens. J'ai dit qu'AlphaGo a regardé plus d'un million de parties. Aucun expert humain ne peut étudier un million de parties. Google a parcouru plus d'une centaine de milliards de pages web. Personne ne peut étudier une centaine de milliards de pages. En conséquence, un ordinateur peut trouver des règles que les humains ne peuvent pas trouver.
CA: So instead of looking ahead to, "If he does that, I will do that," it's more saying, "Here is what looks like a winning pattern, here is what looks like a winning pattern."
CA: Donc au lieu de suivre des règles comme « S'il fait cela, je fais ceci », c'est plus comme : « Voici à quoi ressemble un modèle de partie gagnante. »
ST: Yeah. I mean, think about how you raise children. You don't spend the first 18 years giving kids a rule for every contingency and set them free and they have this big program. They stumble, fall, get up, they get slapped or spanked, and they have a positive experience, a good grade in school, and they figure it out on their own. That's happening with computers now, which makes computer programming so much easier all of a sudden. Now we don't have to think anymore. We just give them lots of data.
ST : Oui. Pensez comment on élève les enfants. Vous ne passez pas 18 ans à donner aux enfants une règle pour chaque cas pour ensuite les libérer avec ce grand programme. Ils trébuchent, tombent, se lèvent, ils sont giflés ou fessés, ils ont une expérience positive, une bonne note à l'école, et ils comprennent par eux-mêmes. C'est pareil avec les ordinateurs, ce qui rend leur programmation beaucoup plus facile tout à coup. Plus besoin de penser à tout, il suffit d'avoir beaucoup de données.
CA: And so, this has been key to the spectacular improvement in power of self-driving cars. I think you gave me an example. Can you explain what's happening here?
CA : Donc, cela a été la clé de l'amélioration spectaculaire dans les voitures autonomes. Je pense que vous m'avez donné un exemple. Pouvez-vous expliquer comment cela fonctionne ?
ST: This is a drive of a self-driving car that we happened to have at Udacity and recently made into a spin-off called Voyage. We have used this thing called deep learning to train a car to drive itself, and this is driving from Mountain View, California, to San Francisco on El Camino Real on a rainy day, with bicyclists and pedestrians and 133 traffic lights. And the novel thing here is, many, many moons ago, I started the Google self-driving car team. And back in the day, I hired the world's best software engineers to find the world's best rules. This is just trained. We drive this road 20 times, we put all this data into the computer brain, and after a few hours of processing, it comes up with behavior that often surpasses human agility. So it's become really easy to program it. This is 100 percent autonomous, about 33 miles, an hour and a half.
ST : C'est le trajet d'un véhicule autonome que nous avons conçu à Udacity récemment transformée en un spin-off appelé Voyage. Nous avons utilisé ce qu'on appelle l'apprentissage profond pour lui apprendre à se conduire seule. Elle l'a fait, depuis Mountain View, en Californie, jusqu'à San Francisco sur El Camino Real par temps de pluie, avec des cyclistes, des piétons et 133 feux de circulation. La nouveauté, c'est que, dans le passé, j'ai lancé l'équipe véhicule autonome de Google et pour cela, j'ai engagé les meilleurs ingénieurs logiciels mondiaux pour trouver les meilleures règles. Là, nous l'avons juste entraînée. Nous avons pris cette route 20 fois, on a mis les données dans le cerveau de l'ordinateur, et après quelques heures de calculs, il est arrivé avec un comportement qui surpasse l'agilité humaine. C'est beaucoup plus facile à programmer. C'est 100% autonome, près de 53 km, une heure et demie.
CA: So, explain it -- on the big part of this program on the left, you're seeing basically what the computer sees as trucks and cars and those dots overtaking it and so forth.
CA : Bon, expliquez ceci -- sur la grande partie de ce programme à gauche, nous voyons ce que voit l'ordinateur comme les camions, les autos et tous ces points qui les rattrapent et ainsi de suite.
ST: On the right side, you see the camera image, which is the main input here, and it's used to find lanes, other cars, traffic lights. The vehicle has a radar to do distance estimation. This is very commonly used in these kind of systems. On the left side you see a laser diagram, where you see obstacles like trees and so on depicted by the laser. But almost all the interesting work is centering on the camera image now. We're really shifting over from precision sensors like radars and lasers into very cheap, commoditized sensors. A camera costs less than eight dollars.
ST : A droite, on voit l'image de la caméra, qui est la source principale ici, pour voir les lignes, les véhicules, les feux. Le véhicule a un radar pour estimer les distances. Ils sont souvent utilisés dans ce genre de systèmes. Sur la gauche, on voit un diagramme laser, où l'on voit des obstacles tels les arbres représentés par le laser. Mais l'effort principal porte sur l'image de la caméra. Nous passons de capteurs de précision comme les radars et les lasers vers des capteurs banalisés à très bas coût. Une caméra coûte moins de 8 dollars.
CA: And that green dot on the left thing, what is that? Is that anything meaningful?
CA : Et ce point vert à gauche, qu'est-ce que c'est ? C'est important ?
ST: This is a look-ahead point for your adaptive cruise control, so it helps us understand how to regulate velocity based on how far the cars in front of you are.
ST : C'est un point de vue anticipé pour le régulateur de vitesse, qui nous aide à comprendre comment réguler la vitesse en fonction de la distance de la voiture devant vous.
CA: And so, you've also got an example, I think, of how the actual learning part takes place. Maybe we can see that. Talk about this.
CA : Donc, vous avez aussi un exemple, je pense, de la façon dont la partie d'apprentissage a lieu. On peut peut-être parler de cela ?
ST: This is an example where we posed a challenge to Udacity students to take what we call a self-driving car Nanodegree. We gave them this dataset and said "Hey, can you guys figure out how to steer this car?" And if you look at the images, it's, even for humans, quite impossible to get the steering right. And we ran a competition and said, "It's a deep learning competition, AI competition," and we gave the students 48 hours. So if you are a software house like Google or Facebook, something like this costs you at least six months of work. So we figured 48 hours is great. And within 48 hours, we got about 100 submissions from students, and the top four got it perfectly right. It drives better than I could drive on this imagery, using deep learning. And again, it's the same methodology. It's this magical thing. When you give enough data to a computer now, and give enough time to comprehend the data, it finds its own rules.
ST : C'est un exemple de challenge proposé aux étudiants d'Udacity qui suivent notre « Nano Diplôme » de véhicule autonome. On leur donne ce jeu de données en leur demandant « Trouvez comment conduire cette auto ». Si vous regardez les images, c'est, même pour les humains, quasi-impossible de conduire correctement. On a organisé une compétition d'apprentissage profond, une compétition d'IA, et on a donné 48 heures aux étudiants. Pour une entreprise de logiciels telle que Google et Facebook, un tel projet peut prendre au moins six mois de travail. On s'est dit 48 heures serait super. En 48 heures, nous avons reçu 100 soumissions d'étudiants, et les quatre premiers ont parfaitement réussi. Elle conduit mieux que je pourrais le faire sur ces images, avec l'apprentissage profond. C'est encore la même méthodologie. C'est une chose magique. Si un ordinateur a suffisamment de données et suffisamment de temps pour comprendre, il trouve ses propres règles.
CA: And so that has led to the development of powerful applications in all sorts of areas. You were talking to me the other day about cancer. Can I show this video?
CA : Cela a mené au développement d'applications puissantes dans toutes sortes de domaines. Vous me parliez l'autre jour du cancer. Puis-je montrer cette vidéo ?
ST: Yeah, absolutely, please. CA: This is cool.
ST : Oui, bien sûr, allez-y. CA : Merci.
ST: This is kind of an insight into what's happening in a completely different domain. This is augmenting, or competing -- it's in the eye of the beholder -- with people who are being paid 400,000 dollars a year, dermatologists, highly trained specialists. It takes more than a decade of training to be a good dermatologist. What you see here is the machine learning version of it. It's called a neural network. "Neural networks" is the technical term for these machine learning algorithms. They've been around since the 1980s. This one was invented in 1988 by a Facebook Fellow called Yann LeCun, and it propagates data stages through what you could think of as the human brain. It's not quite the same thing, but it emulates the same thing. It goes stage after stage. In the very first stage, it takes the visual input and extracts edges and rods and dots. And the next one becomes more complicated edges and shapes like little half-moons. And eventually, it's able to build really complicated concepts. Andrew Ng has been able to show that it's able to find cat faces and dog faces in vast amounts of images.
ST : C'est une sorte d'aperçu de ce qui se passe dans un domaine complètement différent. Ceci augmente, ou concurrence -- selon le point de vue -- des personnes qui sont payées 400 000 $ par an, les dermatologues, des spécialistes entraînés. Cela prend plus de 10 ans pour devenir un bon dermatologue. Ce que vous voyez ici en est la version « machine learning ». Cela s'appelle un réseau neuronal. « Réseau neuronal » est le terme technique pour ces algorithmes d'apprentissage. Ils sont là depuis les années 80. Celui-ci a été inventé en 1988 par un camarade de Facebook appelé Yann LeCun, et il propage les données par étape à travers ce qui s'apparente à un cerveau humain. Ce n'est pas la même chose, mais il simule la même chose. Il procède étape par étape. Dans la première étape, il prend le visuel et extrait les contours et les barres et points. Les contours de l'image deviennent plus complexes, avec des formes comme des demi-lunes. Finalement, il est capable de construire des concepts très compliqués. Andrew Ng a été en mesure de montrer que l'on peut trouver des têtes de chat et de chien parmi de nombreuses images.
What my student team at Stanford has shown is that if you train it on 129,000 images of skin conditions, including melanoma and carcinomas, you can do as good a job as the best human dermatologists. And to convince ourselves that this is the case, we captured an independent dataset that we presented to our network and to 25 board-certified Stanford-level dermatologists, and compared those. And in most cases, they were either on par or above the performance classification accuracy of human dermatologists.
Ce que mes étudiants de Stanford ont montré, est que si on l'entraîne sur 129 000 images de maladie de la peau, incluant les mélanomes et les carcinomes, on peut faire un aussi bon travail que le meilleur dermatologue humain. Pour se convaincre que c'est le cas, on a pris un jeu de données indépendant que l'on a présenté à notre réseau et à 25 dermatologues certifiés du niveau de Stanford et on les a comparés. Dans la plupart des cas, il était au niveau ou au-dessus des performances de classifications des dermatologues humains.
CA: You were telling me an anecdote. I think about this image right here. What happened here?
CA : Vous me racontiez une anecdote je pense que c'est cette image. Que s'est-il passé ?
ST: This was last Thursday. That's a moving piece. What we've shown before and we published in "Nature" earlier this year was this idea that we show dermatologists images and our computer program images, and count how often they're right. But all these images are past images. They've all been biopsied to make sure we had the correct classification. This one wasn't. This one was actually done at Stanford by one of our collaborators. The story goes that our collaborator, who is a world-famous dermatologist, one of the three best, apparently, looked at this mole and said, "This is not skin cancer." And then he had a second moment, where he said, "Well, let me just check with the app." So he took out his iPhone and ran our piece of software, our "pocket dermatologist," so to speak, and the iPhone said: cancer. It said melanoma. And then he was confused. And he decided, "OK, maybe I trust the iPhone a little bit more than myself," and he sent it out to the lab to get it biopsied. And it came up as an aggressive melanoma. So I think this might be the first time that we actually found, in the practice of using deep learning, an actual person whose melanoma would have gone unclassified, had it not been for deep learning.
ST : C'était jeudi dernier. C'est émouvant. Nous avons montré et publié dans « Nature » cette année, la comparaison du taux de réussite entre des dermatologues et notre programme, pour identifier des mélanomes. Mais ces images viennent du passé. Toutes ont été biopsiées pour assurer une classification correcte. Celle-ci ne l'était pas. Celle-ci a été faite par l'un de nos collaborateurs à Stanford. Ce qui s'est passé, c'est que ce collaborateur, qui est un dermatologue célèbre, l'un des trois meilleurs, apparemment, regardait ce grain de beauté et disait : « Ce n'est pas un cancer. » Puis, il a réfléchi, et il s'est dit : « Autant vérifier avec l'application. » Il a pris son iPhone et a lancé notre logiciel, notre « dermatologue de poche », et l'iPhone a dit : « C'est un cancer. » Il a reconnu un mélanome. Le dermatologue était perplexe : « Peut-être que j'ai un peu plus confiance dans l'iPhone qu'en moi-même », et il envoya le tout au labo pour une biopsie. Il s'est avéré que c'était un mélanome agressif. Je pense que c'était la première fois que l'on a effectivement trouvé, en utilisant des techniques d'apprentissage profond, une personne ayant un mélanome qui aurait été non diagnostiqué, s'il n'y avait pas eu l'apprentissage profond.
CA: I mean, that's incredible.
CA : C'est incroyable !
(Applause)
(Applaudissements)
It feels like there'd be an instant demand for an app like this right now, that you might freak out a lot of people. Are you thinking of doing this, making an app that allows self-checking?
Mais s'il y avait une demande instantanée pour une telle application, cela pourrait effrayer beaucoup de gens. Pensez-vous rendre cet auto-diagnostic disponible ?
ST: So my in-box is flooded about cancer apps, with heartbreaking stories of people. I mean, some people have had 10, 15, 20 melanomas removed, and are scared that one might be overlooked, like this one, and also, about, I don't know, flying cars and speaker inquiries these days, I guess. My take is, we need more testing. I want to be very careful. It's very easy to give a flashy result and impress a TED audience. It's much harder to put something out that's ethical. And if people were to use the app and choose not to consult the assistance of a doctor because we get it wrong, I would feel really bad about it. So we're currently doing clinical tests, and if these clinical tests commence and our data holds up, we might be able at some point to take this kind of technology and take it out of the Stanford clinic and bring it to the entire world, places where Stanford doctors never, ever set foot.
ST: Ma messagerie est inondée de questions à ce sujet, avec des histoires déchirantes de personnes, dont certaines avaient eu 10, 15 ou 20 mélanomes enlevés, et étaient effrayés qu'un d'entre eux, comme celui-ci, passe inaperçu, et aussi, des demandes concernant des autos volantes, ou de participation à des conférences. Selon moi, nous avons besoin de plus de tests. Je veux être très prudent. C'est facile de publier des résultats tape-à-l’œil pour impressionner TED. C'est plus dur de construire quelque chose d'éthique. Si les gens utilisent l'application et choisissent de ne pas recourir à l'assistance d'un médecin et que nous nous trompons, je me sentirais vraiment mal. Nous conduisons des tests cliniques et si ces tests se poursuivent, et que les données se tiennent, on pourrait un jour utiliser ce type de technologie et sortir de la clinique de Stanford, pour l'apporter au reste du monde, dans des endroits où les docteurs de Stanford ne sont jamais allés.
CA: And do I hear this right, that it seemed like what you were saying, because you are working with this army of Udacity students, that in a way, you're applying a different form of machine learning than might take place in a company, which is you're combining machine learning with a form of crowd wisdom. Are you saying that sometimes you think that could actually outperform what a company can do, even a vast company?
CA : Est-ce que j'entends bien, il semble que vous disiez, parce que vous travaillez avec cette armée d'étudiants d'Udacity, que vous appliquez une forme différente de « machine learning » que celle utilisée dans une entreprise, une combinaison d'apprentissage automatique et de sagesse de foule. Pensez-vous que parfois vous pouvez surpasser ce qu'une entreprise peut réaliser, même une très grande ?
ST: I believe there's now instances that blow my mind, and I'm still trying to understand. What Chris is referring to is these competitions that we run. We turn them around in 48 hours, and we've been able to build a self-driving car that can drive from Mountain View to San Francisco on surface streets. It's not quite on par with Google after seven years of Google work, but it's getting there. And it took us only two engineers and three months to do this. And the reason is, we have an army of students who participate in competitions. We're not the only ones who use crowdsourcing. Uber and Didi use crowdsource for driving. Airbnb uses crowdsourcing for hotels. There's now many examples where people do bug-finding crowdsourcing or protein folding, of all things, in crowdsourcing. But we've been able to build this car in three months, so I am actually rethinking how we organize corporations.
ST : Je crois qu'il y a des cas qui m'époustouflent, et j'essaie toujours de comprendre. Ce à quoi Chris fait allusion, sont les compétitions que nous organisons. En environ 48 heures, nous avons réussi à construire un véhicule autonome capable d'aller de Moutain View à San Francisco sur la route. Ce n'est pas équivalent à Google, après 7 ans de développement, mais cela s'en approche. Cela nous a pris deux ingénieurs et trois mois pour faire cela. La raison est que nous avons une armée d'étudiants qui participent à ces compétitions. D'autres utilisent aussi le « crowdsourcing ». Uber et Didi l'utilisent pour la conduite, Airbnb l'utilise pour les hôtels. Beaucoup d'entreprises font rechercher des bugs en « crowdsourcing » ou pour le pliage de protéines, ou pour toutes sortes de projets. On a été capable de construire cette voiture en trois mois, donc je réfléchis en ce moment à organiser les entreprises.
We have a staff of 9,000 people who are never hired, that I never fire. They show up to work and I don't even know. Then they submit to me maybe 9,000 answers. I'm not obliged to use any of those. I end up -- I pay only the winners, so I'm actually very cheapskate here, which is maybe not the best thing to do. But they consider it part of their education, too, which is nice. But these students have been able to produce amazing deep learning results. So yeah, the synthesis of great people and great machine learning is amazing.
On a un effectif de 9 000 personnes qui ne sont jamais embauchées, qui ne sont jamais virées. Elles se vont travailler, je ne le sais même pas. Puis elles me soumettent peut-être 9 000 réponses. Je ne suis pas obligé d'en utiliser une. A la fin, je paye seulement les gagnants, -- ce n'est pas très généreux, et peut-être pas la meilleure chose à faire. Mais elles considèrent cela comme une part de leur formation. Mais ces étudiants ont été capables de produire des résultats extraordinaires Donc oui, combiner capacités humaines et apprentissage machine est incroyable.
CA: I mean, Gary Kasparov said on the first day [of TED2017] that the winners of chess, surprisingly, turned out to be two amateur chess players with three mediocre-ish, mediocre-to-good, computer programs, that could outperform one grand master with one great chess player, like it was all part of the process. And it almost seems like you're talking about a much richer version of that same idea.
CA : Gary Kasparov a dit lors du premier jour [de TED2017] que les vainqueurs aux échecs se sont avérés être deux joueurs amateurs avec trois programmes informatiques médiocres ou médiocres-à-bons qui pouvaient surpasser un grand maître comme si cela faisait partie du processus. C'est comme si vous parliez d'une version bien plus riche de la même idée.
ST: Yeah, I mean, as you followed the fantastic panels yesterday morning, two sessions about AI, robotic overlords and the human response, many, many great things were said. But one of the concerns is that we sometimes confuse what's actually been done with AI with this kind of overlord threat, where your AI develops consciousness, right? The last thing I want is for my AI to have consciousness. I don't want to come into my kitchen and have the refrigerator fall in love with the dishwasher and tell me, because I wasn't nice enough, my food is now warm. I wouldn't buy these products, and I don't want them. But the truth is, for me, AI has always been an augmentation of people. It's been an augmentation of us, to make us stronger. And I think Kasparov was exactly correct. It's been the combination of human smarts and machine smarts that make us stronger. The theme of machines making us stronger is as old as machines are. The agricultural revolution took place because it made steam engines and farming equipment that couldn't farm by itself, that never replaced us; it made us stronger. And I believe this new wave of AI will make us much, much stronger as a human race.
ST : Oui, quand nous écoutions le fantastique panel hier matin, ces deux sessions sur l'IA, la domination robotique et la réponse humaine, de très grandes choses ont été dites. Le problème est que l'on confond parfois ce qui peut réellement être fait par l'IA avec cette sorte de menace de domination, où votre IA développerait une conscience. La dernière chose que je veux est une IA consciente. Je ne veux pas aller dans ma cuisine et trouver mon réfrigérateur, amoureux du lave-vaisselle, qui me dise que comme je ne suis pas gentil, ma nourriture n'est plus au frais. Je n'achèterais pas ces produits et je n'en veux pas. Mais à dire vrai, pour moi, le rôle de l'IA a toujours été d'augmenter les capacités. C'est une amélioration pour nous, pour nous rendre plus forts. Je pense que la remarque de Kasparov était très juste. C'est la combinaison d'humains et de machines intelligents qui nous rend plus forts. Cette idée de machines nous rendant plus forts est aussi vieille que les machines. La révolution agricole a eu lieu avec des machines à vapeur, des équipements agricoles ne sachant pas cultiver seuls, ils ne nous ont pas remplacés mais rendus plus forts. Je pense que cette nouvelle génération d'IA nous rendra beaucoup plus forts en tant que race humaine.
CA: We'll come on to that a bit more, but just to continue with the scary part of this for some people, like, what feels like it gets scary for people is when you have a computer that can, one, rewrite its own code, so, it can create multiple copies of itself, try a bunch of different code versions, possibly even at random, and then check them out and see if a goal is achieved and improved. So, say the goal is to do better on an intelligence test. You know, a computer that's moderately good at that, you could try a million versions of that. You might find one that was better, and then, you know, repeat. And so the concern is that you get some sort of runaway effect where everything is fine on Thursday evening, and you come back into the lab on Friday morning, and because of the speed of computers and so forth, things have gone crazy, and suddenly --
CA : Nous reviendrons là-dessus, mais juste pour rester sur la partie qui effraie certains, cela peut être effrayant pour certains lorsqu'un ordinateur peut réécrire son propre code et qu'il peut créer de multiples copies de lui-même, essayer différentes versions de son code, peut-être même au hasard, et vérifier plus tard si le but est atteint et amélioré. Donc, disons que le but est de faire mieux sur un test d'intelligence. Pour un ordinateur modérément bon, vous pourriez essayer un million de versions de cela. Vous pourriez en trouver une meilleure, et alors, vous savez, vous répétez. Vous pourriez obtenir une sorte d'effet d'emballement où tout est correct le jeudi soir, et vous revenez dans le labo le vendredi matin, et en raison de la vitesse des ordinateurs, les choses sont soudain devenues folles.
ST: I would say this is a possibility, but it's a very remote possibility. So let me just translate what I heard you say. In the AlphaGo case, we had exactly this thing: the computer would play the game against itself and then learn new rules. And what machine learning is is a rewriting of the rules. It's the rewriting of code. But I think there was absolutely no concern that AlphaGo would take over the world. It can't even play chess.
ST : Je dirais que c'est une possibilité, mais une possibilité peu probable. Laissez-moi traduire ce que vous venez de dire. Dans le cas d'AlphaGo, nous avons exactement cela : l'ordinateur jouait le jeu contre lui-même et apprenait de nouvelles règles. Et l'apprentissage automatique est une réécriture des règles. C'est la réécriture du code. Mais je pense qu'il n'y a absolument aucun risque qu'AlphaGo domine le monde. Il ne sait même pas jouer aux échecs.
CA: No, no, no, but now, these are all very single-domain things. But it's possible to imagine. I mean, we just saw a computer that seemed nearly capable of passing a university entrance test, that can kind of -- it can't read and understand in the sense that we can, but it can certainly absorb all the text and maybe see increased patterns of meaning. Isn't there a chance that, as this broadens out, there could be a different kind of runaway effect?
CA : Non, bien sûr, aujourd'hui ce sont des systèmes mono-domaines. Mais il est possible d'imaginer... Nous venons de voir un ordinateur qui semble presque capable de passer un test d'entrée universitaire. Ce genre de -- il ne peut lire et comprendre comme on le fait, mais il peut absorber tout le texte et peut-être révéler des modèles qui ont du sens. N'y a-t-il pas une chance qu'avec l'évolution de la technologie, il puisse y avoir un nouvel effet d'emballement ?
ST: That's where I draw the line, honestly. And the chance exists -- I don't want to downplay it -- but I think it's remote, and it's not the thing that's on my mind these days, because I think the big revolution is something else. Everything successful in AI to the present date has been extremely specialized, and it's been thriving on a single idea, which is massive amounts of data. The reason AlphaGo works so well is because of massive numbers of Go plays, and AlphaGo can't drive a car or fly a plane. The Google self-driving car or the Udacity self-driving car thrives on massive amounts of data, and it can't do anything else. It can't even control a motorcycle. It's a very specific, domain-specific function, and the same is true for our cancer app. There has been almost no progress on this thing called "general AI," where you go to an AI and say, "Hey, invent for me special relativity or string theory." It's totally in the infancy.
ST : C'est là que je trace la frontière, honnêtement. C'est possible, je ne veux pas le minimiser, mais cela reste très faible, et pas d'actualité pour le moment parce que je pense que la grande révolution est ailleurs. Tous les succès de l'Intelligence Artificielle à ce jour ont été extrêmement spécialisés, et cela repose sur une seule idée, qui est cet incroyable volume de données. AlphaGo fonctionne si bien du fait de l'immense nombre de parties de go jouées et AlphaGo ne peut ni conduire une voiture ni piloter un avion. La voiture autonome Google ou celle d'Udacity repose sur un volume immense de données, et elle ne peut rien faire d'autre. Il ne peut pas conduire une moto. C'est une fonction très spécifique à un domaine donné, c'est pareil pour le cancer. Il n'y a eu aucun progrès sur ce concept appelé « IA générale », où vous allez voir l'IA et dites : « Invente une théorie sur la relativité ou sur la théorie des cordes. » C'est à un stade de balbutiement.
The reason I want to emphasize this, I see the concerns, and I want to acknowledge them. But if I were to think about one thing, I would ask myself the question, "What if we can take anything repetitive and make ourselves 100 times as efficient?" It so turns out, 300 years ago, we all worked in agriculture and did farming and did repetitive things. Today, 75 percent of us work in offices and do repetitive things. We've become spreadsheet monkeys. And not just low-end labor. We've become dermatologists doing repetitive things, lawyers doing repetitive things. I think we are at the brink of being able to take an AI, look over our shoulders, and they make us maybe 10 or 50 times as effective in these repetitive things. That's what is on my mind.
La raison qui me pousse à souligner cela, c'est que je vois les craintes, et je veux les reconnaître. Si je devais penser à une chose, je me poserais la question « Et si je pouvais prendre une tâche répétitive et nous rendre 100 fois plus efficaces ? » Il s'avère qu'il y a 300 ans, on était tous agriculteurs, cultivait et faisait des tâches répétitives. Aujourd'hui, 75% des personnes travaillent au bureau à des tâches répétitives. Nous sommes devenus des singes de tableurs. Et pas seulement le travail bas de gamme. Les dermatologues font des tâches répétitives, les avocats font des tâches répétitives. Je pense que nous sommes à un point où l'IA va pouvoir nous aider, regarder par-dessus notre épaule, et nous rendre 10 ou 50 fois plus efficaces pour ces tâches répétitives. C'est ce que je pense.
CA: That sounds super exciting. The process of getting there seems a little terrifying to some people, because once a computer can do this repetitive thing much better than the dermatologist or than the driver, especially, is the thing that's talked about so much now, suddenly millions of jobs go, and, you know, the country's in revolution before we ever get to the more glorious aspects of what's possible.
CA : Cela semble très excitant. Le processus pour s'y rendre semble un peu terrifiant pour certains, car une fois qu'un ordinateur peut faire des choses répétitives mieux qu'un dermatologue ou qu'un chauffeur, par exemple, puisqu'on en parle beaucoup en ce moment, soudain des millions d'emplois disparaissent, et le pays est en révolution avant que nous n'atteignions l'aspect glorieux de ce qui est possible.
ST: Yeah, and that's an issue, and it's a big issue, and it was pointed out yesterday morning by several guest speakers. Now, prior to me showing up onstage, I confessed I'm a positive, optimistic person, so let me give you an optimistic pitch, which is, think of yourself back 300 years ago. Europe just survived 140 years of continuous war, none of you could read or write, there were no jobs that you hold today, like investment banker or software engineer or TV anchor. We would all be in the fields and farming. Now here comes little Sebastian with a little steam engine in his pocket, saying, "Hey guys, look at this. It's going to make you 100 times as strong, so you can do something else." And then back in the day, there was no real stage, but Chris and I hang out with the cows in the stable, and he says, "I'm really concerned about it, because I milk my cow every day, and what if the machine does this for me?"
ST : Oui, et c'est un problème, un problème important et il a été pointé hier matin par plusieurs orateurs. Avant de monter sur scène, je confesse être positif et optimiste, donc laissez-moi vous porter un discours optimiste, qui est... Replongez-vous 300 ans en arrière. L'Europe vient juste de survivre à 140 ans de guerre ininterrompue, personne ne sait lire ou écrire, les emplois que vous avez n'existent même pas, tel que banquier en investissement, ingénieur logiciel ou présentateur TV. Nous serions tous aux champs à cultiver. Voilà le petit Sebastian avec une petite machine à vapeur dans la poche, disant : « Hé les gars, regardez ça. Cela va vous rendre 100 fois plus forts, et vous libérer du temps. » Dans ces temps-là, il n'y avait pas de podium, mais Chris et moi sommes dans l'étable avec les vaches, et il dit : « Je suis inquiet : je trais ma vache tous les jours, et si la machine le fait pour moi ? »
The reason why I mention this is, we're always good in acknowledging past progress and the benefit of it, like our iPhones or our planes or electricity or medical supply. We all love to live to 80, which was impossible 300 years ago. But we kind of don't apply the same rules to the future. So if I look at my own job as a CEO, I would say 90 percent of my work is repetitive, I don't enjoy it, I spend about four hours per day on stupid, repetitive email. And I'm burning to have something that helps me get rid of this. Why? Because I believe all of us are insanely creative; I think the TED community more than anybody else. But even blue-collar workers; I think you can go to your hotel maid and have a drink with him or her, and an hour later, you find a creative idea. What this will empower is to turn this creativity into action. Like, what if you could build Google in a day? What if you could sit over beer and invent the next Snapchat, whatever it is, and tomorrow morning it's up and running?
La raison pour laquelle je le mentionne est... Nous voyons facilement le progrès passé et ses bénéfices, comme les iPhone, les avions, l'électricité ou les médicaments. Nous allons tous vivre jusque 80 ans ce qui était impossible il y a 300 ans. Mais on n'applique pas les mêmes règles pour le futur. Si je regarde à mon propre travail en tant que PDG, je dirais que 90% de mon travail est répétitif, je n'y prends pas de plaisir, je passe près de 4 heures par jour sur des courriels répétitifs stupides. J'ai hâte d'avoir quelque chose qui m'aide à me débarrasser de ces tâches. Pourquoi ? Parce que je crois que nous sommes follement créatifs, la communauté TED plus que n'importe quelle autre. Mais aussi les cols bleus : vous pouvez aller voir votre femme de chambre et boire un verre avec elle, et une heure après, vous trouverez une idée créative. Ce que cela va permettre est de transformer cette créativité en action. Comme par exemple, si on pouvait construire Google en un jour ? Si on pouvait, assis autour d'une bière, inventer le prochain Snapchat, quoi que que ce soit, et que cela marche demain matin ?
And that is not science fiction. What's going to happen is, we are already in history. We've unleashed this amazing creativity by de-slaving us from farming and later, of course, from factory work and have invented so many things. It's going to be even better, in my opinion. And there's going to be great side effects. One of the side effects will be that things like food and medical supply and education and shelter and transportation will all become much more affordable to all of us, not just the rich people.
Ce n'est pas de la science-fiction. Ce qui va se passer est que nous sommes déjà dans l'histoire. On a libéré cette étonnante créativité en se libérant de l'agriculture et plus tard, du travail en usine, et on a inventé tant de choses. Cela va être encore mieux, selon moi. Il va y avoir de grands effets secondaires. Un des effets de bord sera que les choses comme la nourriture, les médicaments, l'éducation, le logement et le transport seront plus abordables pour nous tous, pas seulement les gens riches.
CA: Hmm. So when Martin Ford argued, you know, that this time it's different because the intelligence that we've used in the past to find new ways to be will be matched at the same pace by computers taking over those things, what I hear you saying is that, not completely, because of human creativity. Do you think that that's fundamentally different from the kind of creativity that computers can do?
CA : Hum. Donc quand Martin Ford argumente que cette fois c'est différent car l'intelligence employée dans le passé pour trouver de nouvelles façons d'être sera égalée au même rythme que les ordinateurs qui prennent en charge cela, vous dites, vous, non, pas complétement en raison de la créativité des humains. Pensez-vous que c'est fondamentalement différent de la créativité que les ordinateurs peuvent avoir ?
ST: So, that's my firm belief as an AI person -- that I haven't seen any real progress on creativity and out-of-the-box thinking. What I see right now -- and this is really important for people to realize, because the word "artificial intelligence" is so threatening, and then we have Steve Spielberg tossing a movie in, where all of a sudden the computer is our overlord, but it's really a technology. It's a technology that helps us do repetitive things. And the progress has been entirely on the repetitive end. It's been in legal document discovery. It's been contract drafting. It's been screening X-rays of your chest. And these things are so specialized, I don't see the big threat of humanity. In fact, we as people -- I mean, let's face it: we've become superhuman. We've made us superhuman. We can swim across the Atlantic in 11 hours. We can take a device out of our pocket and shout all the way to Australia, and in real time, have that person shouting back to us. That's physically not possible. We're breaking the rules of physics. When this is said and done, we're going to remember everything we've ever said and seen, you'll remember every person, which is good for me in my early stages of Alzheimer's. Sorry, what was I saying? I forgot.
ST : C'est ce que je crois vraiment en tant qu'expert de l'IA -- je n'ai pas réellement vu de progrès en créativité ou en pensée créative. Ce que je vois maintenant, et c'est important pour les gens de le réaliser, car ce terme « intelligence artificielle » est alarmant et soudain Steven Spielberg nous jette dans un film, où tout à coup l'ordinateur domine l'humanité, mais c'est juste de la technologie. C'est une technologie qui nous aide à faire des tâches répétitives. Et les progrès ont été faits sur ces tâches répétitives. Dans la découverte des documents légaux. Dans l'élaboration de contrats. Dans l'interprétation de radios des poumons. Ces choses sont si spécialisées, que je ne vois pas la grande menace pour l'humanité. En fait, nous en tant qu'humains, avouons-le, nous devenons super-humains. Nous sommes devenus super-humains. Nous pouvons traverser l'Atlantique à la nage en 11 heures. Nous pouvons sortir un équipement de notre poche et crier jusqu'en en Australie, et en temps réel, la personne peut nous répondre. C'est physiquement impossible. Nous brisons les règles de la physique. Quand cela sera dit et fait, nous nous rappellerons de tout ce qui a été dit et fait, nous nous souviendrons de tous, ce qui est une bonne chose avec mes débuts d'Alzheimer. Désolé, je disais ? J'ai oublié.
CA: (Laughs)
CA : (Rires)
ST: We will probably have an IQ of 1,000 or more. There will be no more spelling classes for our kids, because there's no spelling issue anymore. There's no math issue anymore. And I think what really will happen is that we can be super creative. And we are. We are creative. That's our secret weapon.
ST : Nous allons probablement avoir un QI de 1 000 et plus. Il n'y aura plus de cours d'orthographe pour nos enfants, car il n'y aura plus de problèmes d'orthographe. Plus de problèmes de maths. Je pense que ce qui va se passer est que l'on va devenir super créatifs. On l'est. On est super créatifs. C'est notre arme secrète.
CA: So the jobs that are getting lost, in a way, even though it's going to be painful, humans are capable of more than those jobs. This is the dream. The dream is that humans can rise to just a new level of empowerment and discovery. That's the dream.
CA : Donc les emplois perdus, dans un sens, même si cela est douloureux, les humains sont capables de plus que ces emplois. C'est le rêve. Le rêve est que les humains puissent s'élever à un nouveau niveau d'autonomie et de découverte. C'est le rêve.
ST: And think about this: if you look at the history of humanity, that might be whatever -- 60-100,000 years old, give or take -- almost everything that you cherish in terms of invention, of technology, of things we've built, has been invented in the last 150 years. If you toss in the book and the wheel, it's a little bit older. Or the axe. But your phone, your sneakers, these chairs, modern manufacturing, penicillin -- the things we cherish. Now, that to me means the next 150 years will find more things. In fact, the pace of invention has gone up, not gone down, in my opinion. I believe only one percent of interesting things have been invented yet. Right? We haven't cured cancer. We don't have flying cars -- yet. Hopefully, I'll change this. That used to be an example people laughed about. (Laughs) It's funny, isn't it? Working secretly on flying cars. We don't live twice as long yet. OK? We don't have this magic implant in our brain that gives us the information we want. And you might be appalled by it, but I promise you, once you have it, you'll love it. I hope you will. It's a bit scary, I know.
ST: Pensez à cela : si on regarde l'histoire de l'humanité, qui peut avoir, à peu près, 60-100 000 ans, presque tout ce que l'on peut chérir comme inventions, comme technologies, ces choses qu'on a créées, l'ont été dans les 150 dernières années. Si on exclut le livre et la roue, qui sont un peu plus anciens. Ou la hache. Mais le téléphone, les baskets, ces chaises, la fabrication moderne, la pénicilline -- tout ce que l'on chérit. Pour moi, cela signifie que nous découvrirons de nouvelles choses dans les 150 prochaines années En fait, le rythme des inventions a augmenté et non diminué, selon moi. Je crois que seulement 1% des choses intéressantes ont déjà été inventées. On n'a pas soigné le cancer. Nous n'avons pas de voitures volantes, pas encore. J'espère que je vais changer ça. C'était un exemple où les gens riaient. (Rires). C'est drôle, non ? Travailler secrètement sur les voitures volantes. On ne vit pas encore deux fois plus longtemps. Nous n'avons pas cet implant magique dans le cerveau qui nous fournit l'information voulue. Vous pourriez être consternés, mais je vous promets, vous l'aimerez quand vous l'aurez ! J'espère. C'est un peu effrayant, je sais.
There are so many things we haven't invented yet that I think we'll invent. We have no gravity shields. We can't beam ourselves from one location to another. That sounds ridiculous, but about 200 years ago, experts were of the opinion that flight wouldn't exist, even 120 years ago, and if you moved faster than you could run, you would instantly die. So who says we are correct today that you can't beam a person from here to Mars?
Il reste tant de choses à inventer et que l'on inventera. On n'a pas de bouclier de gravité. On ne peut pas se téléporter. Ça a l'air ridicule, mais il y a environ 200 ans, des experts pensaient qu'on ne pourrait pas voler, même il y a 120 ans, et que si on allait plus vite que la vitesse de course, on mourrait instantanément. Qui pourrait dire aujourd'hui qu'on ne peut pas téléporter une personne d'ici sur Mars ?
CA: Sebastian, thank you so much for your incredibly inspiring vision and your brilliance. Thank you, Sebastian Thrun. That was fantastic. (Applause)
CA : Sebastian, merci beaucoup pour votre incroyable vision inspirante et votre génie. Merci. Sebastian Thrun. C'était fantastique. (Applaudissements)