This story begins in 1985, when at age 22, I became the World Chess Champion after beating Anatoly Karpov. Earlier that year, I played what is called simultaneous exhibition against 32 of the world's best chess-playing machines in Hamburg, Germany. I won all the games, and then it was not considered much of a surprise that I could beat 32 computers at the same time. To me, that was the golden age.
Cette histoire commence en 1985 quand, à l'âge de 22 ans, je suis devenu champion du monde d'échecs en battant Anatoly Karpov. Plus tôt cette même année, j'ai participé à ce qu'on appelle une série de parties simultanées contre 32 des machines joueuses d'échecs les plus performantes à Hambourg. Je les ai toutes gagnées et à l'époque, ça n'avait rien de surprenant que je puisse battre 32 ordinateurs simultanément. Ah, pour moi, c'était l'âge d'or.
(Laughter)
(Rires)
Machines were weak, and my hair was strong.
Les machines avaient peu de puissance et moi, j'avais des cheveux.
(Laughter)
(Rires)
Just 12 years later, I was fighting for my life against just one computer in a match called by the cover of "Newsweek" "The Brain's Last Stand." No pressure.
Douze ans plus tard seulement, je me retrouvais à m'échiner contre un seul ordinateur dans une partie, surnommée en couverture de Newsweek, « le dernier combat du cerveau ». Pas de pression, donc.
(Laughter)
(Rires)
From mythology to science fiction, human versus machine has been often portrayed as a matter of life and death. John Henry, called the steel-driving man in the 19th century African American folk legend, was pitted in a race against a steam-powered hammer bashing a tunnel through mountain rock. John Henry's legend is a part of a long historical narrative pitting humanity versus technology. And this competitive rhetoric is standard now. We are in a race against the machines, in a fight or even in a war. Jobs are being killed off. People are being replaced as if they had vanished from the Earth. It's enough to think that the movies like "The Terminator" or "The Matrix" are nonfiction.
De la mythologie à la science-fiction, l'affrontement de l'humain et de la machine a souvent été vu comme une question de vie ou de mort. John Henry, qu'on appelle le pousseur d'acier dans la légende folklorique afro-américaine du XIXème siècle, s'est mesuré, pour un pari, à un marteau à vapeur pour creuser un tunnel dans la roche. La légende de John Henry appartient à un corps plus large de récits qui oppose l'humanité à la technologie. Cette rhétorique de la compétition est monnaie courante. Nous faisons la course contre les machines ou nous menons un combat ou même une guerre. Des emplois disparaissent. Des gens sont remplacés comme s'ils n'avaient jamais existé. Il y a de quoi penser que des films comme « Terminator » ou « Matrix » sont du documentaire.
There are very few instances of an arena where the human body and mind can compete on equal terms with a computer or a robot. Actually, I wish there were a few more. Instead, it was my blessing and my curse to literally become the proverbial man in the man versus machine competition that everybody is still talking about. In the most famous human-machine competition since John Henry, I played two matches against the IBM supercomputer, Deep Blue. Nobody remembers that I won the first match --
Il y a très peu d'exemples de domaines où le corps et l'esprit humain peuvent être à égalité avec un ordinateur ou un robot. J'aimerais en fait qu'il y en ait plus. Au lieu de ça, ça a été une bénédiction et une malédiction pour moi de devenir précisément ce fameux homme dans cette compétition entre l'homme et la machine dont tout le monde parle encore. Lors de l'affrontement homme-machine le plus célèbre depuis John Henry, j'ai joué deux séries de parties contre le superordinateur d'IBM Deep Blue. On ne se souvient jamais que j'ai gagné la première...
(Laughter)
(Rires)
(Applause)
(Applaudissements)
In Philadelphia, before losing the rematch the following year in New York. But I guess that's fair. There is no day in history, special calendar entry for all the people who failed to climb Mt. Everest before Sir Edmund Hillary and Tenzing Norgay made it to the top. And in 1997, I was still the world champion when chess computers finally came of age. I was Mt. Everest, and Deep Blue reached the summit. I should say of course, not that Deep Blue did it, but its human creators -- Anantharaman, Campbell, Hoane, Hsu. Hats off to them. As always, machine's triumph was a human triumph, something we tend to forget when humans are surpassed by our own creations.
à Philadelphie, avant de perdre la revanche en 1997 à New York. Mais bon, ce n'est que justice. Il n'y a pas de date anniversaire, de jour spécial au calendrier pour tous les gens qui n'ont pas réussi à escalader l'Everest avant que Sir Edmund Hillary et Tenzing Norgay ne parviennent au sommet. Et en 1997, j'étais toujours champion du monde quand les ordinateurs d'échecs sont enfin arrivés à maturité. Le mont Everest, c'était moi, et Deep Blue a atteint le sommet. Bien sûr, je ferais mieux de dire, non pas que Deep Blue a fait ça, mais ses créateurs humains : Anantharaman, Campbell, Hoane, Hsu. Je leur tire mon chapeau. Comme toujours, le triomphe des machines fut le triomphe des hommes. Nous sommes enclins à l'oublier quand les humains sont surpassés par leur création.
Deep Blue was victorious, but was it intelligent? No, no it wasn't, at least not in the way Alan Turing and other founders of computer science had hoped. It turned out that chess could be crunched by brute force, once hardware got fast enough and algorithms got smart enough. Although by the definition of the output, grandmaster-level chess, Deep Blue was intelligent. But even at the incredible speed, 200 million positions per second, Deep Blue's method provided little of the dreamed-of insight into the mysteries of human intelligence.
Deep Blue a remporté la victoire, mais était-il intelligent ? Non, il ne l'était pas, du moins pas de la façon dont Alan Turing et d'autres fondateurs de l'informatique l'avaient espéré. Il s'est avéré que les échecs pouvaient être dominés par de la force brute, une fois que le matériel informatique est devenu assez rapide et que les algorithmes sont devenus assez malins. Cependant, si l'on s'en tient à ce qu'il produisait, du jeu d'échecs de niveau grand maître, Deep Blue était intelligent. Mais même à cette vitesse incroyable de 200 millions de positions par seconde, la méthode de Deep Blue ne permettait pas de percer le mystère de l'intelligence humaine comme on en rêve.
Soon, machines will be taxi drivers and doctors and professors, but will they be "intelligent?" I would rather leave these definitions to the philosophers and to the dictionary. What really matters is how we humans feel about living and working with these machines.
Bientôt, des machines seront chauffeurs de taxi, médecins et professeurs, mais seront-elles pour autant « intelligentes » ? Je m'en remettrai pour ces définitions aux philosophes et au dictionnaire. Ce qui importe vraiment c'est ce que nous, les humains, nous ressentons à vivre et à travailler avec ces machines.
When I first met Deep Blue in 1996 in February, I had been the world champion for more than 10 years, and I had played 182 world championship games and hundreds of games against other top players in other competitions. I knew what to expect from my opponents and what to expect from myself. I was used to measure their moves and to gauge their emotional state by watching their body language and looking into their eyes.
Quand j'ai rencontré Deep Blue pour la première fois en février 1996, cela faisait plus de dix ans que j'étais champion du monde et j'avais disputé 182 parties de championnat du monde et des centaines contre des joueurs de haut niveau dans d'autres compétitions. Je savais à quoi m'attendre de la part de mes adversaires et de moi-même. J'avais l'habitude de mesurer leurs coups et d'évaluer leur état emotionnel en observant leur gestuelle et en les regardant dans les yeux.
And then I sat across the chessboard from Deep Blue. I immediately sensed something new, something unsettling. You might experience a similar feeling the first time you ride in a driverless car or the first time your new computer manager issues an order at work. But when I sat at that first game, I couldn't be sure what is this thing capable of. Technology can advance in leaps, and IBM had invested heavily. I lost that game. And I couldn't help wondering, might it be invincible? Was my beloved game of chess over? These were human doubts, human fears, and the only thing I knew for sure was that my opponent Deep Blue had no such worries at all.
Et puis, me voilà assis de l'autre côté de l'échiquier, face à Deep Blue. J'ai tout de suite ressenti quelque chose de nouveau, de déstabilisant. Vous pourriez avoir la même sensation la première fois que vous prenez une voiture sans conducteur ou la première fois que votre nouveau chef-ordinateur vous donne un ordre. Mais quand je me suis assis pour jouer cette première partie, je ne pouvais pas être sûr de ce dont cette chose était capable. La technologie avance à pas de géant et IBM avait beaucoup investi. J'ai perdu cette partie. Et je ne pouvais m'empêcher de penser « peut-il être invincible ? » Était-ce la fin de ce jeu d'échecs que j'aimais tant ? C'étaient là des inquiétudes et des peurs toutes humaines, et la seule chose dont j'étais sûr, c'était que Deep Blue n'avait pas de tels émois.
(Laughter)
(Rires)
I fought back after this devastating blow to win the first match, but the writing was on the wall. I eventually lost to the machine but I didn't suffer the fate of John Henry who won but died with his hammer in his hand. [John Henry Died with a Hammer in His Hand Palmer C. Hayden] [The Museum of African American Art, Los Angeles] It turned out that the world of chess still wanted to have a human chess champion. And even today, when a free chess app on the latest mobile phone is stronger than Deep Blue, people are still playing chess, even more than ever before. Doomsayers predicted that nobody would touch the game that could be conquered by the machine, and they were wrong, proven wrong, but doomsaying has always been a popular pastime when it comes to technology.
Je me suis battu après ce coup dur pour gagner la première série mais les dés étaient jetés. J'ai finalement perdu contre la machine mais je n'ai pas souffert le même sort que John Henry qui gagna mais mourut le marteau à la main. En fait, le monde des échecs voulait toujours avoir un champion humain. Et aujourd'hui encore, quand une application gratuite de jeu d'échecs pour portable dernier cri est plus performante que Deep Blue, les gens jouent toujours aux échecs, et même plus qu'avant. Les alarmistes avaient prédit que tout le monde déserterait ce jeu qui pouvait être conquis par les machines, et ils ont eu tort, on le voit bien, mais jouer les alarmistes est un passe-temps populaire en matière de technologie.
What I learned from my own experience is that we must face our fears if we want to get the most out of our technology, and we must conquer those fears if we want to get the best out of our humanity. While licking my wounds, I got a lot of inspiration from my battles against Deep Blue. As the old Russian saying goes, if you can't beat them, join them. Then I thought, what if I could play with a computer -- together with a computer at my side, combining our strengths, human intuition plus machine's calculation, human strategy, machine tactics, human experience, machine's memory. Could it be the perfect game ever played?
Ce que m'a appris mon expérience personnelle, c'est qu'il nous faut affronter nos peurs si nous voulons tirer le meilleur parti de notre technologie, et nous devons dépasser ces peurs si nous voulons obtenir le meilleur de ce que l'humanité peut donner. Tout en me remettant de ma défaite, j'ai été très inspiré par mes affrontements avec Deep Blue. Comme le dit ce proverbe russe : si on ne peut les vaincre, rejoignons-les. Et puis, je me suis dit, et si je pouvais jouer avec un ordinateur... avec un ordinateur à mes côtés, en combinant nos forces, l'intuition humaine et la capacité de calcul de la machine, la stratégie humaine, la tactique de la machine, l'expérience humaine, la mémoire de la machine. Serait-ce la partie la plus parfaite jamais jouée ?
My idea came to life in 1998 under the name of Advanced Chess when I played this human-plus-machine competition against another elite player. But in this first experiment, we both failed to combine human and machine skills effectively. Advanced Chess found its home on the internet, and in 2005, a so-called freestyle chess tournament produced a revelation. A team of grandmasters and top machines participated, but the winners were not grandmasters, not a supercomputer. The winners were a pair of amateur American chess players operating three ordinary PCs at the same time. Their skill of coaching their machines effectively counteracted the superior chess knowledge of their grandmaster opponents and much greater computational power of others. And I reached this formulation. A weak human player plus a machine plus a better process is superior to a very powerful machine alone, but more remarkably, is superior to a strong human player plus machine and an inferior process. This convinced me that we would need better interfaces to help us coach our machines towards more useful intelligence.
Mon idée est devenue réalité en 1998, sous le nom d'Advanced Chess, quand j'ai disputé cette compétition humain/machine contre un joueur d'élite. Mais lors de ce premier essai, nous avons tous les deux échoué à associer efficacement nos savoir-faire propres. L'Advanced Chess a trouvé sa place sur internet et en 2005, un tournoi d'échecs « freestyle » a été une révélation. Une équipe de grands maîtres et de machines de haut niveau participèrent, mais les gagnants ne furent ni les grands maîtres, ni un superordinateur. Les gagnants furent un duo de joueurs amateurs américains qui contrôlaient trois PC ordinaires à la fois. Leur talent à accompagner leurs machines a de fait contrecarré le savoir supérieur du jeu d'échecs des grands maîtres face à eux et le pouvoir informatique bien plus grand d'autres personnes. Et j'en suis venu à cette idée : un humain de faible niveau auquel s'ajoute une machine et une meilleure méthode est supérieur à une machine très puissante seule, mais plus remarquable encore, il est supérieur à un joueur humain fort auquel s'ajoute une machine et une méthode inférieure. Cela m'a convaincu qu'on aurait besoin de meilleures interfaces pour aider à l'accompagnement des machines et rendre cette intelligence plus utile.
Human plus machine isn't the future, it's the present. Everybody that's used online translation to get the gist of a news article from a foreign newspaper, knowing its far from perfect. Then we use our human experience to make sense out of that, and then the machine learns from our corrections. This model is spreading and investing in medical diagnosis, security analysis. The machine crunches data, calculates probabilities, gets 80 percent of the way, 90 percent, making it easier for analysis and decision-making of the human party. But you are not going to send your kids to school in a self-driving car with 90 percent accuracy, even with 99 percent. So we need a leap forward to add a few more crucial decimal places.
L'humain plus la machine, ce n'est pas l'avenir, c'est notre présent. Tout le monde a déjà utilisé des outils de traduction en ligne pour comprendre les grandes lignes d'un article de presse étrangère malgré leurs imperfections. Nous utilisons après notre expérience humaine pour faire sens de tout ça, et puis la machine apprend de nos rectifications. Ce modèle se développe en diagnostic médical et en analyse de sécurité. La machine analyse des données, calcule des probabilités, fait 80 ou 90% du chemin, ce qui facilite l'analyse et la prise de décision humaines. Mais vous n'allez pas envoyer vos enfants à l'école dans une voiture sans conducteur fiable à 90% ou même à 99%. Nous avons donc besoin d'une grande avancée pour gagner encore quelques décimales cruciales.
Twenty years after my match with Deep Blue, second match, this sensational "The Brain's Last Stand" headline has become commonplace as intelligent machines move in every sector, seemingly every day. But unlike in the past, when machines replaced farm animals, manual labor, now they are coming after people with college degrees and political influence. And as someone who fought machines and lost, I am here to tell you this is excellent, excellent news. Eventually, every profession will have to feel these pressures or else it will mean humanity has ceased to make progress. We don't get to choose when and where technological progress stops. We cannot slow down. In fact, we have to speed up. Our technology excels at removing difficulties and uncertainties from our lives, and so we must seek out ever more difficult, ever more uncertain challenges. Machines have calculations. We have understanding. Machines have instructions. We have purpose. Machines have objectivity. We have passion. We should not worry about what our machines can do today. Instead, we should worry about what they still cannot do today, because we will need the help of the new, intelligent machines to turn our grandest dreams into reality. And if we fail, if we fail, it's not because our machines are too intelligent, or not intelligent enough. If we fail, it's because we grew complacent and limited our ambitions. Our humanity is not defined by any skill, like swinging a hammer or even playing chess.
Vingt ans après ma série de parties contre Deep Blue, la deuxième, ce gros titre sensationnaliste, « le dernier combat du cerveau », est omniprésent à l'heure où les machines intelligentes s'invitent dans tous les secteurs d'activité tous les jours. Mais là où par le passé les machines ont remplacé le bétail, le travail manuel, de nos jours, elles s'attaquent à des diplômés ou des personnes politiquement influentes. En tant que personne qui les a combattues et a perdu, je suis là pour dire que c'est une excellente nouvelle. Un jour, toutes les professions devront faire face à cette pression ou bien cela voudra dire que l'humanité a cessé de progresser. Ce n'est pas à nous de choisir où et quand le progrès technologique s'arrêtera. On ne peut pas ralentir. À vrai dire, nous devons accélérer. Notre technologie excelle lorsqu'il s'agit d'effacer de nos vies difficultés et incertitudes, et nous devons donc partir à la recherche de défis plus grands, plus incertains encore. Les machines font des calculs. Nous comprenons les choses. Les machines reçoivent des instructions. Nous avons des buts. Les machines ont pour elles l'objectivité. Nous avons la passion. Nous ne devrions pas avoir peur de ce que nos machines peuvent faire aujourd'hui. Nous devrions plutôt nous inquiéter de ce qu'elles ne peuvent toujours pas faire car nous aurons besoin de l'aide de ces nouvelles machines intelligentes pour faire de nos rêves les plus fous une réalité. Et si nous échouons, si nous échouons, ce n'est pas parce que nos machines sont trop intelligentes ou pas assez. Si nous échouons, c'est parce que nous nous sommes laissés aller et avons rogné sur nos ambitions. Notre humanité n'est pas définie par un savoir-faire quelconque, comme manier le marteau ou même jouer aux échecs.
There's one thing only a human can do. That's dream. So let us dream big.
L'humanité ne peut faire qu'une chose. Rêver. Alors faisons de grands rêves.
Thank you.
Merci.
(Applause)
(Applaudissements)