I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
J'aimerais vous parler de deux parties d'échecs. La première a eu lieu en 1997, et dans cette partie, Garry Kasparov, un humain, a perdu contre Deep Blue, une machine. Pour beaucoup, ce fut l'aube d'une ère nouvelle, où l'homme serait dominé par la machine. Mais nous voilà, 20 ans plus tard, et le plus grand changement dans nos rapports avec les ordinateurs est l'iPad, pas HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
La deuxième partie était un tournoi d'échecs freestyle en 2005, au cours duquel l'homme et la machine se sont rencontrés en tant que partenaires, plutôt qu'adversaires, si c'est ce qu'ils choisissent. Au début, les résultats étaient prévisibles. Même un superordinateur a été battu par un grand maître et un ordinateur portable relativement faiblard. La surprise est venue à la fin. Qui a gagné ? Pas un grand maître avec un superordinateur, mais en fait deux Américains amateurs se servant de trois ordinateurs portables relativement faiblards. Leur capacité à entraîner et manipuler leurs ordinateurs pour explorer en profondeur des positions spécifiques qui contrecarraient efficacement les connaissances supérieures des échecs des grands maîtres et la puissance de calcul supérieure des autres adversaires. C'est un résultat étonnant : des hommes moyens, des machines moyennes qui battent le meilleur homme et la meilleure machine. D'ailleurs, est-ce que ce n'est pas censé être l'homme contre la machine ? Au lieu de ça, il s'agit de coopération, et du bon type de coopération.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
Nous avons accordé beaucoup d'attention à la vision de Marvin Minsky sur l'intelligence artificielle ces 50 dernières années. C'est une vision attirante, c'est sûr. Beaucoup l'ont adoptée. Elle est devenue l'école dominante de pensée en informatique. Mais alors que nous entrons dans l'ère des méga-données, des systèmes de réseaux, des plates-formes ouvertes et de la technologie embarquée, j'aimerais suggérer qu'il est temps de réévaluer une version alternative qui a été développée en fait à peu près à la même période. Je parle de la symbiose homme-machine de J.C.R. Licklider, peut-être mieux nommée "augmentation d'intelligence", A. I.
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Licklider était un titan de l'informatique qui a eu un effet profond sur le développement de la technologie et d'Internet. Sa vision était de permettre à l'homme et à la machine de coopérer pour prendre des décisions, contrôler des situations complexes sans dépendance inflexible à des programmes prédéterminés. Notez le mot "coopérer". Licklider nous encourage à ne pas prendre un grille-pain pour en faire Data de Star Trek, mais à prendre un Humain et le rendre plus capable. Les Humains sont si extraordinaires -- notre façon de penser, nos approches non linéaires, notre créativité, les hypothèses itératives, tout ça est difficile, voire impossible à faire pour des ordinateurs. Licklider a compris ça de manière intuitive, en observant les humains se fixer des objectifs, formuler des hypothèses, déterminer les critères et effectuer l'évaluation. Bien sûr, d'une autre manière, les humains sont tellement limités. Nous sommes très mauvais avec l'échelle, le calcul et le volume. Nous avons besoin d'une gestion des compétences de haut niveau pour garder ensemble un groupe de rock pour qu'il continue à jouer. Licklider a prévu que les ordinateurs feraient tout le travail de routine nécessaire pour préparer la voie aux idées et à la prise de décision.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
En silence, sans tambour ni trompette, cette approche accumule les victoires au-delà des échecs. Le repliement des protéines, un sujet qui partage l'incroyable expansivité des échecs -- il y a plus de façons de replier une protéine qu'il n'y a d'atomes dans l'univers. C'est un problème qui peut changer le monde, aux implications énormes quant à notre capacité à comprendre et à traiter la maladie. Pour cette tâche, la force brute d'un superordinateur ne suffit pas. Foldit, un jeu créé par des chercheurs en informatique, illustre la valeur de l'approche. Des amateurs qui ne sont ni techniciens, ni biologistes, jouent à un jeu vidéo dans lequel ils réarrangent visuellement la structure de la protéine, permettant à l'ordinateur de gérer les forces et les interactions atomiques et d'identifier les problèmes structurels. Cette approche a battu les superordinateurs 50 % du temps et a obtenu l'égalité 30 % du temps. Foldit a fait une découverte scientifique remarquable et majeure récemment en déchiffrant la structure du virus simien de Mason-Pfizer. Une protéase qui avait échappé à la détermination pendant plus de 10 ans a été résolue par 3 joueurs en quelques jours, peut-être la première avancée scientifique majeure issue d'une partie de jeu vidéo.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
L'an dernier, sur le site des Tours Jumelles, on a inauguré le Mémorial du 11 Septembre. Il affiche les noms des milliers de victimes en utilisant un beau concept appelé "adjacence significative". Il place les noms les uns à côté des autres en fonction de leurs relations : amis, familles, collègues de travail. Quand on les met tous ensemble, c'est un sacré défi de calcul : 3500 victimes, 1800 requêtes d'adjacence, l'importance des spécifications physiques globales et l'esthétique finale. Quand les médias en ont parlé pour la première fois, on a donné tout le crédit d'un tel exploit à un algorithme de la boite de design new-yorkaise Local Projects. La vérité est un peu plus nuancée. Tandis qu'un algorithme a été utilisé pour développer un cadre sous-jacent, des humains ont utilisé ce cadre pour concevoir le résultat final. Dans ce cas, un ordinateur avait évalué des millions d'agencements possibles, géré un système relationnel complexe, et gardé trace d'un très grand nombre de mesures et de variables, ce qui a permis aux humains de se concentrer sur les choix de design et de composition. Plus vous regardez autour de vous, plus vous voyez la vision de Licklider partout. Que ce soit la réalité augmentée dans votre iPhone ou votre GPS dans votre voiture, la symbiose homme-machine nous rend plus capables.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
Alors si vous voulez améliorer la symbiose homme-machine, que pouvez-vous faire ? Vous pouvez commencer par intégrer l'humain dans le processus de design. Au lieu de penser à ce qu'un ordinateur peut faire pour résoudre le problème, concevez la solution autour de ce que l'humain fera aussi. Quand vous ferez ça, vous vous rendrez vite compte que vous avez passé tout votre temps sur l'interface entre l'homme et la machine, particulièrement à gommer la friction dans l'interaction. En fait, cette friction est plus importante que la puissance de l'homme ou la puissance de la machine dans la détermination de la capacité globale. C'est pourquoi deux amateurs avec quelques ordinateurs portables ont battu facilement un superordinateur et un grand maitre. Ce que Kasparov appelle un processus est un dérivé de la friction. Meilleur est le processus, moins il y a de friction. Réduire la friction s'avère être la variable décisive.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
Ou prenez un autre exemple : les méga-données. Chaque interaction dans le monde est enregistrée par un nombre sans cesse croissant de capteurs : votre téléphone, votre carte de crédit, votre ordinateur. Le résultat, c'est les méga-données, elles nous offrent en fait une occasion de bien mieux comprendre la condition humaine. La plupart des approches des méga-données se concentrent principalement sur "Comment stocker ces données ? Comment les chercher ? Comment les traiter ?" Ce sont des questions nécessaires mais insuffisantes. L'indispensable n'est pas de comprendre comment calculer, mais quoi calculer. Comment imposer l'intuition humaine aux données à cette échelle ?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
Là encore, nous commençons par intégrer l'humain dans la conception du processus. Quand PayPal débutait en tant qu'entreprise, leur plus gros problème n'était pas : "Comment faire des transactions en ligne ?" C'était : " Comment le faire sans se faire escroquer par le crime organisé ?" Pourquoi est-ce un tel problème ? Parce que tandis que les ordinateurs peuvent apprendre à détecter et identifier des fraudes d'après des modèles, ils ne peuvent pas apprendre à le faire d'après des modèles qu'ils n'ont encore jamais vus, et le crime organisé a beaucoup en commun avec le public ici présent : des gens brillants, un esprit d'entreprise aux ressources inépuisables -- (Rires) avec une différence monumentale : un objectif. Alors que les ordinateurs seuls peuvent attraper tous les fraudeurs sauf les plus malins, attraper les plus malins fait la différence entre la réussite et l'échec.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Il y a tout un ensemble de problèmes comme celui-là, avec des adversaires qui s'adaptent. Ils utilisent rarement, voire jamais un modèle répétitif que les ordinateurs peuvent discerner. Au lieu de ça, il y a une composante inhérente d'innovation ou de disruption, et de plus en plus, ces problèmes sont enfouis dans les méga-données.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
Par exemple, le terrorisme. Les terroristes s'adaptent toujours plus ou moins aux circonstances nouvelles, et en dépit de ce que vous voyez à la télé, ces adaptations, et leur détection, sont fondamentalement humaines. Les ordinateurs ne détectent pas les modèles et les comportements nouveaux mais les humains, si. Les humains, en se servant de la technologie, testent des hypothèses, recherchent des indices en demandant aux machines de faire des choses pour eux. Oussama Ben Laden n'a pas été attrapé grâce à l'intelligence artificielle. Il a été attrapé par des gens brillants, débrouillards et dévoués en partenariat avec différentes technologies.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Pour aussi séduisant que cela semble, on ne peut pas trouver la réponse en fouillant des données avec des algorithmes. Il n'existe pas de bouton "Trouver le terroriste", et plus nous intégrons de données à partir d'une grande variété de sources en passant par une grande variété de formats de données issues de systèmes très disparates, moins le traitement de données peut être efficace. Au contraire, les gens devront examiner les données, et chercher à y voir clair, et comme Licklider l'a prévu il y a longtemps, la clé pour de grands résultats est le bon type de coopération. et comme Kasparov s'en est rendu compte, ça signifie limiter la friction au niveau de l'interface.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Cette approche rend possible des choses comme le filtrage de toutes les données disponibles issues de sources très différentes, l'identification de relations-clés et leur rassemblement en un seul endroit, ce qui était presque impossible avant. Pour certains, ça a des implications terrifiantes pour la vie privée et les libertés civiles. Pour d'autres, ça prédit une ère de plus grande protection de la vie privée et des libertés civiles, mais la vie privée et les libertés civiles ont une importance fondamentale. On doit l'admettre, et on ne peut pas l'écarter, même avec les meilleures intentions.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Explorons donc, au travers de deux exemples, l'impact que les technologies construites pour guider la symbiose homme-machine ont eu récemment.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
En octobre 2007, les forces américaines et celles de la coalition ont fait un raid sur un refuge d'Al Qaïda dans la ville de Sinjar, en Irak, à la frontière avec la Syrie. Ils ont trouvé un trésor de documents : 700 esquisses biographiques de combattants étrangers. Ces combattants étrangers avaient laissé leurs familles dans le Golfe, le Levant et l'Amérique du Nord pour rejoindre Al Qaïda en Irak. Ces dossiers étaient des formulaires de ressources humaines. Les combattants étrangers les avaient remplis en s'engageant dans l'organisation. Il s'avère qu'Al Qaïda a aussi sa petite bureaucratie. (RIres) Ils ont répondu à des questions comme "Qui vous a recruté ?" "De quelle ville venez-vous ?" "Quel poste recherchez-vous ?"
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
Dans cette dernière question, une information surprenante est ressortie. La grande majorité des combattants étrangers cherchaient à devenir des bombes humaines pour devenir des martyrs -- extrêmement important, puisque, entre 2003 et 2007, l'Irak a connu 1382 attentats suicides, source majeure d'instabilité. Il était difficile d'analyser ces données. Les originaux étaient des feuilles de papier en arabe qui devaient être scannées et traduites. La friction dans le processus ne permettait pas d'obtenir des résultats significatifs dans une limite de temps opérationnelle en n'ayant recours qu'à des humains, des PDF et de la ténacité. Les chercheurs ont dû faire appel à la technologie pour réfléchir plus profondément, pour explorer les hypothèses qui n'étaient pas évidentes, et ainsi, des liens ont émergé. 20 % des combattants étrangers venaient de Libye, 50 % d'entre eux d'une seule ville en Libye, d'une importance énorme puisque les statistiques précédentes estimaient ce chiffre à 3 %. Ça a aussi contribué à cibler un personnage d'une importance grandissante au sein d'Al Qaïda, Abu Yahya al-Libi, un religieux majeur dans le groupe de combattants islamiques libyens. En mars 2007, il a fait un discours, à la suite duquel il y a eu une poussée de participation chez les combattants étrangers libyens.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
La chose la plus intelligente, cependant, et la moins évidente, a été, en retournant les données, de permettre aux chercheurs d'explorer profondément les réseaux de coordination en Syrie qui étaient au final en charge de recevoir et de transporter les combattants étrangers à la frontière. C'étaient des réseaux de mercenaires, pas d'idéologues, qui étaient dans la coordination pour faire du profit. Par exemple, ils faisaient payer aux combattants étrangers saoudiens substantiellement plus qu'aux Libyens, de l'argent qui autrement serait allé à Al Qaïda. L'adversaire modifierait peut-être son propre réseau s'il savait qu'ils escroquaient les aspirants jihadistes.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
En janvier 2010, un tremblement de terre dévastateur a frappé Haïti, le 3ème plus mortel de tous les temps, qui a laissé un million de gens, 10 % de la population, sans abri. Un aspect apparemment minime de l'effort global d'aide est devenu de plus en plus important quand on a commencé à apporter de la nourriture et de l'eau. Janvier et février sont les mois secs en Haïti, pourtant des eaux stagnantes s'étaient accumulées dans beaucoup de camps. La seule institution qui avait une connaissance détaillée des zones inondables d'Haïti avait été détruite dans le tremblement de terre, avec leurs dirigeants à l'intérieur. La question était donc de savoir quels étaient les camps à risque, combien de gens étaient dans ces camps, quelle était la chronologie des inondations, et étant données les ressources et l'infrastructure très limitées, comment établir les priorités de déplacement ? Les données étaient incroyablement disparates. L'armée des États-Unis avait une connaissance détaillée d'une seule petite section du pays. Il y avait des données en ligne qui dataient d'une conférence sur l'environnement de 2006, d'autres données géospatiales, rien n'était intégré. L'objectif humain ici était d'identifier les camps à utiliser selon l'urgence. L'ordinateur devait intégrer une grande quantité d'informations géospatiales, de données des médias sociaux et des informations des organisations de secours pour répondre à cette question. En implémentant un processus supérieur, ce qui autrement était une tâche pour 40 personnes pendant 3 mois, c'est devenu un travail simple pour 3 personnes en 40 heures,
all victories for human-computer symbiosis.
tout ça à mettre au crédit de la symbiose homme-machine.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
Nous voici 50 ans après la vision d'avenir de Licklider et les données suggèrent que nous devrions être très enthousiastes à l'idée de nous attaquer aux problèmes les plus difficiles de ce siècle, l'homme et la machine coopérant ensemble. Merci. (Applaudissements) (Applaudissements)