I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
Ik zou je graag wat vertellen over twee schaakwedstrijden. De eerste ging door in 1997. Garry Kasparov, een mens, verloor van Deep Blue, een machine. Voor velen was dit het begin van een nieuw tijdperk waarin de mens gedomineerd zou worden door de machine. Maar hier staan we, 20 jaar later, en de grootste verandering in hoe we ons verhouden tot computers is de iPad, niet HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
De tweede wedstrijd was een toernooi in vrije stijl in 2005, waarbij mens en machine, als ze dat wilden, als partners mochten samenwerken in plaats van als tegenstanders. In het begin waren de resultaten voorspelbaar. Zelfs een supercomputer werd verslagen door een grootmeester met een relatief zwakke laptop. De verrassing kwam aan het einde. Wie won? Niet een schaker met een supercomputer maar eigenlijk twee Amerikaanse amateurs met behulp van drie relatief zwakke laptops. Zij coachten en manipuleerden hun computers om specifieke posities diepgaand te verkennen. Dat overtrof de superieure schaakkennis van de grootmeesters en de superieure rekenkracht van de andere tegenstanders. Dit is een verbazingwekkend resultaat: middelmatige mannen met middelmatige machines verslaan de beste man en de beste machine. En ging het overigens niet om man tegen machine? In plaats daarvan gaat het om samenwerking, en het juiste type samenwerking.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
We hebben in de afgelopen 50 jaar wat teveel aandacht geschonken aan de visie van Marvin Minsky over kunstmatige intelligentie. Een sexy visie, dat wel. Velen vielen ervoor. Het werd het dominante denkraam in de informatica. Maar nu we het tijdperk van big data, van netwerksystemen van open platforms en ingebedde technologie betreden, vind ik dat we een alternatieve visie opnieuw moeten gaan bekijken. Die werd rond dezelfde tijd ontwikkeld. Ik heb het over de mens-computersymbiose van J.C.R. Licklider, misschien beter ‘Intelligentie Augmentatie’ of I.A. genoemd.
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Licklider was een reus van de computerwetenschap met een diepgaande invloed op de ontwikkeling van de technologie en het internet. Zijn visie bestond erin om mens en machine te laten samenwerken bij besluitvorming, controle van complexe situaties zonder de rigide afhankelijkheid van vooraf bepaalde programma's. Let op het woord ‘samenwerken’. Licklider moedigt ons niet aan om van een broodrooster Data uit ‘Star Trek’ te maken, maar om een mens capabeler te maken. Wij mensen zijn zo geweldig in hoe wij denken, onze niet-lineaire benaderingen, onze creativiteit en iteratieve hypothesen. Dat is allemaal zeer moeilijk of zelfs onmogelijk voor computers. Licklider besefte intuïtief dat de denkende mens de doelstellingen uitzet, hypothesen formuleert, criteria bepaalt en de evaluatie uitvoert. Op andere punten zijn mensen natuurlijk erg beperkt. We zijn erg slecht wat grootte, rekenen en massa werk aangaat. Wij hebben een uitgebreid talentmanagement nodig om de rockband te laten spelen. Licklider voorzag dat computers al het routinewerk zouden doen als voorbereiding op inzicht en besluitvorming.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
Stil, zonder veel fanfare, heeft deze aanpak overwinningen op elkaar gestapeld, veel verdergaand dan schaken. ‘Eiwitvouwing’ is een onderwerp met dezelfde ongelooflijke expansiviteit als schaken. Er zijn meer manieren om een eiwit op te vouwen dan dat er atomen zijn in het heelal. Dit is een wereldveranderend probleem met grote impact op het begrijpen en behandelen van ziekten. Maar voor deze taak is brute supercomputerkracht alleen niet voldoende. Foldit, een spel gemaakt door computerwetenschappers, illustreert de waarde van deze aanpak. Amateurs die geen technici of biologen zijn, spelen een videospel waarin ze de structuur van het eiwit visueel herschikken waarbij de computer de atomaire krachten en de interacties beheert en de structurele problemen identificeert. Deze aanpak verslaat supercomputers één keer op twee en in 30 procent van de tijd. Foldit deed onlangs een opmerkelijke en grote wetenschappelijke ontdekking door de structuur van het Mason-Pfizer-aapvirus te ontcijferen. Een protease dat in 10 jaar niet kon worden ontcijferd, werd door drie spelers in enkele dagen opgelost, misschien de eerste belangrijke wetenschappelijke vooruitgang door een videogame te spelen.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
Vorig jaar werd op de site van de Twin Towers het 9/11-gedenkteken onthuld. Dat toont de namen van de duizenden slachtoffers door een mooi concept, ‘zinvolle nabijheid’ genaamd. Het plaatst de namen naast elkaar op basis van hun relatie tot elkaar: vrienden, familie, collega's. Dat is nogal een computationele uitdaging: 3.500 slachtoffers, 1.800 nabijheidsverzoeken, het belang van de algemene fysische specificaties en de uiteindelijke esthetiek. Door de media werd het volledige krediet voor deze prestatie gegeven aan een algoritme van het ontwerpbureau Lokale Projecten van New York City. De waarheid is een beetje genuanceerder. Voor de ontwikkeling van het onderliggende raamwerk werd een algoritme gebruikt . Dat raamwerk gebruikten mensen voor het ontwerpen van het eindresultaat. In dit geval had een computer miljoenen mogelijke indelingen geëvalueerd, een complex relationeel systeem beheerd en een zeer groot aantal metingen en variabelen bijgehouden, waardoor mensen zich konden concentreren op ontwerp en compositorische keuzen. Dus hoe meer je om je heen kijkt, hoe meer je Lickliders visie overal tegenkomt. Of het nu verhoogde realiteit is op je iPhone of GPS in je auto de mens-computersymbiose vergroot onze mogelijkheden.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
Als je de mens-computersymbiose wilt verbeteren, wat kun je dan doen? Je kunt beginnen met de mens in het proces te betrekken. In plaats van na te denken over wat een computer zal doen om het probleem op te lossen, ontwerp je de oplossing rond wat de mens even goed kan doen. Wanneer je dit doet, zul je snel beseffen dat je al je tijd steekt in de interface tussen mens en machine, specifiek erop gericht om de 'wrijving' in de interactie ‘weg te ontwerpen’. In feite is deze wrijving belangrijker dan de kracht van de mens of de kracht van de machine bij het bepalen van het gehele vermogen. Daarom konden twee amateurs met een paar laptops gemakkelijk een supercomputer en een grootmeester verslaan bij het schaken. Wat Kasparov een proces noemt, is een bijproduct van die wrijving. Hoe beter het proces, hoe kleiner de wrijving. Het minimaliseren van die wrijving blijkt de beslissende variabele te zijn.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
Of neem een ander voorbeeld: ‘big data’. Steeds meer interacties in de wereld worden geregistreerd door een groeiend aantal sensoren: je telefoon, je creditcard, je computer. Het resultaat is ‘big data’, en biedt ons een mogelijkheid een dieper inzicht te krijgen in de menselijke conditie. De belangrijkste nadruk op de meeste benaderingen van big data ligt op: "Hoe kan ik deze gegevens opslaan? Hoe kan ik deze gegevens doorzoeken? Hoe kan ik deze gegevens verwerken?" Dat zijn nuttige vragen, maar ze volstaan niet. Het gaat er niet om hoe te berekenen, maar wat te berekenen. Hoe combineer je menselijke intuïtie met gegevens op deze schaal?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
Nogmaals, we beginnen met de mens in het proces te integreren. Toen PayPal net begon, was hun grootste uitdaging niet: "Hoe kan ik geld online heen en weer verzenden?" Maar: "Hoe doe ik dat zonder dat ik door de georganiseerde misdaad word bedrogen?" Waarom is dat zo moeilijk? Computers kunnen leren fraude op te sporen en te identificeren op basis van patronen, zij kunnen dat niet doen op basis van patronen die ze nooit eerder hebben gezien. De georganiseerde misdaad heeft veel gemeen met dit publiek: briljante mensen, meedogenloos vindingrijk, ondernemingsgeest — (gelach) — en één enorm en belangrijk verschil: doelstelling. Omdat computers de meeste, maar niet de slimste fraudeurs kunnen vangen, betekent de slimste pakken het verschil tussen succes en mislukking.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Er is een hele klasse van problemen met adaptieve tegenstanders. Ze presenteren zich zelden of nooit met een herhaalbaar patroon dat computers er kunnen uitvissen. Ze komen steeds met nieuwe uitdagingen. Steeds meer duiken deze problemen op bij big data.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
Neem nu terrorisme. Terroristen passen zich op allerlei manieren aan aan nieuwe omstandigheden en ondanks alles wat je ziet op tv, zijn deze aanpassingen en het opsporen ervan fundamenteel menselijk. Computers detecteren geen nieuwe patronen en nieuw gedrag, maar mensen kunnen dit door machines laten doen door middel van technologie, hypothesen en inzichten. Osama bin Laden werd niet gepakt door kunstmatige intelligentie. Hij werd gepakt door toegewijde, vindingrijke, briljante mensen in samenwerking met diverse technologieën.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Hoe aantrekkelijk het ook klinkt, je kunt niet alleen algoritmisch het antwoord uit de gegevens krijgen. Er bestaat geen 'Vind de Terrorist'-knop. Hoe meer gegevens we uit een grote verscheidenheid van bronnen verzamelen over een breed scala van dataformaten heen uit zeer verschillende systemen, des te minder effectief wordt 'datamining'. In plaats daarvan moeten mensen de gegevens bekijken en zoeken naar inzicht en, zoals Licklider lang geleden al voorzag, is de sleutel tot goede resultaten het juiste type van samenwerking. En Kasparov realiseerde zich dat dat minimaliseren van wrijving aan de interface betekende.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Deze aanpak maakt nu dingen mogelijk zoals alle beschikbare gegevens uit uiteenlopende bronnen uitziften - belangrijke verbanden identificeren en ze op één plaats samenbrengen, iets dat bijna onmogelijk op voorhand is te doen. Voor sommigen heeft dit angstaanjagende implicaties voor de privacy en burgerlijke vrijheden. Anderen voorspelt dit juist een tijdperk van meer privacy en bescherming van burgerlijke vrijheden, maar privacy en burgerlijke vrijheden zijn van fundamenteel belang. Dat moet worden erkend en kan niet worden genegeerd, zelfs niet met de beste bedoelingen.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Laten we eens aan de hand van een paar voorbeelden nagaan welke impact technologieën van mens-computersymbiose in de afgelopen tijd hebben gehad.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
In oktober 2007 overvielen Amerikaanse en coalitietroepen een schuilplaats van al-Qaeda in de stad Sinjar aan de Syrische grens met Irak. Ze vonden een schat aan documenten: 700 biografische schetsen van buitenlandse strijders. Deze buitenlandse strijders verlieten hun families in de Golf, de Levant en Noord-Afrika om aan te sluiten bij al Qaeda in Irak. Dit waren formulieren van menselijke hulpbronnen. De buitenlandse strijders vulden ze in als ze zich aansloten bij de organisatie. Blijkt dat ook al Qaeda niet zonder bureaucratie kan. (Gelach) Zij beantwoordden vragen als: "Wie heeft je aangeworven?", "Vanwaar ben je?", "Wat wil je hier doen?"
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
Die laatste vraag onthulde een verrassend inzicht. De overgrote meerderheid van die buitenlandse strijders wilden martelaars worden met zelfmoordaanslagen - enorm belangrijk, omdat tussen 2003 en 2007 er in Irak 1.382 zelfmoordaanslagen plaatsvonden, een belangrijke bron van instabiliteit. Deze gegevens waren moeilijk te analyseren. De originelen waren documenten in het Arabisch die gescand en vertaald moesten worden. De wrijving in het proces gaf in een operationeel tijdsbestek geen zinvolle resultaten met alleen maar mensen, pdf's en inzet. De onderzoekers moesten het menselijke kunnen ondersteunen met technologie om dieper te graven, om niet voor de hand liggende hypothesen te verkennen. En ja, inzichten kwamen bovendrijven. Twintig procent van de buitenlandse strijders kwamen uit Libië, en 50 procent daarvan weer van één enkele stad in Libië. Dat is enorm belangrijk omdat voorafgaande statistieken dat cijfer op drie procent hadden geschat. Het hielp ook om te focussen op één figuur van stijgend belang in al-Qaeda, Abu Yahya al-Libi, een hogere geestelijke in de Libische islamitische gevechtsgroep. In maart 2007 gaf hij een toespraak, waarna de participatie van Libische buitenlandse strijders toenam.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
Misschien wel het slimst van alles, en het minst voor de hand liggend, was de gegevens op hun kop zetten. Daardoor konden de onderzoekers de coördinatienetwerken in Syrië verkennen die uiteindelijk verantwoordelijk waren voor de opvang en het vervoer van buitenlandse strijders naar de grens. Dat waren netwerken van huurlingen, geen ideologen, die zich met de coördinatie bezighielden voor het geld. Ze lieten bijvoorbeeld Saoedische buitenlandse strijders aanzienlijk meer betalen dan de Libiërs, geld dat anders naar al Qaeda zou zijn gegaan. Misschien zou de tegenstander hun eigen netwerk verstoren als ze wisten dat ze would-be jihadisten bedrogen.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
In januari 2010 trof een verwoestende 7,0-aardbeving Haïti, de derde dodelijkste aardbeving ooit. Een miljoen mensen, 10 procent van de bevolking, verloor zijn huis. Een schijnbaar klein aspect van de hele hulpverlening werd steeds belangrijker naarmate de levering van voedsel en water op gang kwam. Januari en februari zijn de droge maanden in Haïti, maar in veel kampen bleven plassen stilstaand water achter. De enige instelling met gedetailleerde kennis van Haïti's overstromingsgebieden was bij de aardbeving ingestort, met de directie erin. Men wist niet welke kampen bedreigd werden, hoeveel mensen er in die kampen waren, wanneer er weer overstromingen konden komen, en gezien de zeer beperkte middelen en infrastructuur: welke verplaatsingen moesten prioriteit krijgen? De gegevens waren ongelooflijk divers. Het Amerikaanse leger beschikte voor slechts een klein deel van het land over gedetailleerde kennis. Er bestonden onlinegegevens van de conferentie van 2006 over milieurisico's en andere georuimtelijke gegevens, maar niets van dat alles geïntegreerd. Het humanitaire doel was om kampen voor verplaatsing te identificeren, gebaseerd op prioritaire noodzaak. De computer moest een enorme hoeveelheid georuimtelijke informatie integreren met gegevens van sociale media en informatie over hulporganisatie om deze vraag te beantwoorden. Door de uitvoering van een superieur proces werd een taak voor 40 personen en drie maanden gecomprimeerd tot een eenvoudige taak voor drie mensen in 40 uur,
all victories for human-computer symbiosis.
allemaal overwinningen voor de mens-computersymbiose.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
We zijn meer dan 50 jaar ver in Lickliders visie voor de toekomst, en de gegevens suggereren dat we met veel enthousiasme de moeilijkste problemen van deze eeuw moeten aanpakken door samenwerking van mens en machine. Bedankt. (Applaus) (Applaus)