M'agradaria parlar-vos sobre dues partides d'escacs. La primera va tindre lloc en 1997, en la qual Garry Kasparov, un humà, va perdre contra Deep Blue, una màquina. Per a molts aquest va ser l'alba d'una nova era, en la qual l'home seria dominat per la màquina. Però ací estem, 20 anys després, i el gran canvi en com ens relacionem amb els ordinadors és l'iPad, no HAL.
I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
La segona partida va ser un torneig d'escacs d'estil lliure en 2005, en el qual un home i una màquina podien participar junts com a companys, en comptes de contrincants, si així ho desitjaven. Al començament els resultats van ser predictibles. Fins i tot un superordinador va ser vençut per un gran mestre amb un ordinador portàtil relativament poc potent. La sorpresa va ser el final. Qui va guanyar? No va ser un gran mestre amb un superordinador, sinó dos aficionats americans usant tres portàtils relativament poc potents. La seua habilitat per a entrenar i manipular els seus ordinadors per a explorar en profunditat posicions específiques va contrarestar eficaçment els coneixements superiors dels grans mestres i el superior poder computacional d'altres adversaris. Aquest és un resultat sorprenent: homes normals, màquines normals derrotant al millor home, a la millor màquina. De tota manera, no es tractava d'home contra màquina? En comptes d'això, és tracta de cooperació, i el tipus correcte de cooperació.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
Hem prestat molta atenció a la visió de Marvin Minsky de la intel·ligència artificial durant els últims 50 anys. És una visió molt atractiva, és clar. Molts l'han adoptat. S'ha convertit en la forma de pensament predominant a l'enginyeria informàtica. Però conforme ens endinsem en l'era de molta informació, de sistemes en xarxa, de plataformes obertes, i de la tecnologia integrada, m'agradaria suggerir què és moment de re-avaluar una visió alternativa que es va desenvolupar aproximadament al mateix temps. Em refereixo a la simbiosi humà-ordinador de J.C.R. Licklider, potser millor anomenada "augment de la intel·ligència", A.I.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
Licklider va ser un tità de l'enginyeria informàtica que tingué un profund efecte en el desenvolupament de la tecnologia i d'Internet. La seua visió era la de permetre a l'home i la màquina cooperar en la presa de decisions, controlant situacions complicades sense la dependència inflexible dels programes predeterminats. Atenció a la paraula "cooperar". Licklider no ens anima a agafar una torradora i transformar-la en Data de "Star Trek", sinò a agafar un humà i fer-la més capaç. Els humans són meravellosos -- com pensem, els aproximaments no-linears, la creativitat, les hipòtesis iteratives, tot molt difícil o impossible d'aconseguir pels ordinadors. Licklider se'n va adonar intuïtivament, contemplant els humans marcant-se objectius, formulant hipòtesis, determinant els criteris, i realitzant l'avaluació. És clar, en altres aspectes, els humans són molt limitats. Som terribles amb escales, computació i volum. Necessitem un maneig superior dels nostres talents per tal de fer el millor treball possible. Licklider va preveure els ordinadors fent tot el treball rutinari necessari per a obrir pas a la perspicàcia i la presa de decisions.
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Silenciosament, sense molta fanfàrria, aquest apropament ha guanyat moltes victòries més enllà dels escacs. El plegament de proteïnes, un tema que comparteix la increïble expansió dels escacs -- n'hi ha més formes de plegar una proteïna que àtoms a l'univers. Aquest és un problema fonamental amb grans implicacions per a la nostra habilitat de comprendre i tractar les malalties. I per a aquesta tasca, la força bruta d'un superordinador no és suficient. Foldit, un joc creat per enginyers informàtics, il·lustra el valor d'aquesta aproximació. Aficionats sense coneixements tècnics o de biologia juguen a un videojoc en el que canvien visualment l'estructura de la proteïna, deixant a l'ordinador el maneig de les forces atòmiques i les interaccions i la identificació de problemes estructurals. Aquesta aproximació supera als superordinadors un 50 per cent de les vegades, i empata un 30 per cent de les vegades. Recentment, Foldit ha fet un descobriment científic molt important desxifrant l'estructura del virus del mico Mason-Pfizer Una proteasa que no ha pogut ser determinada en 10 anys va ser resolta per tres jugadors en qüestió de dies, potser el primer avanç científic important com a resultat de jugar un videojoc.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
L'any passat, al lloc on estaven les Torres Bessones, es va inaugurar el monument a l'11-S. Mostra els noms dels milers de víctimes usant un bell concepte anomenat "adjacència significativa". Posa els noms un al costat de l'altre basant-se en la relació entre ells: amics, família, companys. Quan el poses tot junt, és un bon repte computacional: 3,500 víctimes, 1,800 adjacències significatives, la importància de les especificacions físiques globals i l'acabat estètic. Quan la premsa va informar per primera vegada, tot el crèdit per aquesta gesta se la va emportar un algoritme de la firma de disseny novaiorquesa Local Projects. La veritat és un poc més complicada. Si bé es va utilitzar un algoritme per a desenvolupar l'estructura subjacent els humans van fer ús d'aquesta estructura per dissenyar el resultat final. Així que en aquest cas, un ordinador havia avaluat milions de combinacions possibles, organitzat un complex sistema relacional, i es va fer càrrec d'un gran nombre de mesures i variables permetent als humans concentrar-se en el disseny i les eleccions de la composició. Així que quant més mires al teu voltant, més veus com la visió de Licklider està tot arreu. Ja siga realitat augmentada al teu iPhone o el GPS al teu cotxe, la simbiosi humà-ordinador ens fa més capaços.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
I si vols millorar la simbiosi humà-ordinador, què pots fer? Pots començar incloent l'humà en el procés de disseny. En comptes de pensar què pot fer un ordinador per resoldre el problema, dissenya la solució al voltant del que l'humà farà també. Quan ho fas, te n'adones ràpidament que has invertit tot el teu temps treballant en la interfície entre home i màquina, específicament dissenyant com llevar la fricció en la interacció. De fet, aquesta fricció és més important que la capacitat de l'home o la potència de la màquina a l'hora de determinar la capacitat global. Eixa és la raó per què dos aficionats amb uns pocs portàtils guanyen fàcilment un superordinador i un gran mestre. Allò que Kasparov anomena procés és un subproducte de la fricció. Quant millor siga el procés, menor serà la fricció. I minimitzar la fricció resulta ser una variable decisiva.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
O prenem un altre exemple: gran quantitat d'informació. Tota interacció que tenim al món és gravada per gran quantitat de sensors: el teu telèfon, la targeta de crèdit, l'ordinador. El resultat és una gran quantitat d'informació, que ens presenta una oportunitat de comprendre la condició humana profundament. L'èmfasi en la majoria d'acostaments a grans quantitats de data es centren en, "Com puc emmagatzemar aquesta data? Com puc buscar en aquesta data? Com processo aquesta data?" Aquestes són preguntes necessàries però insuficients. L'imperatiu no és esbrinar com computar, sinó què computar. Com pots imposar la intuïció humana a la data a aquesta escala?
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
De nou, comencem per integrar l'humà en el procés de disseny. Quan PayPal estava començant com a negoci, el seu major repte no va ser, "Com envie diners d'un costat a l'altre online?" Va ser, "Com ho faig sense ser defraudat pel crim organitzat?" Per què tan complicat? Perquè mentre que els ordinadors poden aprendre a detectar i identificar frau basant-se en patrons, no poden aprendre a fer això basant-se en patrons que no han vist mai, i el crim organitzat té molt en comú con aquest públic: gent brillant, incansables i enginyosos, amb un esperit emprenedor —(rialles)— i una gran diferència molt important: intencionalitat. Així mentre que els ordinadors poden agafar a tots excepte als defraudadors més llestos, agafar als més llestos és la diferència entre l'èxit i el fracàs.
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
N'hi han molts problemes com aquest, amb adversaris adaptatius. Rarament apareixen amb un patró repetible que els ordinadors puguen detectar. En comptes d'això, n'hi ha un component inherent d'innovació o disrupció, i cada vegada més aquest problemes són soterrats dins grans quantitats de data.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Per exemple, el terrorisme. Els terroristes sempre s'adapten en menor o major mesura a les noves circumstàncies, malgrat el que pugueu veure a la TV, aquestes adaptacions, i la seua detecció, són fonamentalment humanes. Els ordinadors no detecten patrons i comportaments nous, els humans ho fan. Els humans, mitjançant la tecnologia, provant hipòtesis, busquen inspiració demanant a les màquines que facen coses per ells. Osama bin Laden no va ser atrapat per una intel·ligència artificial. Va ser atrapat per persones dedicades, enginyoses i brillants en associació amb diverses tecnologies.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
Pot sonar atractiu, però no pots rebuscar algorítmicament en la data per arribar a la resposta. No n'hi ha un botó de "Cercar terrorista", i quant més data integrem d'una gran quantitat de fonts d'entre una àmplia varietat de formats de data d'entre sistemes molt diferents, menys efectiva serà la cerca de data. En comptes d'això, la gent tindrà que mirar la data i cercar inspiració, i com Licklider va preveure fa molt de temps, la clau per obtindre grans resultats és l'adequat tipus de cooperació, i com Kasparov va aprendre, això significa minimitzar la fricció de la interfície.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Aquest apropament fa possible coses com el rastreig de tota la data disponible en diverses fonts, identificar les relacions clau i posar-les en un sol lloc, el qual ha estat quasi impossible de fer fins ara. Per alguns, açò té implicacions terribles per la privacitat i les llibertats civils. Per altres precedeix una era de major protecció de la privacitat i les llibertats civils, però la privacitat i les llibertats civils són d'una importància fonamental. Açò s'ha de tenir en compte, i no es pot donar de costat, fins i tot amb la millor de les intencions.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Així que explorem, mitjançant un par d'exemples, l'impacte que les tecnologies creades per dirigir la simbiosi humà-ordinador han tingut en temps recents.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
En Octubre de 2007, les forces de la coalició assaltaren un refugi d'Al Qaeda en la ciutat de Sinjar en la frontera de Síria amb Iraq. Van trobar un botí de documents: 700 apunts biogràfics de lluitadors estrangers. Aquests lluitadors estrangers havien deixat les seues famílies al Golf, el Llevant i el nord d'Àfrica per unir-se a Al Qaeda en Iraq. Aquests documents eren sol·licituds de recursos humans. Els lluitadors estrangers les emplenaren com si s'estigueren unint a l'organització. Va i resulta que Al Qaeda tampoc es lliura de la burocràcia. (Rialles) Van respondre preguntes com, "Qui t'ha reclutat?" "Quin és el teu lloc de naixement?" "Què tipus de treball busques?"
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
En l'ultima pregunta se'n van adonar d'una cosa sorprenent. La gran majoria dels lluitadors estrangers volien ser terroristes suïcides i ser màrtirs -- de gran importància, ja que entre 2003 i 2007, Iraq va tindre 1,382 atemptats suïcides, una gran font d'inestabilitat. Analitzar la data va ser difícil. Els originals eren fulles de paper en Àrab que va haver de ser escanejat i traduït. La fricció en el procés no permetia l'obtenció de resultats significatius en un espai de temps raonable usant solament humans, PDFs i tenacitat. Els investigadors van haver de complementar les seues ments humanes amb tecnologia per tal d'aprofundir, d'explorar hipòtesis no tradicionals, i el fet és que els resultats van emergir. El 20% dels lluitadors estrangers eren de Líbia, 50% dels quals eren d'una sola població de Líbia, immensament important ja que estadístiques prèvies estimaven un 3%. També va ajudar a descobrir una figura de creixent importància en Al Qaeda, Abu Yahya al-Libi, un clèric d'alt rang en el grup libi de lluita islàmica. En Març de 2007 va donar un discurs, després del qual va haver un increment en la participació dels lluitadors estrangers de Líbia.
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
Potser el més intel·ligent de tot, i el menys obvi, mirant la data des d'una altra perspectiva, els investigadors van ser capaços d'explorar les xarxes de coordinació en Síria que eren les responsables de rebre i transportar els lluitadors estrangers a la frontera. Eren xarxes de mercenaris, no d'ideòlegs, que estaven en el negoci de la coordinació pels diners. Per exemple, cobraven els lluitadors estrangers saudís substancialment més que als libis, diners que d'altra manera haurien anat a parar a Al Qaeda. L'adversari potser interrompria la seva pròpia xarxa si saberen que estaven estafant els jihadistes en potència.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
En Gener de 2012 un terratrèmol devastador de 7.0 va sacsejar Haiti, el tercer terratrèmol més devastador de tots els temps, va deixar un milió de persones, un 10% de la població, sense casa. Un efecte aparentment menor de l'ajuda humanitària va ser molt important quan el lliurament de menjar i aigua va començar. Gener i Febrer són mesos secs en Haití, però molts dels camps de refugiats tenien problemes d'aigua estancada. L'única institució amb coneixements detallats de les zones inundades va ser destruïda al terratrèmol amb els seus líders dins. Doncs la pregunta es, què camps estan en perill, quanta gent n'hi ha en aquests camps, quina és la cronologia de la inundació, i donats els recursos i les infraestructures limitades, com prioritzem el trasllat? La data era increïblement dispar. L'exèrcit dels EE.UU tenia detalls limitats d'una petita porció del país. N'hi havia data online d'una conferència de riscs mediambientals de 2006, i altra data geoespacial, cap d'elles integrades. L'objectiu humà era identificar els camps pel trasllat prioritzant per necessitat. L'ordinador va haver d'integrar una gran quantitat d'informació geoespacial, data dels medis socials i informació de l'organització d'ajuda per respondre aquesta pregunta. Implementant un procés superior, que haguera implicat a 40 persones durant tres mesos, es va convertir en un simple treball per 3 persones en 40 hores,
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
són tot victòries per la simbiosi humà-ordinador.
all victories for human-computer symbiosis.
Ja han passat més de 50 anys des de la visió del futur de Licklider, i la data suggereix que hauríem d'estar molt emocionats per tractar els problemes més difícils del segle home i màquina cooperant junts. Gràcies. (Aplaudiments) (Aplaudiments)
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)