I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
Doresc să vă relatez despre două jocuri de șah. Primul a avut loc în 1997, în care Garry Kasparov, o ființă umană, a pierdut în fața programului Deep Blue. Pentru mulți a însemnat răsăritul unei ere noi în care omul urma să fie dominat de roboți. Însă azi, 20 de ani mai târziu, cea mai mare schimbare în modul nostru de a relaționa cu computerele e iPad, nu HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
Al doilea joc a fost un turneu de șah freestyle în 2005, în care un om și un program puteau intra împreună ca parteneri, nu ca adversari, dacă doreau. La început, rezultatele au fost previzibile. Chiar și un supercomputer a fost învins de un maestru cu un laptop slăbuț. Surpriza a venit la sfârșit. Cine a câștigat? Nu maestrul folosind un supercomputer, ci doi americani amatori, folosind trei laptopuri. Abilitatea lor de a-și antrena și manipula computerele ca să exploreze profund anumite poziții a contracarat eficient cunoștințele superioare ale maestrului și puterea de calcul superioară a altor adversari. Un rezultat uluitor: un om obișnuit cu un calculator obișnuit a învins cel mai bun om cu cel mai bun calculator. Dar, la urma urmei, bătălia nu trebuia să fie între om și computer? În schimb, a câștigat cea mai bună cooperare.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
Am fost foarte atenți la viziunea lui Marvin Minsky vizând inteligența artificială în ultimii 50 de ani. E o viziune sexy. Mulți au adoptat-o. A devenit tendința dominantă în IT. Dar intrând în era bazelor de date uriașe, sistemele de rețele cu platforme deschise și tehnologie integrată, sugerez că e timpul să reevaluăm o viziune alternativă dezvoltată cam în aceeași perioadă. Mă refer la simbioza om-computer a lui J.C.R. Licklider, numită mai sugestiv „inteligență augmentată, IA".
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Licklider a fost un titan în IT, având un efect profund asupra dezvoltării tehnologiei și internetului. Viziunea lui era să permită omului și computerului să coopereze în luarea deciziilor, controlând situații complexe fără dependența inflexibilă de programe predeterminate. Remarcați cuvântul cooperare. Licklider ne încurajează nu să facem dintr-un prăjitor androidul Data din „Star Trek", ci să transformăm un om într-unul mai capabil. Oamenii sunt uimitori -- cum gândim, raționamentele noastre non-liniare, creativitatea noastră, ipotezele iterative, dificile, dacă nu imposibile, pentru computere. Licklider a intuit asta, contemplând oamenii, stabilind obiective, formulând ipoteze, determinând criterii și efectuând evaluări. Bineînțeles, sub alte aspecte, oamenii-s foarte limitați. Suntem groaznici la măsurători, calcul și volum. E nevoie de management cu talent de excepție ca să ții o formație de rock funcționând și cântând. Licklider prevedea computerele făcând munca de rutină necesară în pregătirea căii spre discernământ și luarea de decizii.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
Tăcut, fără multă fanfară, această abordare a acumulat victorii și în afara șahului. Înfășurarea proteinelor, ca și șahul, e incredibil de expansivă. O proteină se poate înfășura în mai multe moduri decât atomi în Univers. E o problemă ce poate schimba lumea, cu implicații uriașe pentru posibilitatea de a înțelege și trata bolile. Iar pentru asta, forța brută a unui supercomputer nu-i suficientă. Foldit, un joc pe computer creat de cercetători ilustrează valoarea acestei abordări. Amatori fără pregătire în tehnologie sau biologie joacă un joc video unde rearanjează vizual structura unei proteine, permițând computerului să calculeze forțele atomice, interacțiunile și să identifice problemele structurale. Această abordare a întrecut supercomputerele în 50% din cazuri, cu doar 30% din timp. Recent, Foldit a făcut o descoperire științifică remarcabilă prin descoperirea structurii virusului Mason-Pfizer la maimuțe. O protează ce nu putuse fi determinată de 10 ani a fost rezolvată de trei jucători în câteva zile -- poate primul progres științific major provenit dintr-un joc video.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
Anul trecut, pe site-ul Twin Towers, a fost inaugurat memorialul 9/11. Sunt afișate numele miilor de victime folosind un minunat concept numit „adiacență semnificativă", care alătură numele pe baza relației dintre ele: prieteni, familie, colegi. Implementarea e o sarcină computațională serioasă: 3.500 victime, 1.800 cereri de adiacență, importanța specificațiilor fizice de ansamblu și estetica finală. Când a apărut prima dată în media, întregul credit a revenit unui algoritm al unei firme de proiectare din New York. Adevărul e puțin mai nuanțat. Deși un algoritm a fost folosit pentru a dezvolta cadrul aplicației, oamenii au folosit acel cadru pentru designul final. Un computer a evaluat milioane de aranjamente posibile, a gestionat un sistem de relații foarte complex și a urmărit un imens set de măsurători și variabile, permițând oamenilor să se axeze pe design și opțiuni de compoziție. Cu cât privim în jurul nostru, cu atât vedem viziunea lui Licklider peste tot. Prin realitatea augmentată din iPhone sau GPS-ul din mașină, simbioza om-computer ne face mai capabili.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
Deci, dacă vrei să îmbunătățești simbioza om-computer, ce poți face? Poți integra omul în design. În loc să consideri cum va rezolva un computer problema proiectează soluția luând în calcul și ce-ar face omul. În acest proces realizezi repede că ai petrecut tot timpul pentru interfața om-computer, mai ales ca să elimini din design fricțiunile interacțiunii. De fapt, această fricțiune e mai importantă decât puterea omului sau puterea computerului în determinarea capacității de ansamblu. De aceea, doi amatori cu câteva laptopuri au bătut un supercomputer și un mare maestru. Ce numește Kasparov proces e un produs secundar al fricțiunii. Cu cât e mai bun programul, cu atât mai mică fricțiunea. Minimizarea fricțiunii pare a fi variabila decisivă.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
Alt exemplu: bazele de date uriașe. Fiecare interacțiune pe care o avem în lume e înregistrată de o gamă crescândă de senzori: telefonul, cardul de credit, computerul. Rezultatul e baza de date uriașă care ne oferă ocazia de-a înțelege mai profund condiția umană. Accentul major în abordarea bazei de date uriașă „Cum stochez baza de date? Cum caut în ea? Cum procesez această bază uriașă?" Astea sunt întrebări necesare, dar insuficiente. E imperativ să descoperim nu cum, ci ce să calculăm. Cum impunem intuiția umană bazei de date la o asemenea scară?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
Pornim prin a integra omul în proces. Când PayPal și-a pornit afacerea, cea mai mare problemă n-a fost „Cum trimit bani online?", ci „Cum să fac să nu fiu fraudat de crima organizată?" De ce atât de greu? Computerele pot învăța să detecteze și să identifice fraudele pe baza tiparelor, nu pot învăța din tipare pe care nu le-au mai văzut, iar crima organizată are multe în comun cu această audiență: minți sclipitoare, resurse nesfârșite, spirit antreprenorial - (Râsete) - cu o uriașă diferență esențială: scopul. Computerele îi prind pe toți, exceptând evazioniștii foarte isteți, dar prinderea celor mai isteți e diferența între succes și eșec.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Există o întreagă clasă de astfel de probleme, unele cu adversari adaptabili. Rareori fraudează cu un tipar repetabil care-i detectabil de către computer. În schimb, vin cu o componentă inovativă sau disruptivă și tot mai mult, aceste probleme sunt ascunse în bazele de date.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
De ex terorismul. Teroriștii mereu se adaptează la circumstanțe noi, în moduri simple sau complexe, și în ciuda a ceea ce vedeți la TV, aceste adaptări și detectarea lor sunt fundamental umane. Computerele nu detectează tipare sau comportamente noi, dar oamenii pot. Oamenii, folosind tehnologie, testând ipoteze, căutând să înțeleagă cerând computerelor să execute diverse. Osama bin Laden n-a fost prins de inteligență artificială. A fost prins de oameni dedicați, inteligenți, în parteneriat cu diverse tehnologii.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Oricât de tentant ar suna, nu poți căuta algoritmic calea spre răspuns. Nu există un buton „Caută Teroristul" și cu cât integrăm mai multe date din diverse surse acoperind o mare varietate de formate de baze de date din sisteme disparate, cu atât mai ineficientă e căutarea. În schimb, oamenii trebuie să se uite la date și să intuiască sensul, așa cum Licklider a prevăzut de mult, cheia spre rezultate bune e o cooperare corectă, și după cum a realizat și Kasparov, asta înseamnă minimizarea fricțiunii la nivel de interfață.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Această abordare permite combinarea diverselor date din surse foarte diferite, identificarea relațiilor esențiale și plasarea lor într-un singur loc, ceea ce-a fost aproape imposibil până în prezent. Pentru unii asta are implicații terifiante în viața privată și libertățile civile. Pentru alții prezice o eră mai bună pentru viața privată și libertățile civile, acestea fiind de importanță fundamentală. Astea trebuie asigurate, nu pot fi ignorate, chiar cu cele mai bune intenții.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Să examinăm prin două exemple impactul pe care tehnologiile concepute să realizeze simbioza om-computer l-a avut în ultimul timp.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
În octombrie 2007, SUA și forțele de coaliție au percheziționat o casă de siguranță al-Qaeda în orașul Sinjar, la granița între Siria și Irak. Au găsit o comoară de documente: 700 de profiluri biografice ale luptătorilor străini. Acești luptători străini și-au lăsat familiile în Golf, Levant și Africa de Nord, ca să se alăture Al-Qaeda în Irak. Aceste arhive erau formulare de resurse umane. Luptătorii străini le-au completat când s-au alăturat organizației. Se pare că nici al-Qaida, nu e lipsită de birocrație. (Râsete) Au răspuns la întrebări de genul: „Cine te-a recrutat?" „Care ți-e orașul natal?", „Ce ocupație cauți?"
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
În această ultimă întrebare, o perspectivă surprinzătoare a fost dezvăluită. Majoritatea luptătorilor străini căutau să devină kamikaze pentru martiriu -- extrem de important deoarece între 2003 și 2007, Irakul a avut 1.382 atentate sinucigașe, o sursă majoră de instabilitate. Analizând aceste date a fost greu. Originalele erau coli de hârtie în limba arabă, care a trebuit să fie scanate și traduse. Fricțiunea din proces nu a permis rezultate semnificative în timp operațional, utilizând doar oameni, PDF-uri și tenacitate. Cercetatorii au trebuit să-și ajute mintea lor umană cu tehnologie, ca să sape mai adânc, să exploreze ipoteze ce nu erau evidente, și în final, intuițiile au apărut. 20% din luptătorii străini erau din Libia, 50% dintre aceștia erau dintr-un anume oraș în Libia, extrem de important, deoarece statisticile anterioare puseseră această cifră la 3%. De asemenea a ajutat la identificarea unui personaj de importanță crescândă în al Qaeda, Abu Yahya al-Libi, un cleric senior dintr-un grup de luptă islamic libian. În martie 2007 el a ținut un discurs după care a apărut o creștere a participării în rândul luptătorilor străini libieni.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
Poate cel mai inteligent, deși, și cel mai puțin evident, răscolind datele, cercetătorii au putut explora profund rețelele de coordonare din Siria care erau responsabile pentru primirea și transportul luptătorilor străini la frontieră. Astea erau rețele de mercenari, nu ideologi, care erau în afaceri de coordonare pentru profit. De exemplu, plăteau luptătorii străini saudiți mult mai mult decât pe cei libieni, bani care altfel ar fi ajuns la al Qaeda. Poate că adversarul și-ar anihila propria rețea dacă ar ști că trădătorii sunt jihadiști.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
În ianuarie 2010, un cutremur devastator de 7.0 a lovit Haiti, al treilea cel mai mortal din toate timpurile, a lăsat 1 milion de oameni, 10% din populație, fără adăpost. Un aspect aparent mărunt al efortului general de asistență a devenit tot mai important pe măsură ce livrarea de alimente și apă a început să se desfășoare. Ianuarie și februarie sunt luni secetoase în Haiti, totuși multe tabere aveau apă stătută. Singura instituție cu o cunoaștere aprofundată a zonelor inundabile din Haiti a fost distrusă în cutremur, împreună cu conducerea. Deci, întrebarea era, care tabere sunt sub risc, câți oameni sunt în aceste tabere, care era calendarul pentru inundații, și considerând resursele și infrastructura limitate, cum se putea stabili relocalizarea? Datele erau incredibil de disparate. Armata SUA avea cunoștințe detaliate doar pentru o mică secțiune a țării. Existau date online de la o conferință de risc ecologic din 2006 și alte date geospațiale, nimic integrat. Scopul uman aici era de a identifica tabere pentru relocare bazat pe necesități prioritare. Calculatorul a trebuit să integreze o vastă cantitate de informații geospaciale, date media sociale și informații ale organizațiilor de salvare ca să răspundă la această întrebare. Prin implementarea unui proces superior, ceea ce ar fi fost o sarcină pentru 40 de persoane timp de trei luni, a devenit o treabă simplă pentru trei persoane în 40 de ore.
all victories for human-computer symbiosis.
Toate acestea sunt victorii ale simbiozei om-computer.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
Au trecut mai mult de 50 de ani de la viziunea de viitor a lui Licklider și datele sugerează că ar trebui să fim entuziasmați să abordăm cele mai grele probleme din acest secol prin cooperarea strânsă dintre om și computer. Mulțumesc! (Aplauze)