I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
Vi voglio raccontare di due partite a scacchi. La prima si è tenuta nel 1997 e Garry Kasparov, umano, perse contro Deep Blue, una macchina. Per molti è stata l'alba di una nuova era, un'era in cui gli uomini sarebbero stati dominati dalle macchine. Ma eccoci qui, 20 anni dopo, il grande cambiamento delle nostre relazioni con i computer è l'iPad, non HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
La seconda partita è un torneo di scacchi avanzati nel 2005 in cui uomo e macchina partecipavano insieme come compagni, anziché come avversari, se volevano. All'inizio i risultati erano prevedibili. Anche un supercomputer si faceva battere da un maestro con un laptop relativamente poco potente. La sorpresa arrivò alla fine. Chi vinse? Non un gran maestro con un supercomputer, ma due dilettante americani con tre laptop poco potenti. La loro capacità di manipolare e gestire i computer per esplorare fino in fondo specifiche mosse contrastò efficacemente la superiorità negli scacchi dei grandi maestri e la maggiore capacità di calcolo di altri avversari. È un risultato strabiliante: uomini comuni, macchine comuni che battono gli uomini e le macchine migliori. Comunque, non doveva trattarsi di un duello uomo-macchina? Invece si tratta di aziende e del giusto tipo di collaborazione.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
Negli ultimi 50 anni abbiamo prestato molta attenzione alla visione sull'intelligenza artificiale di Marvin Minsky È certamente una visione sexy. Molti la condividono. È diventata la scuola di pensiero dominante nell'informatica. Ma entrando nell'era dei grandi dati, delle reti, delle piattaforme aperte e della tecnologia incorporata, vorrei suggerire che è tempo di rivalutare una visione alternativa sviluppata all'incirca nello stesso periodo. Parlo della simbiosi uomo-computer di J.C.R. Licklider, che forse dovremmo chiamare "aumento dell'intelligenza", A.I.
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Licklider era un titano dell'informatica che ha avuto un profondo effetto sullo sviluppo della tecnologia e di internet. La sua visione era quella di permettere all'uomo e alle macchine di collaborare nel prendere decisioni, controllare le situazioni complesse senza la dipendenza e la mancanza di flessibilità di programmi predeterminati. Notate quella parola "collaborare". Licklider non ci incoraggia a prendere un tostapane e a farlo diventare Data di "Star Trek", ma a prendere un umano e renderlo più capace. Gli umani sono straordinari -- il nostro modo di pensare, il nostro approccio non lineare, la nostra creatività, le ipotesi iterative, tutto molto difficile, se non impossibile per i computer. Licklider intuitivamente se ne è accorto, osservando gli umani fissare obiettivi, formulare ipotesi, determinare criteri e fare valutazioni. Certo, in altre cose gli umani sono così limitati. Siamo terribili nelle misure, nel calcolo e nei volumi. Abbiamo bisogno di talento manageriale di alto livello per tenere insieme una band e suonare. Licklider aveva previsto che i computer avrebbero fatto i lavori ripetitivi richiesti per preparare l'accesso a informazioni e alla presa di decisioni.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
Silenziosamente, senza far rumore, questo approccio ha reso possibili vittorie che vanno oltre gli scacchi. Il ripiegamento delle proteine, un tema che ha in comune con gli scacchi un'incredibile vastità -- esistono più modi di ripiegare una proteina del numero di atomi nell'universo. È un problema che può cambiare il mondo con profonde implicazioni sulla nostra capacità di comprendere e trattare le malattie. E per questo compito, la forza bruta di un supercomputer semplicemente non è sufficiente. Foldit, un gioco creato da informatici, spiega il valore di questo approccio. Dilettanti, non-tecnici, non-biologi con un videogioco riorganizzano visivamente la struttura della proteina permettendo al computer di gestire le forze atomiche e le interazioni e identificare i problemi strutturali. Questo approccio batte il computer la metà delle volte e pareggia il 30% delle volte. Di recente Foldit ha fatto un grande scoperta scientifica decifrando la struttura del virus Mason-Pfizer della scimmia. Una protease, la cui determinazione sfuggiva da più di 10 anni, è stata scoperta da questi tre giocatori nel giro di qualche giorno, probabilmente il più grande progresso scientifico proveniente da un videogioco.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
L'anno scorso, sul sito delle Torri Gemelle, è stato aperto il memorial dell'11 settembre. Mostra i nomi di migliaia di vittime utilizzando un bellissimo concetto detto "adiacenze significative". Posiziona i nomi uno accanto all'altro a seconda delle loro relazioni: amici, famiglia, colleghi. Metterli tutti insieme è quasi una sfida matematica; 3500 vittime, 1800 richieste di adiacenze, l'importanza delle specifiche fisiche complessive e l'estetica finale. La prima volta che è stato riportato dai media, il merito dell'impresa è stato attribuito a un algoritmo dello studio di design Local Projects di New York. In realtà è un po' più sottile. Mentre è stato usato un algoritmo per sviluppare la struttura sottostante, gli umani hanno usato quella struttura per realizzare il risultato finale. In questo caso, un computer aveva valutato milioni di possibili disposizioni, aveva gestito un sistema di relazioni complesse, tenendo traccia di un'ampia serie di misure e variabili, permettendo agli umani di concentrarsi sul design e sulle scelte di composizione. Più vi guardate intorno, più vedete ovunque la visione di Licklider. Che sia la realtà aumentata nel vostro iPhone o il GPS nella vostra auto, la simbiosi uomo-computer ci rende più capaci.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
Cosa si può fare per migliorare la simbiosi uomo-computer? Si può cominciare con inserire gli umani nel processo. Invece di pensare a quello che un computer farà per risolvere il problema, creare anche la soluzione intorno a quello che farà un essere umano. Facendo questo, ci si rende presto conto di aver passato il tempo sull'interfaccia uomo-macchina in particolare nell'eliminare l'attrito di questa interazione. Di fatto, questo attrito è più importante del potere dell'uomo o del potere della macchina nel determinare le capacità complessive. Ecco perché due dilettanti con qualche laptop hanno battuto facilmente un supercomputer e un maestro. Quello che Kasparov chiama processo è un sottoprodotto dell'attrito. Migliore è il processo, minore è l'attrito. La variabile decisiva diventa la minimizzazione di questo attrito.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
Prendete un altro esempio: grandi quantità di dati. Tutte le interazioni al mondo vengono registrate da una serie crescente di sensori: il vostro telefono, la vostra carta di credito, il vostro computer. Il risultato sono tanti dati, e in realtà ci forniscono l'opportunità di capire più a fondo la condizione umana. La maggiore enfasi di molti approcci ai grandi dati si concentra su, "Come memorizzare questi dati? Come cercare all'interno di questi dati? Come processare questi dati? Queste sono domande necessarie, ma non sufficienti. L'imperativo non è scoprire come calcolare, ma cosa calcolare. Come si impone l'intuizione umana su dati di questa dimensione?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
Ancora una volta, cominciamo con l'inserire l'essere umano nel processo. Quando PayPal ha iniziato ad operare, la sua più grande sfida non era, "Come trasferisco i soldi online?" Era, "Come lo faccio senza farmi intercettare dal crimine organizzato?" Perché è così sfidante? Perché mentre i computer possono imparare ad intercettare e identificare le frodi sulla base di schemi, non possono imparare a farlo sulla base di schemi che non hanno mai visto prima e il crimine organizzato ha molto in comune con questo pubblico: gente brillante, implacabili, pieni di risorse, spirito imprenditoriale -- (Risate) e una differenza enorme e importante: lo scopo. Così, mentre i soli computer possono prendere tutto tranne i più brillanti truffatori, prendere i più svegli fa la differenza tra un successo e un fallimento.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Ci sono una serie di problemi come questo, quelli con avversari adattabili. Si presentano raramente, se non mai, secondo uno schema ripetibile distinguibile dai computer. Invece, c'è una componente interna di innovazione o disturbo, e questi problemi sono sempre più seppelliti nei dati.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
Per esempio il terrorismo. I terroristi si adattano continuamente alle nuove circostanze, e nonostante quello che vedete in TV, questi adattamenti, e il loro rilevamento sono fondamentalmente umani. I computer non rilevano nuovi schemi e nuovi comportamenti, lo fanno gli esseri umani. Gli esseri umani, usando la tecnologia, testano ipotesi, cercano indizi chiedendo alle macchine di fare per loro delle cose. Osama bin Laden non è stato catturato da un'intelligenza artificiale. È stato catturato da persone brillanti, piene di risorse, scrupolose in collaborazione con varie tecnologie.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Per quanto interessante possa sembrare, dai dati non si può estrarre una risposta. Non c'è il tasto "Trova Terrorista", e più si integrano dati da fonti diverse da formati di dati diversi, da sistemi diversi, meno efficace è l'estrazione dei dati. Invece, si dovranno cercare dati e cercare indizi, e come aveva previsto Licklider tempo fa, la chiave per ottenere grandi risultati è il corretto tipo di collaborazione e Kasparov si è reso conto che significa minimizzare l'attrito dell'interfaccia.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Questo approccio rende possibili cose come setacciare i dati disponibili provenienti da fonti diverse, identificare le relazioni chiave e metterle in un unico punto, una cosa che è sempre stata praticamente impossibile da fare. Secondo qualcuno ci sono implicazioni terribili sulla privacy e sulle libertà civili. Secondo altri preannuncia un'era di maggiore privacy e protezione delle libertà civili, ma la privacy e le libertà civili sono fondamentali. Bisogna tenerlo presente, e non possono essere trascurate, anche con le migliori intenzioni.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Esploriamo con un paio di esempi l'impatto che hanno avuto di recente le tecnologie sulla simbiosi uomo-computer.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
Nell'ottobre del 2007, gli Stati Uniti e le forze alleate hanno fatto irruzione in un rifugio di al Qaeda a Sinjar al confine siriano con l'Iraq. Hanno trovato documenti segreti: 700 note biografiche di combattenti stranieri. Questi combattenti stranieri avevano lasciato le loro famiglie nel Golfo, in Africa del nord e orientale per unirsi ad al Qaeda in Iraq. Questi documenti erano moduli compilati da umani. I combattenti stranieri li avevano compilati per unirsi all'organizzazione. Si è scoperto che anche al Qaeda ha la sua burocrazia. (Risate) Rispondevano a domande del tipo, "Chi ti ha reclutato?" "Qual è la tua città natale" "Che tipo di lavoro cerchi?"
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
In quest'ultima domanda si è scoperta una cosa sorprendente. La maggior parte dei combattenti stranieri cercavano di diventare attentatori suicidi per i martirio -- molto importante, visto che tra il 2003 e il 2007 l'Iraq aveva 1382 attentatori suicidi, un'importante fonte di instabilità. Analizzare questi dati era difficile. Gli originali erano fogli di carta in arabo che dovevano essere scannerizzati e tradotti. La complessità del processo non consentiva di ottenere risultati significativi in tempi ragionevoli usando solo persone, PDF e tenacia. I ricercatori hanno dovuto sfruttare le loro menti umane insieme alla tecnologia per scavare, per esplorare ipotesi non ovvie, e effettivamente sono emersi indizi. 20% dei combattenti stranieri erano libici, 50% di questi provenivano da un'unica città in Libia, molto importante considerando che le statistiche precedenti riportavano quel numero al 3%. Ha aiutato anche a focalizzarsi su una figura di crescente importanza in al Qaeda, Abu Yahya al-Libi, un anziano ecclesiastico del gruppo dei combattenti islamici libici. Nel marzo del 2007 ha tenuto un discorso dopo il quale è cresciuta la partecipazione dei combattenti libici stranieri.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
In maniera molti intelligente, anche se meno ovvia, rivoltando i dati che avevano in testa, i ricercatori sono stati in grado di esplorare le reti di coordinamento in Siria che si occupavano di accogliere e trasportare verso il confine i combattenti stranieri. Erano reti di mercenari, non di idealisti, che coordinavano per trarne un profitto. Per esempio, ai combattenti stranieri sauditi addebitavano più che ai libici; soldi che altrimenti sarebbero andati ad al Qaeda. Forse gli avversari avrebbero interrotto la loro rete se avessero saputo di essere traditi da jihadisti.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
Nel gennaio 2010 un devastante terremoto del 7° grado ha colpito Haiti, il terzo terremoto di tutti i tempi in termini di mortalità, ha lasciato 1 milione di persone, 10% della popolazione, senza un tetto. Un aspetto apparentemente ininfluente tra tutte le iniziative umanitarie diventò sempre più importante quando cominciarono ad arrivare cibo e acqua. Ad Haiti gennaio e febbraio sono mesi secchi, eppure molti campi avevano sviluppato bacini d'acqua. La sola istituzione con le informazioni dettagliate delle piane alluvionali di Haiti era stata distrutta nel terremoto, dirigenti compresi. La domanda era quindi: quali campi sono a rischio, quante persone ci sono in questi campi, quali sono i tempi delle alluvioni, e considerate le risorse e le infrastrutture limitate, quali sono le priorità nella riallocazione? I dati erano incredibilmente eterogenei. L'esercito degli Stati Uniti aveva informazioni dettagliate solo di una piccola sezione del paese. Online c'erano dati del 2006 da una conferenza sui rischi ambientali, altri dati geo-spaziali, nessuno dei quali era integrato. L'obiettivo era identificare campi per l'allocazione secondo le priorità. Il computer doveva integrare una grande quantità di dati geospaziali, dati dai social media e informazioni di organizzazioni umanitarie per rispondere alla domanda. Implementando un processo ad alto livello, quello che altrimenti sarebbe stato un lavoro di tre mesi per 40 persone è diventato un lavoro semplice di 40 ore per 3 persone,
all victories for human-computer symbiosis.
tutte vittorie per la simbiosi uomo-computer.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
Siamo a più di 50 anni dalla visione del futuro di Licklider, e i dati suggeriscono che dovremmo essere entusiasti di affrontare i problemi più difficili di questo secolo, uomo e macchina che collaborano. Grazie. (Applausi) (Applausi)