I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
Gostaria de falar sobre duas partidas de xadrez. A primeira aconteceu em 1997, na qual Garry Kasparov, um humano, perdeu para Deep Blue, uma máquina. Para muitos, isto era o início de uma nova era, em que o homem seria dominado pela máquina. Mas aqui estamos nós, 20 anos depois e a maior mudança de como nos relacionamos com computadores é o iPad e não HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
A segunda partida foi num torneio de xadrez estilo livre em 2005, no qual homem e máquina podiam participar como parceiros, ao invés de adversários, se assim preferissem. No início os resultados eram previsíveis. Mesmo um supercomputador perdia contra o grande mestre com um laptop relativamente fraco. A surpresa veio no final. Quem venceu? Não o grande mestre com um supercomputador, mas na verdade dois amadores estadunidenses com três laptops relativamente fracos. A habilidade deles em instruir e manipular seus computadores, para explorar a fundo posições específicas agiu efetivamente contra o conhecimento superior sobre xadrez dos mestres e o poder da superioridade computacional de outros adversários. Este é um resultado espantoso: homens comuns, máquinas comuns vencendo o melhor homem, a melhor máquina. Todavia, não deveria ser homem contra máquina? Em vez disso, trata-se de cooperação e o tipo certo de cooperação.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
Nos últimos 50 anos viemos prestando muita atenção na visão de Marvin Minsky sobre a inteligência artificial. É uma visão sexy, com certeza. Muitos a acolheram. Tornou-se a escola de pensamento dominante da ciência da computação. Mas ao entrarmos na era dos grandes dados, dos sistemas de redes, das plataformas abertas e da tecnologia integrada, eu sugeriria que está na hora de reavaliarmos uma visão alternativa que na verdade foi desenvolvida no mesmo período. Refiro-me à simbiose homem-computador de J. C. R. Licklider, talvez melhor descrita como “ inteligência aumentada”.
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Licklider era um titã da ciência da computação e teve um profundo efeito no desenvolvimento da tecnologia e da Internet. Sua visão era possibilitar que homens e computadores cooperassem na tomada de decisões, no controle de situações complexas sem a dependência inflexível de programas predeterminados. Notem a palavra “cooperar”. Licklider não nos encoraja pegar uma torradeira e fazer dela dados do “Star Trek”, mas sim utilizar um humano e fazê-lo mais capaz. Humanos são tão fantásticos – como nós pensamos, nossa abordagem não-linear, nossa criatividade, as hipóteses interativas, tudo muito difícil senão impossível para os computadores fazerem. Licklider intuitivamente entendeu isto observando humanos e estabelecendo metas, formulando hipóteses, determinando critérios e fazendo avaliações. É claro, relativamente, os humanos são bem limitados. Somos péssimos em dimensão, cálculo e volume. Necessitamos de talento de alto-nível de gerenciamento para mantermos a banda de rock unida e tocando. Licklider previu que computadores fariam todo o trabalho rotineiro necessário para preparar o acesso aos insights e às tomadas de decisões.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
Silenciosamente, sem muito alarde, esta abordagem fez com que vitórias fossem possíveis além do xadrez. A dobradura de proteínas, um assunto que tem a incrível e expansividade do xadrez – há mais formas de dobrar uma proteína do que o número de átomos no universo. Esse é um problema que pode mudar o mundo com grandes consequências para a nossa capacidade de entender e tratar doenças. E para essa tarefa, somente a força bruta do supercomputador não é suficiente. Foldit, um jogo criado por cientistas da computação, ilustra o valor da abordagem. Amadores, não-técnicos, não-biólogos jogam um videogame no qual eles visualmente reorganizam a estrutura da proteína, permitindo ao computador gerenciar forças atômicas, interações e identificar problemas de estrutura. Esse método derrota os supercomputadores 50% das vezes e empata 30% das vezes. Recentemente Foldit fez uma grande e notável descoberta científica ao decifrar a estrutura do vírus do macaco Mason-Pfizer. Uma protease que se tenta desvendar há mais de dez anos foi descoberta por três jogadores numa questão de dias, talvez o primeiro grande avanço científico advindo de uma partida de videogame.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
No ano passado, no local das Torres Gêmeas, foi inaugurado o memorial sobre o 11 de setembro. Ele exibe os nomes de milhares de vítimas usando um belo conceito chamado “adjacência significativa”. Nomes são colocados uns ao lado dos outros baseados nas suas relações: amigos, familiares, colegas de trabalho. Quando são colocados todos juntos, é um desafio computacional bem grande: 3.500 vítimas, 1.800 pedidos de adjacência, a importância das especificações físicas em geral e o toque estético final. A primeira vez que foi noticiado pela mídia, todo o crédito dessa façanha foi para o algoritmo projetado pela empresa Local Projects de Nova York. A verdade é um pouco mais sutil. Embora um algoritmo fosse usado para desenvolver a estrutura adjacente, humanos usaram esta estrutura para projetar o resultado final. Então neste caso, um computador tinha avaliado milhões de formações possíveis, gerenciado um sistema relacional complexo, e manteve o controle de um conjunto muito grande de medidas e variáveis, permitindo que os humanos se concentrassem no design e nas escolhas composicionais. Então, quanto mais você olha ao redor, mais você vê a visão de Licklider em toda parte. Quer se trate de realidade aumentada no iPhone ou no GPS em nossos carros, a simbiose entre homem e computador está nos fazendo mais capazes.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
Então, se quisermos melhorar a simbiose homem-computador, o que podemos fazer? Você pode começar incluindo o humano no processo. Em vez de pensar no que o computador fará para resolver o problema, crie a solução em torno do que o ser humano fará também. Quando você faz isso, rapidamente percebe que gastou todo seu tempo na interface entre homem e máquina, especificamente para eliminar o atrito na interação. Na verdade, esse atrito é mais importante do que o poder do ser humano ou o poder da máquina para determinar a capacidade total. É por isso que dois amadores com alguns laptops vencem facilmente um supercomputador e um grande mestre. Aquilo que Kasparov chama de processo é um subproduto do atrito. Melhor o processo, menor o atrito. E a minimização do atrito passa a ser a variável decisiva.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
Ou pegue outro exemplo: grandes volumes de dados. Cada interação que temos no mundo é registrada por uma série crescente de sensores: celulares, cartões de crédito, computadores. Isto resulta em grandes volumes de dados, o que, de fato, nos dá a oportunidade de entender a condição humana mais a fundo. A principal ênfase de muitas abordagens para grandes volumes de dados tem foco em: “Como armazenar esses dados? Como busco esses dados? Como processo esses dados?” Perguntas necessárias mas insuficientes. O imperativo não é descobrir como computar mas o que computar. Como colocar a intuição humana em dados nessa dimensão?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
De novo, começamos por projetar o humano no processo. Quando PayPal começou a operar como uma empresa, seu maior desafio não era: “Como envio e recebo dinheiro na Internet?” Mas sim: “Como faço isso sem ser fraudado pelo crime organizado?” Por que tal desafio? Porque embora computadores possam aprender a detectar e identificar as fraudes a partir de padrões, eles não podem fazê-lo com base em padrões nunca vistos antes, e o crime organizado tem muito em comum com essa audência: pessoas brilhantes, implacavelmente engenhosos, espíritos empreendedores – (Risos) – e uma diferença enorme e importante: propósito. Embora computadores possam detectar tudo exceto os criminosos mais espertos, capturar o mais esperto faz a diferença entre o sucesso e o fracasso.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Há uma série de problemas como este, uns com adversários adaptativos. Eles nunca ou raramente apresentam um padrão repetitivo que os computadores possam distinguir. Em vez disso, há alguns componentes inerentes de inovação ou de perturbação, que ficam cada vez mais escondidos no grande volume de dados.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
Por exemplo, terrorismo. Os terroristas estão sempre se adaptando às novas circunstâncias, e apesar do que vocês vêem na TV, estas adaptações e suas detecções são fundamentalmente humanas. Computadores não detectam padrões originais e novos comportamentos, mas os humanos sim. Eles usam tecnologia, testam hipóteses, buscam ideias pedindo às máquinas para fazer coisas para eles. Osama bin Laden não foi capturado com inteligência artificial. Mas sim por pessoas dedicadas, engenhosas, brilhantes em colaboração com várias tecnologias.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Por mais atraente que possa parecer, não podemos algoritmicamente minerar dados para obter resultados. Não existe um botão “Ache Terroristas” e, quanto mais dados, provenientes de diversas fontes, nós integrarmos através de uma variedade ampla de formatos e de sistemas muito diversos, menos eficaz é a extração de dados. Em vez disso, as pessoas terão que examinar os dados e procurar indícios, e como Licklider previu há tempos, a chave para se obter grandes resultados está no tipo certo de cooperação, e como Kasparov percebeu, isso significa minimizar atritos na interface.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Essa abordagem possibilita coisas como procurar em todos dados disponíveis de fontes diversas, identificar as relações fundamentais e as colocar em um lugar, algo quase impossível de se realizar antes. Para algumas pessoas, isso tem implicações terríveis para a privacidade e a liberdade civil. Para outros isso prediz uma era de proteção às mesmas, mas privacidade e liberdade civil são de importância fundamental. Isto precisa ser reconhecido, elas não podem ser negligenciadas, mesmo com a melhor das intenções.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Vamos explorar esses dois exemplos. O impacto que as tecnologias criadas para acionar a simbiose homem-computador têm tido recentemente.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
Em outubro de 2007, os EUA e as forças da coalizão invadiram um esconderijo do al-Qaeda na cidade de Sinjar, na fronteira entre a Síria e o Iraque. Eles encontraram valiosos documentos escondidos : 700 notas biográficas de combatentes estrangeiros. Esses combatentes tinham deixado suas famílias no Golfo, na região do Levante e no norte da África para juntarem-se a al-Qaeda no Iraque. Essas fichas eram formulários de recursos humanos. Os combatentes estrangeiros os preenchiam quando se associavam à organização. Acontece que al-Qaeda, também, não escapa da burocracia. (Risos) Eles respondiam a esse tipo de pergunta: “Quem os recrutou?” “Qual a sua cidade natal?” “Que cargo quer?”
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
A última pergunta foi uma revelação surpreendente. A vasta maioria dos combatentes estrangeiros queria ser homens-bombas para o martírio – muito importante entre 2003 e 2007, o Iraque tinha 1.382 homens-bomba, uma fonte de instabilidade importante. Esses dados eram difíceis de analisar. Os originais eram papéis em árabe que tinham que ser escaneados e traduzidos. A complexidade do processo não gerou resultados significativos dentro de um prazo razoável usando humanos, PDFs e perseverança. Os pesquisadores tiveram que forçar suas mentes com a ajuda da tecnologia para mergulhar a fundo, explorar hipóteses não-óbvias, e de fato, indícios surgiram. 20% dos combatentes estrangeiros eram da Líbia, 50% deles eram de uma única cidade da Líbia, extremamente importante já que estatísticas anteriores tinham mostrado 3%. Isso também ajudou a focar em uma pessoa de importância crescente no al-Quaeda, Abu Yahya al-Libi, um clérigo sênior do Grupo de Combatentes Islâmicos da Líbia. Em março de 2007, ele deu uma palestra que gerou uma onda de participação de combatentes estrangeiros da Líbia.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
Porém, talvez o mais inteligente de tudo e menos óbvio, é que ao reverter os dados, os pesquisadores conseguiram explorar a fundo as redes de coordenação na Síria que eram responsáveis pelo recebimento e transporte de combatentes estrangeiros para a fronteira. Essas eram redes de mercenários, não de ideólogos, que estavam no ramo de coordenação para fins lucrativos. Por exemplo, eles cobravam dos combatentes da Saudi Arabia muito mais do que dos da Líbia, fundos que poderiam ter ido para a al-Qaeda. Talvez os adversários interrompessem sua própria rede se soubessem que estavam enganando supostos jihadistas.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
Em janeiro de 2010 um terremoto devastador de 7.0 atingiu o Haiti, o terceiro mais desastroso de todos os tempos, deixou 1 milhão de pessoas, 10% da população, sem casa. Um aspecto aparentemente irrelevante de todo o esforço da ajuda humanitária tornou-se cada vez mais importante quando comida e água começaram a chegar. Janeiro e fevereiro são os meses secos no Haiti, No entanto, muitos dos acampamentos tinham água estagnada. A única instituição com conhecimento detalhado das planícies do Haiti havia sido destruída no terremoto, incluindo sua chefia. Então, quais são as áreas de risco, quantas pessoas estão nestas áreas, qual é a linha do tempo para as enchentes, e considerando que os recursos e a infra-estrutura são muito limitados, como priorizar a realocação? Os dados eram disparatados. O exército estadunidense só tinha conhecimento detalhado de uma parte pequena do país. Havia dados na Internet de uma conferência em 2006 sobre riscos ao meio ambiente, outros dados geoespaciais, nada disso integrado. O objetivo aqui era identificar acampamentos para realocação baseado na prioridade necessária. O computador teve que integrar uma quantidade vasta de informação geoespacial, dados de mídia social e informação das organizações humanitárias para poder responder à esta pergunta. A implementação de um processo de alto nível, o que seria de outra forma uma tarefa para 40 pessoas durante 3 meses, tornou-se um trabalho simples para 3 pessoas em 40 horas,
all victories for human-computer symbiosis.
tudo vitórias para a simbiose homem-computador.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
Já são mais de 50 anos desde que Licklider teve a visão do futuro, e os dados sugerem que devíamos estar muito entusiasmados para enfrentar os problemas mais duros deste século, homem e máquina trabalhando juntos. Obrigado. (Aplausos) (Aplausos)