I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
Gostaria de vos falar de dois jogos de xadrez. O primeiro ocorreu em 1997, em que Garry Kasparov, um ser humano, perdeu contra o Deep Blue, uma máquina. Para muitos, foi o amanhecer de uma nova era em que o homem seria dominado pela máquina. Mas aqui estamos nós, 20 anos depois, e a maior mudança na nossa relação com os computadores é o iPad e não o HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
O segundo jogo foi um torneio de xadrez "freestyle" em 2005, em que homem e máquina podiam participar juntos, como parceiros, em vez de adversários, se assim o desejassem. A princípio, os resultados eram previsíveis. Até um supercomputador era batido por um grande mestre com um portátil relativamente fraco. A surpresa veio no final. Quem ganhou? Não foi um grande mestre com um supercomputador, mas dois americanos amadores que usaram três portáteis relativamente fracos. A capacidade de treinar e manipular os seus computadores, para explorar profundamente posições específicas foi eficaz para contrariar o conhecimento superior do xadrez do grande mestre e do poder informático superior de outros adversários. Isto é um resultado espantoso: homens comuns, máquinas comuns que derrotaram o melhor homem, a melhor máquina. Mas não era suposto ser o homem contra a máquina? Em vez disso, trata-se de cooperação e do tipo certo de cooperação.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
Temos prestado muita atenção à visão de Marvin Minsky sobre a inteligência artificial, nos últimos 50 anos. É uma visão muito atraente. Muitos a adotaram. Tornou-se a escola de pensamento dominante na ciência informática. Mas, ao entrarmos na era dos metadados dos sistemas de rede das plataformas abertas e das tecnologias integradas, eu gostaria de sugerir que é tempo de reavaliar uma visão alternativa que foi desenvolvida por volta da mesma altura. Estou a falar da simbiose homem-máquina de J.C.R. Licklider talvez mais bem referida como "inteligência aumentada".
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Licklider era um titã da informática que teve um profundo efeito no desenvolvimento tecnológico e da Internet. A sua visão era permitir que homem e máquina cooperassem na tomada de decisões, no controlo de situações complexas sem a dependência inflexível de programas predeterminados. Reparem na palavra "cooperar." Licklider não nos encoraja a pegar numa torradeira e a torná-la no Data do "Star Trek", mas a pegar num ser humano e torná-lo mais capaz. As pessoas são espantosas — a nossa forma de pensar, as abordagens não-lineares, a criatividade, as hipóteses iterativas, tudo é muito difícil para um computador fazer. Licklider apercebeu-se disto, a contemplar os seres humanos a definir objetivos, a formular hipóteses, a determinar critérios e a efetuar avaliações. Noutros aspetos, as pessoas são muito limitadas. Somos terríveis com a escala, o cálculo e o volume. Precisamos duma ótima gestão de talentos para manter um grupo de "rock" unido e a tocar. Licklider previu que os computadores fizessem todo o trabalho de rotina necessário para abrir caminho às ideias e decisões.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
Silenciosamente, sem muita fanfarra, esta abordagem tem acumulado vitórias, para além do xadrez. A dobragem de proteínas, que partilha a expansividade do xadrez — há mais maneiras de dobrar uma proteína do que átomos no universo — é um problema que pode mudar o mundo, com enormes implicações na nossa capacidade de compreender e tratar doenças. Para essa tarefa, a força bruta dum supercomputador não é suficiente. Foldit, um jogo criado por engenheiros informáticos, ilustra o valor da abordagem. Amadores que não são técnicos nem biólogos jogam um videojogo em que reorganizam visualmente a estrutura da proteína, permitindo que o computador lide com as interações atómicas e identifique problemas estruturais. Esta abordagem derrotou supercomputadores 50% das vezes e empatou 30% das vezes. O Foldit fez recentemente uma grande e notável descoberta científica ao decifrar a estrutura do vírus Mason-Pfizer em macacos. Uma protéase que escapara à determinação durante mais de 10 anos foi resolvida por três jogadores numa questão de dias, talvez o maior avanço científico que resultou de um videojogo.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
No ano passado, no local das Torres Gémeas, foi inaugurado o Memorial do 11 de Setembro. Exibe os nomes de milhares de vítimas usando um belo conceito chamado "proximidade significativa". Coloca os nomes ao lado uns dos outros em função das suas relações: amigos, família, colegas de trabalho. Quando juntamos todos, é um grande problema informático: 3500 vítimas, 1800 pedidos de proximidade, a importância das especificações físicas globais e a estética final. Os "media" deram a notícia, atribuindo os louros de tal feito a um algoritmo da firma de "design" de New York City: Local Projects. A verdade é um pouco diferente. Embora se tenha usado um algoritmo para o quadro subjacente, foram pessoas que usaram esse quadro para conceber o resultado final. Neste caso, um computador avaliou milhões de possíveis distribuições, geriu um complexo sistema de relações e manteve um grande conjunto de medições e de variáveis, o que permitiu que as pessoas se concentrassem na escolha da conceção e da composição. Quanto mais olhamos à nossa volta, mais vemos a visão de Licklider por todo o lado. Quer seja a realidade aumentada num iPhone ou no GPS dum carro, a simbiose homem-máquina torna-nos mais capazes.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
Se quisermos melhorar a simbiose homem-máquina, o que é que podemos fazer? Podemos começar por incluir a pessoa na conceção. Em vez de pensar como o computador resolverá o problema, conceber a solução sobre o que o ser humano também poderá fazer. Quando fizermos isso, depressa chegaremos à conclusão de que passámos o tempo todo na interface entre o homem e a máquina, principalmente a eliminar a fricção da interação. De facto, esta fricção é mais importante que o poder do homem ou o poder da máquina na determinação da capacidade total. Por isso é que dois amadores com uns portáteis derrotaram facilmente um supercomputador e um grande mestre. O que Kasparov chama de processo é um derivado da fricção. Quanto melhor o processo, menor a fricção. Reduzir a fricção torna-se a variável decisiva.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
Ou outro exemplo: os metadados. Todas as interações no mundo são gravadas por um crescente número de sensores: o telemóvel, o cartão de crédito, o computador. O resultado são os metadados. proporcionam-nos uma oportunidade de compreender melhor a condição humana. A maior parte das abordagens aos metadados concentra-se em: "Como guardo estes dados? Como pesquiso estes dados? "Como processo estes dados?" Estas são perguntas necessárias mas insuficientes. O imperativo não é perceber como calcular, mas sim o que calcular. Como se impõe a intuição humana nos dados a esta escala?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose.
Mais uma vez, começamos por integrar o homem na conceção do processo. Quando a PayPal estava a começar, o seu maior problema não era: "Como é que eu envio e recebo dinheiro online?" mas sim: "Como fazê-lo sem ser burlado pelo crime organizado?" Porque é tão difícil? Porque, enquanto os computadores podem aprender a detetar e identificar fraudes, com base em modelos, não conseguem aprender a fazê-lo com base em modelos que nunca viram, e o crime organizado tem muito em comum com esta plateia: pessoas brilhantes cheias de recursos, espirito empreendedor... (Risos)
And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
... e uma diferença monumental: um objetivo. Os computadores, por si só, conseguem apanhar todos os burlões, exceto os mais espertos, mas apanhar estes últimos é a diferença entre o sucesso e o fracasso.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Há toda uma série de problemas como este, com adversários que se adaptam. que raramente utilizam um modelo repetitivo que seja detetável pelos computadores. Em vez disso, há uma componente inerente de inovação ou rotura, e estes problemas estão cada vez mais enterrados nos metadados.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
Por exemplo, o terrorismo. Os terroristas adaptam-se sempre a novas circunstâncias, e, apesar do que temos visto na TV, essas adaptações e a sua deteção são fundamentalmente humanas. Os computadores não detetam novos modelos e comportamentos, mas as pessoas conseguem, usando tecnologias, testando hipóteses procurando o conhecimento, pedindo às máquinas que façam essas coisas. Osama bin Laden não foi apanhado graças à inteligência artificial. Foi apanhado por pessoas dedicadas e brilhantes em parceria com diversas tecnologias.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Por muito atrativo que pareça, não se consegue encontrar a resposta procurando em dados com algoritmos. Não há botão de "Encontrar Terrorista" e, quanto mais dados integrarmos a partir de uma ampla variedade de fontes, de uma grande variedade de dados, de sistemas bastante díspares, menos eficaz se torna o tratamento de dados. As pessoas terão que olhar para os dados e procurar soluções. Como Licklider previu há muito tempo, a chave para bons resultados é o tipo certo de cooperação. Como Kasparov se apercebeu, isso significa minimizar a fricção na interface.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Com esta abordagem tornam-se possíveis coisas como filtrar todos os dados disponíveis de fontes diferentes, identificando relações chave e reunindo-as num só local, o que era quase impossível anteriormente. Para uns, isto tem terríveis implicações a nível de privacidade e liberdade civil. Para outros, isto antevê uma era de maior privacidade e proteção das liberdades civis, mas a privacidade e as liberdades civis têm uma importância fundamental. Temos que o reconhecer, não podemos pô-las de lado, nem com a melhor das intenções.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Exploremos, através de alguns exemplos, o impacto que as tecnologias, construídas para criar a simbiose homem-máquina tiveram recentemente.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
Em outubro de 2007, os EUA e as forças de coligação invadiram um refúgio da al-Qaeda, na cidade de Sinjar, na fronteira entre o Iraque e a Síria. Encontraram um tesouro de documentos: 700 biografias de combatentes estrangeiros que tinham deixado as famílias no Golfo, no Levante e no Norte de África para se juntarem à al-Qaeda no Iraque. Os registos eram formulários que os combatentes preenchiam quando se juntavam à organização. Parece que nem a al-Qaeda escapa à burocracia. (Risos) Respondiam a perguntas como: "Quem o recrutou?" "Qual é a sua cidade natal?" "Que ocupação procura?"
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
Esta última pergunta revelou-se uma surpresa. A grande maioria dos combatentes estrangeiros queriam ser bombistas suicidas e mártires muito importante, visto que, entre 2003 e 2007, o Iraque teve 1382 atentados suicidas, uma grande fonte de instabilidade. Analisar esta informação foi difícil. Os originais estavam em árabe e tinham de ser digitalizados e traduzidos. A fricção no processo não permitia resultados significativos em tempo operacional usando apenas pessoas, PDFs e tenacidade. Os investigadores tiveram que recorrer à tecnologia para investigar mais, explorar hipóteses não-óbvias, e, de facto, surgiram resultados. 20% dos combatentes estrangeiros vinham da Líbia, 50% dos quais de uma única cidade na Líbia, muito importante, visto que as estatísticas anteriores avaliavam esse número em 3%. Ajudaram a encontrar uma figura de importância crescente na al-Qaeda, Abu Yahya al-Libi, um importante membro do grupo Líbia-Islão. Em março de 2007, fez um discurso, depois do qual houve um grande aumento no recrutamento de combatentes estrangeiros.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
Mas talvez o mais inteligente de tudo e o menos óbvio, foi que, revolvendo os dados, os investigadores puderam explorar, com profundidade, as redes de coordenação na Síria responsáveis por receber e transportar os terroristas para a fronteira. Eram redes de mercenários, não de ideólogos, que estavam na coordenação por dinheiro. Por exemplo, cobravam aos terroristas sauditas muito mais do que aos da Líbia, dinheiro que, de outra forma, iria parar à al-Qaeda. Talvez o adversário modificasse a sua rede se soubesse que eles estavam a explorar os futuros jiadistas.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
Em janeiro de 2010, um terramoto devastador de grau 7 atingiu o Haiti. O terceiro terramoto mais mortal de todos os tempos, deixou um milhão de pessoas, 10% da população, sem abrigo. Um aspeto aparentemente pequeno do esforço comunitário tornou-se cada vez mais importante à medida que começou a entrega de comida e de água. Janeiro e fevereiro são meses secos no Haiti. Mas muitos dos campos tinham água estagnada. A instituição com conhecimento detalhado da inundação das zonas inundadas do Haiti tinha sido destruída no terramoto, com os líderes lá dentro. O problema era saber quais os campos em risco, quantas pessoas havia nos campos, qual a cronologia das inundações e, dados os recursos e infraestruturas muito limitadas, como dar prioridade ao realojamento? Os dados eram incrivelmente díspares. Os EUA só tinham conhecimento detalhado de parte do país. Havia dados online de uma conferência ambiental de 2006, outros dados geoespaciais, mas nada disso integrado. O objetivo era identificar os campos a utilizar segundo as necessidades prioritárias. O computador teve que integrar uma grande quantidade de informações geoespaciais, dados sociais dos "media" e das organizações de socorro para responder a esta questão. Através da implementação de um processo superior que, de outro modo, seria um trabalho para 40 pessoas em 3 meses
all victories for human-computer symbiosis.
tornou-se numa simples tarefa para 3 pessoas em 40 horas,
tudo vitórias para a simbiose homem-máquina.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
Mais de 50 anos depois da visão de Licklider para o futuro, os dados sugerem que devíamos estar muito entusiasmados em atacar os problemas mais difíceis do século, numa parceria de homem e máquina. Obrigado. (Aplausos)