I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era, one where man would be dominated by machine. But here we are, 20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.
Quiero hablarles sobre dos partidas de ajedrez. La primera fue en 1997, cuando Garry Kasparov, un humano, perdió ante Deep Blue, una máquina. Para muchos, este era el inicio de una nueva era, en la que las máquinas dominarían a los hombres. Sin embargo aquí estamos, 20 años después, y el mayor cambio en nuestra relación con las computadoras es el iPad, no HAL.
The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.
La segunda partida fue durante un torneo de ajedrez libre, en 2005, en el que hombre y máquina podían inscribirse como equipo y no como adversarios, si así lo deseaban. Al principio se tuvieron resultados predecibles; incluso un Gran Maestro derrotó a una supercomputadora con un computador portátil más bien de bajo desempeño. La sorpresa llegó al final: ¿quién ganó? No un Gran Maestro con una supercomputadora, sino dos aficionados norteamericanos con tres portátiles más bien de bajo desempeño. Su habilidad para instruir y manipular sus computadoras para explorar posiciones específicas en profundidad contrarrestó con eficacia los conocimientos superiores en ajedrez de los Grandes Maestros y el poder superior de computación de otros adversarios. Este es un resultado increíble: hombres promedio y máquinas convencionales que vencen al mejor hombre, a la mejor máquina. Y además, ¿no se supone que se trata del hombre contra la máquina? En cambio, se trata de cooperación y del tipo correcto de cooperación.
We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.
Durante los últimos 50 años, hemos prestado mucha atención a la visión que tiene Marvin Minsky de la inteligencia artificial Es una visión atractiva, por supuesto; muchos la han adoptado. Se ha convertido en la escuela dominante de pensamiento en la ciencia de la computación. Pero a medida que entramos en la era de los grandes volúmenes de datos, de los sistemas de red, de las plataformas abiertas y de la tecnología embebida, quiero sugerir que es tiempo de reevaluar una visión alternativa que en realidad se desarrolló en la misma época. Me refiero a la idea de la simbiosis humano-computadora, de J.C.R. Licklider, tal vez mejor llamada «aumento de la inteligencia», o I.A. (en inglés)
Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.
Licklider fue un titán de la informática que tuvo un impacto profundo en el desarrollo de la tecnología y de internet. Su visión era la de habilitar la cooperación entre hombre y máquina en la toma de decisiones, y controlar situaciones complejas sin la dependencia inflexible de programas predeterminados. Fíjense en la palabra «cooperación». Licklider nos alienta, no a tomar un tostador y convertirlo en «Data», de «Star Trek», sino a tomar a un ser humano y hacerlo más capaz. Los humanos somos tan sorprendentes... cómo pensamos, nuestros enfoques no lineales, nuestra creatividad, las hipótesis iterativas; todo esto es muy difícil, si no imposible, para las computadoras. Licklider se dio cuenta de esto intuitivamente al contemplar a los humanos establecer las metas, formular las hipótesis, determinar los criterios y realizar la evaluación. Por supuesto, los humanos somos muy limitados en otras áreas. Somos muy malos para grandes escalas, volumen y para computar. Necesitamos una gestión superior de talento para mantener al grupo de rock unido y tocando. Licklider previó que las computadoras harían todo el trabajo rutinario que se necesitaba para preparar el camino al conocimiento y la toma de decisiones.
Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess — there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.
En silencio, sin mucha fanfarria, este enfoque ha ido acumulando triunfos más allá del ajedrez. El plegamiento de proteínas, un tema que comparte con el ajedrez la increíble expansividad: hay más formas de plegar una proteína que átomos en el universo. Este es un problema capaz de cambiar el mundo con enormes repercusiones en nuestra capacidad para comprender y tratar las enfermedades. Y para esta tarea, la fuerza bruta de las supercomputadoras simplemente no basta. «Foldit», un juego creado por científicos de la informática, ilustra el valor de este enfoque. Aficionados sin formación en tecnología ni biología juegan un videojuego en el que reordenan visualmente la estructura de la proteína, permitiendo que la computadora se encargue de las fuerzas atómicas de las interacciones y de identificar los problemas estructurales. Este enfoque ha vencido a las supercomputadoras el 50 % de las veces y ha empatado con ellas el 30 %. «Foldit» realizó hace poco un descubrimiento científico importante al descifrar la estructura del virus Mason-Pfizer de los monos. Una proteasa que no había podido ser determinada en más de 10 años fue resuelta por tres jugadores en cuestión de días; tal vez el primer avance científico importante que haya surgido de jugar un videojuego.
Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims, 1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.
El año pasado, en el sitio de las Torres Gemelas, se inauguró el monumento 9/11. Muestra los nombres de miles de víctimas, usando un hermoso concepto llamado «colindancia significativa». Coloca los nombres uno junto a otro en función de las relaciones que tenían entre sí: amigos, familias, compañeros de trabajo. Hacer encajar todo es un considerable desafío computacional: 3500 víctimas, 1800 pedidos de colindancia, la importancia de las especificaciones físicas generales y la estética final. En el primer informe de la prensa se dio crédito total por tal hazaña a un algoritmo de una compañía de diseño en Nueva York llamada «Local Projects». La verdad es un poco más sutil. Si bien se utilizó un algoritmo para desarrollar la estructura base, fueron seres humanos quienes usaron esa estructura para diseñar el resultado final. Así que, en este caso, una computadora evaluó los millones de diseños posibles, manejó un sistema relacional complejo y monitoreó un gran conjunto de mediciones y variables, lo que permitió a los humanos enfocarse en el diseño y las alternativas de composición. Entre más miren a su alrededor, más verán por todos lados la visión de Licklider. Ya sea la realidad aumentada en su iPhone o el GPS en su auto, la simbiosis humano-computadora nos está volviendo más capaces.
So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.
Entonces, si quieren mejorar la simbiosis humano-computadora, ¿qué pueden hacer? Pueden empezar por incluir al ser humano en el diseño del proceso. En vez de pensar qué hará una computadora para resolver el problema, diseñen la solución en función de lo que hará el ser humano también. Al hacer esto, pronto se darán cuenta de que han pasado todo su tiempo en la interfaz entre hombre y máquina, específicamente en el diseño para eliminar la fricción en la interacción. De hecho, esta fricción es más importante que el poder del hombre o de la máquina para determinar la capacidad total. Es por eso que dos aficionados con unas cuantas computadoras portátiles vencieron fácilmente a una supercomputadora y a un Gran Maestro. Lo que Kasparov llama proceso es un subproducto de la fricción. Cuanto mejor sea el proceso, menor será la fricción, y minimizar la fricción resulta ser la variable decisiva.
Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?
O bien, tomen otro ejemplo: los grandes volúmenes de datos. Nuestras interacciones con en el mundo se registran por una variedad de sensores cada vez mayor: teléfonos, tarjetas de crédito, computadoras. El resultado es el gran volumen de datos; y en realidad nos ofrece la oportunidad de entender más profundamente la condición humana. El mayor énfasis de casi todos los enfoques al alto volumen de datos se centra en: «¿Cómo almaceno estos datos?, ¿cómo busco estos datos?, ¿cómo proceso estos datos?» Estas preguntas son necesarias, pero insuficientes. El imperativo no es resolver cómo computar, sino qué computar. ¿Cómo se aplica la intuición humana sobre los datos a esta escala?
Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit — (Laughter) — and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.
De nuevo, empezamos por incluir al ser humano en el diseño del proceso. En los inicios de la compañía «PayPal», su mayor desafío no fue: cómo enviar y recibir dinero en línea, sino cómo enviarlo sin ser estafado por el crimen organizado. ¿Por qué tanto desafío? Porque las computadoras pueden aprender a detectar fraudes con base en patrones, pero no pueden aprender a hacerlo con base en patrones que nunca han visto, y el crimen organizado tiene mucho en común con este público: es gente brillante, incansablemente ingeniosa, con un espíritu emprendedor —(Risas)— y una diferencia enorme y muy importante: sus intenciones. Si bien las computadoras por sí solas pueden atrapar a todos los estafadores excepto a los más astutos, atrapar a los más astutos hace la diferencia entre el éxito y el fracaso.
There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.
Hay toda una clase de problemas como este, que tienen adversarios adaptables. Rara vez presentan un patrón repetitivo que las computadoras puedan discernir. Al contrario, hay un componente intrínseco de innovación o disrupción, y se esconden cada vez más entre el alto volumen de datos.
For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.
El terrorismo, por ejemplo. Los terroristas se adaptan siempre en mayor o menor medida a circunstancias nuevas. Y a pesar de lo que puedan ver en la TV, estas adaptaciones y su detección son fundamentalmente humanas. Las computadoras no detectan patrones y comportamientos novedosos, pero los seres humanos sí. Los seres humanos, al usar tecnología, al probar una hipótesis, al buscar entendimiento al pedir a las máquinas que hagan cosas por ellos. La inteligencia artificial no atrapó a Osama Bin Laden. Lo atraparon personas entregadas, ingeniosas y brillantes en asociación con tecnologías varias.
As appealing as it might sound, you cannot algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.
Aunque suene atractivo, no se puede llegar a una respuesta haciendo minería de datos algorítmicamente. No existe un botón que diga «Encontrar Terrorista», y mientras más datos integremos de una amplia variedad de fuentes y sobre una gran variedad de formatos de sistemas muy dispares, menos efectiva será la minería de datos. En vez de esto, la gente tendrá que mirar los datos y buscar respuestas, y como lo predijo Licklider hace tiempo, la clave de los grandes resultados es la forma correcta de cooperación; y como lo notó Kasparov, eso significa minimizar la fricción en la interfaz.
Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.
Este enfoque posibilita procesos como la exploración de todos los datos disponibles provenientes de fuentes muy diferentes, identificar relaciones clave y ponerlas en un mismo lugar, algo que antes era casi imposible de hacer. Para algunos, esto conlleva consecuencias aterradoras para la privacidad y las libertades civiles. Para otros, presagia una era de mayor protección de las mismas. Pero, la privacidad y las libertades civiles son de capital importancia. Esto tiene que ser reconocido, y no se pueden dejar de lado ni con la mejor de las intenciones.
So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.
Así que exploremos, mediante un par de ejemplos, el impacto que las tecnologías construidas para impulsar la simbiosis humano-computadora han tenido en los últimos tiempos.
In October, 2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"
En octubre del 2007, los EE. UU. y las fuerzas de coalición incursionaron en una casa de seguridad de Al Qaeda en la ciudad de Sinjar en la frontera sirio-iraquí. Encontraron un tesoro de documentos: 700 esbozos biográficos de combatientes extranjeros. Estos combatientes habían dejado a sus familias en el golfo, en el Levante mediterráneo y el norte de África para unirse a Al Qaeda en Iraq. Estos registros eran formularios de recursos humanos; los combatientes extranjeros los completaban al unirse a la organización. Resulta que también Al Qaeda tiene su burocracia. (Risas) Respondían a preguntas como: «¿Quién te reclutó?», «¿Cuál es tu ciudad natal?», «¿Qué ocupación buscas?»
In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya, 50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.
Con esta última pregunta, se reveló un dato sorprendente. La gran mayoría de los combatientes extranjeros buscaban ser hombres bomba para convertirse en mártires... De tremenda importancia, ya que entre 2003 y 2007, Iraq sufrió 1382 ataques suicidas, una gran fuente de inestabilidad. Analizar estos datos fue difícil. Los originales eran hojas de papel escritas en árabe que debieron ser escaneadas y traducidas. La fricción en el proceso no permitió obtener resultados significativos en un plazo de tiempo operativo usando solo seres humanos, PDFs y tenacidad. Los investigadores debían apoyar sus mentes humanas con tecnología para profundizar más, para explorar hipótesis que no fuesen obvias, y de hecho, surgieron algunas revelaciones. El 20 % de los combatientes extranjeros provenían de Libia, un 50 % de ellos de una misma ciudad de Libia, de tremenda importancia, ya que estadísticas previas lo calculaban en un 3 %. También ayudó a centrarse en un objetivo de creciente importancia en Al Qaeda, Abu Yahya al-Libi, un clérigo de alto rango en el grupo de combate libio-islámico. En marzo de 2007, este pronunció un discurso, después del cual se produjo un repentino aumento en la participación de combatientes libios.
Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.
Quizás lo más ingenioso de todo, sin embargo, y lo menos obvio, al darle vueltas en la cabeza a los datos, los investigadores pudieron explorar en profundidad las redes de coordinación en Siria que eran las responsables finales de recibir y transportar a los combatientes extranjeros hacia la frontera. Estas eran redes de mercenarios, no de ideólogos, que estaban en el negocio de la coordinación por las ganancias. Por ejemplo, a los combatientes sauditas les cobraban considerablemente más que a los libios; dinero que de otra manera habría sido para Al Qaeda. Tal vez el adversario interrumpiría su propia red si supiera que estaban engañando a aspirantes a yihadistas.
In January, 2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people, 10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,
En enero de 2010, un terremoto devastador de 7,0 grados sacudió Haití. El tercer terremoto más letal de la historia, dejó un millón de personas, el 10 % de la población, sin hogar. Un aspecto en apariencia pequeño de la ayuda humanitaria global se volvió cada vez más importante cuando comenzó la entrega de agua y alimentos. Enero y febrero son los meses secos en Haití, pero en muchos campamentos se habían formado aguas estancadas. La única institución con un conocimiento detallado de las llanuras aluviales de Haití se había derrumbado durante el terremoto, con sus líderes dentro. Así que la pregunta era: qué campamentos estaban en riesgo, cuánta gente había en esos campamentos, cuáles eran los plazos de las inundaciones y dados los muy escasos recursos e infraestructura, cómo priorizar el traslado. Los datos eran increíblemente dispares. El ejército de los EE.UU. tenía información detallada de solo una pequeña porción del país. Había datos en línea de una conferencia de riesgo ambiental de 2006, otros datos geoespaciales, nada de ello integrado. La meta humana era identificar los campamentos a trasladar en función de las necesidades prioritarias. La computadora debía integrar una gran cantidad de información geoespacial, datos de los medios sociales e información sobre la organización de ayuda humanitaria para responder a esta pregunta. Mediante la implementación de un proceso superior, lo que habría sido una tarea para 40 personas durante 3 meses, se volvió un trabajo simple para 3 personas en 40 horas,
all victories for human-computer symbiosis.
todas victorias de la simbiosis humano-computadora.
We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)
Han pasado más de 50 años de la visión de Licklider para el futuro, y los datos sugieren que deberíamos sentirnos muy emocionados de poder atacar los problemas más difíciles del siglo, hombre y máquina cooperando juntos. Gracias. (Aplausos) (Aplausos)