Is it just me, or are there other people here that are a little bit disappointed with democracy?
¿Soy solo yo, o hay otras personas aquí que están un poco decepcionadas con la democracia?
(Applause)
(Aplausos)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
Analicemos algunas cifras. En todo el mundo, la participación media en las elecciones presidenciales en los últimos 30 años ha sido solo del 67 %. Ahora bien, en Europa la participación media de la gente en las elecciones parlamentarias de la UE, es solo del 42 %. Ahora vayamos a Nueva York, y veamos cuánta gente votó en la última elección para alcalde. Veremos que solo un 24 % se presentó a votar. Eso significa que, si todavía dieran "Friends", Joey y tal vez Phoebe se habrían presentado a votar.
(Laughter)
(Risas)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
Y no se los puede culpar, porque la gente está cansada de los políticos. Y está cansada de que otras personas utilicen esa información que generaron al comunicarse con sus amigos y su familia para mandarles propaganda política. Pero esto no es algo nuevo. Hoy en día, la gente usa los "me gusta" para enviarte propaganda antes de usar tu código postal, tu género o tu edad, porque la idea de enviar propaganda política es tan vieja como la política. Y esto es posible porque la democracia tiene una vulnerabilidad básica. Esta es la idea de un representante.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
En principio, la democracia es la capacidad de las personas de ejercer el poder. Pero en la práctica, tenemos que delegar ese poder a un representante que pueda ejercer ese poder en nuestro nombre. Ese representante es un cuello de botella, o un punto débil. Es el lugar al que se debe apuntar si se quiere atacar a la democracia, porque se puede capturar a la democracia ya sea capturando al representante o capturando la manera en que la gente lo elige. La gran pregunta es: ¿es el fin de la historia? ¿Es lo mejor que podemos hacer o, en realidad, hay alternativas?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
Algunas personas han pensado en alternativas y una de las ideas que da vueltas es la idea de la democracia directa. Es la idea de evitar la intervención de los políticos y hacer que la gente vote directamente sobre los asuntos, que vote las leyes directamente. Pero esta idea es ingenua porque hay demasiadas cosas que deberíamos elegir. Si miran el 114° Congreso estadounidense habrán visto que la Cámara de Representantes examinó más de 6000 proyectos de ley, el Senado examinó más de 3000, y aprobaron más de 300 leyes. Esas serían las muchas decisiones que cada persona debería tomar por semana sobre temas que no son de su conocimiento. Es decir, hay un gran problema de distancia cognitiva si pensamos en la democracia directa como alternativa viable.
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
Algunas personas piensan en la idea de la democracia líquida o delegativa, en la que se entrega el poder político a alguien que pueda dárselo a alguien más, y, con el tiempo, se crea una gran red de seguidores en la que, al final, unas pocas personas toman las decisiones en nombre de todos sus seguidores y los seguidores de estos. Pero esta idea tampoco resuelve el problema cognitivo y, para ser sincero, es bastante similar a la idea de tener un representante. Lo que haré hoy es ser un poco provocativo, y voy a preguntarles: ¿y si en vez de evitar a los políticos, tratamos de automatizarlos?
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
La idea de automatización no es nueva. Comenzó hace más de 300 años, cuando tejedores franceses decidieron automatizar el telar. El ganador de esa guerra industrial fue Joseph-Marie Jacquard. Fue un tejedor y vendedor francés que combinó el telar con la máquina de vapor para crear telares autónomos. Y con esos telares autónomos logró tener el control. Ahora podía hacer telas que eran más complejas y sofisticadas que las que podían hacer a mano. Pero además, al ganar esa guerra industrial, sentó la base de lo que se convirtió en el modelo de la automatización.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
La manera en que automatizamos las cosas en los últimos 300 años siempre ha sido la misma: primero, identificamos una necesidad, después creamos una herramienta para satisfacer esa necesidad, como el telar, en este caso, y luego estudiamos cómo la gente utiliza esa herramienta para automatizar a ese usuario. Así pasamos del telar mecánico al telar autónomo, y eso nos llevó mil años. Ahora, solo nos llevó cien años usar el mismo guion para automatizar el coche. La cuestión es que, en esta ocasión, la automatización es real.
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
Este es un video que un colega de Toshiba compartió conmigo de la fábrica que elabora unidades de estado sólido. La fábrica entera es un robot. No hay humanos en esa fábrica. Y pronto, los robots dejarán las fábricas y serán parte de nuestro mundo, parte de nuestra fuerza laboral. Lo que hago diariamente en mi trabajo es crear herramientas que integran información para países enteros para que finalmente podamos tener los cimientos que necesitamos para un futuro en el que necesitemos manejar esas máquinas.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
Pero hoy no estoy aquí para hablarles de estas herramientas que integran información para los países, sino para hablarles de otra idea que puede ayudarnos a usar inteligencia artificial en la democracia. Porque las herramientas que hago están diseñadas para decisiones ejecutivas y estas decisiones pueden encasillarse en algún tipo de término de objetividad: decisiones de inversión pública. Pero hay decisiones legislativas, y estas decisiones legislativas requieren comunicación entre las personas que tienen distintos puntos de vista, requieren participación, debate, deliberación. Y durante mucho tiempo pensamos que lo necesario para mejorar la democracia es más comunicación. Todas las tecnologías que desarrollamos en el contexto de la democracia, ya sea en los periódicos o en las redes sociales, trataron de brindarnos más comunicación. Pero ya hemos caído en esa trampa, y sabemos que no resuelve el problema. Porque no es un problema de comunicación, sino un problema de distancia cognitiva. Si el problema es cognitivo, agregar más comunicación no será la solución. En cambio, lo que necesitaremos es tener otras tecnologías que nos ayuden a manejar la comunicación que tenemos en exceso. Piensen en un pequeño avatar, un agente de software, un Pepito Grillo digital,
(Laughter)
(Risas)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
que básicamente puede responder cosas por ti. Y si tuviéramos esa tecnología, podríamos descargar parte de la comunicación y ayudar, tal vez, a tomar mejores decisiones, o a mayor escala. La cuestión es que la idea de agentes de software tampoco es nueva. Ya la usamos todo el tiempo. Usamos agentes de software para saber cómo llegar a cierto lugar, qué música vamos a escuchar o para recibir sugerencias de los próximos libros que deberíamos leer.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
Hay una idea obvia en el siglo XXI que fue tan obvia como la idea de combinar una máquina de vapor con un telar en la época de Jacquard. Y esa idea es combinar la democracia directa con agentes de software. Imaginen, por un segundo, un mundo donde, en vez de tener un representante que los represente a ustedes y a millones de otras personas, pueden tener un representante que solo los represente a Uds. con sus opiniones políticas diferentes, esa rara combinación de libertario y liberal y tal vez un poco conservador en algunos asuntos, y muy progresista en otros. Hoy en día, los políticos son paquetes, y están llenos de compromisos. Pero pueden tener a alguien que los represente solo a Uds. si están dispuestos a abandonar la idea de que ese representante sea un humano. Si ese representante es un agente de software, podríamos tener un senado que tenga tantos senadores como ciudadanos. Y esos senadores podrán leer cada proyecto de ley, y podrán votar por cada uno de ellos.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
Hay una idea obvia, entonces, que tal vez debamos considerar. Pero entiendo que en esta época, esta idea puede ser alarmante. De hecho, pensar en un robot que venga del futuro para ayudarnos a gobernar suena aterrador. Pero ya lo hemos hecho.
(Laughter)
(Risas)
And actually he was quite a nice guy.
Y de hecho era un buen tipo.
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
¿Cómo se vería la versión del telar de Jacquard en esta idea? Sería un sistema muy simple. Imaginen un sistema en el que inician sesión y crean un avatar, y luego comienzan a entrenar su avatar. Podemos dotar nuestro avatar con nuestros hábitos de lectura, o conectarlo a nuestras redes sociales, o conectarlo a otra información, por ejemplo mediante pruebas psicológicas. Y lo bueno de esto es que no hay engaño. No proporcionan información para comunicarse con sus amigos y familia que luego se utiliza en un sistema político. Proporciona información a un sistema que está diseñado para ser utilizado para tomar decisiones políticas en nuestro nombre. Luego, toma esa información y elige un algoritmo de entrenamiento, porque es un mercado abierto en el que diferentes personas pueden presentar distintos algoritmos para predecir cómo votarán, basándose en la información que proporcionaron. Y el sistema es abierto. Nadie controla los algoritmos. Hay algoritmos que se hacen más populares y otros no tanto. Con el tiempo, se puede auditar el sistema. Pueden ver cómo funciona su avatar, y dejarlo en piloto automático si quieren. Si quieren controlar un poco más, pueden elegir que les consulte cuando toma una decisión, o puede estar entre esas opciones. Una de las razones por las que usamos tan poco la democracia puede ser porque la democracia tiene una interfaz de usuario muy mala. Si mejoramos la interfaz de usuario de la democracia, podríamos utilizarla más.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
Claro, hay muchas preguntas que pueden surgir. Por ejemplo, ¿cómo entrenar a esos avatares? ¿Cómo mantener segura la información? ¿Cómo mantener los sistemas distribuidos y auditables? ¿Cómo hace mi abuela, que tiene 80 años y no sabe usar internet? Créanme, las escuché a todas. Cuando piensan en una idea como esta, tengan cuidado con los pesimistas porque suelen tener un problema para cada solución.
(Laughter)
(Risas)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
Quiero invitarlos a pensar en las ideas más grandes. Las preguntas que acabo de mostrarles son pequeñas ideas porque son preguntas sobre cómo esto no funcionaría. Las grandes ideas son ideas sobre qué más podemos hacer con esto si funcionara. Y una de esas ideas es: ¿quién redacta las leyes? Al principio, podíamos hacer que los avatares que ya tenemos voten leyes que están redactadas por los senadores o los políticos que ya tenemos. Pero si esto funcionara, podrían crear un algoritmo que intente redactar una ley que obtendría un cierto porcentaje de aprobación, y pueden revertir el proceso. Ahora bien, pueden pensar que es una idea absurda y no deberíamos hacerlo, pero no pueden negar que esta idea solo es posible en un mundo donde la democracia directa y los agentes de software son una forma viable de participación.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
Pues bien, ¿cómo empezamos la revolución? No se empieza esta revolución con vallas de contención o protestas, ni exigiendo que nuestros actuales políticos se cambien por robots. No funcionará. Esto es mucho más sencillo, más lento y mucho más humilde. Esta revolución empieza creando sistemas simples en escuelas de posgrado, en bibliotecas y en ONG. Y tratamos de descifrar todas esas pequeñas preguntas y esos pequeños problemas que tendremos que resolver para hacer esta idea viable, para hacer de esta idea algo confiable. Y al crear esos sistemas que permiten a cientos o miles de personas, a cien mil personas votar de manera políticamente no obligatoria, esta idea irá sumando confianza, el mundo cambiará, y quienes ahora son tan pequeños como mi hija, van a crecer. Y para cuando mi hija tenga mi edad, tal vez esta idea que hoy parece tan absurda no sea absurda para ella y sus amigos. Y en ese momento, estaremos al final de nuestra historia, pero ellos estarán al comienzo de la suya.
Thank you.
Gracias.
(Applause)
(Aplausos)