Is it just me, or are there other people here that are a little bit disappointed with democracy?
Sou só eu ou há mais gente aqui um pouco desiludida com a democracia?
(Applause)
(Aplausos)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
Vamos olhar para alguns números. Se olharmos para o mundo inteiro, a afluência média às urnas nas eleições presidenciais nos últimos 30 anos, foi de apenas 67%. Se passarmos para a Europa e olharmos para as pessoas que participaram nas eleições para o Parlamento Europeu, a afluência média para essas eleições foi de apenas 42%. Passemos para Nova Iorque e vejamos quantas pessoas votaram nas últimas eleições para o "mayor". Encontramos que só compareceram para votar 24% das pessoas. O que isto significa é que, se ainda estivessem a dar "Friends" talvez Joey e Phoebe aparecessem para votar.
(Laughter)
(Risos)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
Não podemos censurá-los, porque as pessoas estão fartas dos políticos. As pessoas estão fartas de outras pessoas que usam os dados que geramos para comunicarmos com os amigos e a família, para servirem de alvo da sua propaganda política. O problema é que tudo isto não tem nada de novo. Atualmente, as pessoas usam os "likes" que nos tornam alvos em vez do nosso código postal, do nosso sexo ou da nossa idade, porque a ideia de direcionar a propaganda com fins políticos é tão velha como a política. Essa ideia existe porque a democracia tem uma vulnerabilidade básica. É a ideia da representação.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
Em princípio, a democracia é a capacidade de o povo exercer o poder. Mas, na prática, temos de delegar esse poder num representante que pode exercer esse poder em nosso nome. Essa representação é um obstáculo ou um ponto fraco. É o ponto que queremos atingir se quisermos atacar a democracia porque podemos conquistar a democracia quer conquistando o representante quer conquistando a forma como o elegemos. O grande problema é: É este o final da história? É isto o melhor que podemos fazer ou há alternativas?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
Há quem tenha estado a pensar em alternativas e uma das ideias é que há uma ideia de democracia direta. É a ideia de ultrapassar totalmente os políticos e levar as pessoas a votar diretamente nos problemas, pôr as pessoas a votar diretamente nas leis. Mas esta ideia é ingénua, porque há demasiadas coisas que precisamos de escolher. Se olharmos para o 114.º Congresso dos EUA, veremos que a Câmara dos Representantes apreciou mais de 6000 propostas de leis. o Senado apreciou mais de 3000 propostas de leis e aprovaram mais de 300 leis. São mais decisões do que cada pessoa teria de fazer durante uma semana sobre tópicos que pouco dominamos. Assim, há um grande problema cognitivo, se quisermos pensar na democracia direta como uma alternativa viável.
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
Há quem pense na ideia da democracia líquida, ou democracia fluida, que é a ideia de que podemos entregar o nosso poder político a alguém que pode entregá-lo a outro qualquer e, por fim, criamos uma grande rede de seguidores na qual há algumas pessoas que tomam as decisões em nome de todos os seus seguidores. Mas esta ideia também não resolve o problema da banda cognitiva e, para ser honesto, é muito semelhante à ideia de ter um representante. Hoje vou ser um bocado provocador e vou perguntar-vos: E se, em vez de tentar ultrapassar os políticos, tentássemos automatizá-los?
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
A ideia de automatização não é nova, começou há mais de 300 aos, quando os tecelões franceses decidiram automatizar o tear. O vencedor desta guerra industrial foi Joseph-Marie Jacquard. Era um tecelão e mercador francês que casou o tear com a máquina a vapor para criar os teares automatizados. Nestes teares autónomos conquistou o controlo. Passou a poder fazer tecidos muito mais complexos e sofisticados do que os que eram feitos manualmente. Mas também, ao ganhar esta guerra industrial, instituiu o que se tornou o modelo da automatização.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
A forma como automatizamos as coisas durante os últimos 300 anos, tem sido sempre a mesma: primeiro, identificamos uma necessidade, depois criamos uma ferramenta para satisfazer essa necessidade, como o tear, neste exemplo. E depois, estudamos como utilizar essa ferramenta para automatizar esse utilizador. É como passámos do tear mecânico para o tear autónomo e isso levou-nos mil anos. Mas só levámos cem anos a usar a mesma receita para automatizar o carro. Mas a coisa é que, desta vez, a automação é real
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
Isto é um vídeo que um colega meu da Toshiba partilhou comigo que mostra a fábrica que fabrica discos SSD, Toda a fábrica está robotizada. Não há seres humanos naquela fábrica. E os robôs em breve sairão das fábricas e farão parte do nosso mundo, farão parte da nossa força de trabalho. O que eu faço no meu trabalho diário é criar ferramentas que integram dados para países inteiros de modo que acabaremos por ter as bases de que precisamos para um futuro de que precisamos para gerir essas máquinas.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
Mas hoje, não venho aqui para vos falar dessas ferramentas que integram dados para países. Venho aqui para vos falar duma outra ideia que pode ajudar-nos a pensar como usar a inteligência artificial na democracia. Porque as ferramentas que eu criei são concebidas para decisões executivas. São decisões que podem ser tomadas com alguma objetividade — decisões de investimento público. Mas há decisões que são legislativas e essas decisões legislativas exigem comunicação entre as pessoas que têm diferentes pontos de vista, exigem participação, exigem debate, exigem deliberação. Já há muito tempo que pensamos que, para melhorar a democracia, precisamos de mais comunicação. Todas as tecnologias que melhorámos no contexto da democracia, quer sejam os jornais ou as redes sociais, têm tentado munir-nos de mais comunicação. Mas aventurámo-nos nesse caminho e sabemos que isso não vai resolver o problema. Porque não é um problema de comunicação, é um problema cognitivo. Então, se é um problema cognitivo, aumentar a comunicação para as pessoas não vai ser o que o vai resolver. Em vez disso, vamos precisar de ter outras tecnologias que nos ajudem a lidar com alguma das comunicações com que estamos a abarrotar. Pensem numa espécie de avatar, um agente de "software", num Grilo Falante digital
(Laughter)
(Risos)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
que consiga responder a coisas por nossa conta. Se tivéssemos essa tecnologia podíamos descarregar parte das comunicações e talvez tomar melhores decisões ou decisões a uma escala maior. a ideia de agentes de "software" também não é nova. Já estamos sempre a usá-la. Usamos agentes de "software" para escolher a forma como conduzir até determinado local, a música que queremos ouvir ou sugestões para os livros que queremos ler.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
Há uma ideia óbvia no século XXI que é tão óbvia como a ideia de juntar uma máquina a vapor a um tear, na época de Jacquard. Essa ideia é combinar a democracia direta com agentes de "softwarw". Imaginem, por instantes, um mundo em que, em vez de ter um representante que nos represente, a nós e a milhões de outras pessoas, podemos ter um representante que nos represente só a nós com as nossas opiniões políticas matizadas numa combinação esquisita de libertárias e liberais talvez um pouco conservadoras em determinadas questões e talvez progressistas noutras. Os políticos hoje são pacotes e estão cheios de compromissos. Mas nós podemos ter alguém que nos representa só a nós, se estivermos dispostos a desistir da ideia de que o representante é um ser humano. Se esse representante for um agente de "software", podemos ter um Senado que tenha tantos senadores quantos os cidadãos. Esses senadores vão poder ler cada proposta de lei vão poder votar em cada uma delas.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
Esta é uma ideia que vale a pena considerar. Eu compreendo que, hoje, nesta altura, esta ideia possa ser um pouco assustadora. Com efeito, pensar num robô que vem do futuro para nos ajudar a governar o país soa de forma aterradora. Mas já por lá passámos.
(Laughter)
(Risos)
And actually he was quite a nice guy.
E, na verdade, até era um tipo simpático.
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
Como se pareceria a versão do tear de Jacquard para esta ideia? Seria um sistema muito simples. Imaginem um sistema em que entramos e criamos o nosso avatar. Depois começamos a treinar o nosso avatar. Podemos fornecer ao avatar os nossos hábitos de leitura, ou ligá-lo às nossas redes sociais ou podemos ligá-lo a outras informações, por exemplo, fazendo testes psicológicos. O interessante nisto é que não há enganos. Não fornecemos dados para comunicar com amigos e família que depois são usados num sistema político. Fornecemos informações a um sistema que se destina a ser usado para tomar decisões políticas em nosso nome. Depois, agarramos nesses dados e escolhemos um algoritmo de treino porque é um mercado aberto em que diversas pessoas podem escolher diferentes algoritmos para prever como vamos votar, com base nas informações que fornecemos. O sistema é aberto, ninguém controla os algoritmos; há algoritmos que se tornam mais populares e outros menos populares. Por fim, podemos fiscalizar o sistema, ver como é que o nosso avatar funciona. Se gostarmos, podemos pô-lo em piloto automático. Se queremos ser mais controladores podemos optar por ele nos consultar antes de tomar uma decisão ou a meio caminho entre estas duas opções. Uma das razões por que usamos tão pouco a democracia talvez seja porque a democracia tem uma interface muito fraca. Se melhorarmos a interface da democracia talvez a passemos a usar mais.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
Claro que há muitas questões que gostariam de me colocar. Como é que treinamos esses avatares? Como mantemos as informações em segurança? Como é mantemos os sistemas distribuídos e verificáveis? Como é que faz a minha avó que tem 80 anos e não sabe usar a Internet? Acreditem, já as ouvi todas. Quando pensamos numa ideia como esta temos de ter cuidado com os pessimistas porque eles são conhecidos por terem um problema para cada solução.
(Laughter)
(Risos)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
Convido-vos a pensar nas ideias em grande. As perguntas que mostrei há pouco são ideias pequeninas porque são perguntas sobre como é que isto não funcionaria. As grandes ideias são: "Que mais podemos fazer com isso "se isso vier a entrar em funcionamento?" E uma dessas ideias é: "Quem escreve as leis?" No início, podemos ter os avatares que sempre temos a votar nas leis que são escritas pelos senadores ou pelos políticos que já temos. Mas, se isto entrar em funcionamento, podemos escrever um algoritmo que possa tentar escrever uma lei que obterá uma determinada percentagem de aprovações e podemos inverter o processo. Podem pensar nesta ideia como uma ideia ridícula, mas não devem fazê-lo, e não podem negar que é uma ideia que só é possível num mundo em que a democracia direta e os agentes de "software" são uma forma viável de participação.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
Então, como é que começamos a revolução? Não começamos esta revolução com piquetes ou manifestações nem exigindo que os atuais políticos se transformem em robôs. Isso não vai resultar. É muito mais simples, muito mais lento, e muito mais humilde. Começamos esta revolução criando sistemas simples como este, nas universidades, nas bibliotecas, nas organizações sem fins lucrativos. E tentamos imaginar todas essas pequenas questões e todos esses pequenos problemas que vão ter de ser imaginados para tornar esta ideia viável, para tornar esta ideia numa coisa em que podemos confiar. Quando criarmos esses sistemas cem pessoas, mil pessoas, cem mil pessoas a votar de uma forma que não é vinculativa politicamente, vamos criar confiança nesta ideia, e o mundo vai mudar e aqueles que são da idade da minha filha, hoje, vão crescer. Na altura em que a minha filha tiver a minha idade, talvez esta ideia, que concordo que é hoje muito louca, possa não ser tão louca para ela e para os seus amigos. Nessa altura, chegaremos ao fim da nossa história, mas eles estarão no início da deles.
Thank you.
Obrigado.
(Applause)
(Aplausos)