Is it just me, or are there other people here that are a little bit disappointed with democracy?
Ligt het aan mij of zijn er hier nog anderen die een beetje teleurgesteld zijn in de democratie?
(Applause)
(Applaus)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
Laten we eens kijken naar wat cijfers. Als we over de hele wereld kijken, dan was de gemiddelde opkomst bij presidentsverkiezingen in de afgelopen 30 jaar slechts 67 procent. Als we in Europa kijken naar de mensen die deelnamen aan de parlementsverkiezingen van de EU, dan was de gemiddelde opkomst bij deze verkiezingen slechts 42 procent. Laten we nu eens naar New York gaan en kijken hoeveel mensen stemden voor de laatste verkiezingen voor een burgemeester. We zien dat slechts 24% van de mensen kwamen opdagen om te stemmen. Dat zou betekenen dat als ‘Friends’ nog zou lopen, Joey en misschien Phoebe zouden zijn gaan stemmen.
(Laughter)
(Gelach)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
Je kunt het ze niet kwalijk nemen, want de mensen zijn politici beu. En de mensen zijn het beu dat hun communicatie met vrienden en familie door anderen gebruikt wordt om politieke propaganda naar hen te versturen. Maar dat is geenszins nieuw. Tegenwoordig gebruiken ze nog eerder ‘likes’ om propaganda naar je te versturen dan dat ze gebruik maken van je postcode, geslacht of leeftijd, omdat het idee om naar mensen propaganda voor politieke doeleinden te sturen zo oud is als de politiek zelf. En dat komt omdat de democratie een fundamentele kwetsbaarheid heeft. Dat is het idee van de vertegenwoordiger.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
In principe is democratie het vermogen van mensen om macht uit te oefenen. Maar in de praktijk delegeren we die macht aan een vertegenwoordiger die die macht uitoefent voor ons. Die vertegenwoordiger is een pijnpunt, een zwakke plek. Daarop richt je je als je de democratie wil aanvallen, want democratie kan je controleren ofwel via deze vertegenwoordiger, ofwel door de manier waarop mensen kiezen. Dus is de grote vraag: Is dit het einde van de geschiedenis? Is dit het beste dat we kunnen of zijn er nog alternatieven?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
Sommige dachten na over alternatieven en een van de ideeën is die van directe democratie: het idee om politici te passeren en mensen direct te laten stemmen over kwesties, om mensen rechtstreeks over wetten te laten stemmen. Maar dit idee is naïef, omdat we over te veel dingen zouden moeten stemmen. Als je kijkt naar het 114e Amerikaanse Congres, zie je dat het Huis van Afgevaardigden meer dan 6.000 en de Senaat meer dan 3.000 wetsvoorstellen moest bekijken, en meer dan 300 wetten goedkeurde. Dat zouden veel beslissingen zijn waar iedereen tijd in zou moeten steken inzake kwesties waar ze weinig over weten. Dus is er een groot probleem van cognitieve bandbreedte als we nadenken over directe democratie als levensvatbaar alternatief.
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
Daarom denken sommigen na over het idee van vloeibare democratie, of vloeistofdemocratie, waarbij je je politieke macht aan iemand doorgeeft, die ze dan weer aan iemand anders doorgeeft, en je uiteindelijk een groot volgersnetwerk creëert waarbij aan het einde enkele mensen de beslissingen nemen namens al hun volgelingen, en hún volgelingen. Maar dit idee lost ook niet het probleem van de cognitieve bandbreedte op en, om eerlijk te zijn, lijkt het ook behoorlijk veel op het idee van een vertegenwoordiger. Daarom ga ik vandaag een beetje provoceren en jullie vragen: wat als we nu eens in plaats van politici te omzeilen, we ze proberen te automatiseren?
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
Het idee van automatisering is niet nieuw. Het ontstond meer dan 300 jaar geleden toen Franse wevers besloten om het weefgetouw te automatiseren. De winnaar van die industriële oorlog was Joseph-Marie Jacquard. Hij was een Franse wever en handelaar die het weefgetouw combineerde met de stoommachine om autonome weefgetouwen te creëren. En die autonome weefgetouwen kon hij controleren. Hij kon nu complexere en geavanceerdere stoffen maken dan degenen die dat manueel deden. Maar door het winnen van die industriële oorlog legde hij ook de grondslagen van de automatisering.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
De manier waarop we de laatste 300 jaar dingen automatiseren, is altijd dezelfde gebleven: eerst een behoefte identificeren, dan een werktuig creëren om aan die behoefte te voldoen, zoals in dit geval het weefgetouw, en dan onderzoeken hoe mensen dat werktuig gebruiken om die gebruiker te automatiseren. Zo ontstond het mechanische weefgetouw, het autonome weefgetouw. Dat kostte ons zowat duizend jaar. Het kostte ons slechts honderd jaar om op dezelfde manier de auto te automatiseren. Maar dit keer is het wel echt automatiseren.
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
Dit is een video van een collega van me bij Toshiba, over een fabriek die solid state drives produceert. De gehele fabriek is een robot. Er zijn geen mensen in die fabriek. En de robots zullen al snel de fabrieken verlaten, deel gaan uitmaken van onze wereld en medewerkers worden. Het is mijn werk tools te creëren die gegevens voor hele landen integreren, zodat we eindelijk de fundamenten krijgen die we nodig hebben voor een toekomst waarin we ook die machines moeten beheren.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
Maar vandaag ga ik het niet hebben over tools die gegevens integreren voor landen. Ik kom hier praten over een ander idee: hoe we kunstmatige intelligentie kunnen gebruiken in de democratie. Omdat de tools die ik maak, ontworpen zijn voor uitvoeringsbesluiten. Dit zijn beslissingen met een zekere vorm van objectiviteit -- beslissingen over publieke investering. Maar er zijn beslissingen die wetgevend zijn en die wetgevende besluiten vereisen communicatie tussen mensen met verschillende perspectieven, vereisen participatie, vereisen debat, vereisen overleg. Lange tijd dachten we dat we om de democratie te verbeteren gewoon meer communicatie nodig hebben. Dus alle hulpmiddelen die belangrijk zijn geworden voor de democratie, of het nu kranten of sociale media zijn, zijn ons méér communicatie gaan verstrekken. Maar van dat vaatje hadden we al getapt en we weten dat dat ons probleem niet gaat oplossen. Omdat het geen communicatieprobleem is, maar een van cognitieve bandbreedte. Als het probleem er een is van cognitieve bandbreedte, dan gaat méér communicatie met mensen het niet oplossen. In plaats daarvan gaan we andere technologieën nodig hebben om ons te helpen omgaan met een teveel aan communicatie. Denk bijvoorbeeld aan een kleine avatar, een software-agent, een digitale Japie Krekel --
(Laughter)
(Gelach)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
die in principe in jouw plaats antwoorden kan geven. En als we die technologie hadden, konden we een deel van de communicatie delegeren en misschien betere beslissingen of grotere beslissingen nemen. Dat idee van software-agenten is niet eens nieuw. We gebruiken ze al de hele tijd. We gebruiken software-agenten om ergens naartoe te rijden, om muziek uit te kiezen of om suggesties voor boeken te krijgen.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
Dus het is voor de 21e eeuw vanzelfsprekend idee, net zo vanzelfsprekend als het idee van het combineren van stoommachine en weefgetouw was in de tijd van van Jacquard. Dat idee is het combineren van directe democratie met software-agenten. Stel je even een wereld voor waarbij in plaats van het hebben van een vertegenwoordiger die jou en miljoenen anderen vertegenwoordigt, je er een kan hebben die alleen jou vertegenwoordigt, met je eigen genuanceerde politieke opvattingen -- die rare combinatie van libertair en liberaal en misschien een beetje conservatief op sommige punten, en op andere misschien zeer vooruitstrevend. Politici zijn tegenwoordig pakketten vol compromissen. Maar iemand zou alleen jou kunnen vertegenwoordigen, als je bereid bent het idee op te geven dat die vertegenwoordiger een mens is. Als die vertegenwoordiger een software-agent is, kunnen we een senaat hebben met evenveel senatoren als burgers. En die senatoren konden elk wetsvoorstel lezen en over elk ervan stemmen.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
Dus een voor de hand liggend idee dat we misschien willen overwegen. Maar ik begrijp dat op dit moment dit idee wel heel erg eng kan overkomen. Denken aan een robot uit de toekomst om ons te helpen regeren klinkt nogal angstaanjagend. Maar dat hebben we al gehad.
(Laughter)
(Gelach)
And actually he was quite a nice guy.
En eigenlijk was hij een heel aardige vent.
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
Hoe zou de 'Jacquards weefgetouw'-versie van dit idee eruitzien? Het zou een zeer eenvoudig systeem zijn. Stel je een systeem voor waarop je je aanmeldt en je avatar creëert, waarna je begint je avatar te trainen. Je kan je avatar vertrouwd maken met jouw leesgedrag, of hem aansluiten op jouw sociale media, of hem voorzien van andere gegevens, bijvoorbeeld door het nemen van psychologische tests. En het leuke is dat er geen misleiding is. Je zit geen gegevens te verstrekken aan je vrienden en familie die vervolgens gebruikt worden in een politiek systeem. Je verstrekt gegevens aan een systeem dat is ontworpen om politieke beslissingen namens jou te nemen. Dan kies je vanuit die gegevens voor een opleidingsalgoritme, want het is een open markt waarin verschillende mensen verschillende algoritmen kunnen indienen om te voorspellen hoe jij gaat stemmen op basis van de gegevens die jij hebt verstrekt. Het systeem is open, zodat niemand de algoritmen beheert. Sommige algoritmen worden steeds populairder, terwijl andere minder populair worden. Uiteindelijk controleer jij het systeem en zie je hoe je avatar werkt. Bevalt hij je, dan kan hij op de automatische piloot. Wil je wat meer controle, dan kun je ervoor kiezen dat ze je raadplegen wanneer ze een beslissing gaan nemen -- of ergens daartussenin. Dat we de democratie zo weinig gebruiken kan komen door de zeer slechte gebruikersinterface van de democratie. Als we de gebruikersinterface van de democratie verbeteren, gaan we ze misschien meer gebruiken.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
Natuurlijk kan je hier een hoop vragen bij hebben. Hoe train je die avatars? Hoe beveilig je de data? Hoe houd je de systemen gedeeld en controleerbaar? Hoe moet het met mijn grootmoeder van 80, die niet weet hoe het internet te gebruiken? Geloof me, ik heb ze allemaal gehoord. Als je denkt aan een idee als dit, moet je oppassen voor pessimisten, omdat ze voor elke oplossing wel een probleem hebben.
(Laughter)
(Gelach)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
Ik wil jullie graag uitnodigen om na te denken over de grotere ideeën. De vragen die ik net liet zien, zijn kleine ideeën, omdat het vragen zijn over hoe dit niet zou werken. De grote ideeën zijn ideeën over: wat kan je hiermee als het zou blijken te werken? En een van die ideeën is: wie gaat de wetten schrijven? In het begin zouden de avatars die we al hebben, kunnen stemmen over wetten van de hand van de senatoren en politici die we al hebben. Maar als dit zou werken, kon je een algoritme schrijven dat zou kunnen proberen om een wet te schrijven die een bepaald percentage goedkeuring zou krijgen, en kon je het proces omkeren. Nu kan je dit idee belachelijk vinden waar we maar beter niet aan beginnen, maar je kunt niet ontkennen dat het alleen maar mogelijk is in een wereld waar directe democratie en software-agenten een levensvatbare vorm van participatie zijn.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
Hoe beginnen we met de revolutie? We starten deze revolutie niet met hekken of protesten of door te eisen dat onze huidige politici veranderd worden in robots. Dat gaat niet werken. Dit is veel eenvoudiger, veel trager en veel bescheidener. We beginnen met simpele systemen, zoals in mastersopleidingen, in bibliotheken, in non-profitorganisaties. We proberen om al die kleine vragen en die kleine problemen te vinden om uit te vissen hoe dit idee levensvatbaar te krijgen, om van dit idee iets betrouwbaars te maken. En als we systemen creëren met honderd, duizend, honderdduizend mensen die stemmen zonder politiek bindend te zijn, gaan we vertrouwen krijgen in dit idee. De wereld gaat veranderen en wie zo jong is als mijn dochter nu gaat ermee opgroeien. Tegen de tijd dat mijn dochter zo oud is als ik nu, zal dit idee, dat vandaag heel gek klinkt, misschien niet zo gek klinken voor haar en aan haar vrienden. Op dat punt komen we aan het einde van onze geschiedenis, maar begint die van hen.
Thank you.
Dank je.
(Applause)
(Applaus)