Is it just me, or are there other people here that are a little bit disappointed with democracy?
Est-ce que c'est juste moi ou y a-t-il d'autres gens ici qui sont un peu déçus par la démocratie?
(Applause)
(Applaudissements)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
Considérons quelques chiffres. Si nous regardons à travers le monde, le taux moyen de participation aux élections présidentielles au cours des 30 dernières années s'élève seulement à 67%. Si nous allons en Europe et considérons les gens ayant participé aux élections parlementaires de l'UE, le taux moyen de participation à ces élections est seulement de 42%. Allons à présent à New York et regardons combien de personnes ont voté dans les dernières élections municipales. Nous découvrons que seulement 24% sont allés voter. Cela veut dire que si la série « Friends » était encore diffusée, Joey et peut-être Phoebe seraient allés voter.
(Laughter)
(Rires)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
Vous ne pouvez pas leur en vouloir car les gens en ont marre des politiciens. Les gens en ont marre des autres gens utilisant les données qu'ils ont générées en communiquant avec leurs amis et leur famille, pour en faire des cibles de propagande politique. Le fait est que cela n'est pas nouveau. On utilise les « j'aime » pour vous cibler. Avant, c'était votre code postal, votre sexe ou votre âge, car l'idée de faire des gens des cibles de propagande à des fins politiques est aussi vieille que la politique. Cette idée existe bien, car la démocratie a une vulnérabilité fondamentale. Voici le schéma d'une élection.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
En principe, la démocratie est la capacité du peuple à exercer le pouvoir. Mais en pratique, nous devons déléguer ce pouvoir à un représentant qui peut exercer ce pouvoir pour nous. Ce représentant est le goulot d'étranglement ou un point faible. C'est lui que vous voulez cibler si vous voulez attaquer la démocratie, car vous pouvez vous emparer de la démocratie via ce représentant ou via la façon dont les gens le choisissent. La question est : Est-ce la fin de l'histoire ? Est-ce le mieux que nous puissions faire ou y a-t-il des alternatives ?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
Certains réfléchissent à des alternatives et l'une des idées énoncées est la démocratie directe. Elle consiste à shunter les politiciens et faire voter les gens directement sur des problèmes et des projets de loi. Mais cette idée est naïve, car nous serions obligés de choisir trop de choses. Si vous considérez le 114e congrès des États-Unis, vous verrez que la Chambre des représentants a examiné plus de 6 000 projets de loi, le Sénat a examiné plus de 3 000 projets de loi et ils ont approuvé plus de 300 lois. Cela obligerait chacun à prendre de nombreuses décisions chaque semaine sur des sujets sur lesquels il a peu de connaissances. Il y a un problème de bande passante cognitive si nous essayons de voir la démocratie directe comme une alternative viable.
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
Certains imaginent une démocratie liquide ou fluide, dans laquelle vous donnez votre pouvoir politique à quelqu'un, qui peut le donner à quelqu'un d'autre et, finalement, vous créez un grand réseau de suiveurs où seulement quelques personnes prennent les décisions au nom de tous leurs suiveurs et des suiveurs de leurs suiveurs. Cette idée ne résout pas le problème de la bande passante cognitive et, pour être honnête, est similaire au fait d'avoir un représentant. Aujourd'hui, je vais être un peu provocateur et je vais vous demander : « Et si, au lieu d'essayer de shunter les politiciens, nous essayions de les automatiser ? »
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
L'idée de l'automatisation n'est pas nouvelle. Elle a commencé il y a 300 ans, quand les tisserands français ont décidé d'automatiser le métier à tisser. Le vainqueur de cette guerre industrielle fut Joseph-Marie Jacquard. C'était un tisserand et marchand français qui a marié le métier à tisser et la machine à vapeur pour créer des métiers à tisser autonomes. Avec ces métiers à tisser, il a gagné en contrôle. Il pouvait fabriquer des tissus plus complexes et sophistiqués que ceux qui étaient faits à la main. En gagnant cette guerre industrielle, il a installé ce qui est devenu le schéma directeur de l'automatisation.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
Notre façon d'automatiser les choses ces 300 dernières années n'a jamais changé : nous identifions d'abord un besoin, puis nous créons un outil pour satisfaire ce besoin, comme le métier à tisser, puis nous étudions comment les gens utilisent l'outil pour automatiser cet utilisateur. C'est ainsi que nous sommes passés du métier à tisser mécanique au métier à tisser autonome et cela nous a pris mille ans. Alors qu'il ne nous a fallu que cent ans pour utiliser ce même schéma afin d'automatiser la voiture. Cependant, cette fois, l'automatisation est réelle.
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
Voici une vidéo qu'un de mes collègues de Toshiba a partagée avec moi et qui montre l'usine qui produit des disques SSD. L'usine entière est un robot. Il n'y a pas d'humain dans cette usine. Les robots vont bientôt quitter les usines et faire partie de notre monde, faire partie de notre main d’œuvre. Ce que je fais au quotidien, c'est de créer des outils qui intègrent des données de pays entiers afin que nous disposions des fondations nécessaires pour un futur où nous aurons besoin de gérer ces machines.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
Mais je ne suis pas là pour vous parler de ces outils qui intègrent les données des pays. Je suis ici pour vous parler d'une autre idée qui pourrait nous aider à réfléchir à comment utiliser l'intelligence artificielle dans la démocratie. Car les outils que je développe sont conçus pour des décisions exécutives. Ce sont des décisions pouvant être prises avec une certaine objectivité -- des décisions d'investissement public. Mais il y a des décisions législatives et ces décisions nécessitent une communication entre des gens qui ont des points de vue différents, requièrent une participation, un débat, une délibération. Pendant longtemps, nous avons pensé que pour améliorer la démocratie, il fallait plus de communication. Les technologies que nous avons élaborées dans le contexte de la démocratie, que ce soient les journaux ou les réseaux sociaux, ont essayé de nous offrir plus de communication. Nous nous sommes aventurés sur ce terrain et nous savons que cela ne résoudra pas le problème. Ce n'est pas un problème de communication, mais de bande passante cognitive. S'il s'agit d'un problème de bande passante cognitive, accentuer la communication ne va pas le résoudre. Nous allons avoir besoin de technologies supplémentaires qui nous aident à gérer une partie de la communication qui nous sature. Pensez à un petit avatar, un agent logiciel, un Jiminy Cricket numérique --
(Laughter)
(Rires)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
qui est capable de répondre à des choses en votre nom. Si nous avions cette technologie, nous pourrions nous délester d'un peu de communication et aider à prendre de meilleures décisions ou des décisions à plus grande échelle. L'idée des agents logiciels n'est pas nouvelle non plus. Nous les utilisons déjà constamment. Nous utilisons ces agents pour choisir comment nous rendre à un endroit donné, la musique que nous allons écouter ou pour obtenir des suggestions de livres.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
Au XXIe siècle, il y a une idée évidente, aussi évidente que celle de réunir une machine à vapeur et un métier à tisser au temps de Jacquard. Il s'agit d'associer la démocratie directe aux agents logiciels. Imaginez un instant un monde où, au lieu d'avoir un représentant pour vous représenter, vous et des millions d'autres, vous aviez un représentant qui ne représentait que vous, avec vos opinions politiques nuancées -- cette étrange combinaison de libertaire, de libéral, peut-être un peu de conservateur sur certains sujets et très progressiste sur d'autres. Aujourd'hui, les politiciens sont des ensembles pleins de compromis. Mais vous pourriez avoir quelqu'un uniquement pour vous représenter, si vous êtes prêts à abandonner l'idée que ce représentant doit être un être humain. Si ce représentant est un agent logiciel, nous pourrions avoir un sénat avec autant de sénateurs que de citoyens. Ces sénateurs seront capables de lire tous les projets de loi et de voter pour chacun de ces projets.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
C'est une idée claire que nous voulons peut-être considérer. Mais je comprends que de nos jours, cette idée puisse être effrayante. En effet, imaginer un robot venu du futur pour nous aider à diriger nos pays paraît terrifiant. Mais nous l'avons déjà fait.
(Laughter)
(Rires)
And actually he was quite a nice guy.
Et c'était un gars plutôt sympa.
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
A quoi ressemblerait le métier à tisser de Jacquard pour cette idée ? Ce serait un système très simple. Imaginez un système où vous vous connectez, créez un avatar puis commencez à entraîner votre avatar. Vous pouvez fournir à votre avatar vos habitudes de lecture, le connecter à vos réseaux sociaux ou à d'autres données, par exemple en passant des tests de psychologie. Ce qui est agréable, c'est qu'il n'y a pas de supercherie. Vous ne donnez pas des données pour communiquer avec vos amis et votre famille qui sont ensuite utilisées dans un système politique. Vous procurez des données à un système conçu pour être utilisé pour prendre des décisions en votre nom. Vous prenez ensuite ces données et choisissez un algorithme d'apprentissage, car c'est un marché libre où différentes personnes peuvent soumettre différents algorithmes pour prédire comment vous voterez d'après les données fournies. Le système est ouvert, personne ne contrôle les algorithmes ; certains deviennent populaires et d'autres le sont moins. Vous pouvez auditer le système, voir comment votre avatar fonctionne. Si vous l'aimez, laissez-le en pilote automatique. Si vous voulez un peu plus de contrôle, vous pouvez décider qu'il vous demande à chaque fois qu'il prend une décision, ou choisir un compromis. Nous utilisons si peu la démocratie en partie car la démocratie dispose d'une mauvaise interface utilisateur. Si nous améliorons l'interface utilisateur de la démocratie, nous pourrions l'utiliser davantage.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
Bien sûr, vous pouvez vous poser plein de questions. Comment entraîner ces avatars ? Comment préserver la sécurité des données ? Comment maintenir les systèmes distribués et auditables ? Qu'en est-il de ma grand-mère de 80 ans qui ne sait pas utiliser internet ? Croyez-moi, je les ai toutes entendues. Quand vous pensez à une telle idée, vous devez vous méfier des pessimistes, car ils sont connus pour avoir un problème à chaque solution.
(Laughter)
(Rires)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
Je veux vous inviter à réfléchir aux plus grandes idées. Les questions que j'ai évoquées ne sont que de petites idées, car ce sont des questions sur le non fonctionnement. Les grandes idées sont : que pouvons-nous faire d'autre si cela fonctionne ? Une de ces idées implique : qui écrit les lois ? Au début, nous pourrions nous servir des avatars que nous possédons déjà ; ils voteraient sur des lois écrites par les sénateurs ou politiciens déjà en place. Mais si cela fonctionnait, vous pourriez écrire un algorithme qui essayerait d'écrire une loi qui recevrait un certain pourcentage d'assentiment, puis vous inverseriez le processus. Vous pensez peut-être que cette idée est ridicule, nous ne devrions pas le faire, mais vous ne pouvez pas nier que c'est une idée possible que dans un monde où la démocratie directe et les agents logiciels sont une forme de participation viable.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
Comment initier la révolution ? Nous n’initierons pas cette révolution avec des grèves, des manifestations ou en exigeant que nos politiciens actuels soient transformés en robots. Cela ne fonctionnera pas. C'est bien plus simple, plus lent et bien plus humble. Nous commençons par créer de tels systèmes simples dans les universités, les bibliothèques, les organisations. Nous allons trouver une solution à ces petites questions et ces petits problèmes qu'il faudra résoudre pour rendre cette idée viable, pour la rendre fiable. En créant ces systèmes où une centaine, un millier, une centaine de milliers de gens votent de façon politiquement non contractuelle, nous développerons la confiance en l'idée, le monde changera et ceux qui sont aussi jeunes que ma fille actuellement, grandiront. D'ici à ce que ma fille ait mon âge, peut-être que cette idée qui est folle aujourd'hui, ne sera plus si folle pour elle et pour ses amis. À ce moment-là, ce sera la fin de notre histoire, mais le début de la leur.
Thank you.
Merci.
(Applause)
(Applaudissements)