Is it just me, or are there other people here that are a little bit disappointed with democracy?
Sono solo io, o c'è qualcun altro, qui, che è un po' deluso dalla democrazia?
(Applause)
(Applausi)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
Diamo un'occhiata a qualche numero. In tutto il mondo, l'affluenza media alle elezioni presidenziali, negli ultimi 30 anni, è stata del solo 67%. Se ci spostiamo in Europa, e consideriamo quanti hanno votato alle elezioni parlamentari europee, l'affluenza media è stata del 42% appena. Ora spostiamoci invece a New York, e vediamo quanti hanno votato nelle ultime elezioni per il sindaco. Soltanto il 24% si è presentato alle urne. Questo significa che, se trasmettessero ancora "Friends", solo Joey, e forse Phoebe, si sarebbero presentati a votare.
(Laughter)
(Risate)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
Ma non possiamo biasimare le persone, perché sono stanche dei politici e sono stanche di quelle aziende che sfruttano i loro dati, generati per comunicare con amici e familiari, per bersagliarli con propaganda politica su misura. Ma il fatto è che questa non è una novità. Oggi le aziende usano i "Mi piace" per bersagliarci con propaganda mirata; ma prima usavano il nostro CAP, il nostro genere o la nostra età. Perché l'idea di bersagliare le persone con propaganda a fini politici è vecchia come la politica. E il motivo per cui quest'idea esiste è che la democrazia ha una vulnerabilità di fondo: l'idea di un rappresentante.
In principle, democracy is the ability of people to exert power.
In teoria,
But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
la democrazia è la capacità dei cittadini di esercitare il potere; ma in pratica dobbiamo delegare questo potere a un rappresentante, che possa esercitare questo potere al posto nostro. Questo rappresentante è un collo di bottiglia, o un punto debole. E chi vuole attaccare la democrazia deve intervenire proprio qui: si attacca la democrazia, infatti, o impadronendosi del rappresentante, o del modo in cui si sceglie. La domanda, quindi, è: la storia finisce qui? Non possiamo fare niente di meglio, o ci sono delle alternative?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
Alcune persone hanno pensato a delle alternative, e una delle idee è quella della democrazia diretta. In altre parole, scavalcare completamente i politici e far votare la gente direttamente sulle questioni, direttamente sulle leggi. Ma è un'idea ingenua, perché ci sono troppe materie su cui deliberare. Se guardate al 114esimo Congresso degli Stati Uniti, vedrete che la Camera dei Rappresentanti ha esaminato oltre 6.000 progetti di legge. Il Senato ne ha esaminati più di 3.000. E sono state approvate più di 300 leggi. Sarebbero molte le decisioni che ognuno di noi dovrebbe prendere ogni settimana su questioni di cui sa poco o niente. C'è quindi un problema di "larghezza di banda cognitiva" se valutiamo la democrazia diretta come possibile alternativa.
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
Alcuni considerano l'idea della democrazia "liquida", o fluida, ovvero l'idea di passare il proprio potere politico a qualcun altro che può a sua volta passarlo a qualcun altro e creare così un'ampia rete di seguaci nella quale, alla fine, poche persone prendono le decisioni a nome di tutti i loro seguaci e dei seguaci dei loro seguaci. Ma nemmeno questo risolve il problema della banda cognitiva, e onestamente assomiglia molto all'idea di avere un rappresentante. Quello che voglio fare oggi, quindi, è lanciarvi una provocazione, e chiedervi: e se invece di cercare di scavalcare i politici provassimo ad automatizzarli?
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
L'idea dell'automazione non è nuova. Risale a più di 300 anni fa, quando i tessitori francesi decisero di automatizzare il telaio. Il vincitore di questa guerra industriale fu Joseph-Marie Jacquard. Era un tessitore e un mercante francese che combinò il telaio e il motore a vapore per creare dei telai autonomi. E con questi telai autonomi acquisì il controllo. A quel punto avrebbe potuto creare tessuti più complessi, e più sofisticati, rispetto a quelli fatti a mano. E vincendo questa guerra industriale, inoltre, gettò anche le basi di quello che sarebbe diventato il modello di ogni automazione.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
Negli ultimi 300 anni, l'automazione ha seguito sempre lo stesso schema: prima individuiamo un'esigenza, poi creiamo uno strumento che soddisfi tale esigenza, come il telaio in questo caso; e infine analizziamo il modo in cui le persone lo usano per automatizzare l'utilizzatore. È così che siamo passati dal telaio meccanico al telaio autonomo. E ci sono voluti mille anni. Oggi, in soli cento anni, abbiamo ripetuto lo stesso "copione" nell'automazione dell'automobile. Il fatto è che questa volta l'automazione è "reale". Questo è un video che ha condiviso con me un mio collega di Toshiba
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
che mostra la fabbrica che produce memorie a stato solido. L'intera fabbrica è robotizzata. Non ci sono umani in questa fabbrica. E i robot lasceranno presto le fabbriche e diventeranno parte del nostro mondo, parte della nostra forza lavoro. Nel mio lavoro, quindi, mi occupo di creare strumenti che integrano dati per intere nazioni per riuscire a disporre delle basi necessarie per un futuro in cui sarà necessario gestire anche queste macchine.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
Ma oggi non sono qui per parlarvi di questi strumenti che integrano dati per le nazioni. Sono qui per parlarvi di un'altra idea che potrebbe aiutarci a infondere l'IA nella democrazia. Perché gli strumenti che creo sono progettati per prendere decisioni esecutive. Queste decisioni possono essere prese con un certo grado di oggettività, come le decisioni sugli investimenti pubblici. Ma ci sono decisioni che sono di carattere legislativo, e le decisioni legislative richiedono comunicazione tra persone con punti di vista diversi, richiedono partecipazione, richiedono dibattiti, richiedono delibere. E per molto tempo abbiamo pensato che per migliorare la democrazia servisse maggiore comunicazione. E così, tutte le tecnologie sviluppate nel contesto della democrazia, che fossero i giornali o i social media, hanno cercato di offrirci una maggiore comunicazione. Ma ci siamo già passati, e sappiamo che questo non risolverà il problema, perché non è un problema di comunicazione, ma di "larghezza di banda" cognitiva. E se il problema è di larghezza di banda cognitiva, aggiungere ulteriore comunicazione non risolverà il problema. Quello di cui avremo bisogno, invece, sono altre tecnologie che ci aiutino a gestire alcune di quelle comunicazioni di cui siamo sovraccaricati. Pensate, ad esempio, a un piccolo avatar, a un agente software, a un Grillo Parlante digitale (Risate)
(Laughter)
che sia in grado di rispondere alle domande per conto nostro.
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
Se disponessimo di questa tecnologia, potremmo riuscire a liberarci di alcune comunicazioni e magari aiutarci a prendere decisioni migliori, o su scala più vasta. E il punto è che anche l'idea degli agenti software non è nuova. Li usiamo già tutti i giorni. Usiamo gli agenti software per scegliere quale percorso prendere per arrivare a destinazione, la musica che ascolteremo, oppure per ricevere suggerimenti sui prossimi libri da leggere.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
C'è un'idea, nel XXI secolo, che è tanto ovvia quanto l'idea di combinare, ai tempi di Jacquard, un motore a vapore e un telaio. E quest'idea è combinare democrazia diretta e agenti software. Immaginate per un attimo un mondo in cui, anziché avere un rappresentante, che rappresenta voi e milioni di altre persone, potete avere un rappresentante che rappresenti soltanto voi. Con le vostre sfaccettate visioni politiche, quella strana combinazione di libertarismo e di liberalismo, un po' di conservatorismo su alcune questioni e grande progressismo su altre. I politici di oggi sono "pacchetti" e sono pieni di compromessi; ma potreste avere qualcuno che rappresenti soltanto voi, se siete disposti a rinunciare all'idea che questo rappresentante sia umano. Se questo rappresentante fosse un agente software, potremmo avere un Senato composto da un senatore per cittadino. E questi senatori saranno in grado di leggere ogni progetto di legge, e potranno votare ognuno di essi.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
C'è un'idea ovvia, quindi, che potremmo voler considerare. Ma capisco che, oggi come oggi, quest'idea possa risultare un po' inquietante. Infatti, pensare a un robot che viene dal futuro, per aiutarci a governare, sembra terrificante. Ma è già successo, in realtà.
(Laughter)
(Risate)
And actually he was quite a nice guy.
Ed era davvero un tipo a posto. (Risate)
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
Come sarebbe la versione del telaio di Jacquard di quest'idea? Sarebbe un sistema molto semplice. Immaginate un sistema nel quale potete loggarvi, creare il vostro avatar e iniziare ad istruirlo. Potete fornire al vostro avatar le vostre abitudini di lettura, o connetterlo ai vostri social media; oppure potete connetterlo ad altri dati, per esempio sottoponendovi a dei test psicologici. E il bello è che non c'è nessun inganno. Non state fornendo dati per comunicare con i vostri amici e familiari che verranno poi utilizzati in un sistema politico. State fornendo dati a un sistema progettato per essere utilizzato per prendere decisioni politiche per conto vostro. Poi, prendete questi dati e scegliete un algoritmo d'istruzione, perché è un mercato aperto in cui persone differenti possono inviare algoritmi differenti per prevedere come voterete sulla base dei dati che avete fornito. E il sistema è aperto, nessuno controlla gli algoritmi; alcuni algoritmi diventano popolari, mentre altri perdono popolarità. Infine, potete revisionare l'avatar. Potete osservarlo all'opera, e se vi piace lasciarlo col pilota automatico. Se invece volete più controllo, potete decidere che vi interpelli prima di qualsiasi decisione; oppure potete optare per una qualunque via di mezzo. Uno dei motivi per cui ricorriamo così poco alla democrazia, forse, è la sua interfaccia utente, che è davvero pessima. E se la migliorassimo, potremmo utilizzarla più spesso.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
Naturalmente, ci sono tante domande che potreste porvi. Come istruiamo questi avatar? Come manteniamo i dati al sicuro? Come facciamo a mantenere diffusi, e revisionabili, questi sistemi? Come può accedervi mia nonna ottantenne, che non sa usare Internet? Fidatevi, le ho sentite tutte. Quando si pensa a un'idea come questa bisogna stare attenti ai pessimisti, perché trovano sempre un problema per ogni soluzione.
(Laughter)
(Risate)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
Perciò voglio invitarvi a riflettere sulle idee più grandi. Le domande che vi ho appena elencato sono idee piccole, perché sono domande su quello che potrebbe non funzionare. Le idee grandi sono incentrate sulle altre cose che potremmo fare se funzionasse davvero. Una di queste idee è: beh, chi scrive le leggi? Inizialmente, potremmo permettere agli avatar che abbiamo già di votare le leggi scritte dai senatori o dai politici che abbiamo già. Ma se funzionasse, potremmo scrivere un algoritmo che potrebbe provare a scrivere una legge che otterrebbe una certa percentuale di approvazione. E così il processo si invertirebbe. Potreste ridicolizzare quest'idea, e pensare di opporvi; ma non potete negare che sia un'idea fattibile solo in un mondo in cui la democrazia diretta e gli agenti software sono una possibile forma di partecipazione.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
Come diamo inizio a questa rivoluzione? Non possiamo avviare questa rivoluzione con picchetti o proteste, o chiedendo ai nostri politici attuali di trasformarsi in robot, perché non funzionerebbe. La mia idea è molto più semplice, molto più lenta e molto più modesta di così,. Diamo inizio a questa rivoluzione creando sistemi semplici come questo nelle scuole di specializzazione, nelle biblioteche e nelle ONG. E cercando di individuare tutte quelle piccole domande, e tutti quei piccoli problemi da risolvere per rendere quest'idea praticabile e degna di fiducia. E mentre creiamo questi sistemi che permetteranno a centinaia, migliaia, centinaia di migliaia di persone di votare in modi non politicamente vincolanti, acquisiremo fiducia in quest'idea, il mondo cambierà e quelli che ora sono piccoli, come mia figlia adesso, cresceranno. E quando mia figlia avrà la mia età, forse quest'idea, che a noi oggi sembra così assurda, non sarà poi così assurda per lei e per i suoi amici. E a quel punto, noi saremo alla fine della nostra storia. Ma loro saranno all'inizio della loro.
Thank you.
Grazie.
(Applause)
(Applausi)