Is it just me, or are there other people here that are a little bit disappointed with democracy?
آیا فقط من هستم یا کسان دیگری هم هستند که کمی از دموکراسی ناامیدند؟
(Applause)
(تشویق)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
پس بیایید نگاهی به آمارها بیندازیم. اگر به جهان نگاه کنیم، میانه مشارکت در انتخابات ریاست جمهوری در سی سال گذشته تنها ۶۷ درصد بوده است. حالا، اگر به اروپا برویم و به مردمی که در انتخابات مجلس اتحادیه اروپا شرکت کردهاند نگاه کنیم، میانه مشارکت در این انتخابات تنها ۴۲ درصد است. حالا بیایید به نیویورک برویم و ببینیم که در انتخابات شهرداری قبلی چند نفر رأی دادهاند. میفهمیم که تنها ۲۴ درصد از مردم حاضر شدند تا رأی بدهند. این به این معنی است که اگر هنوز سریال «فرندز» پخش میشد، «جویی» و شاید «فیبی» حاضرمی شدند رأی بدهند.
(Laughter)
(خنده)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
و نمیتوانید آنها را سرزنش کنید چون مردم از سیاستمداران خستهاند. و مردم از ایکه دیگران دادههایی تولیدی آنها برای ارتباط با خانواده و دوستانشان را استفاده میکنند تا پروپاگاندای سیاسی را بر روی آنها نشانه روند خسته شدهاند. اما مسئله این است که این چیز جدیدی نیست. امروزه، از لایک برای هدف گرفتن پروپاگاندا بر شما استفاده میشود قبلاً کد پستی، جنسیت یا سن شما بود چرا که ایده هدف قرار دادن افراد با تبلیغات برای اهداف سیاسی قدمتی به اندازه سیاست دارد. و دلیل اینکه این ایده وجود دارد این است که دموکراسی ضعفی اساسی دارد. آن ضعف، ایده نماینده است.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
در اصل، دموکراسی توانایی مردم برای اعمال قدرت است اما در عمل، مجبوریم که قدرت را به نمایندهای تفویض کنیم که میتواند برای ما قدرت اعمال کند این نماینده یک گردنه بطری یا نقطهضعف است. جایی است که اگر بخواهید به دموکراسی حمله کنید آن را هدف قرار میدهید چراکه میتوانید دموکراسی را با کنترل آن فرد یا کنترل روشی که مردم آن را انتخاب کردهاند، تسخیر کنید پس سؤال مهم این است که: آیا این پایان تاریخ است؟ آیا این بهترین کاری است که میتوانیم انجام دهیم؟ یا درواقع، راههای جایگزینی هست؟
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
بعضیها روی راههای جایگزین فکر کردهاند و یکی از ایدههایی که وجود داشته است، ایده دموکراسی مستقیم است. این ایده دور زدن کامل سیاستمداران است و رأی دادن مستقیم مردم در مورد موضوعات، و رأی دادن مستقیم مردم به لوایح است اما این ایده سادهلوحانه است چون چیزهای بسیاری هست که ممکن است نیاز پیدا کنیم تا انتخاب کنیم اگر نگاهی به ۱۱۴امین کنگره آمریکا بیندازیم، خواهید دید که خانه نمایندگان به بیش از شش هزار لایحه رسیدگی کرده است، سنا به بیش از سه هزار لایحه رسیدگی کرده است و بیش از سیصد قانون را تصویب کردهاند. اینها تصمیمات بسیاری خواهند بود که هر فرد باید در هفته بگیرد در موضوعاتی که اطلاع کمی از آن دارند. اگر بخواهیم که به دموکراسی مستقیم بهعنوان جایگزین محتمل فکر کنیم مشکل محدودیت شناختی بزرگی وجود دارد
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
بعضی به ایده دموکراسی سیال یا دموکراسی روان فکر میکنند، که به این معناست که قدرت سیاسی خود را به کسی محول میکنی که او نیز آن را به شخص دیگری محول میکند، و کمکم، شبکه دنبال کنندگان بزرگی میسازی که در آن، درنهایت، افراد کمی تصمیمات را اخذ میکنند به نمایندگی از دنبال کنندگانشان و دنبال کنندگان آنها. اما این ایده مشکل محدودیت ذهنی را حل نمیکند و صادقانه بگویم، کاملاً شبیه ایده نماینده داشتن است. پس امروز میخواهم کمی بحثبرانگیز باشم، میخواهم از شما بپرسم: چه میشد اگر بهجای تلاش برای دور زدن سیاستمداران خودکارشان میکردیم؟
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
ایده خودکارسازی جدید نیست. بیش از۳۰۰ سال پیش شروع شده است، وقتی بافندگان فرانسوی تصمیم گرفتند بافندگی را خودکار کنند. برنده این جنگ صنعتی «ژوزف ماریه جکوارد» بود. او یک بازرگان و نساج فرانسوی بود که دستگاه بافندگی را به موتور بخار متصل کرد تا دستگاه بافندگی خودکار بسازد و با آن بافندگی خودکار، او قدرت کنترل به دست آورد. حالا او میتوانست الیافی بسازد که از آنهایی که میتوانستند با دست تولید کنند پیچیده تر و مرغوبتر بود. اما همچنین، با بردن آن جنگ صنعتی، او چیزی را ارائه کرد که بعداً نقشه خودکارسازی شد.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
روش خودکارسازی چیزها در سیصد سال گذشته همیشه یکسان بوده است: ابتدا نیازی را شناسایی میکنیم، سپس ابزاری را میسازیم تا آن نیاز را برطرف کنیم، در این مورد، مثل دستگاه بافندگی، سپس روشی که مردم از آن استفاده میکنند را مطالعه میکنیم تا آن کاربر را خودکار کنیم. اینگونه بود که ما از دستگاه بافندگی مکانیکی به دستگاه بافندگی خودکار رسیدیم، و این هزار سال طول کشید حالا، تنها صدسال طول کشیده است تا همان روش را برای خودکارسازی خودرو استفاده کنیم اما مسئله این است که این بار خودکارسازی واقعی (جدی) است
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
این ویدیویی است که یکی از همکارانم از توشیبا در اختیارم قرار داده است که کارخانهای را نشان میدهد که حافظه SSD تولید میکند. تمام کارخانه یک روبات است. هیچ انسانی در کارخانه نیست. بهزودی روباتها کارخانه ها را ترک خواهند کرد و جزئی از جهان ما خواهند شد، بخشی از نیروی کار ما خواهند شد. کاری که در شغل هرروزهام انجام میدهم این است که ابزارهایی برای جمعآوری داده برای تمام کشورها بسازم تا به معنای واقعی کلمه میتوانیم شالودهای را که نیاز داریم داشته باشیم برای آیندهای که در آن ما نیاز به مدیریت ماشینها نیز داریم.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
اما امروز، اینجا نیامدم تا در مورد این ابزارها با شما صحبت کنم که دادهها را برای کشورها جمع میکند. بلکه اینجا هستم تا با شما در مورد ایده دیگری صحبت کنم که میتواند به ما کمک کند فکر کنیم که چطور از هوش مصنوعی در دموکراسی استفاده کنیم چراکه ابزارهایی که من میسازم برای تصمیمات اجرایی طراحیشدهاند اینها تصمیماتی هستند که میتوانند در قالبی عینی طبقهبندی شوند تصمیمات مربوط به سرمایهگذاری عمومی. اما تصمیماتی هم وجود دارند که قانونگذار هستند و این تصمیماتی که قانونگذار هستند نیازمند به ارتباط بین افرادی هستند که دیدگاههای متفاوتی دارند نیازمند مشارکت و نیازمند بحث و مناظره هستند نیازمند مشورت هستند. و برای مدت طولانی، فکر میکردهایم که چیزی که برای بهبود دموکراسی نیاز داریم ارتباط بیشتر است. به این منظور تمام فناوریهایی که ما در بافتار دموکراسی رشد دادهایم خواه روزنامهها و خواه رسانههای اجتماعی، تلاش کردهاند که برای ما ارتباطات بیشتری فراهم کنند. اما ما اشتباه میکردهایم، و میدانیم که این چیزی نیست که قرار است مشکل را حل کند. چراکه مشکل ارتباطی وجود ندارد مشکل محدودیت شناختی است. پس اگر مشکل یکی از محدودیتهای ذهنی ما هست، پس افزایش ارتباطات مردم چیزی نخواهد بود که مشکل را حل کند. چیزی که نیاز خواهیم داشت این است که فناوریهای دیگری داشته باشیم که به ما کمک میکنند تا با ارتباطاتی که بیشازحد با آن درگیریم سروکله بزنیم. فکر کنید، به چیزی شبیه یک آواتار، یک دستیار نرمافزاری، یک وجدان دیجیتال--
(Laughter)
(خنده)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
که اساساً قادر است بهجای شما به چیزها پاسخ دهد. و اگر آن فناوری را داشته باشیم، ما میتوانیم بار ارتباطی را کم کنیم و کمک کنیم، شاید تصمیمات بهتری بگیریم یا تصمیمات با مقیاس بزرگتری بگیریم. و مسئله این است که ایده دستیار نرمافزاری نیز جدید نیست. ما هماکنون همیشه از آنها استفاده میکنیم. ما از دستیارهای نرمافزاری استفاده میکنیم تا راه را برای رسیدن به مقصد خاصی انتخاب کنیم، موسیقی که میخواهیم به آن گوش دهیم و برای کتابهای بعدی که باید بخوانیم پیشنهاد بگیریم.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
پس ایده روشنی در قرن بیست و یکم وجود دارد که بهاندازه ایده اتصال موتور بخار به دستگاه بافندگی در زمان جکوارد روشن است. و این ایده ترکیب کردن دموکراسی مستقیم با دستیارهای نرمافزاری است. برای یکلحظه جهانی را تصور کن که در آن بهجای داشتن نمایندهای که شما را نمایندگی کند و میلیونها نفر دیگر را میتوانید نمایندهای داشته باشید که تنها شما را نمایندگی کند، با نظرات سیاسی خاص خودتان ترکیب عجیب لیبرالیسم و لیبرتاریانیسم (دو فلسفه سیاسی آزادیخواه) و شاید در بعضی موارد کمی محافظهکار و کمی ترقیخواه در موارد دیگر. امروزه سیاستمداران مانند بقچه هستند، پر از مصالحات. اما میتوانید کسی را داشته باشید که تنها نماینده شما باشد، اگر دوست دارید که این اید که نماینده باید انسان باشد را رها کنید. اگر آن نماینده دستیار نرمافزاری باشد، میتوانیم سنایی داشته باشیم که به تعداد شهروندانمان سناتور داشته باشد. و این سناتورها قادر خواهند بود که هر لایحهای را بخوانند و آنها قادر خواهند بود تا به تکتک آنها رأی بدهند
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
پس ایده روشنی وجود دارد که شاید بخواهیم به آن توجه کنیم. اما میفهمم که امروز و در این عصر، این ایده ممکن است کاملاً ترسناک باشد. در حقیقت، فکر کردن به روباتی که از آینده میآید تا کمک کند دولتمان را اداره کنیم وهمانگیز به نظر میرسد اما قبلاً مشابه آن را تجربه کردیم.
(Laughter)
(خنده)
And actually he was quite a nice guy.
و درواقع او شخص خوبی بود
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
نسخه ماشین جکوارد این ایده چگونه خواهد بود؟ سیستم سادهای خواهد بود. سامانهای را تصور کنید که وارد آن میشوید و آواتار خودتان را میسازید و بعد شما آواتار خودتان را آموزش خواهید داد میتوانید به آواتارتان عادتهای خواندنتان را بدهید یا به شبکههای اجتماعیتان وصلش کنید یا میتوانید آن را به دادههای دیگری متصل کنید مثلاً با دادن آزمونهای روانشناختی و نکته خوب در این مورد این است که در آن فریبی نیست شما دادهای برای ارتباط برقرار کردن فراهم نمیکنید که بعداً در سیستم سیاسی استفاده شود شما برای سامانهای اطلاعات فراهم میکنید که طراحیشده تا به نمایندگی شما برای گرفتن تصمیمات سیاسی به کار گرفته شود. سپس شما آن دادهها را برمیدارید و یک الگوریتم آموزشی انتخاب میکنید، چراکه بازار آزادی وجود خواهد داشت که در آن افراد مختلف میتوانند الگوریتمهای متفاوت ارائه دهند تا مبتنی بر دادههایی که فراهم کرده اید پیشبینی کند که چگونه رأی خواهید داد، و این سیستم باز است، پس کسی نمیتواند الگوریتمها را کنترل کند؛ در آن الگوریتمهایی هست که محبوب میشوند و بقیهای که کمتر مشهور میشوند. درنهایت، میتوانید سیستم را بازرسی کنید. میتوانید نحوه کار آواتارتان را ببینید. اگر دوستش داشتید، روی حالت خودکار بگذارید اگر میخواهید که کمی بیشتر کنترلگر باشید میتوانید انتخاب کنید که در هر بار انتخابی که میکنند از شما بپرسند یا چیزی بین این دو را انتخاب کنید. شاید یکی از دلایل بندرت استفاده کردن ما از دموکراسی این باشد که رابط کاربری بسیار بدی دارد. و اگر ما رابط کاربری دموکراسی را بهتر کنیم ممکن است بتوانیم بیشتر از آن استفاده کنیم
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
البته، ممکن است سؤالات بسیاری داشته باشید خب، چطور این آواتارها را آموزش میدهید؟ چطور دادهها را امن نگاه میدارید؟ چطور سیستم را گسترده و قابل نظارت نگه میدارید؟ مادربزرگم چه میشود؛ او که هشتاد سال سن دارد و نمیداند چطور از اینترنت استفاده کند؟ باور کنید، همهشان را شنیدهام. وقتی به ایدهای مانند این فکر میکنید، باید از بدبینان بر حذر باشید چون آنها به این شناختهشدهاند که برای هر راهحل مشکلی دارند
(Laughter)
(خنده)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
میخواهم از شما دعوت کنم که به ایدههای بزرگتر فکر کنید. سؤالاتی که به شما نشان دادم ایدههای کوچکی هستند. چون آنها سؤالاتی هستند در مورد این که چطور این (ایده) کار نخواهد کرد. ایدههای بزرگ ایدههای اینچنینی هستند: اگر این ایده عملی شود، دیگر چه میتوانید بکنید؟ و یکی از آن ایدهها این است که چه کسی قوانین را مینویسد؟ در ابتدا میتوانیم آواتارهایی داشته باشیم که پیشازاین داشتهایم که به قوانینی رأی میدهند که بوسیله سناتورها و سیاستمدارانی تنظیم شدهاند که پیشازاین داشتهایم اما اگر این عملی شود میتوانید الگوریتمی را بنویسید که سعی کند قانونی را بنویسد که میتواند به سطح خاصی از مقبولیت برسد و میتوانید فرآیند را برعکس کنید. حالا، ممکن است فکر کنید که این ایده مضحک است و نباید آن را انجام دهیم اما نمیتوانید این را انکار کنید که این ایدهای است که تنها در جهانی که در آن دموکراسی مستقیم و دستیاران نرمافزاری شکل محتملی از مشارکت هستند ممکن است.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
چطور باید این انقلاب را شروع کنیم؟ ما این انقلاب را با اعتراضات و نردهها شروع نمیکنیم یا با تقاضای تغییر سیاستمداران فعلی به روباتها. قابل اجرا نیست. بسیار سادهتر، بسیار آرام تر، و بسیار فروتنانهتر است. این انقلاب را با ساختن سامانههای سادهای مانند این در مدارس تحصیلات عالی در کتابخانهها، سمنها شروع میکنیم. و تلاش میکنیم که به پاسخ همه آن سؤالات و مشکلات کوچک برسیم. میخواهیم و باید بتوانیم این ایده را به چیزی قابلاجرا تبدیل کنیم تا این ایده را به چیزی تبدیل کنیم که میتوانیم به آن اعتماد کنیم. و وقتی که این سامانهها را میسازیم که که در آن صدها هزار نفر به چیزهایی رأی میدهند که به لحاظ سیاسی الزامآور نیستند، کمکم به این ایده اعتماد خواهیم کرد، جهان تغییر خواهد کرد، و کسانی که الآن به اندازه دختر من کوچک هستند رشد خواهند کرد. و زمانی که دخترم هم سن من باشد، شاید این ایده که میدانم امروزه دیوانهواراست. در نظر او و دوستانش دیوانهوار نباشد. و در آن نقطه، ما در پایان تاریخ خودمان خواهیم بود، اما آنها در آغاز تاریخشان خواهند بود.
Thank you.
متشکرم.
(Applause)
(تشویق)