Is it just me, or are there other people here that are a little bit disappointed with democracy?
האם זה רק אני, או שיש כאן עוד אנשים שמאוכזבים קצת מדמוקרטיה?
(Applause)
(מחיאות כפיים)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
אז בואו ונסתכל על כמה מספרים. אם נסתכל על העולם, חציון ההשתתפות בבחירות לנשיאות ב -30 השנים האחרונות היה רק 67 אחוזים. ואם נלך לאירופה ונסתכל על אנשים שהשתתפו בבחירות לפרלמנט האירופי, חציון ההצבעה בבחירות אלה הוא רק 42 אחוזים. עכשיו בואו ונלך לניו יורק, ונראה כמה אנשים הצביעו בבחירות האחרונות לראשות העיר. נמצא שרק 24% מהאנשים הגיעו להצביע. פירוש הדבר הוא, שאם הסדרה"חברים" עדיין רצה, ג'ואי ואולי פיבי היו מופיעים להצביע.
(Laughter)
(צחוק)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
ואתם לא יכולים להאשים אותם כי אנשים עייפים מפוליטיקאים. ואנשים עייפים מאנשים אחרים שמשתמשים בנתונים שיש בידם כדי לתקשר עם חבריהם ובני משפחתם, ולכוון לתעמולה פוליטית אליהם. אבל העניין הוא שזה לא חדש. כיום, אנשים משתמשים בלייקים כדי לכוון אליכם תעמולה לפני שהם משתמשים במיקוד שלכם או במין שלכם או הגיל שלכם, כי הרעיון לכוון לאנשים תעמולה פוליטית הוא ישן כמו הפוליטיקה. והסיבה לכך שהרעיון הזה קיים היא שהדמוקרטיה סובלת מפגיעות בסיסית. זהו הרעיון של נציג.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
עקרונית, הדמוקרטיה היא יכולתם של אנשים להפעיל כוח. אבל בפועל, אנחנו צריכים להאציל את הכוח הזה לנציג שיכול להפעיל את הכוח עבורנו. נציג זה הוא צוואר הבקבוק, או נקודה חלשה. זה המקום שאליו אתם רוצים לכוון אם ברצונכם לתקוף את הדמוקרטיה כי אתם יכולים ללכוד את הדמוקרטיה על ידי לכידת נציג זה או ללכוד את הדרך שאנשים בוחרים בזה. אז השאלה הגדולה היא: האם זו סופה של ההיסטוריה? האם זה הכי טוב שאנחנו יכולים לעשות או, למעשה, האם יש חלופות?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
יש אנשים שחושבים על חלופות, ואחד הרעיונות שעולים שם בחוץ הוא רעיון של דמוקרטיה ישירה. זה הרעיון של עקיפת הפוליטיקאים לחלוטין ולאפשר לאנשים להצביע ישירות על סוגיות, לאפשר לאנשים להצביע ישירות על הצעות חוק. אבל הרעיון הזה הוא תמים כי יש יותר מדי דברים שנצטרך לבחור. אם תסתכלו על הקונגרס ה-114 של ארה"ב, תיווכחו שבית הנבחרים שקל יותר מ 6,000 הצעות חוק, הסנאט שקל יותר מ -3,000 הצעות חוק והם אישרו יותר מ -300 חוקים. אלו הן הרבה החלטות שכל אדם יצטרך לקבל בשבוע על נושאים שהם יודעים עליהם מעט. אז יש בעיה קוגניטיבית גדולה של רוחב פס אם ננסה לחשוב על דמוקרטיה ישירה כעל אלטרנטיבה ברת קיימא
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
אז כמה אנשים חושבים על הרעיון של דמוקרטיה נוזלית, או דמוקרטיה גמישה, שזה הרעיון שאתה מסב את הכוח הפוליטי שלך למישהו, שיכול להסב אותו למישהו אחר, ובסופו של דבר, אתה יוצר רשת תומכים גדולה שבה בסופו של דבר, ישנם מעט אנשים שמקבלים את ההחלטות בשם כל תומכיהם והחסידים שלהם. אבל גם רעיון זה אינו פותר את בעיית רוחב הפס הקוגניטיבי ולמען האמת, זה גם די דומה לרעיון של נציג. אז היום אני הולך להיות קצת פרובוקטיבי, ואני עומד לשאול אתכם, טוב: מה אם, במקום לנסות לעקוף פוליטיקאים, ננסה לאִטְמֵט אותם?
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
הרעיון של אוטומציה אינו חדש. זה התחיל לפני יותר מ -300 שנה, כאשר האורגים הצרפתיים החליטו להפוך את הנול לאוטומטי. המנצח במלחמה התעשייתית היה ג'וזף-מארי ז'אקארד. הוא היה אורג צרפתי וסוחר ששידך את הנול עם מנוע הקיטור כדי ליצור נולים אוטונומיים. ובנולים אוטונומיים אלה, הוא זכה לשליטה. עכשיו הוא יכול היה לייצר בדים מורכבים יותר ומתוחכמים יותר מאשר אלה שהיו מסוגלים לייצר ביד. אבל גם, בעזרת נצחון המלחמה התעשייתית, הוא יסד את מה שהפך להיות תוכנית האב של האוטומציה.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
האופן שבו אנו מְאֻטְמָטִים דברים ב-300 השנים האחרונות תמיד היה זהה: תחילה אנו מזהים צורך, ואז אנחנו יוצרים כלי שיספק את הצורך, כמו הנול, במקרה הזה, ואז אנו לומדים כיצד אנשים משתמשים בכלי זה כדי לאטמט את המשתמש הזה . כך הגענו מהנול המכני אל הנול האוטונומי, וזה לקח לנו אלף שנים. עכשיו, זה לקח לנו רק מאה שנים כדי להשתמש באותו תסריט כדי להפוך את המכונית לאוטומטית. אבל העניין הוא, שהפעם, אוטומציה היא סוג של דבר אמיתי.
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
זהו וידאו שעמית שלי מטושיבה שיתף איתי שמראה את המפעל שמייצר כוננים קשיחים שבביים כל המפעל הוא רובוט. אין בני אדם במפעל הזה. והרובוטים יצאו בקרוב מהמפעלים ויהפכו להיות חלק מהעולם שלנו, יהפכו להיות חלק מכוח העבודה שלנו. אז מה שאני עושה בעבודת יומי זה למעשה יוצר כלים שישלבו נתונים עבור מדינות שלמות כדי שבסופו של דבר יהיו לנו היסודות שאנחנו צריכים עבור עתיד שבו נצטרך גם לנהל את המכונות האלו.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
אבל היום, אני לא כאן כדי לדבר איתכם על כלים אלה שמשלבים נתונים עבור מדינות. אלא אני כאן כדי לדבר איתכם על רעיון אחר שעשוי לעזור לנו לחשוב איך להשתמש בבינה מלאכותית בדמוקרטיה. משום שהכלים שאני בונה מעוצבים עבור החלטות מנהלים. אלו החלטות שניתן להטיל בסוג מסוים של אובייקטיביות -- החלטות בנושא השקעה ציבורית. אבל יש החלטות שהן תחוקתיות, והחלטות תחוקתיות אלו מצריכות תקשורת בין אנשים בעלי נקודות מבט שונות, ומצריכות השתתפות, מצריכות דיונים, מצריכות דיון מעמיק. ובמשך זמן רב, חשבנו, שמה שנחוץ לנו כדי לשפר את הדמוקרטיה זה למעשה יותר תקשורת. אז כל הטכנולוגיות שקידמנו בהקשר של דמוקרטיה, בין אם בעיתונים או במדיה חברתית, ניסו לספק לנו יותר תקשורת. אך כבר היינו במורד מחילת הארנב ואנחנו יודעים שזה לא מה שיפתור את הבעיה. כי זה לא בעייה של תקשורת, זוהי בעיית רוחב פס קוגניטיבי. אז אם הבעיה היא של רוחב פס קוגניטיבי, הוספה של יותר תקשורת לאנשים לא הולכת לפתור אותה. מה שנצטרך במקום זה, שיהיו טכנולוגיות אחרות שיעזרו לנו להתמודד עם חלק מהתקשורת שאנחנו עמוסים איתה. חישבו על משהו במקצת כמו אווטאר, סוכן תוכנה, ג'ימיני הצרצר (מפינוקיו) דיגיטלי --
(Laughter)
(צחוק)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
שבעצם מסוגל לענות על דברים בשמכם. ואם היתה לנו הטכנולוגיה הזאת, היינו יכולים לפרוק מעלינו חלק מהתקשורת שתעזור, אולי, לקבל החלטות טובות יותר או החלטות בקנה מידה גדול יותר. וגם הרעיון של סוכני תוכנה אינו חדש. אנחנו כבר משתמשים בהם כל הזמן. אנו משתמשים בסוכני תוכנה כדי לבחור את הדרך בה אנו רוצים לנסוע למקום מסוים, את המוזיקה שאנו רוצים להקשיב לה או לקבל הצעות לספרים שאנו צריכים לקרוא.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
אז יש רעיון ברור במאה ה 21 שהיה ברור כמו הרעיון של שילוב מנוע קיטור עם נול בזמנו של ז'קארד. והרעיון הזה הוא שילוב דמוקרטיה ישירה עם סוכני תוכנה. תארו לעצמכם לרגע, עולם שבו, במקום שיש נציג שמייצג אתכם ומיליונים של אנשים אחרים, יכול להיות לכם נציג שמייצג רק אתכם עם ההשקפה הפוליטית שלכם -- הקומבינציה המוזרה של ליברטריאן וליברלי ואולי מעט שמרן בנושאים מסוימים ואולי מאוד פרוגרסיבי באחרים. פוליטיקאים היום הם מארזים, והם מלאים בפשרות. אבל אולי יהיה לכם מישהו שמייצג רק אתכם, אם תהיו מוכנים לוותר על הרעיון שהנציג הזה הוא אנושי. אם נציג זה הוא סוכן תוכנה, היה יכול להיות לנו סנאט עם מס. סנטורים זהה למס. האזרחים. וסנטורים אלה יהיו מסוגלים לקרוא כל הצעת חוק והם יהיו מסוגלים להצביע על כל אחת מהן.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
אז יש רעיון ברור שאולי נרצה לחשוב עליו. אבל אני מבין שביום זה ובתקופה הזו, הרעיון הזה יכול להישמע די מפחיד. למעשה, לחשוב על רובוט שמגיע מהעתיד לעזור לנו לנהל את הממשלות שלנו נשמע מפחיד. אבל היינו שם כבר קודם.
(Laughter)
(צחוק)
And actually he was quite a nice guy.
ולמעשה הוא היה ברנש די נחמד.
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
אז איך תיראה גרסת הנול של ז'קארד של הרעיון הזה? זו תהיה מערכת מאוד פשוטה. דמיינו מערכת שאתם נכנסים אליה ויוצרים את האווטאר שלכם ואז אתם תתחילו לאמן את האווטאר שלכם. כך תוכלו להקנות לאווטאר שלכם את הרגלי הקריאה שלכם, או לחבר אותו למדיה החברתית שלכם, או שתוכלו לחבר אותו לנתונים אחרים, למשל לעבור מבחנים פסיכולוגיים. והדבר היפה בזה הוא שאין כאן הונאה. אינכם מספקים נתונים כדי לתקשר עם חברים שלכם ובני משפחה שישמשו אחר כך במערכת פוליטית. אתם מספקים נתונים למערכת שנועדה לשמש כדי לקבל החלטות פוליטיות בשמכם. ואז אתם לוקחים את הנתונים האלה ובוחרים אלגוריתם הדרכה, משום שזה שוק פתוח שבו אנשים שונים יכולים להגיש אלגוריתמים שונים כדי לחזות איך אתם הולכים להצביע בהתבסס על הנתונים שסיפקתם. והמערכת פתוחה, כך שאף אחד לא שולט באלגוריתמים; יש אלגוריתמים שהופכים יותר פופולריים ואחרים שהופכים פחות פופולריים. בסופו של דבר, תוכלו לבדוק את המערכת אתם יכולים לראות איך האווטאר שלכם עובד. אם תרצו תוכלו להשאיר אותו על טייס אוטומטי. אם אתם רוצים קצת יותר שליטה, אתם יכולים למעשה לבחור שהם ישאלו אתכם בכל פעם שהם עומדים לקבל החלטה, או שתוכלו להיות במקום כלשהו באמצע. אחת הסיבות לכך שאנו משתמשים כל כך מעט בדמוקרטיה יכולה להיות, כי לדמוקרטיה יש ממשק משתמש רע מאוד. ואם נשפר את ממשק המשתמש של הדמוקרטיה, ייתכן שנוכל להשתמש בו יותר.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
כמובן שיכולות להיות לכם הרבה שאלות. ובכן, איך אתם מאמנים את האווטארים האלה? איך אתם שומרים את הנתונים מאובטחים? איך אתם שומרים את המערכות מבוזרות וניתנות לביקורת? מה עם סבתא שלי, בת ה-80 שאינה יודעת איך להשתמש באינטרנט? האמינו לי, שמעתי את כולם. אז כשחושבים על רעיון כזה, צריך להיזהר מפסימיסטים כי הם ידועים כמי שיש להם בעיה עבור כל פתרון.
(Laughter)
(צחוק)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
אז אני רוצה להזמין אתכם לחשוב על הרעיונות היותר גדולים. השאלות שהצגתי בפניכם הן רעיונות קטנים כי הן שאלות על איך זה לא יעבוד. הרעיונות הגדולים הם רעיונות של: מה עוד תוכלו לעשות עם זה אם זה כן יוכל לעבוד? ואחד הרעיונות האלה הוא, ובכן, מי כותב את החוקים? בהתחלה, יכלו האווטארים שיש לנו כבר להצביע על חוקים שנכתבים על ידי הסנטורים או הפוליטיקאים שכבר יש לנו. אבל כדי שזה יעבוד, תוכלו לכתוב אלגוריתם שיכול לנסות לכתוב חוק שיקבל אחוז מסוים של אישורים, ויכולתם להפוך את התהליך. עכשיו, אתם עשויים לחשוב שרעיון זה מגוחך ושאנחנו לא צריכים לעשות את זה, אבל אתם לא יכולים להכחיש שזה רעיון שאפשרי רק בעולם שבו דמוקרטיה ישירה וסוכני תוכנה הם צורה ישומית של השתתפות,
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
אז איך אנחנו מתחילים את המהפכה? איננו מתחילים את המהפכה הזאת עם מחאות או השבתות או בדרישה שהפוליטיקאים הנוכחיים שלנו יהפכו לרובוטים. זה לא יעבוד. זה הרבה יותר פשוט, הרבה יותר איטי והרבה יותר צנוע. אנו מתחילים את המהפכה הזאת ביצירת מערכות פשוטות כמו זו בבתי"ס להשכלה גבוהה,בספריות, ובמלכ"רים. ואנו מנסים להבין את כל השאלות הקטנות האלו ואת הבעיות הקטנות האלו שנצטרך להבין כדי להפוך את הרעיון הזה למשהו בר קיימא, כדי להפוך את הרעיון הזה למשהו שנוכל לסמוך עליו. וכאשר אנו יוצרים אותן מערכות שיש להן מאה איש, אלף איש, מאה אלף איש שמצביעים בדרכים שאינן מחייבות פוליטית, אנו הולכים לפתח אמון ברעיון הזה, העולם עומד להשתנות, ואלה שהם קטנים כמו הבת שלי עכשיו יגדלו. וכאשר הבת שלי תהיה בגילי, אולי הרעיון הזה, שאני יודע שהיום הוא מטורף מאוד, עשוי לא להיראות מטורף בעיניה ובעיני חבריה. ובנקודה זו, אנחנו נהיה בסופה של ההיסטוריה שלנו, אבל הם יהיו בתחילת שלהם.
Thank you.
תודה.
(Applause)
(מחיאות כפיים)