Is it just me, or are there other people here that are a little bit disappointed with democracy?
Sadece ben miyim, yoksa demokrasiden biraz hayal kırıklığına uğramış başkaları da var mı?
(Applause)
(Alkış)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
O zaman bazı rakamlara bir göz atalım. Dünyaya bir bakacak olursak son 30 yıldaki başkanlık seçimlerinde sandığa gitme oranı yalnızca %67. Şimdi, Avrupa'ya gidersek ve AB parlamento seçimlerinde katılım oranına bakacak olursak ortalama oran sadece %42 olmuş. Şimdi, New York'a gidelim ve son belediye başkanı seçimlerinde kaç kişi oy vermiş bir bakalım. Görüyoruz ki seçmenlerin sadece %24'ü oy vermeye gitmiş. Bu demek oluyor ki "Friends" hala yayınlanıyor olsaydı Joey ve belki bir de Phoebe oy vermeye gitmiş olacaktı.
(Laughter)
(Gülüşmeler)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
Onları suçlayamazsınız çünkü insanlar politikacılardan sıkıldı. Arkadaşları ve aileleri ile iletişim kurmak için oluşturdukları veriyi siyasi propaganda hedefi yapmak için kullanan insanlardan sıkıldılar. Ancak mesele şu ki bu yeni bir şey değil. Bugünlerde posta kodunu, yaşını veya cinsiyetini kullanmadan önce sizi propaganda hedefi yapmak için beğenileri kullanıyorlar, çünkü siyasi amaçlar için insanları propaganda ile hedef gösterme düşüncesi politika kadar eski. Bu düşüncenin olmasının sebebi ise demokrasinin temel bir zafiyeti olması. Bu, bir temsilcinin olması düşüncesi.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
Prensip olarak demokrasi, insanların gücü kullanabilme becerisidir. Ancak uygulamada, bu gücü bizim için kullanacak bir temsilciye devretmeliyiz. Bu temsilci ise bir ayak bağı veya bir zayıf nokta. Eğer demokrasiye saldırmak istiyorsanız hedef almak isteyeceğiniz bu yerdir, çünkü ya temsilciyi ya da insanların onu seçtiği yolu ele geçirerek demokrasiyi ele geçirebilirsiniz. Bu yüzden asıl soru şu: Tarihin sonu bu mu? Yapabileceğimiz en iyi şey bu mu, yoksa gerçekten de alternatifler var mı?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
Bazı insanlar alternatifler hakkında düşünüyor ve düşüncelerinden birisi ise doğrudan demokrasi fikri. Bu, politikacıları tamamen atlama düşüncesi ve insanların direkt olarak sorunlar, kanunlar hakkında oy vermesi. Ancak bu düşünce naif, çünkü seçmemiz gereken birçok şey var. 114. ABD Kongresi'ne bakarsanız Temsilciler Meclisinin 6 binden fazla kanunu, Senatonun ise 3 binden fazla kanunu göz önünde bulundurduğunu ve 300'den fazla kanunu onayladıklarını görüceksiniz. Bunlar, çok az bildikleri konular üzerine her insanın bir haftasını ayıracağı birçok karar olurdu. Doğrudan demokrasiyi uygulanabilir bir alternatif olarak düşünecek olursak bant aralığı geniş, büyük bilişsel bir problem var.
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
Bazı insanlar delege demokrasisini düşünüyorlar, onun da başkasına devredeceği birine siyasi gücünüzü devrettiğiniz ve en sonunda tüm destekçilerin adına karar veren birkaç insanın olduğu daha geniş bir destekçi ağı yarattığınız bir düşünce. Ancak bu düşünce bilişsel bant genişliği problemini çözmüyor ve dürüst olmak gerekirse bir temsilcinin olması fikrine de oldukça benziyor. Bu yüzden bugün yapacağım şey biraz provokatif olmak olacak ve size şu soruyu soracağım: Politikacıları es geçmek yerine onları makineleştirsek ne olurdu?
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
Makineleştirme düşüncesi yeni değil. Fransız dokumacılar 300 yıl kadar önce dokuma tezgâhını makineleştirmeye karar verdiklerinde başlamıştı. Sanayi savaşının kazananı Joseph-Marie Jacquard'tı. Otonom dokuma tezgâhları yaratmak için buhar makineli dokuma tezgâhı ile evlenen Fransız bir dokumacı ve tüccardı. Otonom dokuma tezgâhlarıyla kontrolü eline aldı. Böylece elle yaptıklarından daha kompleks ve çok yönlü kumaşlar yapabiliyordu. Ancak aynı zamanda sanayi savaşını kazanarak makineleşmenin şablonunu çıkardı.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
Son 300 yıldır nesneleri makineştirme şeklimiz hep aynı oldu: İlk önce bir ihtiyacı tanımlıyoruz, daha sonrasında bu ihtiyacı giderecek bir alet yaratıyoruz, bu durumda bir dokuma tezgâhı gibi, daha sonra makineleştirmek için insanların bu aleti nasıl kullandıklarını inceliyoruz. İşte bu şekilde mekanik dokuma tezgâhından otonom dokuma tezgâhına geçtik ve bu, bin yılımızı aldı. Şimdi ise arabayı otomatikleştirmek için aynı senaryoyu kullanmak sadece yüz yılımızı aldı. Ancak mesele şu ki bu sefer makineleşme adeta gerçek.
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
Bu, Toshiba'da çalışan iş arkadaşımın benimle paylaştığı katı hal sürücüleri üreten fabrikayı gösteren bir video. Tüm fabrika bir robot. Bu fabrikada insan yok. Robotlar yakında fabrikaları terk edecekler ve dünyamızın bir parçası olucaklar, iş gücümüzün bir parçası olacaklar. Günlük olarak işimde yaptığım şey aslında bu makineleri aynı zamanda idare etmemiz gereken bir gelecek için nihayetinde ihtiyacımız olan temellere sahip olabilelim diye tüm ülkeler için verileri birleştirecek aletler yaratmak.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
Ancak bugün size ülkeler için verileri birleştiren bu aletlerden bahsetmek için burada değilim. Aksine, yapay zekanın demokraside nasıl kullanılacağını düşünmemize yardım edecek başka bir fikirden bahsetmek için buradayım. Çünkü yaptığım aletler idari kararlar için tasarlandı. Bunlar, bir çeşit tarafsızlık terimini paylaşabilen kararlar: kamu yatırımı kararları. Ancak yasama kararları da var ve kanun koyucu bu kararlar farklı bakış açılara sahip insanlar arasında iletişimi, katılımı, tartışmayı, kafa yormayı gerektiriyor. Uzun bir zamandır şunu düşünüyorduk; demokrasiyi geliştirmek için gereken şey aslında daha fazla iletişim. Bu yüzden demokrasi bağlamı içinde geliştirdiğimiz tüm teknolojiler, ister gazete ister sosyal medya olsun, bize daha fazla iletişim sağlamaya çalıştılar. Ancak tavşan deliğine düştük ve problemi çözecek şeyin o olmadığını biliyoruz. Çünkü bir iletişim problemi değil, bilişsel bant genişliği problemi. O halde problem bilişsel bant genişliği ise insanlara daha fazla iletişim sağlamak problemi çözecek şey olmayacaktır. İhtiyacımız olan şey, aşırı yüklendiğimiz bazı iletişimlerle baş etmemize yardımcı olacak başka teknolojiler elde etmek. Küçük bir avatar gibi düşünün, bir yazılım aracısı, dijital bir Jiminy Cricket,
(Laughter)
(Gülüşmeler)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
temelde sizin adınıza cevaplayabilen bir şey. Eğer bu teknolojimiz olsaydı bazı iletişimlerin yüklerini boşaltabilir ve belki de daha geniş kapsamda daha iyi kararlar verebilirdik. Durum şu ki yazılım aracısı düşüncesi yeni bile değil. Zaten onları her zaman kullanıyoruz. Yazılım araçlarını belli bir konuma gideceğimiz yolu seçmek, dinleyeceğimiz müziği seçmek veya okumamız gereken sonraki kitap için öneri almak için kullanıyoruz.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
Jacquard zamanında bir dokuma tezgâhıyla bir buhar makinesini birleştirmek kadar bariz bir düşünce 21. yüzyılda da var. Bu düşünce ise doğrudan demokrasiyi yazılım araçlarıyla birleştirmek. Bir saniyeliğine düşünün, sizi ve diğer milyonlarca insanı temsil eden bir temsilci yerine sadece sizi temsil eden bir temsilcinin olduğu bir dünyayı düşünün; incelikli siyasi görüşlerinizle birlikte, liberteryenizm ve liberalizmin garip birleşimi ve belki de bazı sorunlara biraz muhafazakar ve belki de diğerlerine oldukça ilerici tutum. Politikacılar bugünlerde paketler ve uzlaşmalarla dolular. Ancak o temsilcinin insan olduğu düşüncesinden vazgeçmeye hazırsanız sadece sizi temsil eden birine sahip olabilirsiniz. Eğer o temsilci bir yazılım aracısıysa vatandaş sayımız kadar senatörleri olan bir senatomuz olabilir. Bu senatörler her kanunu okuyabilecek ve her biri için oy kullanabilecekler.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
Ayrıca göz önünde bulundurmak isteyeceğimiz bariz bir düşünce daha var. Ancak bu günde ve çağda bu düşüncenin oldukça korkutucu olabileceğini anlıyorum. Aslında hükûmetlerimizi yönetmemize yardımcı olacak gelecekten gelen bir robotun düşüncesi kulağa korkutucu geliyor. Ancak biz de bu yollardan geçtik.
(Laughter)
(Gülüşmeler)
And actually he was quite a nice guy.
Gerçekten de oldukça iyi bir adamdı.
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
Bu düşüncenin Jacquard dokuma tezgâhı versiyonu nasıl olurdu? Çok basit bir sistem olurdu. Giriş yaptığınız ve avatarınızı yarattığınız ve sonra avatarınızı eğitmeye başladığınız bir sistem düşünün. Böylece avatarınıza okuma alışkanlıklarınızı sağlayabilir veya sosyal medyanıza bağlayabilir veya başka bir veriye bağlayabilirsiniz, örneğin psikolojik testler yapmaya. Bunda güzel olan şey şu ki aldatmaca yok. Arkadaşlarınızla ve ailenizle iletişim kurmak için verdiğiniz veri daha sonrasında siyasi bir sistemde kullanılmıyor. Sizin adınıza siyasi kararlar vermek için tasarlanan bir sisteme veri sağlıyorsunuz. Daha sonra o veriyi alıyor ve bir eğitim algoritması seçiyorsunuz çünkü bu, farklı insanların verdiğiniz veriler bazında nasıl oy vereceğinizi tahmin eden farkı algoritmalara yüklediği açık bir pazar. Sistem açık, böylelikle de kimse algoritmaları kontrol etmiyor; daha popüler olan algoritmalar da daha az popüler olanlar da var. En sonunda sistemi denetleyebilirsiniz. Avatarınızın nasıl çalıştığını görebilir, beğenirseniz otomatik pilotta bırakabilirsiniz. Biraz daha fazla denetleyici olmak istiyorsanız bir karar verecekleri her seferinde size sormalarını seçebilirsiniz veya arada bir yerde olabilirsiniz. Demokrasiyi bu kadar az kullanmamızın nedenlerinden biri de demokrasinin çok kötü bir kullanıcı arayüzü olması olabilir. Eğer demokrasinin kullanıcı arayüzünü geliştirebilirsek daha fazla kullanabiliriz.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
Tabii ki, çok sorunuz olabilir. Bu avatarları nasıl eğitirsiniz? Verileri nasıl güvenli tutarsınız? Sistemleri nasıl yayılmış ve denetlenebilir tutarsınız? Peki ya internetin nasıl kullanıldığını bilmeyen 80 yaşındaki büyükannem? Bana güvenin, hepsini duydum. Bunun gibi bir fikri düşündüğünüzde karamsarlara dikkat etmek zorundasınız, çünkü her çözümle bir problemi olmalarıyla bilinirler.
(Laughter)
(Gülüşmeler)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
Bu yüzden daha büyük fikirleri düşünmeye sizi davet etmek istiyorum. Size gösterdiğim sorular küçük fikirler, çünkü onlar bunun nasıl işe yaramayacağı hakkında sorular. Büyük fikirler şunlardır: Eğer bu işe yaramazsa bununla başka ne yapabilirsin? Bu fikirlerden biri ise şu: Kanunları kim yazıyor? Başlangıçta çoktan var olan senatörler veya politikacılar tarafından yazılmış kanunlara oy veren avatarlarımız olabilir. Ancak bunun işe yaraması için belli bir oranda onay alacak bir kanunu yazmaya çalışan bir algoritma yazabilir ve süreci değiştirebilirsiniz. Bu düşüncenin saçma olduğunu ve yapmamamız gerektiğini düşünebilirsiniz ancak doğrudan demokrasinin ve yazılım araçlarının katılımın uygulanabilir bir formu olduğu bir dünyada bu düşüncenin mümkün olduğunu inkar edemezsiniz.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
Peki, devrimi nasıl başlatıyoruz? Protestolarla veya şu anki politikacıların robotlara dönüşmesini talep ederek bu devrimi başlatmıyoruz. Bu, işe yaramaz. Bu, çok daha basit, daha yavaş ve çok daha alçakgönüllü. Bu devrimi; yüksekokullar, kar amacı gütmeyen yerler, kütüphaneler gibi yerlerde basit sistemler yaratarak başlatıyoruz. Bu düşünceyi uygulanabilir ve güvenilir yapmak için bu küçük problemleri çözmeye çalışıyoruz. Yüzlerce, binlerce, yüz binlerce insanı siyasi olarak zorlamayan bir şekilde oy verdikleri bu sistemleri yarattıkça bu düşünceye karşı güven oluşturacağız, dünya değişecek ve şu anda kızım kadar küçük olanlar büyüyecek. Kızım benim yaşıma gelene kadar belki de bugün oldukça çılgın olduğunu bildiğim bu düşünce ona ve arkadaşlarına hiç de çılgınca gelmeyebilir. Bu noktada tarihimizin sonunda olacağız ancak onlar, onlarınkinin başlangıcında olacaklar.
Thank you.
Teşekkür ederim.
(Applause)
(Alkış)