Is it just me, or are there other people here that are a little bit disappointed with democracy?
오직 저 뿐 인가요, 아니면 여기 계신분들 중 민주주의에 조금 실망한 사람들이 더 있나요?
(Applause)
(박수)
So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.
수치를 조금 살펴 보도록 하죠. 전 세계적으로 지난 30 년간의 대통령 선거에서 나타난 투표율의 중간값이 오직 67% 정도밖에 되지 않았습니다. 유럽의 경우, EU 의회 선거에 참가한 사람들을 살펴 보았을 때 선거율의 중간 값은 42%에 불과했습니다. 그럼 뉴욕을 살펴 볼까요. 저번 뉴욕 시장 선거에 사람들이 얼마나 투표에 참여했는지 보면 단 24%만이 투표하러 갔다는 사실을 알 수 있습니다. 이 의미는 만약 "프렌즈"가 아직 방영 중이었다면 조이와 피비도 투표를 하러 왔을 거라는 거죠.
(Laughter)
(웃음)
And you cannot blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.
우리는 그들을 비난할 수 없어요. 사람들은 정치인들에게 지쳐있으니까요. 사람들은 자신이 생성한 테이터를 이용해 친구, 가족과 소통하려 하며, 정치적 선전을 선동하는 사람들에 지쳐있습니다. 하지만 여기서 요점은 이 문제가 새롭지 않다는 거죠. 현재 사람들은 '좋아요'를 사용하여 정치적 선전을 여러분에게 선동하죠. 우리의 우편번호, 성별, 또는 나이를 사용하기 전에요. 정치적 목적으로 사람들에게 선전을 선동하는 것은 정치만큼 오래 되었기 때문이죠. 그리고 이런 생각을 하는 이유는 민주주의가 근본적인 취약점을 지니고 있기 때문입니다. 그것은 대표자의 생각입니다.
In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?
원칙적으로 민주주의는 사람들이 권력을 행사할 수 있는 능력입니다. 하지만 실제로는 대표자에게 우리를 대신해 그 힘을 행사하도록 위임해야 합니다 그 대표는 극 소수이거나, 취약점이 되기도 합니다. 민주주의를 공략할 때 겨냥하는 곳으로 대표자 또는 대표자를 선택하는 방법을 억류하여 민주주의 전체를 함락시킬 수 있기 때문입니다. 여기서 중요한 질문은 이것이 역사의 끝인가? 이것이 우리가 할 수 있는 최선인가, 아니면 사실 대안책이 있는가?
Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.
몇몇 사람들은 대안책에 대해 생각해왔고, 그 중 한 가지는 바로 직접 민주주의 개념입니다. 정치인을 완전히 따돌리고 사람들이 문제에 대해 직접 투표를 하도록 함으로써 법안에 대해 직접 투표할 수 있게 하는 개념입니다. 하지만 순진한 생각이죠. 우리가 정해야 할 일들이 너무 많기 때문입니다. 제114차 미국 의회를 살펴 보자면 하원이 6,000개 이상의 법안을 제안했고, 상원은 3,000개 이상의 법안을 제안했으며, 300건 이상 승인되었습니다. 많은 결정들은 사람들은 잘 알지 못하는 주제에 대해 일주일을 투자해 만들어진 것입니다. 우리가 실행 가능한 대안으로서 직접 민주주의를 제안했을 때 발생하는 큰 인식의 대역폭 문제가 있습니다.
So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?
몇몇 사람들은 유동적인 민주주의를 실행할 것을 제안하는데, 이는 여러분이 누군가에게 자신의 정치적 권력을 위임하면 그 사람은 또 다시 그 권력을 다른 사람에게 위임할 수 있어서 결과적으로 큰 지지자 네트워크를 형성하게 되고, 이 네트워크에서 마지막에는 그들의 지지자들의 대신하여 결정을 내리는 소수의 사람만 남게 되는 제도입니다. 하지만 이 개념 또한 인지적 대역폭의 문제를 해결하지는 못하며, 또한, 솔직히 말해 이는 대표자를 뽑는 개념과도 유사합니다. 따라서 오늘 전 약간 도발적인 행동을 하려 합니다. 그리고 여러분께 묻고 싶은 것이 있습니다. 만일 정치인들을 퇴각시키는 대신 그들을 자동화한다면 어떨까요?
The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.
자동화의 개념은 새로운 것이 아닙니다. 300년도 더 전에 프랑스의 방직공들은 방직기을 자동화하기로 결심했죠. 그리고 그 산업 전쟁의 승자는 조제프-마리 자카르였습니다. 그는 프랑스인 방직공이자 상인이었으며 자동 방직기를 만들기 위해 방직기와 증기 기관을 결합하였습니다. 그리고 그는 자동 방직기의 통제권을 쥐었습니다. 그는 이제 손으로 만든 것보다 더 복잡하고 정교한 천을 만들 수 있게 되었습니다. 또한 산업 전쟁에서 승리함으로써 무엇이 자동화의 청사진이 되었는지 제시하였습니다.
The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.
지난 300년 간 사물을 자동화한 방식은 언제나 같았습니다. 우리는 처음으로 필요성을 확인하고 필요성을 충족시킬 도구를 만듭니다. 이 경우에는 방직기가 되겠죠. 그 후 사용자를 자동화하기 위해 사람들이 도구를 어떻게 사용할지 탐구했습니다. 이렇게 기계로 작동되는 방직기에서 자동 방직기로 발전하였고 이것을 실천하는 데 천 년이 걸렸습니다. 차를 자동화할 때 같은 스크립터를 사용하는데 고작 백년 밖에 걸리지 않았습니다. 하지만 중요한 점은 이제 자동화는 실제라는 것입니다.
This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.
이 영상은 도시바에 다니는 저의 동료가 저와 공유한 것이며, SSD를 만드는 공장을 보여 줍니다. 공장 전체가 로봇이라고 할 수 있죠. 저 공장에 사람은 없습니다. 그리고 저 로봇들은 곧 공장 밖으로 나와 우리 세상의 일부가 되고, 우리 노동 인구의 일부가 될 것입니다. 제가 본업으로 하는 일은 사실 국가 전체의 테이터를 통합하는 도구를 만드는 것 입니다. 그렇게 함으로써 우리가 미래에 이 기계들을 관리할 기반을 다질 수 있도록 하는 것입니다.
But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --
하지만 오늘 저는 국가들을 위해 데이터를 통합하는 도구에 대해 말하기 위해 이 자리에 선 것이 아닙니다. 인공지능을 민주주의에 적용하는 것을 도와 줄 만한 다른 견해를 말씀드리기 위해 이 곳에 왔습니다. 왜냐하면 제가 만든 도구가 행정상의 결정을 위해 만들어 졌고 이 결정은 일종의 객관성 띠며 공공 투자 결정의 측면에서 제시될 수 있습니다. 하지만 입법적 결정이 존재하고, 이 입법적 결정들은 서로 다른 시각을 가진 사람들 사이의 의사소통과, 참여와 토론, 심사숙고함을 요합니다. 민주주의를 발전하기 위해 우리가 해야 할 일은 사실 소통을 늘리는 것이라고 오랫동안 생각해 왔습니다. 따라서 민주주의라는 이름으로 발전한 모든 기술들은 그것이 신문이든, 소셜미디어든 상관없이 우리가 더 많은 소통을 할 수 있도록 도왔습니다. 하지만 우리는 혼돈에 빠져있고 이것이 문제를 해결해 주지 않을 것이란 것을 알고 있습니다. 왜냐하면 이것이 소통의 문제가 아닌, 인지 대역폭의 문제이기 때문입니다. 만약에 인지 대역폭이 문제라면, 사람들 간의 소통을 늘리는 것은 문제를 해결하는 방법이 되지 못할 것입니다. 대신 우리가 해야 할 일은 과부화된 소통의 일부를 처리하는 것을 도와줄 만한 기술을 가지는 것입니다. 작은 아바타, 소프트웨어 에이전트, 디지털로 된 지미니 크리켓 을 떠올려보세요.
(Laughter)
(웃음)
that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.
여러분을 대신해 질문에 대답을 할 수 있는 것들이죠. 그리고 만약 우리에게 그런 기술이 있었다면 우리는 소통을 조금 줄일 수 있을 것이고 어쩌면 더 나은 결정을 내리거나 더 큰 규모의 결정을 내릴 수 있도록 돕겠죠. 중요한 것은 소프트웨어 에이전트 또한 새로운 것이 아닙니다. 우리는 이미 굉장히 자주 이용하고 있습니다. 우린 소프트웨어 에이전트를 통해 어떠한 장소를 가기 위한 경로를 고르기도 하고, 어떤 음악을 들을지 정하기도 하며, 다음엔 무슨 책을 읽을 지 추천을 받기도 합니다.
So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.
이렇듯 21세기에도 마찬가지로 자카르가 살던 시대에 증기기관과 방직기를 결합한 것만큼 명확한 발상이 있습니다. 그것은 바로 직접 민주주의와 소프트웨어 에이전트를 결합하는 것입니다. 잠시 상상해 보세요. 여러분과 수많은 다른 사람들을 대신하는 대표자가 아니라 오직 여러분만을 대신하는 대표자를 가지는 세상을요. 그 대표자는 여러분의 미묘한 정치관, 즉 자유의지론과 진보주의의 이상한 결합, 그리고 몇몇 문제들에 대해선 보수적이고, 또 다른 문제들에 대해선 매우 진보적인 것을 대표할 것입니다. 오늘날의 정치인들은 일괄적이며, 온갖 타협들로 가득차 있습니다. 하지만 오직 여러분만을 대표하는 누군가가 있는 겁니다. 만약 여러분이 그 대표자가 사람일 것이라는 생각만 버린다면요. 만약 그 대표자가 소프트웨어 에이전트라면, 우리는 시민들 만큼 많은 상원 의원을 가진 상원을 가질 수 있죠. 그리고 그 의원들은 모든 법안들을 읽을 수 있을 것이며, 그 각각의 법안들에 대해 투표를 할 수도 있을 것입니다.
So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.
우리가 한 번쯤 고려해 볼 만한 발상이죠. 하지만 저는 현재, 이 시대에 이 발상이 꽤나 무섭게 느껴질 것임을 이해합니다. 사실 미래에서 온 로봇이 정부를 운영하는 것을 도와주는 것을 상상하는 것 만으로도 겁이 나죠. 하지만 우리는 그곳에 가본 적이 있어요.
(Laughter)
(웃음)
And actually he was quite a nice guy.
그리고 실제로 그는 꽤 친절한 사람이었죠.
So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.
그럼 자카르 방직기 버전의 이 발상은 어떤 것 일까요? 그것은 아마도 아주 간단한 시스템일 겁니다. 로그인을 한 뒤 아바타를 만들고. 그 아바타를 훈련시키는 시스템을 상상해 보세요. 아바타에게 여러분의 독서 습관을 제공할 수 있고, 자신의 소셜미디어에 연결할 수도 있을 것이며, 다른 데이터에 연결할 수도 있습니다. 예를 들어 심리테스트를 통해서요. 그리고 이 시스템의 장점은 속일 수가 없다는 점입니다. 친구, 가족과 소통하기 위해 정치 시스템에 사용되는 데이터를 여러분은 제공하지 않을 것입니다. 여러분을 대신하여 정치적 결정을 내리도록 만들어진 시스템에 데이터를 제공할 것입니다. 그리고 그 데이터를 가져가 훈련 알고리즘을 선택합니다. 여러분이 제공한 데이터를 바탕으로 어떻게 투표할 것인지 예측하기 위해 서로 다른 사람이 다른 알고리즘을 제출할 수 있는 열린 시장이기 때문이죠. 그리고 그 시스템은 공개적이어서 아무도 알고리즘을 제어할 수 없죠. 더 인기 있는 알고리즘과 그렇지 않은 알고리즘을 있지만요. 궁극적으로 여러분은 그 시스템을 감시할 수 있습니다. 본인의 아바타가 어떻게 작동하고 있는지 볼 수 있고, 만약 마음에 든다면, 아바타를 자동 상태로 둘 수 있으며, 만약 약간의 통제를 원한다면, 사실 아바타들이 결정을 내릴 때마다 여러분에게 묻도록 선택할 수도 있고, 또는 그 중간 쯤으로 지정해 놓을 수 있습니다. 우리가 민주주의를 잘 활용하지 않는 이유 중 하나는 아마 민주주의가 매우 열악한 사용자 인터페이스를 가지고 있기 때문입니다. 만약 우리가 민주주의 사용자 인터페이스를 개선한다면 우리는 민주주의를 더 활용할 수도 있습니다.
Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.
물론 여러분은 많은 의문점이 있을 수도 있습니다. 이 아바타들은 어떻게 훈련시켜야 하지? 데이터는 어떻게 보안상태를 유지하지? 이 시스템을 어떻게 분포하고 회계 감사되도록 유지하지? 그럼 80살에 인터넷도 쓰실 줄 모르는 우리 할머니는 어떡하지? 절 믿으세요. 전 그 모든 질문을 들어봤습니다. 이러한 발상을 떠올릴 때는 비관주의자들을 주의해야 합니다. 그들은 모든 해결책에 대해 문제를 제기하기로 유명하기 때문이죠.
(Laughter)
(웃음)
So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you cannot deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.
저는 여러분이 더 크게 생각해 보셨으면 합니다. 제가 방금 언급한 질문들은 작은 생각입니다. 어떻게 하면 작동하지 않는가에 대한 질문이기 때문이죠. 큰 생각이란 이런 것 입니다. 만약 이것이 정말 작동하게 된다면 이걸 가지고 어떤 것을 더 할 수 있을까? 또 다른 큰 생각은, 그럼 누가 법안을 작성하지? 초기에 우리는 이미 가지고 있는 아바타를 통해 상원 의원이나 정치인들이 작성한 법안에 투표를 할 수 있었습니다. 그러나 만약 이 발상이 현실이 된다면, 우리는 법안을 작성할 수 있는 알고리즘을 만들어 특정 비율의 승인을 얻은 뒤, 절차를 뒤집을 수도 있습니다. 지금 여러분은 이 발상이 터무니 없으며 시행해서는 안된다고 생각할 수도 있지만, 직접 민주주의와 소프트웨어 에이전트가 성공적인 참여의 형태인 세상에서만 이 발상이 실현 가능하다는 것은 부정할 수 없을 것입니다.
So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.
그럼 어떻게 하면 혁명을 일으킬 수 있을까요? 우리는 피켓 울타리를 치거나 시위를 하거나 현재 정치인을 로봇으로 바꾸라고 혁명을 시작하진 않을 것입니다. 이런 건 통하지 않을 테니까요. 대신 우리가 택하는 방식은 더 간단하고, 훨씬 느리고 훨씬 더 변변찮습니다. 우리는 이 혁명을 대학원, 도서관, 비영리 단체와 같은 간단한 시스템을 만드는 것으로 시작합니다. 이 발상을 실현 가능하게 만들고, 믿을 수 있도록 우리가 꼭 알아야 할 작은 질문과 문제들을 이해하도록 우리는 애써야 합니다. 그리고 우리가 백 명, 천 명, 수십만 명의 사람들이 정치적으로 구속력이 없는 방법으로 선거하는 시스템을 개발한다면, 이 발상에 대한 믿음을 쌓게 될 것입니다. 그리고 세상은 바뀌고 현재 제 딸만큼 작은 것들이 성장하게 될 것입니다. 그리고 저의 딸이 제 나이가 되어 있을 즘에 지금은 굉장히 미친 소리로 들릴지 모를 이 발상이 제 딸과 친구들에게는 미친 소리가 아닐지도 모르죠. 그리고 이 관점에서 우리 역사의 마지막 시점에 남게 될 것입니다. 하지만 다음 세대의 첫 걸음이 될 것입니다.
Thank you.
감사합니다.
(Applause)
(박수)