I want you to imagine walking into a room, a control room with a bunch of people, a hundred people, hunched over a desk with little dials, and that that control room will shape the thoughts and feelings of a billion people. This might sound like science fiction, but this actually exists right now, today.
한번 상상해보세요. 어떤 방에 들어갑니다. 사람들로 가득한 어느 조종실입니다. 작은 다이얼이 있는 책상에 100명의 사람들이 앉아 있습니다. 그 조종실에서 하는 일이 10억 명 사람들의 생각과 감정을 조종하는 일이라고 상상해보세요. 공상 과학 소설 같은 얘기지만 이런 곳이 실제로 존재합니다. 바로 지금, 오늘날 말이죠.
I know because I used to be in one of those control rooms. I was a design ethicist at Google, where I studied how do you ethically steer people's thoughts? Because what we don't talk about is how the handful of people working at a handful of technology companies through their choices will steer what a billion people are thinking today. Because when you pull out your phone and they design how this works or what's on the feed, it's scheduling little blocks of time in our minds. If you see a notification, it schedules you to have thoughts that maybe you didn't intend to have. If you swipe over that notification, it schedules you into spending a little bit of time getting sucked into something that maybe you didn't intend to get sucked into. When we talk about technology, we tend to talk about it as this blue sky opportunity. It could go any direction. And I want to get serious for a moment and tell you why it's going in a very specific direction. Because it's not evolving randomly. There's a hidden goal driving the direction of all of the technology we make, and that goal is the race for our attention. Because every news site, TED, elections, politicians, games, even meditation apps have to compete for one thing, which is our attention, and there's only so much of it. And the best way to get people's attention is to know how someone's mind works. And there's a whole bunch of persuasive techniques that I learned in college at a lab called the Persuasive Technology Lab to get people's attention.
제가 한때 그런 조종실에서 일했던 사람이라서 잘 압니다. 저는 구글의 디자인 윤리학자였습니다. 윤리적 범위에서 사람들의 생각을 조종하는 방법을 연구했죠. 여러분이 모르는 사실은 불과 극소수의 IT 기업에서 일하는 극소수의 사람들이 오늘날 자그마치 10억 명 사람들의 생각을 그들 마음대로 조종하고 있다는 것입니다. 스마트폰을 꺼내는 순간, 그 작동 방식과 알림 메세지는 그들이 이미 설계한 대로 짧은 순간에 우리가 어떤 생각을 하도록 만듭니다. 알림 메세지를 보는 순간에 나도 모르게 어떤 생각을 하게 만들고, 그 메세지를 밀어서 확인하는 순간 거기에 빠져 잠깐이라도 시간을 허비하도록 만드는 거예요. 여러분이 그럴 의도가 없었다 해도 말이죠. 보통 우리는 테크놀로지가 무한한 가능성의 기회를 준다고 말하곤 합니다. 어느 방향으로든 발전할 수 있다고 보죠. 그런데 제가 진지하게 말씀드리고 싶은 것은 기술이 아주 특정한 방향으로 나아가고 있다는 사실입니다. 기술은 아무렇게나 진화하지 않습니다. 우리가 만드는 모든 기술은 한 가지 숨겨진 목적을 두고 발전해 나갑니다. 우리의 관심을 끌기 위해 경쟁하는 것이죠. 모든 뉴스 웹사이트와 TED, 선거, 정치인, 게임, 심지어 명상 앱까지도 모두 단 한 가지를 위해 경쟁합니다. 우리의 관심이죠. 그런데 인간의 관심은 한계가 있습니다. 사람들의 관심을 끄는 최고의 방법은 인간의 사고방식을 이해하는 겁니다. 그리고 거기에는 무수히 많은 설득 기술이 동원되죠. 제가 대학원 시절, 이른바 설득 기술 연구실에서 배운 것은 사람들의 관심을 끄는 기술이었습니다.
A simple example is YouTube. YouTube wants to maximize how much time you spend. And so what do they do? They autoplay the next video. And let's say that works really well. They're getting a little bit more of people's time. Well, if you're Netflix, you look at that and say, well, that's shrinking my market share, so I'm going to autoplay the next episode. But then if you're Facebook, you say, that's shrinking all of my market share, so now I have to autoplay all the videos in the newsfeed before waiting for you to click play. So the internet is not evolving at random. The reason it feels like it's sucking us in the way it is is because of this race for attention. We know where this is going. Technology is not neutral, and it becomes this race to the bottom of the brain stem of who can go lower to get it.
간단한 예로 유튜브가 있죠. 유튜브는 여러분이 최대한 오래 사이트에 머물러 있기를 바랍니다. 그래서 어떻게 했을까요? 다음 영상을 자동 재생합니다. 그게 아주 효과가 좋았다고 치죠. 사람들의 시간을 좀 더 뺐었어요. 넷플릭스는 그걸 보고 이렇게 말할 겁니다. "저러면 우리 시장 지분이 줄어들잖아." "우리도 다음 화를 자동 재생해야지." 페이스북이라면 또 이럴 거예요. "저게 우리 시장 지분을 다 뺏어가네." "그럼 우린 게시글의 모든 영상을 클릭도 하기 전에 자동 재생해야지." 이렇게 인터넷은 아무렇게나 진화하지 않습니다. 이런 식으로 우리가 인터넷에 중독되어 가는 느낌이 드는 이유는 바로 이 관심을 위한 경쟁 때문입니다. 이 방향으로 가고 있어요. 기술은 중립적이지 않습니다. 인간의 뇌 중심 깊은 곳까지 누가 먼저 도달할지 경쟁하는 거죠.
Let me give you an example of Snapchat. If you didn't know, Snapchat is the number one way that teenagers in the United States communicate. So if you're like me, and you use text messages to communicate, Snapchat is that for teenagers, and there's, like, a hundred million of them that use it. And they invented a feature called Snapstreaks, which shows the number of days in a row that two people have communicated with each other. In other words, what they just did is they gave two people something they don't want to lose. Because if you're a teenager, and you have 150 days in a row, you don't want that to go away. And so think of the little blocks of time that that schedules in kids' minds. This isn't theoretical: when kids go on vacation, it's been shown they give their passwords to up to five other friends to keep their Snapstreaks going, even when they can't do it. And they have, like, 30 of these things, and so they have to get through taking photos of just pictures or walls or ceilings just to get through their day. So it's not even like they're having real conversations. We have a temptation to think about this as, oh, they're just using Snapchat the way we used to gossip on the telephone. It's probably OK. Well, what this misses is that in the 1970s, when you were just gossiping on the telephone, there wasn't a hundred engineers on the other side of the screen who knew exactly how your psychology worked and orchestrated you into a double bind with each other.
스냅챗의 예를 말씀드리겠습니다. 아실지 모르겠지만 스냅챗은 미국 10대들이 가장 많이 쓰는 메신저입니다. 저 같은 세대가 문자로 연락하듯이 10대 아이들은 스냅챗을 이용하죠. 약 1억 명이 사용하고 있습니다. 스냅챗은 '스냅 스트리크'라는 기술을 개발했습니다. 두 사람이 서로 매일 연락하며 대화를 유지한 기간을 보여주는 기능이죠. 즉 스냅챗은 이 두 사람에게 잃고 싶지 않은 무언가를 만들어 준 거라고 할 수 있습니다. 왜냐면 여러분이 10대이고 누군가와 150일간 매일 대화했다면 그걸 계속 간직하고 싶거든요. 그렇게 하루에도 여러 번 스냅챗을 붙잡도록 아이들의 마음을 조종하죠. 이론상으로만 그렇다는 게 아니에요. 아이들이 여행을 가야 할 때는 친구 다섯 명에게 비밀번호를 넘기고 연속 대화를 유지한다는 조사 결과도 있습니다. 자기가 스냅챗을 못 하더라도요. 이런 걸 30개 정도 갖고 있으면서 벽이나 천장 사진 같은 걸 대충 찍어 올려서라도 그날의 연속 대화를 이어가는 거죠. 진짜 대화를 나누는 것도 아닙니다. 이걸 우리는 쉽게 생각합니다. "옛날에 우리가 전화로 수다 떨듯이 요즘 애들은 스냅챗을 쓰는 거네." "별 문제 없겠지." 하지만 지금과 70년대는 다릅니다. 여러분이 전화로 수다 떨 때는 화면 뒤에 숨은 100명의 기술자가 여러분의 심리를 정확하게 파악해서 누가 먼저 끊지 못하도록 조종하지는 않았으니까요.
Now, if this is making you feel a little bit of outrage, notice that that thought just comes over you. Outrage is a really good way also of getting your attention, because we don't choose outrage. It happens to us. And if you're the Facebook newsfeed, whether you'd want to or not, you actually benefit when there's outrage. Because outrage doesn't just schedule a reaction in emotional time, space, for you. We want to share that outrage with other people. So we want to hit share and say, "Can you believe the thing that they said?" And so outrage works really well at getting attention, such that if Facebook had a choice between showing you the outrage feed and a calm newsfeed, they would want to show you the outrage feed, not because someone consciously chose that, but because that worked better at getting your attention. And the newsfeed control room is not accountable to us. It's only accountable to maximizing attention. It's also accountable, because of the business model of advertising, for anybody who can pay the most to actually walk into the control room and say, "That group over there, I want to schedule these thoughts into their minds." So you can target, you can precisely target a lie directly to the people who are most susceptible. And because this is profitable, it's only going to get worse.
이 얘기에 조금 화가 나실 수도 있는데요. 바로 그 감정이 자연스럽게 일어나는 것에 주목해보세요. 분노 또한 사람의 관심을 끄는 아주 탁월한 방법입니다. 분노는 선택할 수 있는 게 아니라 그냥 일어나는 감정이기 때문이죠. 페이스북 뉴스피드 개발자라면 사람들이 원하든 원하지 않든 그 분노로 이익을 얻는 겁니다. 왜냐면 분노는 여러분이 감정적으로 시간을 소비하게 할 뿐만 아니라 그 분노를 다른 사람들과 나누고 싶게 만들기 때문입니다. 공유하기 버튼을 누르는 거죠. "얘네가 이런 말을 했다니 말이 돼?" 이런 식으로 분노는 관심을 끄는 데에 아주 용이합니다. 만약 페이스북에 여러분이 분노할 만한 소식과 잔잔한 소식을 선택하라고 하면 분노할 만한 것을 고를 겁니다. 누군가의 의도적 선택이라기보다 그게 여러분의 관심을 끌기에 더 효과적이기 때문이죠. 뉴스피드 조종실은 우리에 대한 책임이 없습니다. 단지 관심을 최대한 끄는 것만 책임지죠. 광고를 통해 수익을 내는 구조이기 때문에 더욱 그렇습니다. 돈 많은 사람이 조종실을 찾아와서 이렇게 말하는 거죠. "저 사람들의 머릿속에서 이런 생각을 하게 만들어주세요." 속이기 쉬운 대상을 골라서 정확하게 거짓말로 속일 수도 있습니다. 이건 돈이 되는 장사라 점점 더 악화할 겁니다.
So I'm here today because the costs are so obvious. I don't know a more urgent problem than this, because this problem is underneath all other problems. It's not just taking away our agency to spend our attention and live the lives that we want, it's changing the way that we have our conversations, it's changing our democracy, and it's changing our ability to have the conversations and relationships we want with each other. And it affects everyone, because a billion people have one of these in their pocket.
제가 오늘 여기 온 이유도 치뤄야 할 대가가 뻔히 보이기 때문입니다. 이보다 더 시급한 문제는 없어요. 왜냐면 이건 다른 모든 문제의 밑바탕에 깔려있기 때문입니다. 우리가 무엇에 관심을 두고 어떻게 살아갈지를 결정하는 우리의 주체성을 빼앗을 뿐 아니라 우리가 서로 대화하는 방식을 바꿔버리고 민주주의를 변질시키고 상대방과 대화하는 능력 및 대인 관계를 맺는 능력에도 영향을 미칩니다. 모든 사람에게 영향을 미치죠. 10억 명의 사람들의 호주머니에 이런 게 하나씩 있으니까요.
So how do we fix this? We need to make three radical changes to technology and to our society. The first is we need to acknowledge that we are persuadable. Once you start understanding that your mind can be scheduled into having little thoughts or little blocks of time that you didn't choose, wouldn't we want to use that understanding and protect against the way that that happens? I think we need to see ourselves fundamentally in a new way. It's almost like a new period of human history, like the Enlightenment, but almost a kind of self-aware Enlightenment, that we can be persuaded, and there might be something we want to protect. The second is we need new models and accountability systems so that as the world gets better and more and more persuasive over time -- because it's only going to get more persuasive -- that the people in those control rooms are accountable and transparent to what we want. The only form of ethical persuasion that exists is when the goals of the persuader are aligned with the goals of the persuadee. And that involves questioning big things, like the business model of advertising. Lastly, we need a design renaissance, because once you have this view of human nature, that you can steer the timelines of a billion people -- just imagine, there's people who have some desire about what they want to do and what they want to be thinking and what they want to be feeling and how they want to be informed, and we're all just tugged into these other directions. And you have a billion people just tugged into all these different directions. Well, imagine an entire design renaissance that tried to orchestrate the exact and most empowering time-well-spent way for those timelines to happen. And that would involve two things: one would be protecting against the timelines that we don't want to be experiencing, the thoughts that we wouldn't want to be happening, so that when that ding happens, not having the ding that sends us away; and the second would be empowering us to live out the timeline that we want.
이 문제를 어떻게 해결하죠? 세 가지 근본적인 변화가 필요합니다. 기술과 우리 사회에 있어서 말이죠. 첫째는, 우리가 설득당하기 쉽다는 걸 인정하는 겁니다. 우리가 자기도 모르게 여기저기 시간을 빼앗기며 수많은 생각을 하도록 조종될 수 있다는 것을 인정하면 그 사실을 오히려 역이용해서 그런 일이 생기지 않게 자신을 보호하려 하지 않을까요? 우리 자신을 바라보는 방식을 근본적으로 바꿔야 합니다. 인류의 새 시대가 열린 것이죠. 계몽주의 시대처럼요. 하지만 스스로 깨달아야 하는 계몽주의 시대인 거죠. 우리가 설득당할 수 있음을 깨닫고 그 사실로부터 보호해야 할 것이 있다고 말이죠. 둘째로, 새로운 모델과 책임 시스템이 필요합니다. 세상은 시간이 갈수록 점점 더 발전하면서 더욱 강력하게 설득하려는 방향으로만 가기 때문에 조종실에 있는 사람들이 우리가 원하는 것에 투명하고 책임감을 갖게 하는 시스템이 필요합니다. 윤리적인 설득은 설득하는 이들의 목적이 설득당하는 이들의 목적과 같을 때만 성립하기 때문입니다. 즉, 이 기업들의 광고 수익 구조를 과감하게 물어볼 수도 있어야 합니다. 마지막으로 이런 설계에 대한 변화가 필요합니다. 무려 10억 명의 생각을 조종할 수 있게 하는 인간의 본성을 생각해보세요. 내가 원하는 대로 어떤 걸 하고 싶고, 생각하고, 느끼고, 알고 싶은데 그런 개개인의 욕구는 다 무시당한 채 누군가에 의해 엉뚱한 방향으로 조종당하는 사람들이 수십억 명이나 됩니다. 그러나 설계 전반에 걸쳐 르네상스적인 혁명을 일으키면 10억 명이 각자 자신의 시간을 가장 값지게 사용할 수 있는 가장 효과적인 방법을 지휘할 수 있습니다. 여기에는 두 가지 요소가 있습니다. 첫째, 원치 않게 시간을 낭비하게 만드는 요소를 막는 것입니다. 그래야 그런 상황이 일어나도 거기에 정신이 팔리지 않죠. 둘째, 우리가 원하는 방향으로 시간을 보내는 것이 가능하도록 하는 겁니다.
So let me give you a concrete example. Today, let's say your friend cancels dinner on you, and you are feeling a little bit lonely. And so what do you do in that moment? You open up Facebook. And in that moment, the designers in the control room want to schedule exactly one thing, which is to maximize how much time you spend on the screen. Now, instead, imagine if those designers created a different timeline that was the easiest way, using all of their data, to actually help you get out with the people that you care about? Just think, alleviating all loneliness in society, if that was the timeline that Facebook wanted to make possible for people. Or imagine a different conversation. Let's say you wanted to post something supercontroversial on Facebook, which is a really important thing to be able to do, to talk about controversial topics. And right now, when there's that big comment box, it's almost asking you, what key do you want to type? In other words, it's scheduling a little timeline of things you're going to continue to do on the screen. And imagine instead that there was another button there saying, what would be most time well spent for you? And you click "host a dinner." And right there underneath the item it said, "Who wants to RSVP for the dinner?" And so you'd still have a conversation about something controversial, but you'd be having it in the most empowering place on your timeline, which would be at home that night with a bunch of a friends over to talk about it. So imagine we're running, like, a find and replace on all of the timelines that are currently steering us towards more and more screen time persuasively and replacing all of those timelines with what do we want in our lives.
구체적인 예를 들어 볼게요. 친구가 오늘 밤 저녁 약속을 취소했다고 치죠. 그러면 여러분은 조금 외로워지겠죠? 그럴 때는 뭘 하죠? 페이스북에 접속하겠죠. 바로 그 순간 페이스북 조종실에 있는 디자이너에겐 단 하나의 목표가 있죠. 여러분이 최대한 오래 페이스북에 머물게 하는 겁니다. 그런데 디자이너가 목표를 완전히 바꿔서 가진 정보를 총동원해서 가장 간단한 방법으로 여러분이 좋아하는 사람들과 시간을 보내도록 도와준다면요? 우리가 사회에서 느끼는 모든 외로움이 이런 식으로 사라진다고 생각해보세요. 페이스북이 사람들을 위해 그렇게만 해준다면 말이죠. 아니면 다른 상황을 생각해보죠. 엄청난 논란을 일으킬 글을 페이스북에 올린다고 치죠. 어떤 쟁점을 두고 서로 토론할 수 있다는 것은 무척 중요해요. 페이스북에 새 게시물을 입력하는 커다란 창을 보면 마치 내가 입력한 것을 키워드 삼아 또 한참을 페이스북에 머물게 하려는 것 같아요. 만약 옆에 다른 버튼이 있어서 "가장 의미 있는 시간을 보내려면 뭘 하고 싶은가요?" 라 묻고 '저녁 식사 초대'를 눌러 포스팅하면 바로 밑에 '저녁 식사에 참여하기' 버튼이 나온다 생각해보세요. 여러분은 여전히 논란거리가 될 만한 주제로 대화를 나누지만 원하는 시간과 장소에서 대화를 하는 거예요. 바로 친구가 저녁을 취소한 그 날 다른 많은 친구들과 함께 논란거리로 열띤 대화를 나누는 거죠. 워드 문서를 작성할 때 쓰는 '찾아 바꾸기' 기능처럼 우리를 점점 더 인터넷 중독으로 만드는 모든 게시물을 찾아내서 이것을 우리가 실제 삶에서 하고 싶은 것으로 모두 바꾼다고 생각해보세요.
It doesn't have to be this way. Instead of handicapping our attention, imagine if we used all of this data and all of this power and this new view of human nature to give us a superhuman ability to focus and a superhuman ability to put our attention to what we cared about and a superhuman ability to have the conversations that we need to have for democracy. The most complex challenges in the world require not just us to use our attention individually. They require us to use our attention and coordinate it together. Climate change is going to require that a lot of people are being able to coordinate their attention in the most empowering way together. And imagine creating a superhuman ability to do that.
꼭 이런 방식이 아니어도 됩니다. 우리의 관심을 엉뚱한 데 허비하는 대신 수많은 데이터와 그것을 통제할 힘과 설득당하기 쉬운 인간의 본성을 이용해 우리가 정말 원하는 것에 집중할 수 있는 초인적인 힘과 민주주의에 필요한 소통을 할 수 있는 초인적인 힘을 갖는다고 생각해보세요. 세상에서 가장 어려운 과제는 개개인의 관심뿐만 아니라 공동체 전체의 관심이 모일 때 비로소 해결할 수 있습니다. 기후 변화를 해결하려면 많은 사람의 관심을 가장 강력한 방법으로 모아 힘을 실어야 합니다. 이런 문제를 해결할 수 있는 초인적인 힘이 생긴다고 생각해보세요.
Sometimes the world's most pressing and important problems are not these hypothetical future things that we could create in the future. Sometimes the most pressing problems are the ones that are right underneath our noses, the things that are already directing a billion people's thoughts. And maybe instead of getting excited about the new augmented reality and virtual reality and these cool things that could happen, which are going to be susceptible to the same race for attention, if we could fix the race for attention on the thing that's already in a billion people's pockets. Maybe instead of getting excited about the most exciting new cool fancy education apps, we could fix the way kids' minds are getting manipulated into sending empty messages back and forth.
가장 시급하고 중요한 문제는 우리가 미래에 일으킬지도 모를 가상의 문제가 아닙니다. 가장 시급하고 중요한 문제는 바로 우리 코앞에 있는 이미 10억 명 사람들의 생각을 조종하고 있는 것들입니다. 증강현실, 가상현실이나 앞으로 펼쳐질 놀라운 기술에 열광하는 대신에 우리 관심을 끌려고 경쟁할 게 뻔한 그런 것에 열광할 것이 아니라 이미 10억 명의 주머니에 든 휴대폰에서 우리의 관심을 끌려고 경쟁하는 것을 바로잡아야 하지 않을까요. 가장 멋진 최신 교육용 앱에 열광할 것이 아니라 내용 없는 문자를 주고받도록 아이들의 마음이 조종당하는 상황을 바로잡아야 할 것입니다.
(Applause)
(박수)
Maybe instead of worrying about hypothetical future runaway artificial intelligences that are maximizing for one goal, we could solve the runaway artificial intelligence that already exists right now, which are these newsfeeds maximizing for one thing. It's almost like instead of running away to colonize new planets, we could fix the one that we're already on.
한 가지 목표만 극대화하려는 인공지능을 통제할 수 없게 되는 가상의 미래를 걱정하는 대신 우리는 이미 존재하는 인공지능을 통제할 수 있어야 합니다. 바로 단 한 가지 목표인 우리의 관심을 끄는 것을 극대화하려는 뉴스피드를요. 새로운 행성을 식민지로 만들려고 밖으로만 나갈 것이 아니라 우리가 살고 있는 이곳을 바로잡을 수 있어야 합니다.
(Applause)
(박수)
Solving this problem is critical infrastructure for solving every other problem. There's nothing in your life or in our collective problems that does not require our ability to put our attention where we care about. At the end of our lives, all we have is our attention and our time. What will be time well spent for ours?
이 문제의 해법이 다른 모든 문제를 해결할 수 있는 가장 중요한 기반이 될 것입니다. 우리의 삶과 사회의 모든 문제는 우리가 정말 소중히 여기는 것에 관심을 둘 때만 해결할 수 있습니다. 우리가 삶을 마감할 때 결국 남는 건 우리의 관심과 시간입니다. 우리는 어떤 시간을 보내야 할까요?
Thank you.
고맙습니다.
(Applause)
(박수)
Chris Anderson: Tristan, thank you. Hey, stay up here a sec. First of all, thank you. I know we asked you to do this talk on pretty short notice, and you've had quite a stressful week getting this thing together, so thank you. Some people listening might say, what you complain about is addiction, and all these people doing this stuff, for them it's actually interesting. All these design decisions have built user content that is fantastically interesting. The world's more interesting than it ever has been. What's wrong with that?
Chris Anderson: 트리스탄 씨. 고맙습니다. 잠시 얘기 나누실까요. 우선, 고맙습니다. 제가 듣기로 갑자기 강연을 요청받으셨다고 하던데요. 강연 준비를 하시느라 힘든 한 주를 보내셨겠어요. 감사합니다. 중독에 관한 문제를 지적하셨는데요. 그런데 사람들이 실제로 즐기고 있다고 할 수도 있잖아요. 이런 건 사용자가 무척 흥미롭게 느낄 내용으로 설계가 되어 있어요. 세상이 역사상 이렇게 재밌던 적은 없었는데, 무엇이 잘못된 걸까요? Tristan Harris: 좋은 질문이네요.
Tristan Harris: I think it's really interesting. One way to see this is if you're just YouTube, for example, you want to always show the more interesting next video. You want to get better and better at suggesting that next video, but even if you could propose the perfect next video that everyone would want to watch, it would just be better and better at keeping you hooked on the screen. So what's missing in that equation is figuring out what our boundaries would be. You would want YouTube to know something about, say, falling asleep. The CEO of Netflix recently said, "our biggest competitors are Facebook, YouTube and sleep." And so what we need to recognize is that the human architecture is limited and that we have certain boundaries or dimensions of our lives that we want to be honored and respected, and technology could help do that.
그걸 설명하는 한 가지 방법은, 예를 들어 유튜브를 보세요. 흥미를 느낄 만한 다음 영상을 보여주고 더 흥미로운 다음 영상을 또 제시하죠. 하지만 심지어 모두가 보고 싶어 하는 완벽한 다음 영상을 소개하더라도 계속해서 우릴 화면에 붙잡아야 유튜브엔 좋은 일이란 거죠. 그 공식에 빠진 게 있는데요. 그 끝이 어딘지 알아야 한다는 것이죠. 내가 졸린다는 걸 유튜브도 알아야 하잖아요. 넷플릭스 사장이 최근에 이런 말을 했는데요. 자신들의 최대 경쟁자는 페이스북, 유튜브, 그리고 졸음이라고 했죠. 우리가 알아야 할 것은, 인간의 구조에는 한계가 있다는 사실입니다. 우리 삶에는 일정한 경계와 공간이 있고 우리는 그 경계와 공간을 지키고 싶어 해요. 기술이 그걸 도울 수 있습니다.
(Applause)
(박수)
CA: I mean, could you make the case that part of the problem here is that we've got a naïve model of human nature? So much of this is justified in terms of human preference, where we've got these algorithms that do an amazing job of optimizing for human preference, but which preference? There's the preferences of things that we really care about when we think about them versus the preferences of what we just instinctively click on. If we could implant that more nuanced view of human nature in every design, would that be a step forward?
CA: 그러니까 문제점 중의 하나가 인간 본성에 대한 모델이 너무 순진하다는 거죠? 인간이 선호한다는 이유로 대부분이 정당화되고 인간의 기호에 맞게 놀랍도록 최적화하는 알고리즘을 갖고 있는데 선호한다는 게 다 같은 건 아니니까요. 곰곰이 생각해본 후 정말로 원해서 선택하는 것이 있고 반면에, 본능적으로 클릭하는 것도 선호하는 것이라고 할 수 있잖아요. 인간 본성에 대한 그 미묘한 관점의 차이를 설계에 반영한다면 진전이 있지 않을까요?
TH: Absolutely. I mean, I think right now it's as if all of our technology is basically only asking our lizard brain what's the best way to just impulsively get you to do the next tiniest thing with your time, instead of asking you in your life what we would be most time well spent for you? What would be the perfect timeline that might include something later, would be time well spent for you here at TED in your last day here?
TH: 물론입니다. 제 생각에는 현재 기술은 기본적으로 우리의 본능만 건드리는 것 같습니다. 의미가 없더라도 충동적으로 1초라도 더 머물게 하려는 가장 효과적인 방법이 무엇일까만 연구하죠. 인생에 주어진 시간을 어떻게 해야 가장 잘 보낼 수 있는지, 혹은 TED 콘퍼런스의 마지막 날 콘퍼런스가 끝난 후를 포함해 어떻게 해야 시간을 완벽하게 잘 썼다고 할 수 있을지 묻는 대신에요. CA: 그러니까 페이스북이나 구글 같은 데서
CA: So if Facebook and Google and everyone said to us first up, "Hey, would you like us to optimize for your reflective brain or your lizard brain? You choose."
이런 메세지를 먼저 띄워야겠네요. "사고의 측면을 최적화할까요, 아니면 본능 측면을 최적화할까요? 선택하세요."
TH: Right. That would be one way. Yes.
TH: 그렇습니다. 그것도 방법이죠.
CA: You said persuadability, that's an interesting word to me because to me there's two different types of persuadability. There's the persuadability that we're trying right now of reason and thinking and making an argument, but I think you're almost talking about a different kind, a more visceral type of persuadability, of being persuaded without even knowing that you're thinking.
CA: 설득도 언급하셨는데요. 흥미로운 단어라고 생각합니다. 왜냐면, 제가 보기엔 설득에는 두 종류가 있는 것 같은데요. 설득의 하나는 지금도 우리가 하고 있는 거죠. 판단하고, 생각하고, 논쟁을 벌이죠. 그런데 강연에서는 다른 종류의 설득, 더 본능적인 설득을 말씀하신 것 같아요. 생각할 새도 없이 설득당하는 건가요?
TH: Exactly. The reason I care about this problem so much is I studied at a lab called the Persuasive Technology Lab at Stanford that taught [students how to recognize] exactly these techniques. There's conferences and workshops that teach people all these covert ways of getting people's attention and orchestrating people's lives. And it's because most people don't know that that exists that this conversation is so important.
TH: 바로 그겁니다. 제가 그걸 문제로 삼는 이유가 있는데요. 제가 있었던 스탠퍼드대의 설득 기술 연구실이라는 곳에서는 말씀하신 바로 그 기술을 가르쳤어요. 그 은밀한 기술을 알려주는 학술 대회와 워크숍도 있죠. 사람들의 관심을 끌고, 그들 삶을 조작하는 기술이죠. 대부분의 사람은 그런 게 있는지도 모르기 때문에 이런 대화를 나누는 것이 의미가 있죠.
CA: Tristan, you and I, we both know so many people from all these companies. There are actually many here in the room, and I don't know about you, but my experience of them is that there is no shortage of good intent. People want a better world. They are actually -- they really want it. And I don't think anything you're saying is that these are evil people. It's a system where there's these unintended consequences that have really got out of control --
CA: 저나 트리스탄 씨나 이쪽 분야에 지인이 많은데요. 이 강연장에도 많은 분이 계시고요. 트리스탄 씨는 어떨지 모르지만 제가 경험한 바로는 모두 선의로 이 일을 하고 있어요. 사람들은 더 나은 세상을 원하니까요. 다들 더 나은 세상을 진정으로 원합니다. 트리스탄 씨도 강연에서 이들이 나쁜 사람이라고 말씀하신 것 같지는 않아요. 통제하지 못할 정도로 의도하지 않은 결과를 만드는 시스템이 문제인 거죠. TH: 관심을 끌려는 경쟁이죠.
TH: Of this race for attention. It's the classic race to the bottom when you have to get attention, and it's so tense. The only way to get more is to go lower on the brain stem, to go lower into outrage, to go lower into emotion, to go lower into the lizard brain.
더 본능적인 것을 자극해 관심을 끌려는 전형적 방식이죠. 너무 치열해요. 더 많은 관심을 얻는 유일한 방법은 뇌의 중심까지 파고드는 거예요. 우리의 분노와 감정까지 파고들어가고 우리 본능까지 자극하고 있습니다.
CA: Well, thank you so much for helping us all get a little bit wiser about this.
CA: 감사합니다. 덕분에 이 문제에 더 현명하게 대처할 수 있겠네요.
Tristan Harris, thank you. TH: Thank you very much.
CA: 트리스탄 해리 씨였습니다. TH: 감사합니다.
(Applause)
(박수)