I want you to imagine walking into a room, a control room with a bunch of people, a hundred people, hunched over a desk with little dials, and that that control room will shape the thoughts and feelings of a billion people. This might sound like science fiction, but this actually exists right now, today.
ازتون میخوام تصور کنین که به اتاقی وارد میشین، یه اتاق عملیات با یه عده آدم، صد نفر، که روی یه میز با دکمههای ریز قوز کردن، و اینکه اون اتاق عملیات اندیشهها و احساسات میلیاردها نفر رو شکل میده. این شاید علمی تخیلی به نظر بیاد، ولی واقعاً وجود داره همین الان، امروز.
I know because I used to be in one of those control rooms. I was a design ethicist at Google, where I studied how do you ethically steer people's thoughts? Because what we don't talk about is how the handful of people working at a handful of technology companies through their choices will steer what a billion people are thinking today. Because when you pull out your phone and they design how this works or what's on the feed, it's scheduling little blocks of time in our minds. If you see a notification, it schedules you to have thoughts that maybe you didn't intend to have. If you swipe over that notification, it schedules you into spending a little bit of time getting sucked into something that maybe you didn't intend to get sucked into. When we talk about technology, we tend to talk about it as this blue sky opportunity. It could go any direction. And I want to get serious for a moment and tell you why it's going in a very specific direction. Because it's not evolving randomly. There's a hidden goal driving the direction of all of the technology we make, and that goal is the race for our attention. Because every news site, TED, elections, politicians, games, even meditation apps have to compete for one thing, which is our attention, and there's only so much of it. And the best way to get people's attention is to know how someone's mind works. And there's a whole bunch of persuasive techniques that I learned in college at a lab called the Persuasive Technology Lab to get people's attention.
من میدونم چونکه تو یکی از اون اتاقهای عملیات بودم. من تو گوگل طراح اخلاقیات بودم، جاییکه چگونگی هدایت اخلاقی افکار مردم رو مطالعه میکردم. چون چیزی که دربارهش صحبت نمیشه اینه که چطوری یه سری آدم که تو یه سری شرکت کار میکنن با انتخابهاشون نحوهی اندیشیدن میلیاردها نفر رو هدایت میکنن. چون وقتی تلفنتون رو بیرون میارین اونا هستن که طراحی میکنن چطوری کار کنه یا تو خوراک خبری چی باشه، قطعات کوچک زمانی رو در ذهن ما زمانبندی میکنه. اگه یه اعلان ببینین، زمانبندیتون میکنه که فکرهایی کنین که شاید قصدش رو نداشتین. اگه رو اون اعلان ضربه بزنین، زمانبندی میکنه زمانی صرف کنین که وارد یه جریانی بشین که شاید قصد وارد شدن بهش رو نداشتین. وقتی از فناوری حرف میزنیم، سعی میکنیم شبیه یه موقعیت افسانهای به نظر بیاد. به هر جهتی میتونه بره. میخوام یه لحظه جدی باشم و بهتون بگم چرا به یه جهت خیلی خاص میره. برای اینکه تصادفاً تکامل پیدا نمیکنه. یه هدف نامریی جهتگیری همهی فناوریهایی که میسازیم رو تعیین میکنه، و اون هدف رقابت بر سر جلب توجه ماست. چون هر وبسایت جدید -- TED، انتخابات، سیاستمداران، بازیها، حتی نرمافزارهای مدیتیشن -- باید سر یه چیز رقابت کنن، که جلب توجه ماست، و خیلی از اون وجود داره. و بهترین راه جلب توجه آدمها اینه که بدونی ذهنشون چطوری کار میکنه. و تعداد زیادی روش متقاعد کننده داریم که تو آزمایشگاه فناوریهای متقاعد کننده تو دانشگاه یادشون گرفتم که چطوری توجه آدمها رو جلب کنم.
A simple example is YouTube. YouTube wants to maximize how much time you spend. And so what do they do? They autoplay the next video. And let's say that works really well. They're getting a little bit more of people's time. Well, if you're Netflix, you look at that and say, well, that's shrinking my market share, so I'm going to autoplay the next episode. But then if you're Facebook, you say, that's shrinking all of my market share, so now I have to autoplay all the videos in the newsfeed before waiting for you to click play. So the internet is not evolving at random. The reason it feels like it's sucking us in the way it is is because of this race for attention. We know where this is going. Technology is not neutral, and it becomes this race to the bottom of the brain stem of who can go lower to get it.
یه نمونهی ساده یوتیوب هست. یوتیوب میخواد زمانی که شما توش صرف میکنین رو بیشتر کنه. بنابراین چی کار میکنه؟ ویدیوی بعدی رو به صورت خودکار پخش میکنه. بذارین بگم که خیلی خوب جواب میده. یه ذره بیشتر وقت مردم رو میگیرنه. خوب اگر نتفلیکس باشین، اونو میبینین و میگین، خوب، داره سهم منو از بازار کم میکنه، پس من قسمت بعدی رو خودکار پخش میکنم. بعدش اگه فیسبوک باشین، میگین اون سهم منو از بازار کم میکنه، پس من کل ویدیوهای خوراک خبری رو خودکار پخش میکنم قبل اینکه منتظر بشم رو دکمه پخش بزنین پس اینترنت تصادفاً تکامل پیدا نمیکنه. دلیل اینکه به نظر میاد ما رو اینطوری به درون خودش میکشه برای این رقابت سر جلب توجه ماست. میدونیم به کدوم سمت میره. فناوری بیطرف نیست، و تبدیل به مسابقهای شده بر سر انتهای ساقهی مغز که هر کی پایینتر بره بردتش.
Let me give you an example of Snapchat. If you didn't know, Snapchat is the number one way that teenagers in the United States communicate. So if you're like me, and you use text messages to communicate, Snapchat is that for teenagers, and there's, like, a hundred million of them that use it. And they invented a feature called Snapstreaks, which shows the number of days in a row that two people have communicated with each other. In other words, what they just did is they gave two people something they don't want to lose. Because if you're a teenager, and you have 150 days in a row, you don't want that to go away. And so think of the little blocks of time that that schedules in kids' minds. This isn't theoretical: when kids go on vacation, it's been shown they give their passwords to up to five other friends to keep their Snapstreaks going, even when they can't do it. And they have, like, 30 of these things, and so they have to get through taking photos of just pictures or walls or ceilings just to get through their day. So it's not even like they're having real conversations. We have a temptation to think about this as, oh, they're just using Snapchat the way we used to gossip on the telephone. It's probably OK. Well, what this misses is that in the 1970s, when you were just gossiping on the telephone, there wasn't a hundred engineers on the other side of the screen who knew exactly how your psychology worked and orchestrated you into a double bind with each other.
بذارین براتون از اسنپچت یه مثال بزنم. اگه نمیدونستین، اسنپچت راهحل شماره یک ارتباط نوجوانان تو ایالات متحده است. پس اگه مثل من هستین و از پیام متنی برای برقراری ارتباط استفاده میکنین، اسنپچت برای نوجوانان همونه، و حدوداً صد میلیون نوجوان ازش استفاده میکنن. و یه ویژگی اختراع کردن به اسم اسنپتریک، که تعداد روزهای پشت سرهم که دو نفر با هم ارتباط برقرار کردن رو نشون میده. به عبارت دیگه، کاری که اونا کردن اینه که به دو نفر چیزی دادن که نمیخوان از دستش بدن. چون اگه یه نوجوان باشین، و ۱۵۰ روز پشت سر هم ارتباط داشته باشین، نمیخواین از دستش بدین. خوب به قطعات زمانی کوچک که اون تو ذهن کودک زمانبندی میکنه فکر کنین. این یه بحث نظری نیست: وقتی بچهها میرن تعطیلات، دیده شده که کلمهی عبورشون رو به پنج نفر از دوستاشون میدن که اسنپتریکهاشون رو ادامه بدن، حتی وقتی خودشون نمیتونن. اونا حدوداً سی تا ازین چیزا دارن، و خوب باید با عکاسی از تصاویر یا دیوارها یا سقفها روزشون رو بگذرونن. حتی مثل یه گفتگوی واقعی هم نیست. ما وسوسه میشیم اینطوری فکر کنیم که اونا فقط دارن اسنپچت استفاده میکنن همونجور که ما هم پشت تلفن دری وری میگفتیم. احتمالاً مشکلی نیست. خوب چیزی که این ازش بیبهره است اینه که تو دههی ۷۰ در حالیکه پشت تلفن دری وری میگفتین، صدها مهندس اون طرف صفحه نبودن که دقیقاً بدونن روانشناسی شما چطوریه و شما رو به سمت یه ارتباط دوگانه هدایت کنن.
Now, if this is making you feel a little bit of outrage, notice that that thought just comes over you. Outrage is a really good way also of getting your attention, because we don't choose outrage. It happens to us. And if you're the Facebook newsfeed, whether you'd want to or not, you actually benefit when there's outrage. Because outrage doesn't just schedule a reaction in emotional time, space, for you. We want to share that outrage with other people. So we want to hit share and say, "Can you believe the thing that they said?" And so outrage works really well at getting attention, such that if Facebook had a choice between showing you the outrage feed and a calm newsfeed, they would want to show you the outrage feed, not because someone consciously chose that, but because that worked better at getting your attention. And the newsfeed control room is not accountable to us. It's only accountable to maximizing attention. It's also accountable, because of the business model of advertising, for anybody who can pay the most to actually walk into the control room and say, "That group over there, I want to schedule these thoughts into their minds." So you can target, you can precisely target a lie directly to the people who are most susceptible. And because this is profitable, it's only going to get worse.
حالا، اگه این جریان کمی عصبانیتون کرده، متوجه شین که این فکر هم داره روتون اثر میذاره. عصبانیت یه راه خیلی خوب برای جلب توجه شماست، چون ما عصبانیت رو انتخاب نمیکنیم برامون اتفاق میافته. و اگه شما خوراک خبری فیسبوک باشین، بخواید یا نخواید، از بروز عصبانیت بهره میبرین. چون عصبانیت فقط یه عکسالعمل رو زمانبندی نمیکنه در یک زمان یا مکان هیجانی برای شما. ما میخوایم اون عصبانیت رو با بقیه به اشتراک بذاریم پس میخوایم رو دکمه همرسانی زده و بگیم: «چیزی که گفتن رو باور میکنین؟» بنابراین عصبانیت راه خیلی خوبی برای جلب توجه هست، جوریکه اگر فیسبوک بین نمایش خوراک خبری عصبانی و خوراک خبری آرام انتخاب داشت اونا بهتون خوراک خبری عصبانی رو نشون میدادن نه برای اینکه کسی آگاهانه انتخابش کرده، بلکه چون توجهتون رو بهتر جلب میکنه. اتاق عملیات خوراک خبری مسئول پاسخگویی به ما نیست. اون فقط مسئول بیشینه کردن توجه هست. همچنین جواب میده، بخاطر مدل کسب و کار آگهیها، برای هر کسی که بیشتر پول میده تا پاش رو تو اتاق عملیات بذاره و بگه، «هی گروهی که اونجا هستین، میخوام این افکار رو تو ذهن اونا برنامهریزی کنم.» پس میتونین هدف بگیرین، دقیقا یه دروغ رو مستقیماً به سمت مردمی که بیش از همه مستعد پذیرشش هستن نشونهگیری کنین. و چون این جریان سودآوره، فقط بدتر خواهد شد.
So I'm here today because the costs are so obvious. I don't know a more urgent problem than this, because this problem is underneath all other problems. It's not just taking away our agency to spend our attention and live the lives that we want, it's changing the way that we have our conversations, it's changing our democracy, and it's changing our ability to have the conversations and relationships we want with each other. And it affects everyone, because a billion people have one of these in their pocket.
بنابراین من امروز اینجام چون هزینهها کاملا مشخص هستن. من از این اضطراریتر مشکلی نمیبینم، چون این مشکل زمینهساز همهی مشکلات دیگه است. فقط نماینده ما نمیشه که توجهمون رو جلب کنه و زندگیای رو بکنه که ما میخوایم، بلکه روشی که گفتگو میکنیم رو تغییر داده، دموکراسیمون رو تغییر داده، و قابلیت گفتگو کردن با همدیگه و رابطه داشتنمون رو تغییر داده. روی همه اثر گذاره، چونکه یک میلیارد نفر تو جیبشون از اینا دارن.
So how do we fix this? We need to make three radical changes to technology and to our society. The first is we need to acknowledge that we are persuadable. Once you start understanding that your mind can be scheduled into having little thoughts or little blocks of time that you didn't choose, wouldn't we want to use that understanding and protect against the way that that happens? I think we need to see ourselves fundamentally in a new way. It's almost like a new period of human history, like the Enlightenment, but almost a kind of self-aware Enlightenment, that we can be persuaded, and there might be something we want to protect. The second is we need new models and accountability systems so that as the world gets better and more and more persuasive over time -- because it's only going to get more persuasive -- that the people in those control rooms are accountable and transparent to what we want. The only form of ethical persuasion that exists is when the goals of the persuader are aligned with the goals of the persuadee. And that involves questioning big things, like the business model of advertising. Lastly, we need a design renaissance, because once you have this view of human nature, that you can steer the timelines of a billion people -- just imagine, there's people who have some desire about what they want to do and what they want to be thinking and what they want to be feeling and how they want to be informed, and we're all just tugged into these other directions. And you have a billion people just tugged into all these different directions. Well, imagine an entire design renaissance that tried to orchestrate the exact and most empowering time-well-spent way for those timelines to happen. And that would involve two things: one would be protecting against the timelines that we don't want to be experiencing, the thoughts that we wouldn't want to be happening, so that when that ding happens, not having the ding that sends us away; and the second would be empowering us to live out the timeline that we want.
خوب چطوری درستش کنیم؟ باید سه تا تغییر بنیادین ایجاد کنیم تو فناوری و جامعهمون. اول اینکه باید بپذیریم ما مستعد متقاعد شدن هستیم. وقتی شروع کنین به فهم اینکه ذهن شما میتونه جوری برنامهریزی بشه که افکاری کوچک یا قطعات زمانی کوچک خارج از اختیار خودتون داشته باشه نمیخوایم از اون درک استفاده کنیم تا در مقابل اتفاق افتادنش از خودمون محافظت کنیم؟ من به نظرم باید به خودمون یه جور اساساً تازهای نگاه کنیم. انگار تو یه دوره جدید از تاریخ بشریت هستیم. مثل روشنفکری، ولی یه جورایی روشنفکری خودآگاهانه، که بدونیم میتونیم متقاعد شونده باشیم، و شاید یه چیزی باشه که میخوایم ازش محافظت کنیم. دومیش اینه که نیازمند مدلها و سیستمهای پاسخگویی نوینی هستیم که جهان جای بهتر و متقاعد کنندهتری در گذر زمان بشه -- چونکه فقط وقتی متقاعد کنندهتر میشه که -- اونایی که تو اتاق عملیات هستن در مقابل نیازهای ما پاسخگو و شفاف باشن. تنها روش اخلاقی موجود برای متقاعد کردن اینه که اهداف متقاعد کننده در راستای اهداف متقاعد شونده باشه. و این شامل پرسشهای بزرگه، مثل روش کسب و کار آگهیها. در پایان، نیاز به رنسانس طراحی داریم، چون وقتی از این دیدگاه به طبیعت انسان نگاه کنین، که میتونین گاهنماهای میلیاردها نفر رو هدایت کنین -- فقط تصور کنین، افرادی هستند که میل دارن کارهایی که میخوان انجام بدن و جوری که میخوان فکر کنن و جوری که میخوان احساس کنن و جوری که میخوان آگاه بشن، و همه ما به جهات دیگه کشیده میشیم. و شما میلیاردها نفر دارین که به جهات مختلف هدایت میشن. خوب یه رنسانس طراحی رو تصور کنین که تلاش میکنه دقیقترین و توانمندترین راه استفاده بهینه از وقت رو برای اون گاهنماها اعمال کنه. این شامل دو چیز میشه: یکی محافظت در برابر اون گاهنماها که نمیخوایم تجربه کنیم، افکاری که نمیخوایم داشته باشیم، پس وقتی اون زنگ به صدا در میاد، مارو یه جا دیگه نندازه؛ دومیش توانمند کردن ما برای زندگی تو گاهنمای مورد علاقه خودمونه.
So let me give you a concrete example. Today, let's say your friend cancels dinner on you, and you are feeling a little bit lonely. And so what do you do in that moment? You open up Facebook. And in that moment, the designers in the control room want to schedule exactly one thing, which is to maximize how much time you spend on the screen. Now, instead, imagine if those designers created a different timeline that was the easiest way, using all of their data, to actually help you get out with the people that you care about? Just think, alleviating all loneliness in society, if that was the timeline that Facebook wanted to make possible for people. Or imagine a different conversation. Let's say you wanted to post something supercontroversial on Facebook, which is a really important thing to be able to do, to talk about controversial topics. And right now, when there's that big comment box, it's almost asking you, what key do you want to type? In other words, it's scheduling a little timeline of things you're going to continue to do on the screen. And imagine instead that there was another button there saying, what would be most time well spent for you? And you click "host a dinner." And right there underneath the item it said, "Who wants to RSVP for the dinner?" And so you'd still have a conversation about something controversial, but you'd be having it in the most empowering place on your timeline, which would be at home that night with a bunch of a friends over to talk about it. So imagine we're running, like, a find and replace on all of the timelines that are currently steering us towards more and more screen time persuasively and replacing all of those timelines with what do we want in our lives.
بذارین یه مثال ملموس براتون بزنم. فرض کنین امروز دوستتون قرار شام شب رو کنسل میکنه، و شما کمی احساس تنهایی میکنین. تو اون لحظه چه کاری میکنین؟ فیسبوک رو باز میکنین. و در اون لحظه، طراحان اتاق عملیات فقط میخوان یه کار انجام بدن، این که زمانی که شما صرف صفحه نمایش میکنین رو بیشینه کنن. حالا، فرض کنین اون طراحان یه گاهنمای متفاوت میساختن که با استفاده از اون همه اطلاعات کار راحتیه، که واقعاً بهتون کمک کنه با آدمایی که براتون مهمن برین بیرون؟ فقط فکر کنین، کاهش این همه تنهایی تو جامعه، اگه اون گاهنمایی بود که فیسبوک میخواست امکانش رو برای مردم فراهم کنه. یا یه گفتگوی دیگه رو تصور کنین. فرض کنیم شما میخواستین یه چیز خیلی جنجالی رو فیسبوک بنویسین، که البته خیلی مهمه که بتونین این کار رو انجام بدین، توانایی گفتگو درباره موضوعات جنجالی هماکنون، وقتی اون پنجرهی نظرات بزرگ اونجاست، تقریبا داره ازتون میپرسه، چه کلیدی رو میخواین تایپ کنین؟ به بیان دیگه، گاهشمار کوچکی از چیزها رو زمانبندی میکنه که شما قراره روی صفحه انجام بدین. تصور کنین اونجا یه دکمهی دیگه بود که میگفت، بهترین راه استفاده شما از زمان چیه؟ و شما کلیک میکردین «میزبانی شام» و همونجا زیر اون گزینه میگفت، «کی میخواد برای شام رزرو کنه؟» و خوب شما هنوز هم درباره یه موضوع جنجالی گفتگو میکردین، ولی در قدرتمندترین جای گاهشمارتون، یعنی اون شب تو خونه با تعدادی از دوستان تا دربارهش صحبت کنین. تصور کنین داریم یه چیزی مثل یافتن و جایگزین کردن اجرا میکنیم، تو همهی گاهنماهایی که الان ما رو به سمت صرف کردن زمان بیشتر برای صفحه نمایش هدایت میکنن و جایگزینی اونها با گاهنماهایی که میخوایم با زندگیمون انجام بدیم.
It doesn't have to be this way. Instead of handicapping our attention, imagine if we used all of this data and all of this power and this new view of human nature to give us a superhuman ability to focus and a superhuman ability to put our attention to what we cared about and a superhuman ability to have the conversations that we need to have for democracy. The most complex challenges in the world require not just us to use our attention individually. They require us to use our attention and coordinate it together. Climate change is going to require that a lot of people are being able to coordinate their attention in the most empowering way together. And imagine creating a superhuman ability to do that.
این راهش نیست. به جای ایجاد مانع برای جلب توجه، تصور کنین اگر از همه این اطلاعات و قدرتشون استفاده میکردیم و این دیدگاه جدید درباره طبیعت بشر که یه توانایی مافوق بشری برای تمرکز بهمون بده و یه توانایی مافوق بشری برای اینکه توجه ما رو به سمتی جلب کنه که برامون اهمیت داره و یه توانایی مافوق بشری برای گفتگو کردن که لازمهی دموکراسیه. پیچیدهترین چالشهای دنیا فقط به توجه فردی ما نیاز ندارن. نیازمند این هستن که توجهمون رو در یک راستا با همدیگه هماهنگ کنیم. تغییرات آب و هوایی نیازمند اینه که خیلی از مردم بتونن توجهشون رو به توانمندترین شکل ممکن با همدیگه هماهنگ کنن. تصور کنین یه توانایی مافوق بشر برای انجام این کار بسازیم.
Sometimes the world's most pressing and important problems are not these hypothetical future things that we could create in the future. Sometimes the most pressing problems are the ones that are right underneath our noses, the things that are already directing a billion people's thoughts. And maybe instead of getting excited about the new augmented reality and virtual reality and these cool things that could happen, which are going to be susceptible to the same race for attention, if we could fix the race for attention on the thing that's already in a billion people's pockets. Maybe instead of getting excited about the most exciting new cool fancy education apps, we could fix the way kids' minds are getting manipulated into sending empty messages back and forth.
گاهی مهمترین و پرفشارترین مشکلات جهان اون چیزهایی فرضی نیستن که ممکنه تو آینده بهوجود بیاریم. گاهی پرفشارترین مشکلات اونایی هستن که بیخ گوشمون هستن، چیزهایی که همین الان ذهن هزاران نفر رو هدایت میکنن. به جای اینکه از موضوع واقعیت افزوده هیجانزده شیم و واقعیت مجازی و این چیزهای باحالی که میتونن اتفاق بیفتن، که مستعد همون رقابت سر جلب توجه ما هستن، کاش میتونستیم رقابت سر جلب توجه رو تو چیزایی که همین الان تو جیب میلیاردها نفر هستن درست کنیم. شاید جای هیجانزدگی از هیجانانگیزترین برنامههای آموزشی تجملی، بتونیم روشی که ذهن بچههارو جوری دستکاری میکنه که چپ و راست پیامهای توخالی بفرستن درست کنیم.
(Applause)
(تشویق حضار)
Maybe instead of worrying about hypothetical future runaway artificial intelligences that are maximizing for one goal, we could solve the runaway artificial intelligence that already exists right now, which are these newsfeeds maximizing for one thing. It's almost like instead of running away to colonize new planets, we could fix the one that we're already on.
شاید به جای نگرانی دربارهی آیندهای که توش هوش مصنوعی به راحتی پیروز میشه برای بیشینه کردن یه هدف خاص، میتونستیم مشکل پیروزی هوشمصنوعی که همین الان وجود داره رو حل کنیم، همین خوراکهای خبری که فقط میخوان به یه چیز برسن. مثل این میمونه که به جای اینکه دنبال مهاجرت به سیارات جدید باشیم، به داد همینی که توش زندگی میکنیم برسیم.
(Applause)
(تشویق حضار)
Solving this problem is critical infrastructure for solving every other problem. There's nothing in your life or in our collective problems that does not require our ability to put our attention where we care about. At the end of our lives, all we have is our attention and our time. What will be time well spent for ours?
حل این مشکل زیرساخت ضروری حل مشکلات دیگر است. هیچ چیز تو زندگی شما یا تو مشکلات مشترکمون نیست که به تواناییمون برای معطوف کردن توجهمون به چیزهای با اهمیت مرتبط نباشه. در پایان زندگی، تنها چیزی که داریم زمان و توجه ماست. بهترین استفاده ما از زمان چیه؟
Thank you.
خیلی ممنون.
(Applause)
(تشویق حضار)
Chris Anderson: Tristan, thank you. Hey, stay up here a sec. First of all, thank you. I know we asked you to do this talk on pretty short notice, and you've had quite a stressful week getting this thing together, so thank you. Some people listening might say, what you complain about is addiction, and all these people doing this stuff, for them it's actually interesting. All these design decisions have built user content that is fantastically interesting. The world's more interesting than it ever has been. What's wrong with that?
کریس اندرسن: تریستن، ازت ممنونم. هی، یه دقیقه این بالا بمون. اولاً ازت ممنونم. میدونم خیلی دیر ازت خواستیم که این سخنرانی رو انجام بدی، و هفتهی پر استرسی داشتی که اینو راست و ریس کنی، خیلی ممنون. بعضی از اونایی که شنیدن، شاید بگن چیزی که ازش ناراضی هستی اعتیاده، و همهی کسانیکه این کارها رو میکنن، خوب براشون جالبه. همهی این تصمیمات طراحی محتوای کاربری رو ساخته که به طور شگفتانگیزی جذابه. جهان در جذابترین حالت خودش قرار داره. مشکلش چیه؟
Tristan Harris: I think it's really interesting. One way to see this is if you're just YouTube, for example, you want to always show the more interesting next video. You want to get better and better at suggesting that next video, but even if you could propose the perfect next video that everyone would want to watch, it would just be better and better at keeping you hooked on the screen. So what's missing in that equation is figuring out what our boundaries would be. You would want YouTube to know something about, say, falling asleep. The CEO of Netflix recently said, "our biggest competitors are Facebook, YouTube and sleep." And so what we need to recognize is that the human architecture is limited and that we have certain boundaries or dimensions of our lives that we want to be honored and respected, and technology could help do that.
تریستن هریس: من فکر میکنم که خیلی جذابه. یه دیدگاه اینه که اگه شما فقط یوتیوب باشین، مثلا، همیشه میخواین ویدیوی جذاب بعدی رو نشون بدین. هی میخواین در زمینهی پیشنهاد ویدیوی بعدی بهتر و بهتر شین، اما اگر هم بتونین بهترین ویدیو بعدی رو پیشنهاد کنین که همه میخوان ببیننش، خیلی بهتر و بهتر خواهد بود اگه شما رو گرفتار صفحه نمایش کنه. پس چیزی که از این معادله جا افتاده اینه که بفهمیم حد و مرزمون کجاست. شما میخواین بدونین که یوتیوب چیزی درباره، مثلا، خوابیدن هم میدونه. مدیر اجرایی نتفلیکس اخیراً گفته، «بزرگترین رقبای ما فیسبوک، یوتیوب و خواب هستن!» چیزی که باید بدونیم اینه که معماری انسان محدوده و ما حد و مرزها و ابعاد مشخصی تو زندگیمون داریم که میخوایم بهش احترام گذاشته بشه، و فناوری میتونه به این جریان کمک کنه.
(Applause)
(تشویق حضار)
CA: I mean, could you make the case that part of the problem here is that we've got a naïve model of human nature? So much of this is justified in terms of human preference, where we've got these algorithms that do an amazing job of optimizing for human preference, but which preference? There's the preferences of things that we really care about when we think about them versus the preferences of what we just instinctively click on. If we could implant that more nuanced view of human nature in every design, would that be a step forward?
ک.ا: منظورم اینه که میتونی بگی که بخشی از مشکل اینه که یه مدل نپخته از طبیعت انسان داریم؟ خیلی از این مربوط به اولویتهای بشره، الگوریتمهایی که به دست آوردیم تا کار شگفتانگیز بهینهسازی اولویت بشر رو انجام بدن، ولی کدوم اولویت؟ اولویت چیزهایی که برامون اهمیت دارن وقتی بهشون فکر میکنیم در مقابل اولویتهایی که به طور غریزی روشون کلیک میکنیم. اگه بتونیم اون تفاوت جزیی تو دیدگاه طبیعت بشر رو به کار ببریم یه قدم به جلو محسوب میشه؟
TH: Absolutely. I mean, I think right now it's as if all of our technology is basically only asking our lizard brain what's the best way to just impulsively get you to do the next tiniest thing with your time, instead of asking you in your life what we would be most time well spent for you? What would be the perfect timeline that might include something later, would be time well spent for you here at TED in your last day here?
ت.ه: کاملاً. منظورم اینه، فکر میکنم الان جوریه که انگار فناوری فقط از اون بخش دوزیست مغز میخواد بهترین راهی رو پیدا کنه که مجاب شین کاری رو بدون انگیزه قبلی با کوچکترین بخش زمانتون انجام بدین، به جای اینکه تو زندگی ازتون بخواد بهترین راه استفاده از زمانتون چیه؟ کاملترین گاهنمای شما که شامل یه چیز خیلی جدیدتره، زمانیه که شما روز قبل به درستی صرف حضور در TED کردین؟
CA: So if Facebook and Google and everyone said to us first up, "Hey, would you like us to optimize for your reflective brain or your lizard brain? You choose."
ک.ا: پس اینطور که فیسبوک و گوگل و بقیهشون اولش بهمون میگفتن، «آهای، میخوای برای بخش بازتابی مغزت بهینه بشیم یا بخش دوزیست مغزت؟ خودت انتخاب کن.»
TH: Right. That would be one way. Yes.
ت.ه: آره. اینم یه راهشه. بله.
CA: You said persuadability, that's an interesting word to me because to me there's two different types of persuadability. There's the persuadability that we're trying right now of reason and thinking and making an argument, but I think you're almost talking about a different kind, a more visceral type of persuadability, of being persuaded without even knowing that you're thinking.
ک.ا: تو گفتی قابلیت متقاعد سازی، این برام لغت جالبیه چون به نظر من دو نوع قابلیت متقاعد سازی داریم. یه متقاعد سازی که الان داریم انجامش میدیم متشکل از منطق و تفکر و مباحثه است، ولی تو تقریباً درباره نوع دیگری صحبت میکنی، نوع شهودیتری از متقاعد سازی، متقاعد شدن بدون اینکه حتی بدونی داری فکر میکنی.
TH: Exactly. The reason I care about this problem so much is I studied at a lab called the Persuasive Technology Lab at Stanford that taught [students how to recognize] exactly these techniques. There's conferences and workshops that teach people all these covert ways of getting people's attention and orchestrating people's lives. And it's because most people don't know that that exists that this conversation is so important.
ت.ه: دقیقاً. دلیل اینکه این مشکل اینقدر برام مهمه اینه که من تو آزمایشگاه فناوری متقاعد کننده تو استنفورد درس خوندم که دقیقاً همین فنون رو به ملت آموزش میداد. اونجا کنفرانسها و کارگاههایی هستن که همهی راههای پنهان جلب توجه مردم و هدایت زندگی اونا رو آموزش میدن. و چون که خیلی از آدمها نمیدونن که چنین چیزی وجود داره این گفتگو اهمیت بسیار زیادی داره.
CA: Tristan, you and I, we both know so many people from all these companies. There are actually many here in the room, and I don't know about you, but my experience of them is that there is no shortage of good intent. People want a better world. They are actually -- they really want it. And I don't think anything you're saying is that these are evil people. It's a system where there's these unintended consequences that have really got out of control --
ک.ا: تریستن، من و تو، هردوی ما آدمهای زیادی از این شرکتها رو میشناسیم. خیلیهاشون الان تو این سالن هستن، تو رو نمیدونم، ولی تجربهای که من ازشون دارم اینه که نیت خوب کم ندارن. مردم دنیای بهتری میخوان. واقعاً اینطوریه -- واقعاً میخوانش. و فکر نمیکنم منظورت این باشه که این آدمها اهریمنی هستن. یه سامانهای وجود داره که این پیامدهای غیرعمدی توشه و کاملا از دست ما خارج شده --
TH: Of this race for attention. It's the classic race to the bottom when you have to get attention, and it's so tense. The only way to get more is to go lower on the brain stem, to go lower into outrage, to go lower into emotion, to go lower into the lizard brain.
ت.ه: این رقابت سر جلب توجه. یه رقابت بنیادی تا انتهای جایی که جلب توجه کنین، و خیلی هم شدیده. تنها راه بیشتر کردنش اینه که بیشتر وارد ساقهی مغز بشیم، عصبانیت بیشتره، هیجانات بیشتره، وارد شدن بیشتر به مغز دوزیستی ما.
CA: Well, thank you so much for helping us all get a little bit wiser about this.
ک.ا: ازت ممنونم که بهمون کمک کردی کمی در این باره عاقلتر شیم.
Tristan Harris, thank you. TH: Thank you very much.
تریستن هریس، ممنون. ت.ه: خیلی ممنونم.
(Applause)
(تشویق حضار)