Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
یک روزنامهنگار از "مارک زاکربرگ " (مؤسس فیسبوک) دربارۀ خوراک خبری پرسید. « چرا این اینقدر مهم است؟ » و "مارک زاکربرگ " گفت: « یک سنجاب در حال مرگ در حیاط خانۀ شما ممکن است در حال حاضر بیشتر مورد علاقه و توجه شما تا مردم در حال مرگ در آفریقا » و من میخواهم بگویم اینترنت بر اساس ایدۀ مرتبط بودن با علاقه، چه شکلی خواهد بود.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
وقتی در یک ناحیه روستایی در " مین " بزرگ میشدم، اینترنت برای من معنای خیلی متفاوتی داشت. به معنی اتصال با دنیا بود. به معنی چیزی بود که همۀ ما را به هم متصل میکند. و مطمئن بودم که برای دموکراسی و برای جامعۀ ما فوقالعاده خواهد بود. اما تغییری در نحوۀ جریان اطلاعات آنلاین به وجود آمده که نامرئی است. و اگر به آن توجه نکنیم میتواند یک مشکل اساسی شود. من اولین بار در جایی که زمان خیلی زیادی را در صفحه فیس بوک صرف کردم این را متوجه شدم. من از لحاظ سیاسی ترقیخواه هستم -- شگفتی بزرگ-- ولی همیشه برای ملاقات با محافظهکاران مسیرم را کج کردهام. دوست دارم بشنوم به چی فکر میکنند. دوست دارم ببینم به چی لینک میدهند. دوست دارم یکی دوتا چیز یاد بگیرم. پس سوپرایز شدم وقتی یک روز متوجه شدم که محافظهکارها از خوراک فیس بوک من حذف شدهاند. و معلوم شد که جریان این بوده که فیس بوک به لینکهایی که روی آنها کلیک میکردم نگاه میکرده و متوجه شده که ، در واقع من بیشتر روی لینکهای دوستان لیبرالم کلیک میکردم تا روی لینکهای دوستان محافظهکارم. و بدون مشورت با من آنان را حذف کرده بود. آنان ناپدید شدند.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
خب فیس بوک تنها جایی نیست که این ویرایش نامرئی و الگوریتمی را انجام میدهد. گوگل هم این کار را میکند. اگر من چیزی را جستجو کنم و شما هم جستجو کنید حتی اگر هم زمان باشد احتمالا" نتایج خیلی متفاوتی را می گیریم. یک مهندس به من گفت حتی اگر خارج از حساب کاربریتان باشید، گوگل به 57 نشانه نگاه میکند. همه چیز از نوع کامپیوتری که با آن به شبکه وصل شدهاید تا مرورگری که از آن استفاده میکنید و تا موقعیت مکانی شما. که گوگل از آنها برای انجام اصلاحات بر روی نتایج جستجو استفاده میکند. یک ثانیه به این فکر کنید دیگر هیچ گوگل استانداردی وجود ندارد. و مسخرهترین چیز این است که این سخت قابل تشخیص است. شما نمیتوانید ببینید نتایج جستجوی شما چقدر با بقیه تفاوت دارد.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
ولی چند هفته پیش من از چندتا دوست خواستم " مصر " را در گوگل جستچو کنند و تصویر صفحۀ نتایج را برای من بفرستند. خب این تصویر صفحه نمایش دوستم " اسکات " است. و این تصویر صفحه دوستم " دانیل " است. اگر آنها را کنار هم بگذارید حتی لازم نیست لینکها را بخوانید تا متوجه بشوید چقدر این دو صفحه با هم فرق دارند. ولی وقتی که لینکها را بخوانید این تفاوت واقعا چشمگیر است. " دانیل " در صفحۀ اول نتایج گوگل هیچ اطلاعاتی از تظاهرات در " مصر" نگرفت. نتایج جستجوی " اسکات " پر از آنها بود. و این تظاهرات خبر اصلی روز در آن زمان بود. این نتایج تا این اندازه در حال متفاوت شدن هستند.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
خوب فقط گوگل و فیس بوک نیستند. این چیزی است که در سراسر اینترنت پخش شده است. انبوهی از شرکتها هستند که این نوع شخصی سازی را انجام میدهند. " یاهو نیوز " بزرگترین سایت خبری اینترنت دیگر الان شخصی سازی شده -- افراد مختلف، اخبار مختلف میگیرند. " هافینگتون پست "، " واشنگتن پست "، " نیویورک تایمز " همه از راههای متنوع با شخصی سازی سر و کار دارند. و این ما را به سرعت به طرف جهانی سوق میدهد که در آن اینترنت چیزی را به ما نشان میدهد که فکر میکند میخواهیم ببینیم ولی نه لزوما چیزی را که نیاز داریم ببینیم. همانطور که " اریک اشمیت " گفت: « برای مردم خیلی سخت خواهد بود که چیزی را تماشا کنند یا مصرف کنند که احساس نمی کنند برای آنان تهیه شده است »
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
من واقعا فکر میکنم این یک مشکل است. و فکر میکنم اگر همۀ این فیلترها، همۀ این الگوریتمها را در نظر بگیرید به همان حباب فیلتری که میگویم میرسید. و حباب فیلتر شما، همان دنیای شخصی و خاص شما از اطلاعات است که در فضای مجازی در آن زندگی میکنید. و چیزی که در حباب فیلتر شما وجود دارد بستگی به این دارد که شما چه کسی هستید و چکارمی کننید. ولی مسئله این است که شما دربارۀ محتوای آن تصمیم نمیگیرید. و مهمتر اینکه شما در واقع نمیبینید چه چیزی حذف شده. خب یک مشکل ناشی از این حبابهای فیلتر توسط چند محقق در " نتفلیکس" ( شرکت اجارۀ فیلم) کشف شد. وقتی به لیستهای نتفلیکس نگاه میکردند متوجه چیز جالبی شدند که بیشتر ما احتمالا متوجه شدهایم. اینکه بعضی فیلمها به سرعت به خانههای ما وارد و به سرعت خارج میشوند. وارد لیست میشوند و سریع میپرند بیرون. " مرد آهنی " میپره بیرون ولی " انتظار برای سوپرمن " مدتها در لیست میماند.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
چیزی که آنان کشف کردند این بود که در لیستهای نتفلیکس ما، کشمکش عظیمی میان خودِ هدفدار و آرزومند ما در آینده و خودِ بلهوس ما در زمان حال، وجود دارد. ما همه میخواهیم کسی باشیم که " راشمون " (فیلم جنایی ژاپنی) را دیده است ولی الان میخواهیم " آیس ونتورا " ( کمدی) را برای چهارمین بار تماشا کنیم. ( خنده ) پس بهترین ویرایش ، به ما کمی از هر دو نوع را میدهد. کمی به ما " جاستین بیبر " ( خواننده- بازیگر نوجوان) را میدهد و کمی هم از افغانستان در اختیار ما میگذارد. مقداری اطلاعاتِ سبزیجات مانند، و مقداری اطلاعاتِ دسر مانند، را می دهد. و چالش موجود در این نوع فیلترهای الگوریتمی این فیلترهای شخصی شده ، که عموما" آنها به دنبال آنند، آنهایی هستند که شما اول بر روی آنها کلیک می کنید. این می تواند تعادل را بر هم زند. و به جای یک رژیم اطلاعاتی متعادل، شما ممکن است در میان اطلاعاتِ هله هوله مانند، قرار بگیرید.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
این نشان میدهد که در واقع داستانی که ما از اینترنت داریم اشتباه است. در یک جامعۀ رادیو تلویزیونی آنطور که در اساطیر آمده است، دربانهایی وجود داشتند، یعنی تدوینکنندهها یا سانسورچی ها، و آنان جریان اطلاعات را کنترل میکردند تا اینکه اینترنت از راه رسید و آنان را از سر راه برداشت و این به ما اجازه داد به هم وصل شویم و همه چیز عالی بود. ولی این آن چیزی نیست که الان در جریان است. آنچه ما شاهدش هستیم دست به دست شدن مشعل از دربانهای انسان به دربانهای الگوریتمی است. و نکته این است که این الگوریتمها آن اصول اخلاقی نهادینه شده را که تصحیح کنندهها داشتند، ندارند. پس اگر قرار است الگوریتمها، دنیا را برای ما سازماندهی کنند، اگر قرار است آنها تصمیم بگیرند چه چیزی را ببینیم و چه چیز را نبینیم، ما باید مطمئن شویم که آنها تنها برای ربطِ علایق، تنظیم نشده باشند. باید مطمئن شویم آنها به ما چیزهایی را که ناراحت کننده، چالش برانگیز و مهم هستند، نشان میدهند. این کاری است که TED انجام میدهد -- یعنی نشان دادن نقطه نظرهای دیگر --
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
و موضوع این است که ما قبلا به عنوان یک جامعه این را تجربه کردهایم. در سال 1915، روزنامهها خیلی هم برای مسئولیتهای شهروندی خود عرق نمیریختند. بعد مردم متوجه شدند که کار روزنامهها بسیار مهم است. شما در واقع نمیتوانید یک دموکراسی کارآمد داشته باشید اگر مردم یک جریان خوب اطلاعاتی نداشته باشند. وضعیت روزنامهها وخیم بود چون آنها مانند فیلتر عمل میکردند. آن وقت بود که اخلاق روزنامه نگاری پرورانده شد. بینقص نبود ولی ما را از قرن گذشته به سلامت عبور داد. و بنابراین حالا تا حدی در اینترنت به شرایط 1915 برگشتهایم و به دربانهای جدید نیاز داریم که همان نوع تعهد را در کدها و اصولی که مشغول نوشتنشان هستند، وارد کنند. که همان نوع تعهد را در کدها و اصولی که مشغول نوشتنشان هستند، وارد کنند.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
میدانم که در گوگل و فیس بوک افراد زیادی مثل " لری " و " سرگی " هستند که برای ساختن اینترنت به صورتی که امروز هست، کمک کردهاند و من بسیار بابت آن سپاسگزار هستم ولی ما نیاز داریم که مطمئن شویم درک و فهم زندگی اجتماعی و حس مسئولیت شهروندی در این الگوریتمها کد و وارد شده است. ما باید مطمئن شویم که آنها به اندازۀ کافی شفاف هستند که ما بتوانیم قوانینی که مشخص میکنند چه چیزی از فیلترها عبور کنند، ببینیم. و نیاز است که به ما این امکان داده شود تا بتوانیم تصمیم بگیریم چه چیزی از فیلتر عبور کند و چه چیزی عبور نکند. چون فکر میکنم ما واقعا نیاز داریم اینترنت همان چیزی باشد که همۀ ما رویای آن را در سر داریم. احتیاج داریم همۀ ما را به هم وصل کند و ایدههای نو، افراد جدید و چشماندازهای جدید به ما نشان دهد. و این کار انجام نخواهد شد اگر اینترنت ما را در فضای مجازی یک نفره ، از بقیه جدا کند.
Thank you.
ممنون.
(Applause)
( تشویق )