Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Марк Цукерберг, журналіст ставив йому питання про стрічку новин. Журналіст запитував його: "Чому це так важливо?" Цукерберг відповів: "Білка, що помирає у вашому дворі може бути більш релевантною до ваших інтересів просто зараз ніж люди, що гинуть в Африці". Я хочу поговорити про те, як Інтернет, що базується на цій ідеї релевантності може виглядати.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
В той час коли я підростав в насправді сільській місцевості штату Мен, Інтернет означав для мене щось зовсім інше. Він означав зв'язок з усім світом. Він означав дещо таке, що мало поєднати нас всіх разом. І я був упевнений, що це буде чудово для демокрітії і для нашого суспільства. Але існує цей зсув в тому, як інформація тече онлайн, і він невидимий. І якщо ми не звернемо увагу на нього, він може стати реальною проблемою. Я вперше помітив це в місці, де я проводжу доволі багато часу - моя сторінка у Facebook. Я прогресивний, політично -- великий сюрприз -- але я завжди відходив від моїх переконань, щоб зустрітися з консерваторами. Мені подобається чути про що вони думають; Мені подобається бачити посилання, якими вони діляться; Мені подобається дізнаватись певні речі. Я був здивований коли одного дня помітив, що консерватори зникли з моєї стрічки новин на Facebook. Виявилося, що відбувалося те, що Facebook вивчав, на які посилання я натискав, і він помітив, що власне, я натискав частіше на посилання від моїх друзів лібералів ніж на посилання моїх друзів консерваторів. І не радячись зі мною, він відсіяв їх. Вони зникли.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Але Facebook не єдине місце де провадять такого роду невидиме, алгоритмічне редагування Інтернету. Google також це робить. Якщо я шукаю дещо, і ви шукаєте те саме, навіть просто зараз, в той самиий час, ми можемо отримати дуже різні результати нашого пошуку. Навіть якщо ви вилогувались, один інженер сказав мені, - існує 57 сигналів які зчитує Google -- все, починаючи з того який комп'ютер ви використовуєте, який браузер ви використовуєте закінчуючи тим де ви знаходитеся -- Все це він використовує, щоб персоналізувати результати вашого пошуку. Замисліться про це на мить: більше не існує стандартного Google. І ви знаєте, найсмішніше в цьому те, що це важко побачити. Ви не можете побачити, наскільки відрізняються ваші результати пошуку від результатів когось іншого.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Але пару тижнів тому, Я попросив декількох свої друзів загуглити "Єгипет" і надіслати мені скріншоти того, що вони отримали. Ось скріншот мого друга Скотта. А ось скріншот мого друга Денієла. Коли ви поставите їх поруч, вам навіть не потрібно читати посилання щоб, побачити які відмінні ці дві сторінки. Але коли ви прочитаєте посилання, це просто дивовижно. Данієль зовсім не отримав результатів стосовно протестів у Єгипті на першій сторінці результатів пошуку в Google. Результати Скотта були переповнені ними. І це була велика новина на той час. Ось наскільки різними стають результати пошуку.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Але це стосується не тільки Google та Facebook. Це щось таке, що пронизує Інтернет. Існує ціла низка компаній, які роблять такого роду персоналізацію. Yahoo News, найбільший сайт новин в Інтернеті, тепер персоналізовано -- різні люди отримують різні новини. Huffington Post, Washington Post, New York Times -- всі вони "фліртують" з персоналізацією по-різному. І це дуже швидко скеровує нас до світу, в якому Інтернет показує нам те, що, на його думку, ми хочемо бачити, але не обов'язково те, що нам потрібно бачити. Як Ерік Шмідт сказав: "Це стане дуже складним для людей, подивитися або спожити щось що не було, певною мірою, підігнане під них."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Отже я вважаю, що це проблема. І я вважаю, що якщо взяти всі ці фільтри разом, взяти всі ці алгоритми, ви отримаєте те що я називаю "фільтрова бульбашка". І ваша фільтрова бульбашка є вашою власною, персональною, унікальною підмножиною інформації в якій ви живете онлайн. І те, що в середини вашої бульбашки залежить від того, хто ви і що ви робите. Але справа в тому, що ви не вирішуєте, що потрапить всередину. І набагато важливіше, - ви навіть не бачити ту інформацію яка відфільтровується. Отже одна з проблем з "фільтровою бульбашкою" була виявлена дослідниками Netflix. А вони спостерігали черги відтворення в Netflix і помітили щось цікаве. те, що, вірогідно, помічали багато з нас, існують деякі фільми вони просто прослизають в наші будинки. Вони стають у чергу, і просто вистрілюють. Отже "Iron Man" вистрілює, а "Waiting for Superman" може дійсно довго чекати.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Що вони виявили, це те, що в наший чергах Netfix відбувається ця епічна боротьба між бажаними нами в майбутньому і між більш імпульсивними нами теперішніми. Ви знаєте, ми всі хочемо бути кимось хто дивився "Rashomon" (японський художній чорно-білий фільм 1950 року) але саме зараз ми хочемо, переглянути "Ейс Вентура" вчетверте. (Сміх) Тому ліпша редакція дає нам те, і інше. Воно дає нам трохи Джастіна Бібера і трохи Афганістану. Воно дає нам трохи "інформаційних овочів"; воно дає нам трішки "інформаційного десерту". І проблема з цими видами алгоритмічних фільтрів, цих персоналізованих фільтрів, в тім, що вони, переважно, беруть до уваги те, на що ви натисли першим, що може порушувати той баланс. І замість збалансованої "інформаційної дієти", ви можете опинитися в оточенні інформаційного фаст-фуду.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Це свідчить про те, що ми, направду, хибно зрозуміли цю історію про Інтернет. У "трансляційному" суспільстві -- ось якою є його міфологія -- у "трансляційному" суспільстві, були ті вартові, редактори, і вони контролювали потоки інформації. Та з'явився Інтернет, і змів їх зі свого шляху, й це дозволило всім нам об'єднатися, і це було дивовижно. Але насправді це не зовсім те, що відбувається зараз. Що ми бачимо, більшою мірою - передача факелу від людей-брамарів до алгоритмічних вартових. І справа в тому, що алгоритми ще не мають, чогось на зразок вбудованої етики яку мали редактори. Отже, якщо алгоритми будуть коригувати світ для нас, якщо вони будуть вирішувати, що ми зможемо побачити, а що ні тоді ми повинні упевнитися, що вони не просто прив'язані до релевантності. Ми повинні пересвідчитись, що вони також покажуть нам речі які є незручними, кидають виклик або просто важливі -- це те що робить TED -- інші точки зору.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
А справа в тому, що ми насправді були тут раніше як суспільство. У 1915 році, не те щоб газети багато писали про громадські обов'язки. Тоді люди помітили що вони роблять щось насправді дуже важливе. Насправді неможливо отримати функціюючу демократію якщо громадяни не отримають гарний потік інформації, газети були критичними, тому що вони виступали в якості фільтру, а тоді розвинулася журналістська етика. Вона не була досконалою, але вона провела нас крізь минуле сторіччя. Тож тепер, ми, в якомусь сенсі, в Інтернеті ми знов опинилися в 1915 році. І нам потрібні нові вартові, котрі закодують той різновид відповідальність в код який вони пишуть.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Я знаю, що тут є багато людей з Facebook і Google -- Ларрі і Сергій - люди, які допомогли побудувати Інтернет в тому вигляді, який існує зараз, і я вдячний за це. Але ми дійсно повинні переконатися, що в цих алгоритмах закодовано відчуття публічного життя, відчуття громадської відповідальності. Ми хочемо, щоб ви впевнились, що вони достатньо прозорі, і ми можемо побачити які правила вони використовують, обумовлюючи те, що проривається крізь наші фільтри. І нам потрібно, щоб ви дали нам певний контроль, так, щоб ми могли вирішувати що проходить крізь фільтри, а що ні. Бо я вважаю нам дійсно потрібно, щоб Інтернет був тим, про що ми всі мріяли. Нам потрібно, щоб він всіх нас поєднав. Нам потрібно, щоб він представляв нам нові ідеї, нових людей і відмінні перспективи. Але він не зможе цьог о зробити, якщо залишить нас в ізоляції "Мережі на одну особу".
Thank you.
Дякую за увагу.
(Applause)
(Оплески)