Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Марк Цукерберг, журналист задал ему вопрос о ленте новостей. И журналист спросил его, "Почему это так важно?" На что Цукерберг ответил, "Белка, сдохшая у вас во дворе, может быть куда более релевантной для вас на данный момент, чем люди, умирающие в Африке." А я хочу поговорить о том, как может выглядеть Сеть, основанная на идее релевантности.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Когда я рос в глубокой сельской местности в штате Мэн, Интернет значил для меня совершенно другое. Он означал связь с миром. Он представлял что-то, что может соединить нас всех вместе. И я был уверен, что это будет очень важно для демократии и для нашего общества. Но происходят изменения в том, как информация передаётся в Интернете, и они незаметны. И если мы не придадим этому значения, это может стать реальной проблемой. Впервые я заметил это там, где провожу много времени – на моей странице в Facebook. У меня прогрессивные политические взгляды – на удивление – но я всегда старался общаться с консерваторами. Мне хочется услышать то, о чем они думают; хочется увидеть то, что их притягивает; хочется узнать пару новых вещей. И однажды я очень удивился, заметив, что консерваторы исчезли из моей ленты новостей на Facebook. И на самом деле оказалось, что Facebook отслеживал ссылки, на которые я нажимал, и замечал, что фактически я чаще нажимал на ссылки моих друзей-либералов, чем на ссылки моих друзей-консерваторов. И не посовещавшись со мной, он их исключил. Они исчезли.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Но Facebook – не единственное место, где практикуется такое невидимое, алгоритмическое редактирование Сети. Google делает тоже самое. Если вы и я используем поиск, чтобы найти что-то даже совершенно одновременно, мы можем получить очень разные результаты. Даже если вы выйдете из системы, как пояснил мне один инженер, останутся 57 сигналов, которые обработает Google – всё, начиная с разновидности вашего компьютера до вида вашего веб-обозревателя и вашего месторасположения – которые он использует для индивидуализации результатов. Задумайтесь на секунду: стандартный Google больше не существует. И знаете, смешнее всего, что это практически не заметно. Вы не видите, насколько ваши поисковые результаты отличаются от результатов других людей.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Но пару недель назад я попросил своих друзей погуглить "Египет" и прислать мне снимки экрана того, что у них получилось. Итак, вот снимок экрана моего друга Скотта. А вот снимок экрана моего друга Даниэля. Когда их сопоставляешь, не надо даже читать ссылки, чтобы понять, насколько эти страницы различаются. Но если начать читать ссылки, то это просто поразительно. Даниель на своей первой странице поисковых результатов вообще ничего не нашёл о протестах в Египте А у Скотта, наоборот, всё было ими переполнено. А это было тогда ключевым событием в мире. Вот на сколько разными становятся результаты нашего поиска.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Но тут дело даже не в Google и Facebook. Это стремительно охватываеь всю Сеть. Множество компаний применяют персонализацию такого рода. Новости Yahoo, одной из самых крупных страниц новостей в Интернете, теперь персонализированы: у разных людей разные новости. Huffington Post, the Washington Post, the New York Times – все так или иначе балуются персонализацией. И всё это стремительно развивается в направлении мира, в котором Интернет будет показывать нам то, что он думает нам интересно, но не обязательно то, что нам необходимо. Как сказал Эрик Шмидт, "Людям будет очень сложно увидеть или приобрести что-то, что так или иначе не было под них подобрано."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
И я считаю это проблемой. И я считаю, что если соединить вместе все эти фильтры, взять все эти алгоритмы, получится то, что я называю фильтром-пузырём. И ваш фильтр-пузырь будет вашей личной уникальной информационной вселенной, в который вы будете жить в сети. А что будет включать ваш фильтр-пузырь, будет зависеть от того, кто вы и чем вы занимаетесь. Но загвоздка вот в чём: не вы решаете, что в него входит. И важней всего то, что вы даже и не увидите, что будет вырезано. Итак, одна из проблем с фильтрами-пузырями была обнаружена исследователями в Netflix. Они изучали очереди в Netflix и заметили такую забавную закономерность, что, наверное, многие из нас замечают, что есть некоторые фильмы, которые со свистом залетают и вылетают из домов. Они попадают в очередь и сразу вылетают. Итак "Железный Человек" молниеносно вылетает, а "В ожидании Супермена" может ждать очень долгое время.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Они обнаружили, что в очередях Netfix происходит грандиозная борьба между теми, кем мы стремимся быть, и более импульсивными сегодняшними нами. Вы знаете, мы все хотим быть теми, кто посмотрел "Расёмон," но на данный момент нам хочется в четвертый раз пересмотреть "Эйс Вентура." (Смех в зале) Наилучшее редактирование даёт нам и то и другое. Оно даёт нам немного Джастина Бибера и немного Афганистана. Оно даёт нам немного информационных овощей и немного информационного десерта. И проблема этих алгоритмических фильтров, этих персонализированных фильтров, в том, что они в основном следят за тем, куда мы нажимаем первым делом, поэтому они нарушают баланс. И вместо сбалансированного информационного питания можно оказаться окружённым нездоровой информационной пищей.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Все это наводит на мысль, что фактически у нас может быть недостоверное представление об Интернете. В обществе телерадиовещания – так гласит первоначальная мифология – в обществе телерадиовещания были привратники – редакторы, которые контролировали потоки информации. Но тут пришёл Интернет и убрал их со своего пути, что позволило нам всем соединиться, и все было потрясающе. Но это не то, что в действительности происходит сейчас. То, что мы видим, больше похоже на передачу факела из рук человеческих привратников в руки алгоритмических. И дело в том, что алгоритмы пока ещё не наделены встроенной этикой, какой обладали редакторы. И если алгоритмы будут курировать наш мир, если они будут решать, на что нам стоит или не стоит смотреть, тогда надо сделать так, чтобы они не опирались на одну лишь релевантность. Мы должны убедиться, что они будут нам также показывать вещи, которые неприятны, бросают нам вызов или являются значимыми – именно это делает TED – другие точки зрения.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
И интересно то, что мы уже это проходили как общество. В 1915 г. газеты не особенно утруждали себя мыслями о гражданской ответственности. А потом люди стали замечать, что они делают что-то действительно важное. Что, по сути, демократия не сможет работать, если у граждан нет доступа к хорошему потоку информации. Что газеты имеют решающую роль, потому что они работают как фильтры, и из этого выросла практика журналистской этики. Она не была идеальной, но она позволила нам пережить весь прошлый век. А сейчас мы как бы вернулись в 1915 год в Сети. И нам нужны новые привратники, которые впишут такую ответственность в код своих разработок.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Я знаю, здесь присутствует много людей и из Facebook и из Google – Ларри и Сергей – люди, которые помогали строить существующую Сеть, и я очень благодарен за это. Но нам очень нужно, чтобы вы позаботились о том, чтобы эти алгоритмы включали в себя ощущение общественной жизни, чувства гражданской ответственности. Нам нужно, чтобы вы обеспечили достаточную прозрачность, чтобы нам были понятны правила, определяющие то, что проходит через наши фильтры. И нам нужно, чтобы вы дали нам некоторую свободу самим решать, что проходит, а что остается. Потому что, мне кажется, для нас очень важно, чтобы Интернет был той вещью, о которой мы всегда мечтали. Нам нужно, чтобы он нас объединял. Чтобы он приносил нам новые идеи, новых людей, новые перспективы. Но он не сможет этого делать, если он будет изолировать нас в Сети.
Thank you.
Спасибо.
(Applause)
(Аплодисменты)