Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Markowi Zuckerbergowi dziennikarz zadał pytanie o kanały informacyjne. Zapytał go: "Dlaczego są one takie istotne?" Zuckerberg powiedział: "Wiewiórka umierająca w twoim ogródku może być bardziej dla ciebie istotna niż ludzie umierający w Afryce." Chciałbym powiedzieć, jak może wyglądać Internet bazujący na takiej idei.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Kiedy dorastałem na wsi w stanie Maine, Internet oznaczał dla mnie coś bardzo odmiennego. Był połączeniem ze światem. Czymś, co połączyłoby nas razem. Byłem pewien, że będzie wspaniały dla demokracji i naszego społeczeństwa. Jednak jest zmiana w przepływie informacji online, która jest niewidoczna. Jeżeli nie zwrócimy na nią uwagi może stać się problemem. Pierwszy raz to zobaczyłem na swoim profilu na Facebook. Pierwszy raz to zobaczyłem na swoim profilu na Facebook. Jestem nowoczesny, politycznie (wielka niespodzianka) jednak zawsze wychodzę naprzeciw konserwatystom. Lubię słuchać tego, co mają do powiedzenia, widzieć, do czego się odnoszą, uczyć się paru rzeczy. Zaskoczyło mnie pewnego dnia, konserwatyści zniknęli z mojego Facebooka. Okazało się, że Facebook sprawdzał, co klikałem i zauważał, właściwie, że klikałem więcej na linki liberalnych znajomych od linków konserwatywnych kolegów. Bez mojej konsultacji odrzucał je. One zniknęły.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Facebook nie jest jedynym miejscem, gdzie dokonywana jest ta niewidoczna, algorytmiczna selekcja Internetu. Google też to robi. Jeżeli będziemy szukali tego samego, nawet teraz w tym samym czasie to możemy otrzymać różne wyniki. Nawet, gdy nie jesteś zalogowany, powiedział mi jeden inżynier, jest 57 sygnałów na które patrzy Google. Poczynając od komputera, używanej przeglądarki, po lokację, które kroją pod osobę wyniki wyszukiwania. Pomyśl przez chwilę, nie ma już standardowego Google. Śmieszne jest to, że tego nie widać. Nie widać, jak różne są twoje wyniki od czyichś.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Parę tygodnie temu, poprosiłem znajomych o wyszukanie "Egipt" i przesłanie screenów z wynikami. To jest screen Scotta. A to screen Daniela. Układając je koło siebie nawet nie trzeba czytać linków by zobaczyć różnicę. Jeżeli przeczytasz linki to znajdziesz coś niezwykłego. Daniel nic nie otrzymał na temat protestów w Egipcie na pierwszej stronie wyników. Strona Scotta była w nie obfita. To było niezła historia swego czasu. Tak różne stały się teraz wyniki.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Nie tylko Google i Facebook tak robi. Ten problem pomiata całą siecią. Istnieje cały szereg firm wykonujących taką personalizację. Yahoo News, największa strona internetowa z wiadomościami, jest spersonalizowana, różni ludzie otrzymują różne wyniki. Huffington Post, Washington Post, New York Times, wszystkie bawią się z personalizacją na różne sposoby. To idzie wszystko w kierunku świata, w którym Internet pokazuje wyniki, które sam myśli, że chcemy, ale niekoniecznie to, co powinniśmy zobaczyć. Tak, jak Eric Schmidt powiedział: "Będzie bardzo trudno ludziom oglądać, czy konsumować coś, co w pewnym sensie nie zostało do nich dostosowane."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Dlatego sądzę, że to jest problem. Sądzę, że biorąc wszystkie filtry razem, wszystkie te algorytmy, otrzymamy coś, co nazywam bańką z filtrami. Twoja bańka jest twoim własnym unikalnym informacyjnym wszechświatem, w którym żyjesz online. Zawartość bańki zależy od tego kim jesteś i co robisz. Szkopuł w tym, że nie decydujesz o tym co trafia, a co ważniejsze, co zostaje wycięte z wyników. a co ważniejsze, co zostaje wycięte z wyników. Pewien problem w bańkach z filtrami odkryli naukowcy z Netflix. Patrzyli na kolejki w Netflix i zauważyli coś dziwnego, co wieli z nas pewnie zauważyło, że są niektóre filmy, które wpadają i wypadają z naszych domów. Wchodzą do kolejki i zaraz z niej wypadają. "Iron Man" tak wypada, "Waiting for Superman" również może czekać długi czas.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Odkryli, że w kolejkach Netflix toczy się walka pomiędzy naszymi przyszłymi ambicjami, a teraźniejszymi impulsywnymi osobowościami. Wszyscy chcielibyśmy być kimś, kto oglądał "Rashomon", ale w tej chwili chcemy oglądać po raz czwarty "Ace Ventura". (Śmiech) Najlepsze dopasowanie daje nam coś z ich obu. Trochę Justina Biebera i trochę Afganistanu. Daje nam trochę warzyw, tak jak i trochę deseru. Wyzwaniem tych algorytmów w filtrach, personalizujących filtrów, jest to, ponieważ patrzą one na co się najpierw kliknie co może wytrącić je z równowagi. Zamiast zbalansowanej diety, możesz skończyć otoczonym przez śmieci informacyjne.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Sugeruje to, że rzeczywiście możemy mieć trop, że Internet idzie w złym kierunku. W rozgłaszającym społeczeństwie, tak brzmi podstawowa mitologia, w takim społeczeństwie, byli strażnicy, redaktorzy, którzy kontrolowali przepływ informacji. Przyszedł internet i ich wymiótł, co pozwoliło nam się nawzajem połączyć, a to jest niesamowite. Jednak nie to teraz się dzieje. Widzimy podawanie sobie pochodni od strażników do ich algorytmicznych odpowiedników. Z algorytmami jest tak, że nie posiadają wbudowanej etyki, którą mieli redaktorzy. Jeżeli algorytmy będą naszymi kuratorami, będą decydowały o tym co widzimy, a co nie, to musimy się upewnić, że nie steruje ich związek. Upewnijmy się, że również pokazują nam rzeczy, które są niewygodnie, wyzywające, czy ważne, to co robi TED, inne punkty widzenia.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Już tu byliśmy jako społeczność, taka prawda. Już tu byliśmy jako społeczność, taka prawda. W 1915, gazety nie przejmowały się za bardzo obywatelskimi obowiązkami. Potem ludzie zauważyli, że one robiły coś bardzo ważnego. Naprawdę nie można mieć funkcjonującej demokracji, jeżeli obywatele nie mają dobrego przepływu informacji. Gazety były istotne, bo działały jak filtr, a potem etyka dziennikarska się rozwinęła. Nie było to perfekcyjne, ale przetrwaliśmy dzięki temu poprzedni wiek. Teraz, wróciliśmy tak jakby do 1915 w sieci. Potrzebujemy nowych strażników by zawarli tą odpowiedzialność w kodzie, który piszą.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Wiem, że jest tu wiele ludzi z Facebooka i Google, Larry i Sergiej, ludzie, którzy pomogli zbudować sieć taką, jaką jest, za to jestem im wdzięczny. Potrzebujemy, abyście upewnili się, że te algorytmy zawierają w sobie wyczucie publicznego życia, obywatelskiego obowiązku. Upewnijcie się, że są wystarczająco przezroczyste byśmy mogli dostrzec reguły, które decydują, co przepuszcza filtr. Musicie dać nam trochę kontroli, byśmy sami zdecydowali, co przechodzi, a co nie. Ponieważ myślę, że potrzebujemy by Internet był tym czymś o czym marzyliśmy, że będzie. Musi nas ze sobą łączyć. Musi nam przedstawiać nowe idee, nowych ludzi i różne perspektywy. Nie uda się to, jeżeli zostaniemy wyobcowani w sieci do jednostki.
Thank you.
Dziękuję.
(Applause)
(Oklaski)