Mark Zuckeberg, vynálezce Facebooku, mluvil s jedním novinářem o "výpisu novinek". Ten novinář se ho ptal, "Proč je tak důležitý?" A Zuckerberg řekl, "Veverka umírající před vaším domem pro vás může být právě teď mnohem důležitější, než lidé umírající v Africe." A já teď chci mluvit o tom, jak může vypadat Web založený na tom, co je důležité pro jeho uživatele.
Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Když jsem vyrůstal, na venkově v Maine, internet pro mě znamenal něco úplně jiného než dnes. Znamenal spojení se světem. Bylo to něco, co propojí nás všechny. A já si byl jistý, že bude výborný pro demokracii a pro naši společnost. Ale objevil se značný posun v tom jak informace po internetu proudí. A ten posun je neviditelný. A pokud mu nebudeme věnovat pozornost, může to být opravdu problém. Poprvé jsem si toho všiml tam, kde trávím spoustu času -- na Facebooku. Jsem progresivista, politicky -- velké překvapení -- ale snažím se nepředpojatě bavit i s konzervativci. Rád si poslechnu, co si myslí, jaké odkazy posílají, rád se od nich pár věcí přiučím. Takže jsem byl překvapený, když jsem si všiml, že konzervativci najednou zmizeli z mé facebookové stránky. Zjistil jsem, že je to proto, že Facebook sleduje, na jaké odkazy klikám, a všiml si, že daleko častěji otevírám odkazy svých liberálních přátel, než svých konzervativních přátel. A aniž by se mě na to ptal, odstranil mi je ze zdi. Prostě zmizeli.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
A Facebook není jediný, kdo dělá tyhle neviditelné, algoritmické úpravy Webu. Google to dělá taky. Pokud budu něco vyhledávat já a vy, i zrovna teď, ve stejnou chvíli, možná dostaneme naprosto rozdílné výsledky. Jeden inženýr mi řekl, že i když jste odhlášení, vysíláte 57 signálů, na které se Google dívá -- k personalizaci vašeho vyhledávání používá vše od značky vašeho počítače, prohlížeče, který používáte, po místo, kde se zrovna nacházíte. Zamyslete se nad tím na chvíli: už neexistuje žádný standartní Google. Víte, nejlegračnější na tom je, že to nepoznáte. Nevidíte, jak se liší vaše vyhledávání, od výsledků někoho jiného.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Ale před pár týdny jsem poprosil pár přátel, aby vygooglili "Egypt" a poslali mi snímek své obrazovky. Tady je obrazovka mého přítele Scotta, a tady Daniela. Když je dáte vedle sebe, nemusíte ani číst odkazy, abyste si všimli, jak rozdílné ty stránky jsou. A když si ty odkazy přečtete, uvidíte opravdu propastný rozdíl. Daniel neměl na celé první stránce ani slovo o protestech v Egyptě. Scott jich tam má spoustu. V těch dnech toho zrovna byly plné zprávy. Tady vidíte jak rozdílné ty výsledky jsou.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
A není to jen Google a Facebook. Šíří se to po celém internetu. Velké množství společností teď zavádí personalizaci. Yahoo News, největší internetové zpravodajství, je teď personalizované -- různí lidé vidí různé věci. Huffington Post, Washington Post, New York Times -- všichni se snaží různě se personalizovat. A to nás velmi rychle posunuje do světa, ve kterém nám internet bude dávat to, co chceme vidět, ale ne nutně to, co vidět potřebujeme. Jak řekl Eric Schmidt, "Pro lidi bude velmi těžké sledovat a konzumovat něco, co pro ně v určitém ohledu nebylo vytvořeno."
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
A já si myslím, že tohle je problém. Myslím si, že když spojíte všechny tyhle filtry dohromady, vezmete všechny ty algoritmy, dostanete informační bublinu. A vaše informační bublina je váš osobní, jedinečný informační vesmír, ve kterém žijete když jste online. Co je ve vaší informační bublině, záleží na tom, kdo jste a co děláte. A vy vůbec nerozhodujete o tom, co se dostane dovnitř. A ještě důležitější je, že nevidíte, co se dovnitř nedostane. Jeden z problémů informačních bublin objevili pracovníci Netflixu, amerického provozovatele online televize a půjčovny DVD. Dívali se na to, o jaké filmy si zákazníci žádají, a všimli si něčeho zvláštního, čeho si možná všimla i spousta dalších lidí. Že některé filmy si lidé dávají do fronty vždy na začátek - aby je dostali nejdřív. (Vždy je možné půjčit si jen jeden film naráz) Filmy jako "Iron Man" bývají na začátku, a "Čekání na Supermana" někde na konci.
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Objevili, že v Netflixových frontách probíhá obrovský boj mezi naším cílevědomým já hledícím do budoucnosti a naším impulzivním současným já. Víte, všichni chceme jednou vidět film Rašomón, ale zrovna teď se jdeme počtvrté koukat na Ace Venturu. (Smích) Ten nejlepší filtr by nám měl dát trochu od všeho. Trochu Justina Biebera a trochu Afghánistánu. Nějaké výživné informace a nějaký informační zákusek. A největší záludnost těchto algoritmických, personalizovaných filtrů je právě to, že sledují hlavně, na co klikáme jako první, což může narušit tu požadovanou rovnováhu. A místo vyvážené informační stravy dostaneme jen informační menu z MacDonalda.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Což naznačuje, že jsme se možná s našimi představami o internetu pěkně spletli. Ve vysílacích společnostech -- tak to říká mytologie vysílání -- tak v těch vysílacích společnostech byli správci, editoři, kteří kontrolovali proudění informací. A pak přišel internet a smetl je z cesty, umožnil všem navzájem se propojit, a bylo to skvělé. Ale to už se teď neděje. Teď můžeme sledovat, jak živí strážci předávají štafetu algoritmickým strážcům. A problém je v tom, že algoritmy nemají zabudovanou etiku těch bývalých živých strážců. Takže pokud za nás mají svět hlídat algoritmy, pokud to budou ony, kdo rozhoduje, co vidíme a co nevidíme, pak si musíme dát pozor, aby se neřídily automaticky jen podle našeho výběru. Musíme zajistit, aby nám také nabízely věci, které jsou nepříjemné, podnětné a důležité, aby nám ukazovaly jiné úhly pohledu -- jako to dělá třeba TED.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
V podobné situaci už společnost jednou byla. V roce 1915 se noviny příliš nestaraly o nějakou občanskou zodpovědnost. A pak si lidé všimli, že ony mají velmi důležitý úkol. Že nemůžete mít fungující demokracii, pokud občané nemají kvalitní přísun informací. Noviny byly kritické, protože fungovaly jako filtr, a tak se vyvinula novinářská etika. Nebyla dokonalá, ale pomohla nám přežít minulé století. A teď jsme s internetem zpátky v situaci z roku 1915. A potřebujeme, aby noví strážci zabudovali ten smysl zodpovědnosti do kódu, který vytvářejí.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Vím, že je tu přítomno mnoho lidí z Facebooku i z Googlu -- Larry a Sergey -- lidé, kteří pomohli vybudovat Web do dnešní podoby, a já jsem jim za to vděčný. Ale musíme si teď dát velký pozor, aby algoritmy měly v sobě zabudovaný smysl pro veřejný život, pro občanskou zodpovědnost. Musíme se ujistit, že jsou dostatečně průhledné, že známe pravidla, která rozhodují o tom, co projde našimi filtry. A my potřebujeme, abyste nám vy dali kontrolu, abychom mohli rozhodovat, co se k nám dostane a co ne. Protože jsem předvědčený, že internet opravdu potřebujeme takový, jaký jsme si ho kdysi vysnili. Potřebujeme, aby nás všechny spojoval. Potřebujeme, aby přinášel nové nápady, nové lidi a nové úhly pohledu. A to se nestane, pokud budeme izolováni v naší vlastní "síti".
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Děkuji.
Thank you.
(Potlesk)
(Applause)