Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Marka Zuckerberga sa raz novinár spýtal na panel noviniek. Tento novinár sa spýtal: „Prečo je to také dôležité?" A Zuckrerberg mu odvetil: „Veverička, ktorá práve zdochla pred vaším domom môže byť pre vás práve teraz dôležitejšia, ako ľudia umierajúci v Afrike." A ja by som chcel hovoriť o tom, ako by vyzeral web založený na takýchto princípoch relevantnosti.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Keď som vyrastal na ozajstnom vidieku v štáte Maine, internet bol pre mňa niečím špeciálnym. Predstavoval spojenie so svetom. Predstavoval niečo, čo nás všetkých spojí dohromady. A bol som si istý, že to bude skvelá vec pre demokraciu a celkovo pre našu spoločnosť. Ale existuje istý posun v tom, ako informácie plynú po internete -- je však neviditeľný. A, ak tomu nebudeme venovať pozornosť, mohol by sa z toho stať vážny problém. Prvýkrát som si to všimol na mieste, kde trávim mnoho času -- na Facebooku. Snažím sa byť pokrokový, aj politicky -- veľké prekvapenie -- ale vždy som sa stýkal aj s konzervatívcami. Rád počúvam, o čom rozmýšľajú; rád sa dívam, aké odkazy rozširujú; rád sa priučím vec či dve. A tak som zostal veľmi prekvapený, keď som si raz uvedomil, že všetci konzervatívci z mojich Facebookových noviniek zmizli. Nakoniec sa ukázalo, že Facebook sledoval, na ktoré odkazy klikám, a všímal si, že vlastne viac klikám na odkazy svojich liberálnych priateľov ako na tie, ktoré boli od konzervatívcov. A bez toho, aby sa ma spýtal, ich jednoducho vynechal. Jednoducho zmizli.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
A Facebook nie je jediné miesto, kde sa odohráva takáto neviditeľná, algoritmická korektúra webového obsahu. Google to robí tiež. Ak by som ja niečo hľadal a hľadali by ste to aj vy, hoci aj tu a teraz v rovnakom momente, je možné, že dostaneme výrazne rôzne výsledky. Jeden technik mi povedal, že aj keď ste odhlásení, je ďalších 57 faktorov, ktoré Google berie do úvahy -- úplne všetko, od toho za akým počítačom sedíte, cez typ browsera, ktorý používate, až po miesto, kde sa nachádzate -- tak to všetko sa používa, aby boli výsledky ušité na mieru pre vás. Zamyslite sa nad tým na chvíľu: už neexistuje žiadny „štandardný Google." A najnezvyčajnejšie na tom je, že to skoro nie je vidieť. Nevidíte, ako veľmi sa to, čo dostanete vy, líši od toho, čo dostanú ostatní.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Pred pár týždňami som poprosil zopár svojich známych, aby zadali do Googlu výraz „Egypt" a poslali mi screenshot toho, čo dostanú. Takto to vyzeralo u môjho priateľa Scotta. A takto zase u Daniela. Keď si ich dáte vedľa seba pre porovnanie, nemusíte ani len čítať tie odkazy, aby ste si uvedomili, ako veľmi rôzne tie stránky sú. Ale keď si prečítate, aké odkazy to sú, všimnete si niečo pozoruhodné. U Daniela sa vôbec nič ohľadom terajších protestov v Egypte nedostalo na prvú stranu. U Scotta toho bolo veľa. A to boli v tom čase najdôležitejšie novinky. A presne toto sa s výsledkami vyhľadávania deje.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Ale nie je to iba Google a Facebook. Podobné veci sa tiahnu celým webom. Je obrovské množstvo firiem, ktoré robia tento druh personalizácie. Yahoo News, najväčší spravodajský web na internete je už tiež personalizovaný -- rozdielni ľudia vidia rozdielne správy. Huffington Post, the Washington Post, the New York Times -- všetci sa nejakým spôsobom pohrávajú s personalizáciou. A tým sa veľmi rýchlo dostávame do doby, kedy nám internet bude ukazovať to, čo si myslí, že chceme vidieť, ale nie nutne to, čo potrebujeme vidieť. Ako povedal Eric Schmidt: „Bude pre ľudí veľmi ťažké sledovať alebo konzumovať čokoľvek, čo nebolo v nejakom zmysle prispôsobené práve im."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Ja si naozaj myslím, že je to problém. A myslím si, že keď zoberiete všetky tieto filtre, všetky tieto filtrovacie algoritmy, získate niečo, čo nazývam „informačná bublina." Táto informačná bublina predstavuje váš osobný, unikátny vesmír informácií, v ktorom žijete, keď ste online. Obsah vašej informačnej bubliny závisí od toho, kto ste a ako sa správate. Nemôžete si však vybrať, čo sa dostane dnu. Ale hlavne, nevidíte to, čo bolo vynechané. Jeden z problémov informačných bublín objavili výskumníci z firmy Netflix. Pozorovali sled výpožičiek filmov zákazníkov Netflixu a všimli si niečo zvláštne, niečo, čo si pravdepodobne všimlo mnoho z nás -- sú filmy, ktoré sa akosi hneď dostanú medzi ľudí, do ich domovov. Hneď ako sa dostanú do zoznamu filmov na pozretie si ich aj pozrieme. Tak rýchlo prejde napríklad „Iron Man," ale na dokumentárny film „Waiting for Superman" si asi počkáme celkom dlho.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
A oni zistili, že v tých filmových zoznamoch zákazníkov firmy Netflix prebieha epický súboj medzi našimi „ja", ktoré sa usilujú o budúcnosť, a našimi prítomnými a oveľa impulzívnejšími „ja". Určite to poznáte -- všetci chceme byť tí, ktorí už videli film „Rašomón," ale práve teraz by sme si radšej pozreli „Ace Ventura: zvierací detektív" po štvrtýkrát. (Smiech) A najlepšia zostava je taká, ktorá nám dá niečo od každého. Dá nám trochu Justina Biebera a súčasne niečo z Afganistanu. Dá nám trochu informačnej zeleniny, ale aj informačný zákusok. A problém s týmto druhom algoritmických filtrov, týchto personalizačných filtrov, je ten, že keďže zohľadňujú predovšetkým to, na čo sme klikli prvé, môžu veľmi rýchlo stratiť rovnováhu. A namiesto vyváženej informačnej stravy sa k vám dostane len informačný fast food.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Snaží sa to naznačiť, že možno sme to rozprávanie o internete pochopili zle. V spoločnosti s rozhlasom a televíziou -- presne tak začína báj o vzniku -- tak v tej spoločnosti existovali vrátnici, editori, korektori, ktorí kontrolovali tok informácií. Potom však prišiel internet, ktorý ich zlikvidoval a dovolil nám všetkým nadviazať kontakt so svetom a bolo to úžasné. Ale to nie je úplne presne to, čo sa deje teraz. Sme skôr svedkami momentu, keď sa štafeta predáva od ľudských strážcov tým algoritmickým. A problémom je, že tie algoritmy ešte nemajú zabudovanú akýsi etický rozmer, ktorý tí ľudia mali. A ak budú za nás spravovať svet algoritmy, ak budú oni rozhodovať, čo budeme vidieť a čo nie, potom sa musíme ubezpečiť, že nebudú hľadieť len na významnosť daných udalostí. Musíme sa uistiť, že nám ukážu aj veci, ktoré sú nepríjemné, provokatívne alebo inak závažné -- a to je to, o čo sa snaží TED -- iný pohľad na vec.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
V skutočnosti sme my, ako spoločnosť, v takejto situácií už boli. Rok 1915 -- nedá sa povedať, že by sa noviny išli pretrhnúť kvôli svojim občianskym povinnostiam. Potom si ľudia uvedomili, že noviny zastávali naozaj dôležitú funkciu. Uvedomili si, že nie je možné mať fungujúcu demokraciu bez toho, aby mali obyvatelia dobrý prísun informácií. Uvedomili si, že noviny boli kritické, pretože fungovali ako filter, a preto sa rozvinula novinárska etika. Nebolo to dokonalé, ale pomohlo nám to dostať sa cez posledné storočie. A tak aj teraz sme na webe ako keby znova v roku 1915. A potrebujeme nových vrátnikov a strážcov, aby zabudovali tento typ zodpovednosti do algoritmov, ktoré píšu.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Viem, že je tu veľa ľudí z Facebooku a Googlu -- Larry a Sergey -- sú to ľudia, ktorí pomohli vystavať web tak, ako ho poznáme a som im za to vďačný. Ale naozaj sa musíme ubezpečiť, že tieto algoritmy budú mať v sebe zabudovaný zmysel pre verejný život, akúsi občiansku zodpovednosť. Musíme sa uistiť, že budú dostatočne transparentné, aby bolo možné vidieť, aké pravidlá rozhodujú, čo sa cez tie filtre dostane. A musíte dostať možnosť rozhodnúť sa, čo sa dnu dostane a čo nie. Pretože si naozaj myslím, že potrebujeme, aby bol internet tým, čím sme si vysnívali, že bude. Potrebujeme ho, aby sme boli prepojený so všetkými ostatnými. Potrebujeme ho na to, aby nám ukázal nové myšlienky, nových ľudí a iné pohľady na vec. A to nebude možné, ak zostaneme izolovaní v našich individuálnych svetoch.
Thank you.
Ďakujem.
(Applause)
(Potlesk)