Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Mark Zuckerberg, utfrågades av en journalist om nyhetsströmmen (feeden). Och journalisten frågade honom, "Varför är denna så viktig?" Och Zuckerberg svarade, "En ekorre som dör framför din trappa kan vara mer relevant för vad du föredrar just nu än människor som dör i Afrika." Och vad jag vill prata om är hur en webbaserad idé för relevans kan se ut.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Så när jag växte upp i ett verkligen lantligt område i Maine, så betydde verkligen Internet något väldigt speciellt för mig. Det innebar en anslutning ut i världen. Det betydde någonting som skulle sammanbinda oss alla. Och jag var säker att det skulle vara positivt för demokratin och för vårt samhälle. Men det håller på skifta, på vilket sätt information flödar på nätet, och det sker utan att vi ser det. Och om vi inte lägger till märke till detta, så skulle detta kunna bli ett verkligt problem. Jag märkte detta första gången på en plats jag spendera mycket tid på -- på min Facebooksida. Jag är progressiv, politisk, -- stor överraskning -- men jag alltid försökt på mitt sätt att möta konservativa Jag tycker om att höra vad de funderar kring; Jag vill se vad de länkar till; Jag gillar att lära mig saker. Så jag vart väldigt förvånad när jag en dag förstod att de konservativa hade försvunnit från min Facebook-nyhetsström (feed). Och visade sig att Facebook tittade på vilka länkar jag klickade på och siten noterade i själva verket, att jag klickade mer på min liberala vänners länkar än på mina konservativa vänners länkar. Och utan att tillfråga mig, hade siten tagit bort dem. De hade försvunnit.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Och Facebook är inte ensam om att göra detta osynligt med algoritmer, att redigera webben. Även Google gör det. Om jag söker något och du söker desamma, samtidigt i denna stund, så kan vi få väldigt olika sökresultat. Detta även om du är utloggad, en ingenjör berättade för mig att det finns 57 signaler som Google tittar på -- allt i från vilken typ av dator du använder till vilken webbläsare du använder till vart du är lokaliserad -- detta används för att skräddarsy just dina sökresultat. Betänk detta för en sekund: det finns inget standard-Google längre. Och vet du, det lustiga är att det är svårt att se det. Du kan inte se hur olika dina sökresultat är jämfört med någon annans.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Men för ett par veckor sedan, så bad jag några vänner att Googla "Egypt" och skicka mig några skärmdumpar på vad de fick. Här är min vän Scotts skärmdump- Och här är min vän Daniels skärmdump. När man lägger dem sida vid sida, så behöver du inte ens läsa länkarna för se hur olika dessa två sidor är. Men när du läser länkarna, är det verkligen anmärkningsvärt. Daniel fick ingenting om protesterna i Egypten överhuvudtaget på sin första sida med Google-resultat. Scotts resultat var full av dem. Och detta var den stora nyheten den dagen vid den tiden på dagen. Sökresultaten håller på att bli så olika.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Och det är inte bara Google och Facebook heller. Det är något som sprider sig över hela webben. Det är en mängd företag som håller på med den typ av personalisering. Yahoo News, den största nyhetssiten på Internet, är nu personaliserad -- olika människor får olika saker. Huffington Post, the Washington Post, the New York Times -- lockar med personalisering på flera olika sätt. Och leder oss mycket snabbt mot en värld där Internet visar oss vad det tror vi vill se, men inte nödvändigtvis vad vi behöver se. Som Eric Schmidt sa, "Det kommer bli väldigt svårt att få se något eller konsumera något som inte i någon mening skräddarsytts"
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Så jag anser detta är ett problem. Och jag anser, om du lägger samman alla dessa filter, och du tar alla dessa algoritmer, får du vad jag kallar en "filterbubbla". Och din egen "filterbubbla" är ditt egna unika universum av information som du lever i på nätet. Och vad som är i din Filterbubbla beror på vem du är och den beror vad du gör. Men grejen är det är inte du som bestämmer vad som kommer in. Än viktigare, är att du verkligen inte ser vad som klipps bort. Så ett av problemen med "Filterbubblor" vilket upptäcktes av några forskare på Netflix. Och de tittade på Netflix-köerna och de märkte något väldigt märkligt något som en hel del av oss märkt, vilket är att det är några filmer som far direkt upp och ut till hushållen. De går in i kön, och viner direkt ut. Så "Iron Man" viner rätt ut, och "Waiting for Superman" kan få vänta ganska lång tid.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Vad de upptäckte var att i våra Netflix-köer pågår en episk kamp mellan vårt framtida strävande jag och vår mer impulsiva jag i nuet. Du vet att vi alla vill vara någon som tittat på "Rashomon" men just nu vill vi bara se "Ace Ventura" för fjärde gången. (Skratt) Så det bästa urvalet ger oss lite av varje. Det ger oss en lite del av Justin Bieber och en liten del av Afghanistan. Och det ger oss lite "informationsgrönsaker" och det ger oss lite "informationsefterrätter". Och utmaningarna med dessa typer av algoritmiska filter, dessa personaliserade filter, är att de på grund av att de tittar mest på vad du klickat först på, kan dessa komma ur balans. Och istället för en balanserad informationsdiet, kan du tillslut vara omgiven med informationsskräpmat.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Vad detta pekar på är att vi helt enkelt skrivit sagan om Internet felaktigt. I ett etermediasamhället -- låter den grundande mytologin på detta sätt -- i ett etermediasamhälle fanns dessa grindvakter, dessa redaktörer, och de kontrollerade informationsflödet. Och så kom Internet och sköljde bort dem, och tillät oss att kommunicera tillsammans, och det var underbart. Men det är sannerligen inte vad som händer just nu. Vad vi ser är att facklan skickas vidare från mänskliga grindvakter till algoritmiska vakter. Och saken med algoritmerna är att de har inte än har någon typ av inbyggd etik som redaktörerna hade. Så om algoritmerna ska kunna skapa en värld för oss, om de ska kunna bestämma vad vi ska få se och vi inte ska få se, då bör vi säkerställa att de inte bara har relevans som enda måttet. Vi behöver säkerställa att de visar oss saker som är obehagliga eller utmanande eller viktiga -- det är vad TED gör -- en annan synvinkel.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Och saken är den att vi varit där förut som samhället. Det är inte som 1915 när tidningarna hade det tufft kring sitt samhällsansvar. Då märkte folk att de gjorde något verkligt viktigt. Faktum är de kunde inte blivit en fungerande demokrati om inte medborgarna hade fått ett bra informationsflöde. Att tidningarna var kritiska för att de agerade som filtret, och att den journalistiska etiken utvecklades. Den var inte perfekt. men den tog oss genom förra seklet. Och nu är, vi typ tillbaka på 1915-års nivån på webben. Och vi behöver de nya grindvakterna för att koda den typen av ansvar in i programkoden de skriver.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Jag vet det är en hel del människor från Facebook och från Google här -- Larry och Sergey -- människor som hjälpt till att bygga upp webben som den är, och jag är tacksam för detta. Men vad vi verkligen måste försäkra oss om är att dessa algoritmer har inbyggt en känsla för det offentliga livet, en känsla av medborgerligt ansvar. Vi måste se till att de är tillräckligt transparenta så vi kan se vilka reglerna är som bestämmer vad som passerar vårt filter. Och vi att ni ger oss lite kontroll över dessa, så att vi kan bestämma vad som går igenom och vad som inte går igenom. För att jag anser det är viktigt för oss att Internet blir det som det vi alla drömde om att det skulle vara. Vi behöver detta för att binda oss samman. Vi behöver det för att introducerar oss till nya idéer och nya människor och olika perspektiv. Och det kommer inte att göra detta om det lämnar oss alla i en isolerad personspecifik webb.
Thank you.
Tack så mycket.
(Applause)
(Applåder)