Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Mark Zuckerbergnek feltett egy kérdést egy újságíró a new feeddel kapcsolatban, És azt kérdezte tőle az újságíró: "Tulajdonképpen miért olyan fontos ez?" És Zuckerberg azt felelte, "Az, hogy egy mókus éppen a házunk előtt haldoklik, lehet, hogy sokkal jobban érdekel minket ebben a pillanatban, mint hogy Afrikában emberek halnak meg." És arról akarok most beszélni, hogy milyen is lehet az a web, amely a fontosság ilyen felfogására épít.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Gyerekkoromban, Maine Államban, egy igazi falusi környzetben, az internet valami egészen mást jelentett számomra. Kapcsolatot jelentett a világgal. Valami olyat, ami mindannyiunkat össze fog kötni. És biztos voltam benne, hogy ez remek dolog lesz a demokrácia és a társadalmunk számára. De van itt egy változás abban, ahogyan az információ online áramlik, és ez láthatatlan marad. És ha nem figyelünk rá, abból valóban baj lehet. Először egy olyan helyen figyeltem fel rá, ahol sok időt töltök -- a Facebook oldalamon. Politikailag haladó vagyok -- micsoda meglepetés -- de mindig mindent megteszek azért, hogy konzervatíokkal találkozzam. Szeretem hallani, hogy hogyan vélekednek. Szeretem látni, hogy mi köti össze őket; szeretek megtudni egy-két dolgot. Nagyon meglepődtem valamelyik nap. hogy a konzervatívok eltűntek a Facebook feedemből. És kiderült, hogy az történt, hogy a Facebook figyelte, hogy milyen linkekre kattintok, és észrevette, hogy valóban, többet kattintottam a liberális barátaim linkjére, mint a konzervatív barátaiméra. És anélkül, hogy engem megkérdezett volna, kihagyta őket. Eltűntek.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
De nem a Facebook az egyetlen, ami ilyen észrevétlen, algoritmikus módon szerkesztget a web-en. A Google is ezt csinálja. Ha én is, meg te is keresel valamit, ugyanazt, és egyidejűleg, akár egészen különböző eredményt is kaphatunk. Egy mérnök mondta, hogy még kijelentkezéskor is 57 jelzést figyel a Google -- kezdve azon, hogy milyen számítógépen dolgozunk, milyen böngészőt használunk honnan internetezünk -- hogy azután ennek megfelelően személyre szabja a lekérdezés eredményét. Gondoljunk csak utána egy pillanatra: szó sincs már többet a szabványos Google-ról. És tudják, az a furcsa, hogy ezt nehéz észrevenni. Nem látjuk, hogy mennyire más nálunk a keresés eredménye, mint másoknál.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
De néhány hete megkértem egy pár barátomat hogy keressenek rá a Google-ban Egyiptomra. és küldjék át a kapott eredmény képernyőjét. Itt van Scott barátomé. És itt Danielé. Ha egymás mellé tesszük őket, el se kell, hogy olvassuk a linkeket ahhoz, hogy lássuk, mennyire más a két oldal. De ha elolvassuk a linkeket, valóban nagyon figyelemre méltó, hogy Daniel semmit nem kapott az egyiptomi tűntetésekről az első lapon. míg Scott ererménye tele volt velük. És ez volt a nap története akkoriban, hogy mennyire más volt a két eredmény.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
És hát nem csak a Google-nál és a Facebooknál van ez. Ez egy olyan jelenség, ami egyre terjed a weben. A cégek tömege használ ilyen személyre szabást. A Yahoo News, a legnagyobb hír-oldal az interneten, mostanában vált személyessé -- különböző emberek különböző dolgokat kapnak. A Huffington Post, a Washington Post, a New York Times -- mindegyik kacérkodik valamilyen formában a személyre szabással. És ez nagyon gyorsan elvisz egy olyan világ felé, amelyben az internet azt mutatja meg nekünk, amiről azt gondolja, hogy látni szeretnénk, és nem szükségképp azt, amit látnunk kell. Ahogyan Eric Schmidt mondta, "Nagyon nehéz lesz az embereknek meglátni vagy használni bármit is, ami nincs valamiképp hozzájuk igazítva."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Úgy gondolom, hogy ez baj. Azt hiszem, hogy ha vesszük mindezeket a szűrőket, az összes algoritmust, akkor megkapjuk azt amit én szűrőburoknak nevezek. És a szűrőburkunk a saját, személyes különbejáratú információs világunk, amiben online élünk. És, hogy mi van ebben a szűrőburokban, az azon múlik, hogy kik vagyunk, mit csinálunk. De az a helyzet, hogy nem mi döntjük el, hogy mi kerül bele. És, ami még fontosabb, hogy nem igazán látjuk, hogy mi marad ki belőle. A szűrőburok egyik problémáját a Netflix kutatói fedezték fel. Nézték a Netflix várólistákat, és valami vicces dolgot vettek észre, valami olyat, amit valószínűleg többen észrevettünk már, hogy vannak filmek, amiket szinte azonnal letöltünk. Hozzáadjuk a várólistához és szinte azonnal letöltjük. Pl. az "Iron Man"-t azonnal letöltjük, míg "Waiting for Superman" tényleg sokáig várhat.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Azt fedezték fel, hogy a mi Netflix várólistáinkon ádáz harc folyik a két énünk között: az egyik énünk, aki a jövőben szeretnénk lenni, a másik a pillanatnyi impulzív énünk. Tudják, mindannyian szeretnénk azok közé tartozni, akik látták már a "Rashomon"-t de épp most inkább az "Ace Ventura"-t szeretnénk megnézni, negyedszerre. (Nevetés) Így a legjobb szerkesztés mindkettőből ad egy kicsit. Ad egy kicsit Justin Bieber-ből és egy kicsit Afganisztánból. Ad egy kevés információ-főzeléket, és egy keveset a desszertből. A nehézség az ilyen algoritmikus szűrőkkel, ezekkel a személyre szóló szűrőkkel, hogy többnyire azt nézik, hogy mire kilkkelünk először, ezzel elronthatják az egyensúlyt. És a kiegyensúlyozott információ-étrend helyett a végén csupa információ-hamburgerrel leszünk körülvéve.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Ez azt sugallja, hogy valójában félreértésben lehetünk az internettel kapcsolatban. A hírközlésben -- ez az, ahogyan a mítoszok keletkeznek -- a hírközlésben ott voltak az őrök, a szerkesztők, és az ő kezükben voltak az információ csatornái. És jött az internet és elsöpörte őket az útból, és lehetővé tette, hogy mindannyian kapcsolatba kerüljünk egymással, és ez döbbenetes volt. De most éppenséggel nem ez történik, Amit most látunk, az az, ahogyan a a hús-vér őrök átadják a stafétabotot az algoritmikus őröknek. És hát az algoritmusoknak nincs meg az a belső etikája, amit a szerkesztők használtak. Így ha az algoritmusok fogják elrendezni a világot a számunkra, ha azok döntik el, hogy mit nézzünk meg és mit ne, akkor biztosítanunk kell, hogy ne csupán a relevancia szerint legyenek programozva. Biztosítanunk kell, hogy olyan dolgokat is megmutassanak, amelyek kényelmetlenek, provokatívak vagy fontosak -- ezt teszi a TED -- más nézőpontokat is.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Mint társadalom, voltunk már korábban is ilyen helyzetben. Nem mintha 1915-ben az újságok sokat törődtek volna a polgári felelősséggel. Azután az emberek észrevették, hogy valami nagyon fontosat csináltak. Hogy nem létezhet működő demokrácia úgy, hogy az állampolgárok ne kapnák meg a megfelelő információkat. Hogy az újságok azért voltak kulcsfontosságúak, mert úgy működtek, mint valami szűrő, és azután kifejlődött az újságírói etika. Nem volt tökéletes, de átsegített minket az előző századon. És így most ez valami visszatérés-féle 1915-höz a web-en. És szükségünk van új őrökre, hogy belekódolják ezt a felelősséget a kódba, amit írnak.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Tudom, hogy sokan vannak itt a Facebook-tól és a Google-tól -- Larry és Sergey -- olyan emberek, akik segítettek olyanná formálni a web-et, amilyen, és ezért hálás vagyok nekik. De tényleg szükségünk van önökre, hogy biztosítsák, hogy ezekben az algoritmusokban be legyen kódolva a közélet ítélőképessége, a polgári felelősség tudata. Szükségünk van önökre, hogy biztosítsák az átláthatóságot, hogy láthassuk, hogy mik azok a szabályok, amelyek meghatározzák, hogy mi megy át a szűrőinken. És szükség van önökre azért is, hogy adjanak bizonyos ellenőrzési lehetőséget, hogy mi magunk tudjuk előírni, hogy mi menjen át és mi ne. Mivel azt gondolom, hogy valóban szükségünk van rá, hogy az legyen az internet amiről mindannyian álmodtunk. Szükségünk van rá, hogy valamennyiünket összekössön. Szükségünk van rá, hogy megmutasson új gondolatokat, új embereket és különböző távlatokat. És ez nem történhet meg úgy, ha egymástól elszigetelve maradunk a weben.
Thank you.
Köszönöm.
(Applause)
(Taps)