Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Mark Zuckerberg a fost întrebat despre știrile personalizate 'News Feed' de pe Facebook. Jurnalistul l-a întrebat: "De ce sunt atât de importante?" Iar Zuckerberg a răspuns: "O veveriță care moare pe gazonul din fața casei poate fi mai relevantă pentru interesele tale momentane decât oamenii care mor în Africa." Vreau să vă vorbesc despre cum arată Internetul bazat pe această idee de relevanță.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Când eram copil și locuiam într-o zonă rurală din statul Maine, Internetul însemna ceva foarte diferit pentru mine. Însemna o legatură cu lumea. Însemna ceva ce ne putea uni pe toți. Eram sigur că urma să fie grozav pentru democrație și pentru societatea noastră. Însă s-a petrecut o deviere în modul cum circulă informația on-line, iar această abatere e invizibilă. Dacă nu suntem atenți poate deveni o problemă gravă. Prima dată am observat asta într-un loc unde petrec mult timp -- pagina mea de Facebook. Din punct de vedere politic, eu sunt progresist -- nu-i surpriză aici -- dar m-am străduit mereu să cunosc conservatori. Îmi place să aud părerile lor; îmi place să văd ce link-uri postează, îmi place să învăț lucruri. Astfel, am fost foarte surprins să observ într-o zi că toți conservatorii dispăruseră din feed-ul meu de pe Facebook. Iar ce se întâmplase era că Facebook se uita la ce link-uri apăsam și a observat că apăsam mai mult pe link-urile prietenilor liberali decât pe ale prietenilor conservatori. Și, fără să mă consulte, îi ștersese. Dispăruseră.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Facebook nu este singurul loc care face acest fel de editare algoritmică, invizibilă a Internetului. Și Google face la fel. Dacă eu caut ceva și tu cauți același lucru, chiar acum, în același moment, am obține rezultate de căutare total diferite. Chiar dacă nu ești logat, mi-a spus un inginer, există 57 de semnale la care se uită Google -- totul: ce fel de computer folosești, ce fel de browser utilizezi, locul în care te afli -- pe care le folosește pentru a personaliza rezulatatele căutarii. Gândiți-vă pentru un moment: nu mai există un Google standard. Și e ciudat că-i foarte greu să observi asta. Nu vezi cât de diferite sunt rezultatele căutării tale față de ale altcuiva.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Acum vreo două săptămâni am rugat câțiva prieteni să caute pe Google cuvântul "Egipt" și să-mi trimită imaginea ecranului obținut. Iată imaginea de la prietenul meu Scott. Iar aici e imaginea de la prietenul meu Daniel. Când le pui una lângă cealaltă, nici nu trebuie să citești link-urile ca să vezi cât de diferite sunt aceste două pagini. Dar când citești link-urile, diferența e remarcabilă. Daniel nu avea nimic despre protestele din Egipt în prima pagină de rezultate Google. Rezultatele lui Scott erau pline de menționări. Iar asta era marea știre a zilei atunci. Iată cât de diferite devin aceste rezultate.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Dar nu e vorba numai de Google și Facebook. E un fenomen care traversează tot Internetul. O mulțime de companii fac astfel de personalizari. Yahoo News, cel mai mare site de știri de pe Internet e personalizat acum -- oameni diferiți primesc răspunsuri diferite. Huffington Post, Washington Post, The New York Times -- toți personalizează cu diverse filtre. Iar asta ne împinge foarte rapid către o lume în care Internetul ne oferă ce crede că vrem să vedem, dar nu neaparat ce avem nevoie să vedem. După cum spnea Eric Schmidt, "Va fi foarte greu ca oamenii să se uite sau să consume ceva care nu a fost, într-un fel croit pentru ei."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Eu cred că asta e o problemă. Și cred că dacă iei împreună toate aceste filtre, iei toți acești algoritmi, obții un turn de fildeș, un spațiu filtrat. Iar turnul tău de fildeș este universul tău personal de informație în care trăiești on-line. Iar ce se află în această proximitate filtrată depinde de cine ești și ce faci. Problema însă e că nu tu decizi ce intră în acest spațiu. Chiar mai important, nu vezi ce se șterge. Așa că, una din problemele cu filtrarea a fost descoperită de niște cercetători la Netflix. Ei se uitau la listele Netflix și au observat ceva ciudat ce probabil mulți am observat, și anume că există unele filme care apar imediat la noi în casă. Cum intră în listă sunt ditecționate imediat către noi. Astfel, "Iron Man" apare imediat, iar "Waiting for Superman" poate aștepta mult timp.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Ceea ce au descoperit a fost că în listele noastre de Netflix se duce o luptă crâncenă între aspirațiile eu-lui nostru viitor și eu-ul mai impulsiv din prezent. Toți vrem să fim cineva care a vizionat filmul 'Rashomon', însă momentan, vrem să ne uităm la Ace Ventura a patra oara. (Râsete) O editare bună ne dă puțin din amândouă. Ne dă un pic de Justin Bieber și un pic de Afganistan. Ne hrănește și cu ceva informații-vegetale și cu informații-desert. Problema cu aceste filtre algoritmice, aceste filtre personalizate, e că se uită în principal la ce ai apăsat prima dată și pot dezechilibra acea balanță. În loc de o dieta informațională echilibrată ajungi să fi înconjurat de informații - junk-food.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Asta sugrează de fapt că poate înțelegem greșit rolul Internetului. Într-o societate de transmisiuni -- așa spune mitologia fondării -- într-o societate de transmisiuni existau acești paznici care editau și controlau fluxul informațiilor. Când a apărut Internetul au fost înlăturați și ne-a permis tuturor să ne conectăm împreună și a fost grozav. Dar nu asta se întamplă acum. Ce vedem e mai degrabă predarea torței de la paznicii umani la cei algoritmici. Dar algoritmii nu au încă încorporat genul de etică pe care-l aveau editorii. Iar dacă algoritmii ne vor filtra lumea, dacă ei vor decide ce vedem și ce nu atunci trebuie să ne asigurăm că nu sunt ajustate doar de relevanță. Trebuie să ne asigurăm că ne arată și lucruri incomode, provocatoare sau importante -- cum face TED -- unghiuri opozante.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Am mai fost în trecut în această situație ca societate. În 1915 ziarele nu se străduiau prea mult cu responsabilitățiile lor civice. Apoi oamenii au observat că făceau ceva foarte important. Au realizat că nu puteai să ai o democrație funcțională dacă cetățenii nu primeau un flux de informații bun. La început ziarele criticau și filtrau, dar apoi s-a dezvoltat etica jurnalistică. Nu era perfect, dar ne-au servit bine secolul trecut. Dar acum într-un fel ne-am întors în 1915 pe Internet. Avem nevoie de paznici noi care să includă acea responsabilitate în codul pe care-l scriu.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Știu că sunt aici mulți de la Facebook și Google -- Larry și Sergey - care au ajutat la construirea Internetului actual și sunt recunoscător pentru asta. Dar trebuie să ne asigurăm că acești algoritmi conțin în codul lor un sens al vieții publice, un simț al responsabilității civice. Trebuie să ne asigurăm că sunt suficient de transparenți încât să vedem regulile care determină ce trece de filtrele noastre. Și avem nevoie să ne redați controlul să putem decide ce trece și ce nu trece. Deoarece eu cred că Internetul trebuie să fie acel lucru la care toți am visat că va fi. Avem nevoie să ne aducă pe toți împreună. Avem nevoie să ne expună la idei noi, oameni noi și perspective diferite. Iar asta nu se va întâmpla dacă ne izolează într-un Internet de o persoană.
Thank you.
Vă mulțumesc.
(Applause)
(Aplauze)