Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Mark Zuckerberg, un giornalista gli aveva posto una domanda sulla logica delle notizie proposte. La domanda era, "Perché è tanto importante?" E Zuckerberg, "Uno scoiattolo morente nel tuo giardino potrebbe essere più vicino ai tuoi interessi, in questo momento, di quanto lo sia la gente che muore in Africa." Io vi voglio parlare di quali risvolti potrebbe avere una Rete che si basi sull'aspetto di rilevanza delle notizie.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Durante la mia adolescenza in una zona rurale del Maine, Internet aveva per me un significato molto diverso. Era una connessione con il mondo. Qualcosa che ci avrebbe unito tutti. Ero sicuro che sarebbe stato grandioso per la democrazia e per la società. Ma ora c'è questo cambiamento del modo in cui le informazioni vengono fornite, ed è impercettibile. Se non gli prestiamo attenzione ci potremmo trovare presto nei guai. Ho cominciato a rendermene conto in un luogo in cui passo molto tempo -- la mia pagina di Facebook. Politicamente -- senti senti -- sono progressista -- ma sono sempre stato aperto alle idee dei conservatori. Mi piace ascoltare come la pensino; vedere i loro riferimenti; mi piace sempre imparare qualcosa. Perciò un giorno sono rimasto sorpreso nel vedere che i conservatori erano scomparsi dal mio aggregatore di notizie su Facebook. E quello che ho scoperto è che Facebook prendeva nota dei siti che visitavo determinando che, effettivamente, visitavo maggiormente i siti dei miei amici liberali rispetto a quelli degli amici conservatori. E senza alcun preavviso li ha esclusi dal mio mondo. Scomparsi.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Ma Facebook non è l'unico a operare questa selezione algoritmica e invisibile dei contenuti della Rete. Anche Google lo fa. Se io e te facciamo una ricerca, proprio adesso e contemporaneamente, potremmo ottenere risultati molto diversi. Anche se non sei connesso, mi ha detto un ingegnere, ci sono 57 segnali che vengono analizzati da Google -- qualsiasi cosa, dal computer che stai utilizzando al tuo programma di navigazione, e anche dove ti trovi -- li usa per adattare a te i risultati della ricerca. Pensateci un attimo: non c'è più un Google uguale per tutti. E sapete, la cosa divertente è che non è facile accorgersene. Voi non potete vedere quanto i risultati della vostra ricerca siano diversi da quelli degli altri.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Un paio di settimane fa ho chiesto ad alcuni amici di Google "Egitto" di inviarmi le loro schermate della pagina principale del sito. Questa è quella del mio amico Scott. E questa è quella di Daniel. Se le confrontate non c'è nemmeno bisogno di leggere i collegamenti per notare quanto siano diverse. Ma se poi leggete i collegamenti scoprirete qualcosa di interessante. Sul sito di Daniel non c'erano riferimenti alle proteste in Egitto nella prima pagina di risultati. Mentre quella di Scott ne era piena. Questa era la notizia del giorno all'epoca. Ecco quanto possono essere diversi i risultati.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
E non è limitato a Google e Facebook. Sta succedendo dappertutto nella Rete. C'è un gran numero di aziende che sta operando questa personalizzazione. Yahoo News, il maggiore sito di notizie di Internet ora è personalizzato -- persone diverse ottengono informazioni diverse. L'Huffington Post, il Wasihngton Post, il New York Times -- tutti, in vari modi, civettano con la personalizzazione. E ci troveremo presto in un mondo in cui Internet ci mostrerà ciò che pensa noi vogliamo vedere, ma non necessariamente quello che dovremmo vedere. Come ha detto Eric Schmidt, "Sarà molto difficile per le persone vedere o consumare qualcosa che non sia stato in qualche modo fatto su misura per loro."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
E penso che questo sia un problema. Penso che, se mettiamo insieme tutti questi filtri, tutti gli algoritmi, otteniamo qualcosa che chiamo "gabbia di filtri". E la vostra gabbia rappresenta il vostro universo personale e unico di informazioni che vivete online. Ciò che troverete nella vostra gabbia dipende da chi siete e da che cosa fate. Il problema è che voi non prendete decisioni su cosa debba entrare. Ancora più importante, non riuscite a vedere cosa ne resta fuori. Dunque uno dei problemi di questa gabbia è stato scoperto da alcuni ricercatori di Netflix. Analizzando le richieste di noleggio di film degli utenti si sono accorti di qualcosa di strano che forse hanno notato anche molti di voi, ossia che ci sono alcuni titoli che appaiono o scompaiono dalle nostre liste. Entrano in lista ma all'improvviso vengono tolti. E magari "Iron Man" scompare mentre "Aspettando Superman" ci rimane per molto tempo.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Si sono accorti che tra le liste di Netflix è in corso una battaglia epica tra le nostre aspirazioni future e quello che vogliamo impulsivamente adesso. Sapete, noi tutti vorremmo aver visto "Rashomon", ma in questo momento vogliamo guardare "Ace Ventura" per la quarta volta. (Risate) Certo il massimo sarebbe avere un po' di entrambi. Un po' di Justin Bieber e un po' di Afghanistan. Un po' di contorno e un po' di dessert. La sfida con questo tipo di filtri algoritmici, questi filtri personalizzati, è che, dato che rilevano prevalentemente cosa viene cliccato per primo, possono alterare questo equilibrio. E invece di informazioni equilibrate alla fine avrete informazioni spazzatura.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Questo ci suggerisce che forse abbiamo interpretato male la storia di Internet. In una società di trasmisisoni -- è così che nascono i miti -- in una società di trasmissioni -- c'erano i guardiani, gli editori, che controllavano i flussi di informazioni. E poi venne Internet che li spazzò via e permise a tutti noi di collegarci l'un l'altro, ed era fantastico. Ma non è quello che sta succedendo adesso. Ciò a cui stiamo assistendo è più che altro il passaggio del testimone dai guardiani umani a quelli algoritmici. Il problema è che gli algoritmi non hanno ancora incorporato i principi etici propri degli editori. Dunque se gli algoritmi dovranno prendersi cura del mondo in nostra vece, se ci diranno cosa vedere e cosa non vedere, allora dobbiamo assicurarci che non siano guidati unicamente dalla rilevanza. Dobbiamo far sì che ci mostrino anche cose scomode o stimolanti o importanti -- è quello che fa TED -- punti di vista differenti.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Abbiamo già vissuto questa esperienza come società. Nel 1915 non è che i giornali si preoccupassero molto della loro responsabilità civile. Ma poi la gente si accorse che svolgevano un ruolo davvero importante. Che, in effetti, non si può avere una democrazia che funzioni se i cittadini non hanno accesso all'informazione. Che i giornali erano fondamentali perché agivano da filtro, e poi è nata l'etica del giornalismo. Non era perfetta, ma ci ha fatto attraversare lo scorso secolo. Ed ora ci troviamo nel 1915 della Rete. Abbiamo bisogno di nuovi guardiani che incorporino quel tipo di responsabilità nel codice che stanno scrivendo.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
So che tra i presenti c'è gente di Facebook e Google -- Larry e Sergey -- gente che ha contribuito a costruire la Rete come è oggi, e sono loro grato per questo. Ma c'è davvero bisogno di far sì che questi algoritmi contengano un senso di vita pubblica, di responsabilità civile. Dovete fare in modo che siano abbastanza trasparenti da consentirci di vedere le regole che determinano cosa può passare attraverso i filtri. E dovete darci la facoltà di controllo, per decidere cosa può passare e cosa deve essere bloccato. Perché penso che abbiamo bisogno che Internet sia davvero quella cosa che abbiamo sempre sognato. Ne abbiamo bisogno per essere connessi tra di noi. Perché ci presenti nuove idee, nuove persone e prospettive differenti. E questo non sarà possibile se rimarremo isolati in una Rete individuale.
Thank you.
Grazie.
(Applause)
(Applausi)