Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Mark Zuckerberg [créateur de Facebook], un journaliste lui posait une question à propos du fil d’actualité. Et le journaliste lui demandait "Pourquoi est-ce si important ?" Et Zuckerberg a dit, "Un écureuil mourant dans votre jardin peut être plus pertinent pour vos intérêts du moment que les gens qui meurent en Afrique." Et je veux parler de ce à quoi ressemblerait un internet basé sur cette idée de pertinence.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Alors, pendant que je grandissais dans une région vraiment rurale du Maine [États-Unis], l'internet signifiait quelque chose de vraiment différent pour moi. Cela signifiait une connexion avec le monde. Ça signifiait quelque chose qui nous connecterait tous ensemble. Et j'étais sûr que ça allait être formidable pour la démocratie et pour notre société. Mais il y a ce changement dans la façon dont l'information circule en ligne, et c'est invisible. Et si nous n'y prêtons pas attention, cela pourrait être un réel problème. Alors, j'ai d'abord remarqué cela dans un espace où je passe beaucoup de temps -- ma page Facebook. Je suis progressiste, politiquement -- grande surprise -- mais je me suis toujours démené pour rencontrer des conservateurs. J'aime écouter ce qu'ils pensent ; j'aime voir à quoi ils se connectent ; j'aime apprendre une chose ou deux. Et donc j'ai été surpris quand un jour j'ai remarqué que les conservateurs avaient disparu de mon fil Facebook. Et ce qu'il apparut qu'il se passait est que Facebook regardait chaque lien que je cliquais, et s'apercevait qu'en fait, je cliquais plus souvent les liens de mes amis libéraux que les liens de mes amis conservateurs. Et sans me consulter à ce propos, Facebook les avait éliminés. Ils avaient disparus.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Alors Facebook n'est pas le seul espace à opérer ce genre d'algorithme invisible triant l'internet. Google le fait aussi. Si je cherche quelque chose et que vous cherchez quelque chose, quand même maintenant exactement au même moment, nous pourrions obtenir des résultats différents. Même si vous êtes déconnectés, un ingénieur m'a dit, il y a 57 indicateurs que Google regarde -- tout du type d'ordinateur depuis lequel vous surfez jusqu'au type de navigateur que vous utilisez en passant par votre location géographique -- et qui sont utilisés pour personnaliser vos résultats de recherche. Pensez-y une seconde : il n'y a plus de Google générique. Et vous savez, ce qui est drôle dans cette histoire, c'est que c'est difficile à percevoir. Vous ne pouvez pas voir à quel point vos résultats de recherche sont différents de ceux de n'importe qui d'autre.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Mais il y a quelques semaines, j'ai demandé à quelques amis de chercher "Égypte" sur Google et de m'envoyer des captures d'écrans de ce qu'ils avaient obtenu. Donc, voici ce que mon ami Scott a obtenu. Et voilà ce que mon ami Daniel a trouvé. Quand vous mettez leurs résultats côte-à-côte, vous n'avez même pas besoin de lire les liens pour voir à quel point ces deux pages sont différentes. Mais si vous lisez les liens, c'est tout à fait remarquable. Daniel n'a rien obtenu du tout concernant les manifestations en Égypte sur sa première page de résultats donnés par Google. Les résultats de Scott en étaient pleins. Et ça faisait les gros titres chaque jour à l'époque. C'est à ce point que les résultats deviennent différents.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Alors, ce n'est pas juste Google et Facebook. Il s'agit de quelque chose qui balaye l'internet. Il y a tout un tas d'entreprises qui pratiquent ce genre de personnalisation. Yahoo Actualités, le plus grand site d'actualité sur internet, est maintenant personnalisé -- différentes personnes voient différentes choses. Le Huffington Post, le Washington Post, le New York Times -- tous flirtent avec la personnalisation d'une façon ou d'une autre. Et cela nous emmène très rapidement vers un monde dans lequel l'internet nous montre ce qu'il pense que nous voulons voir, mais pas nécessairement ce que nous avons besoin de voir. Comme l'a dit Eric Schmidt [président de Google], "Il sera très difficile pour les gens de regarder ou de consommer ce qui n'a pas d'une certaine façon été fait sur mesure pour eux."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Donc je pense que c'est un réel problème. Et je pense que, si vous prenez tous ces filtres ensemble, si vous prenez tous ces algorithmes, vous obtenez ce que j'appelle une bulle de filtres. Et votre bulle de filtres est votre propre, personnel, unique univers d'information dans lequel vous vivez en ligne. Et ce qui est dans votre bulle de filtres dépend de qui vous êtes, et dépend de que vous faites. Mais le truc, c'est que vous ne décidez pas ce qui entre dedans. Et plus important, vous ne voyez pas en fait ce qui se trouve rejeté. Donc l'un des problèmes de la bulle de filtres a été découvert par des chercheurs de chez Netflix [site de vidéo à la demande]. Ils étudiaient les files d'attentes Netflix, et ont remarqué une chose assez drôle, que beaucoup d'entre nous ont certainement remarqué, et qui est qu'il y a certains films qui semblent juste remonter la file très vite pour entrer dans nos foyers. Ils entrent dans la file, et ils la remontent immédiatement. Donc "Iron Man" arrive aussitôt, et "Waiting for Superman" peut attendre vraiment très longtemps.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Ce qu'ils ont découvert c'est que dans les files d'attente de Netflix, il y a une bataille épique qui se joue entre ce que nous aspirons à être dans le futur et ce que nous sommes plus impulsivement dans le présent. Vous savez, nous voulons tous être quelqu'un qui a vu "Rashōmon", mais pour le moment nous voulons voir "Ace Ventura, détective chiens et chats" pour la quatrième fois. (Rires) Donc la meilleure des éditions nous donne un peu des deux. Il nous donne un petit peu de Justin Bieber et un petit peu d'Afghanistan. Il nous donne de l'information "légumes", il nous donne de l'information "dessert". Et le défi avec ce genre de filtres algorithmiques, ces filtres personnalisés, c'est que, parce qu'ils observent principalement ce que vous cliquez en premier, ça peut déstabiliser cet équilibre. Et au lieu d'un régime d'information équilibré, vous pouvez finir entouré d'information "malbouffe".
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Ce que cela suggère c'est en fait que nous pourrions avoir fait fausse route à propos d'internet. Dans une société de diffusion -- comme disent les mythes fondateurs -- dans une société de diffusion, il y avait ces gardiens du temple, les éditeurs, et ils contrôlaient les flux d'information. Et puis l'internet est arrivé et les a balayé du chemin, nous permettant tous de nous connecter, et c'était génial. Mais ce n'est pas ce qui se passe en fait à l'heure actuelle. Ce que nous voyons est plus un passage de témoin des gardiens humains aux gardiens algorithmiques. Et le problème c'est que les algorithmes n'ont pas encore le genre d'éthique intégrée que les éditeurs avaient. Donc si les algorithmes vont inventorier le monde pour nous, s'ils vont décider ce que nous pouvons voir et ce que nous ne pouvons pas voir, alors nous devons nous assurer qu'ils ne se sont pas basés uniquement sur la pertinence. Nous devons nous assurer qu'ils nous montrent aussi des choses qui sont inconfortables ou stimulantes ou importantes -- c'est ce que TED fait -- d'autres points de vue.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Et le fait est que nous avons déjà été dans cette situation auparavant, en tant que société. En 1915, ce n'est pas comme si les journaux avaient des suées à propos de leurs responsabilités civiques. Et alors les gens ont remarqué qu'ils faisaient quelque chose de vraiment important. Qu'en fait, vous ne pourriez pas avoir une démocratie qui fonctionne si les citoyens n'avaient pas accès à un bon flot d'information. Que les journaux étaient cruciaux, parce qu'ils agissaient en tant que filtre, et alors l'éthique journalistique s'est développée. Ce n'était pas parfait, mais ça nous a menés à travers le siècle dernier. Et donc maintenant, on est en sorte retourné en 1915 sur internet. Et nous avons besoin que les nouveaux gardiens incorporent cette espèce de responsabilité dans le code qu'ils sont en train d'écrire.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Je sais qu'il y a beaucoup de gens ici de Facebook et Google -- Larry et Sergey -- des gens qui ont contribué à construire internet tel qu'il est, et j'ai de la gratitude pour ça. Mais nous avons vraiment besoin que vous vous assuriez que ces algorithmes incorporent une sensibilité pour la vie publique, sensibilité pour la responsabilité civique. Nous avons besoin que vous vous assuriez qu'ils sont suffisamment transparents pour que nous puissions voir quelles sont les règles qui déterminent ce qui passe à travers les filtres. Et nous avons besoin que vous nous donniez du contrôle, pour que nous puissions décider ce qui passe les filtres et ce qui ne les passe pas. Parce que je pense que nous avons vraiment besoin qu'internet soit cette chose que nous avons tous rêvée qu'il serait. Nous avons besoin qu'il nous connecte tous ensemble. Nous avons besoin qu'il nous fasse connaître de nouvelles idées et de nouvelles personnes, de différentes perspectives. Et il ne va pas faire cela s’il nous laisse isolés dans un réseau fait d'une personne.
Thank you.
Merci.
(Applause)
(Applaudissements)