Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
מארק צוקרברג, עיתונאי שאל אותו על עדכון חדשות שוטף. הוא שאל אותו, "מדוע זה כה חשוב?" וצוקרברג ענה שסנאי גוסס בחזית ביתנו עשוי להיות יותר רלוונטי לאינטרסים המיידיים שלנו מאשר אנשים גוססים באפריקה. אז ברצוני לדבר על איך אינטרנט המתבסס על הרעיון הנ"ל עשוי להיראות.
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
כאשר גדלתי באזור כפרי במיין, האינטרנט היה בשבילי משהו אחר לגמרי. הוא היה עבורי קשר לעולם. הוא היה עבורי משהו העשוי לקשר את כולנו ביחד. והייתי בטוח שהוא הולך להיות נפלא בשביל הדמוקרטיה והחברה שלנו. אבל מול עינינו מתחולל שינוי באופן בו המידע זורם ברשת, והשינוי הוא בלתי נראה. ואם לא נשים לב לזה, זו עלולה להיות בעיה רצינית. בפעם הראשונה הבחנתי בזה היכן שאני מבלה המון זמן -- דף הפייסבוק שלי. אני ליברל מבחינה פוליטית -- איזו הפתעה -- אבל תמיד עשיתי הכל כדי לפגוש שמרנים. אני אוהב לשמוע על מה הם חושבים; אני אוהב לראות עם מה הם מקושרים; אני אוהב ללמוד דברים חדשים. ולכן הופתעתי כאשר הבחנתי יום אחד שהשמרנים נעלמו מעדכוני הפייסבוק שלי. ומה שהתברר הוא שפייסבוק עקבה אחריי -- על איזה קישורים אני מקליק, והיא שמה לב שבעצם אני מקליק יותר על קישורים של חברים ליברליים מאשר אלו של חברים שמרניים. ומבלי להתייעץ איתי על כך, היא סיננה אותם החוצה. הם נעלמו.
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
אבל פייסבוק אינה המקום היחיד אשר מבצע סוג כזה של עריכה אלגוריתמית בלתי נראית ברשת. גם גוגל עושה את זה. אם אני מחפש משהו, ואתם מחפשים משהו, אפילו עכשיו, בו-זמנית, אנו עשויים לקבל תוצאות חיפוש מאוד שונות. גם כאשר יוצאים מהמערכת, סיפר לי מהנדס אחד, ישנם 57 סימנים שגוגל עוקבת אחריהם -- כל דבר החל מאיזה מחשב אנו משתמשים דרך באיזה דפדפן משתמשים ועד למקום בו אנו נמצאים -- והיא משתמשת בהם כדי לתפור לנו את תוצאות חיפושנו. תחשבו על זה שניה: אין יותר גוגל זהה לכולם. ומה שמצחיק בכל זה הוא שקשה להבחין בזה. אי-אפשר לראות כמה שונים תוצאות החיפוש שלך מאלו של מישהו אחר.
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
אבל לפני כמה שבועות, ביקשתי ממספר חברים לחפש בגוגל "מצרים" ולשלוח לי צילומי מסך של התוצאות שלהם. אז הנה צילום מסך של חברי סקוט. וזה של חברי דניאל. כאשר מניחים אותם זה לצד זה, אין אפילו צורך לקרוא מה כתוב בתוצאות כדי לראות עד כמה שונים שני העמודים. אבל כאשר קוראים את התוצאות, זה באמת די מוזר. דניאל לא קיבל שום דבר על ההפגנות במצרים בעמוד הראשון של התוצאות. אבל התוצאות שסקוט קיבל מלאות בהן. וזה היה אז ה-סיפור של אותו יום. זה כמה שהתוצאות נעשות שונות.
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
אבל זה לא רק גוגל ופייסבוק. זה משהו שסוחף איתו את כל הרשת. יש מגוון של חברות אשר מבצעות סינון אישי כזה. "חדשות יאהו", אתר החדשות הכי גדול ברשת, הוא עכשיו בעל סינון אישי -- כל אחד מקבל משהו אחר. "הפינגטון פוסט", ה"וושינגטון פוסט", ה"ניו-יורק טיימס" -- כולם מפלרטטים עם סינונים אישיים באופנים שונים. וזה לוקח אותנו במהירות אל עולם שבו האינטרנט מראה לנו את מה שנדמה לו שאנו רוצים לראות, אבל לא בהכרח את מה שאנו צריכים לראות. כפי שאריק שמידט אמר, "יהיה זה בלתי אפשרי לאנשים לראות או לצרוך משהו שבמובן מסויים לא נתפר עבורם."
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
לכן אני סבור שזו אכן בעיה. ואני חושב שאם נוטלים את כל המסננים ביחד, נוטלים את כל האלגוריתמים הללו, מקבלים את מה שאני מכנה בועת סינון. ובועת הסינון שלך היא עולם המידע האישי והמיוחד שלך שאתה חי בו ברשת. ומה שבתוך בועת הסינון שלך תלוי במי שאתה, וזה תלוי במה שאתה עושה. אבל העניין הוא שאינך מחליט מה נכנס לתוכה. ויותר חשוב, אינך רואה את מה שמסננים החוצה. את אחת הבעיות של בועות הסינון גילו כמה חוקרים מנטפליקס. הם היו מסתכלים בטורי נטפליקס והם שמו לב לדבר מצחיק שרבים מאיתנו בטח שמו לב אליו, והוא שיש כמה סרטים שמגיעים במהירות היישר לביתינו. הם נכנסים לתור ונפתחים מייד לפנינו. כך ש-"Iron man" נפתח מייד, ו-"Waiting for Superman" יכול לחכות ממש הרבה זמן.
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
מה שהם מצאו היה שבטורי הנטפליקס שלנו מתנהל מאבק איתנים בין העצמי העתידי, השאפתני שלנו לבין העצמי היותר אימפולסיבי שלנו השייך להווה. אנו כולנו שואפים להיות זה שראה כבר את "Rashomon", אבל ברגע זה ממש אנו רוצים לצפות ב-"Ace Ventura" בפעם הרביעית. (צחוק) אז העריכה המוצלחת ביותר נותנת לנו קצת משניהם. היא נותנת לנו קצת מג'סטין ביבר וקצת מאפגניסטן. היא נותנת לנו קצת מידע על ירקות, וקצת מידע על קינוח. והקושי עם מסננים אלגוריתמיים כאלה, עם המסננים הללו המותאמים אישית, הוא שבגלל שהם מסתכלים בעיקר על מה שאנו מקליקים עליו ראשון, זה יכול להפר את האיזון. ואז במקום דיאטת מידע מאוזנת, נמצא את עצמנו מוקפים בג'נק-פוד של מידע.
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
כל זה מצביע על כך שאנו מפספסים את כל מטרת האינטרנט. בחברה מבוססת שידורים -- כך על-פי מיתוס ההיווסדות -- בחברה מבוססת שידורים, היו אלה שומרי-הסף, העורכים, והם שלטו על ברז המידע. ואז בא האינטרנט וניפנף אותם הצידה, וזה איפשר לנו להתחבר זה לזה, וזה היה פשוט נפלא. אבל לא זה מה שקורה כעת. מה שאנו עדים לו זה העברת המפתחות משומרי-סף אנושיים לשומרי-סף אלגוריתמיים. והעניין הוא שהאלגוריתמים חסרים עדיין את האתיקה הפנימית שהיתה לעורכים. כך שאם האלגוריתמים הולכים לנהל לנו את העולם, אם הם הולכים להחליט מה נזכה לראות ומה לא נזכה, אז עלינו לוודא שהם לא מכווננים רק לפי מידת הרלוונטיות. עלינו לוודא שהם גם מראים לנו דברים שאינם נוחים או שהם מאתגרים או שהם חשובים -- זה מה ש-TED עושה -- נקודות מבט שונות.
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
והעניין הוא שכבר היינו בסרט הזה כחברה. ב-1915, זה לא שלעיתונים היה יותר מדי איכפת מהאחריות האזרחית שלהם. ואז אנשים שמו לב שהעיתונים עושים משהו באמת חשוב. שלמעשה, קשה לקיים דמוקרטיה מתפקדת אם אזרחים לא זוכים לזרם שוטף ויעיל של מידע. שהעיתונים היו דבר קריטי, היות והם פעלו בתור מסננים, וכך התפתחה אתיקה עיתונאית. היא לא היתה מושלמת, אבל היא ליוותה אותנו בכל המאה שעברה. ועכשיו, אנו שוב בחזרה במין אותו מצב של 1915, אבל ברשת. ואנו צריכים ששומרי-הסף החדשים יקודדו את האחריות הזו, בתוך התוכנות שהם כותבים.
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
אני יודע שיש כאן הרבה אנשים מפייסבוק וגוגל -- לארי וסרגיי -- אנשים שתרמו לבניית הרשת כפי שהיא, ואני אסיר-תודה על כך. אבל אנו באמת צריכים שאתם תוודאו שבתוך האלגוריתמים הללו יקודדו גם המודעות לציבור, המודעות לאחריות אזרחית. אנו צריכים שאתם תבטיחו שהם יהיו שקופים מספיק כדי שנוכל לראות מה הם הכללים אשר קובעים מה יעבור את הסינון. ואנו צריכים שתתנו לנו שליטה מסויימת, כך שנוכל להחליט מה יעבור ומה לא. כי אני סבור שאנו באמת צריכים שהאינטרנט יהיה הדבר שכולנו חלמנו שהוא יהיה. אנו צריכים שהוא יחבר את כולנו זה לזה. אנו צריכים שהוא יביא לפנינו רעיונות חדשים ואנשים חדשים ונקודות מבט שונות. וזה לא יוכל לקרות אם זה ישאיר את כולנו מבודדים ברשת השייכת ליחיד.
Thank you.
תודה לכם.
(Applause)
(מחיאות כפיים)