Mark Zuckerberg, a journalist was asking him a question about the news feed. And the journalist was asking him, "Why is this so important?" And Zuckerberg said, "A squirrel dying in your front yard may be more relevant to your interests right now than people dying in Africa." And I want to talk about what a Web based on that idea of relevance might look like.
Մարկ Ցուկերբերգին մի անգամ լրագրողներից մեկը հարցրել է Ֆեյսբուքի լրահոսի /newsfeed/ մասին: Լրագրողը հարցրել է. «Ինչու՞ է դա այդքան կարևոր»։ Եվ Ցուկերբերգը պատասխանել է. «Ձեր բակում մահացող սկյուռը այս պահին կարող է ձեր հետաքրքրություններին ավելի համապատասխանի, քան Աֆրիկայում մահացող մարդիկ»։ Ես ցանկանում եմ խոսել այսօր այն մասին, թե ինչ է դառնում ինտերնետը՝ երբ այն հիմնվում է ռելևանտության վրա:
So when I was growing up in a really rural area in Maine, the Internet meant something very different to me. It meant a connection to the world. It meant something that would connect us all together. And I was sure that it was going to be great for democracy and for our society. But there's this shift in how information is flowing online, and it's invisible. And if we don't pay attention to it, it could be a real problem. So I first noticed this in a place I spend a lot of time -- my Facebook page. I'm progressive, politically -- big surprise -- but I've always gone out of my way to meet conservatives. I like hearing what they're thinking about; I like seeing what they link to; I like learning a thing or two. And so I was surprised when I noticed one day that the conservatives had disappeared from my Facebook feed. And what it turned out was going on was that Facebook was looking at which links I clicked on, and it was noticing that, actually, I was clicking more on my liberal friends' links than on my conservative friends' links. And without consulting me about it, it had edited them out. They disappeared.
Երբ ես մեծանում էի Մայնում տեղակայված մի գյուղաբնակ վայրում, Ինտերնետը ինձ համար բոլորովին այլ բան էր նշանակում: Այն ինձ համար արտաքին աշխարհի հետ կապվելու միջոց էր: Այն մի բան էր, ինչը կարող է մեզ բոլորիս իրար միացնել: Եվ ես հավատացած էի, որ այն շատ լավ ազդեցություն է ունենալու ժողովրդավարության և հասարակության վրա: Սակայն տեղի է ունեցել փոփոխություն, տեղեկատվության օնլայն հոսքի ձևի մեջ, և այդ փոփոխությունն անտեսանելի է: Եվ եթե մենք ուշադրություն չդարձնենք դրան, ապա այն կարող է վերածվել մի մեծ խնդրի: Առաջին անգամ ես դա նկատեցի այնտեղ, որտեղ անցկացնում էի իմ ժամանակի հիմնական մասը՝ Ֆեյսբուքի իմ էջում: Իմ քաղաքական հայացքներով ես առաջադիմական եմ, սական անակնկալ՝ ես միշտ անում էի ամեն հնարավոր բան, պահպանողականների հետ առնչվելու համար: Ես սիրում եմ լսել, թե ինչ են նրանք մտածում, ես սիրում եմ տեսնել, թե ինչ հղումներով են միմյանց հետ կիսվում, սիրում եմ որոշակի բաներ սովորել իրենցից: Եվ մի օր ես անակընկալի եկա, երբ նկատեցի, որ պահպանողականների մասին տեղեկատվությունն անհետացել է իմ Ֆեյսբուքի լրահոսից: Եվ պարզվեց, որ Ֆեյսբուքը հետևում է, թե ինչ էջեր եմ ես այցելում և նշում այն, որ ես ավելի հաճախ էի կարդում իմ լիբերալ ընկերների էջերը, քան իմ պահպանողական ընկերների էջերը: Եվ առանց ինձ հարցնելու այն ամբողջովին ֆիլտրել է վերջիններս: Դրանք անհետացել էին:
So Facebook isn't the only place that's doing this kind of invisible, algorithmic editing of the Web. Google's doing it too. If I search for something, and you search for something, even right now at the very same time, we may get very different search results. Even if you're logged out, one engineer told me, there are 57 signals that Google looks at -- everything from what kind of computer you're on to what kind of browser you're using to where you're located -- that it uses to personally tailor your query results. Think about it for a second: there is no standard Google anymore. And you know, the funny thing about this is that it's hard to see. You can't see how different your search results are from anyone else's.
Ֆեյսբուքը միակ տեղը չէ, որն անում է նմանատիպ անտեսանելի ալգորիթմիկ խմբագրումներ Ինտերնետում: Գուգլը նույնպես անում է դա: Եթե ես որևէ մի բանի որոնեմ, և դուք նույն բանը որոնեք հենց այս պահին, այստեղ, մենք երկուսս էլ կստանանք տարբեր արդյունքներ: Մի ինժեներ ինձ ասել է, որ նույնիսկ եթե դուք դուրս եկած լինեք համակարգից կան 57 ազդանշաններ որոնցով առաջնորդվում է Գուգլը՝ հաշվի առնելով ամեն ինչ, սկսած նրանից, թե ինչպիսի համակարգչից եք դուք օգտվում, ինչպիսի բրաուզերից եք օգտվում, վերջացրած նրանից, թե որտեղ եք դուք տեղակայված՝ և այն օգտագործում է այդ ամենը, որպեսզի ստանա անհատական որոնման արդյունքներ: Մի պահ մտածեք սրա մասին. չկա այլևս ստանդարտ Գուգլ: Եվ գիտեք, ամենազավեշտալին այն է, որ դա դժվար է նկատել: Դուք չեք կարող տեսնել, թե ինչքանով են ձեր որոնման արդյունքները տարբերվում մեկ ուրիշի արդյունքներից:
But a couple of weeks ago, I asked a bunch of friends to Google "Egypt" and to send me screen shots of what they got. So here's my friend Scott's screen shot. And here's my friend Daniel's screen shot. When you put them side-by-side, you don't even have to read the links to see how different these two pages are. But when you do read the links, it's really quite remarkable. Daniel didn't get anything about the protests in Egypt at all in his first page of Google results. Scott's results were full of them. And this was the big story of the day at that time. That's how different these results are becoming.
Մի քանի շաբաթ առաջ, ես խնդրեցի իմ մի քանի ընկերներին Գուգլում որոնել «Եգիպտոս» բառը և ուղարկել ինձ իրենց որոնման արդյունքները: Ահա իմ ընկեր Սկոթի արդյունքները: Ահա իմ ընկեր Դանիելի արդյունքները: Երբ երկու որոնման արդյունքները դնում ես կողք կողքի, նույնիսկ հարկավոր չէ կարդալ հղումները, տեսնելու համար, թե ինչքանով են այդ երկու էջերը տարբերվում միմյանցից: Սակայն, երբ սկսում ես կարդալ հղումները, տարբերությունն ուշագրավ է: Դանիելը իր որոնման առաջին էջում ոչ մի արդյունք չի ստացել Եգիպտոսում տեղի ունեցող բողոքի ցույցերի մասին: Սկոթի արդյունքների մեջ բողոքներին վերաբերող բազմաթիվ հղումներ կային: Իսկ բողոքները տվյալ օրվա ամենակարևոր նորությունն էր: Ահա թե ինչքան կարող են տարբերվել որոնման արդյունքները միմյանցից:
So it's not just Google and Facebook either. This is something that's sweeping the Web. There are a whole host of companies that are doing this kind of personalization. Yahoo News, the biggest news site on the Internet, is now personalized -- different people get different things. Huffington Post, the Washington Post, the New York Times -- all flirting with personalization in various ways. And this moves us very quickly toward a world in which the Internet is showing us what it thinks we want to see, but not necessarily what we need to see. As Eric Schmidt said, "It will be very hard for people to watch or consume something that has not in some sense been tailored for them."
Եվ սա միայն Գուգլը և Ֆեյսբուքը չէ, որ անում են: Սա այն է, ինչ կատարվում է ամբողջ համացանցում: Կան բազմաթիվ ընկերություններ, որոնք նմանատիպ անձնավորված մոտեցում են ցուցաբերում: Yahoo-ի նորությունները՝ համացանցի ամենամեծ նորությունների կայքը այժմ արդեն անձնավորված է՝ տարբեր մարդիկ ստանում են տարբեր տեսակի տեղեկատվություն: Huffington Post-ը, Washington Post-ը, New York Times-ը բոլորը կատարում են տեղեկատվության ֆիլտրում: Ես սա շատ արագ ստեղծում է մի իրականություն, որտեղ ինտերնետը ցույց է տալիս մեզ այն, ինչ, իր կարծիքով, մենք ցանկանում ենք տեսնել, բայց ոչ այն, ինչ իրականում մեզ հարկավոր է տեսնել: Ինչպես ասել է Էրիկ Շմիտը, «Մարդկանց համար շատ բարդ է դիտել կամ օգտագործել մի բան, ինչը, որոշակի առումով, համապատասխանեցված չէ իրենց համար»։
So I do think this is a problem. And I think, if you take all of these filters together, you take all these algorithms, you get what I call a filter bubble. And your filter bubble is your own personal, unique universe of information that you live in online. And what's in your filter bubble depends on who you are, and it depends on what you do. But the thing is that you don't decide what gets in. And more importantly, you don't actually see what gets edited out. So one of the problems with the filter bubble was discovered by some researchers at Netflix. And they were looking at the Netflix queues, and they noticed something kind of funny that a lot of us probably have noticed, which is there are some movies that just sort of zip right up and out to our houses. They enter the queue, they just zip right out. So "Iron Man" zips right out, and "Waiting for Superman" can wait for a really long time.
Այսպիսով ես լիովին հավատացած եմ, որ սա խնդիր է: Եվ ես կարծում եմ, եթե մենք ի մի բերենք այս բոլոր ֆիլտրերը և բոլոր ալգորիթմները, ապա կստանանք այն, ինչն ես անվանում եմ «ֆիլտրող փուչիկ»: Եվ ձեր «ֆիլտրող փուչիկ»-ը ձեր անձնական յուրօրինակ տիեզերքն է այն տեղեկատվության, որի մեջ դուք ապրում եք օնլայն: Ձեր «ֆիլտրող փուչիկի» պարունակությունը կախված է նրանից, թե ով եք դուք և ինչով եք զբաղվում: Սակայն բանն այն է, որ դուք չեք որոշում ինչ տեղեկատվություն է այն ներառում: Եվ ամենակարևորը՝ դուք նույնիսկ չեք տեսնում թե ինչը չի ներառվում այնտեղ: Այսպիսով, «ֆիլտրող փուչիկների» հիմնական խնդիրը բացահայտվել է Netflix-ի մի քանի հետազոտողների կողմից: Նրանք հետևում էին Netflix-ի ֆիլմերի դիտումների հերթագրումներին և նկատեցին զավեշտալի մի բան, ինչ շատերս հնարավոր է նկատել ենք՝ կան որոշակի ֆիլմեր, որոնք արագ հայտնվում են ցուցակում և նույնքան արագ անհետանում (դիտվում)։ Դրանք հայտնվում եմ հերթի ցուցակի մեջ, այնուհետև անմիջապես դուրս գալիս (դիտում են)։ Օրինակ, «Երկաթե մարդը» շատ արագ դուրս է թռնում, իսկ «Սպասելով սուպերմենին» ֆիլմը կարող է շատ երկար սպասել իր հերթին։
What they discovered was that in our Netflix queues there's this epic struggle going on between our future aspirational selves and our more impulsive present selves. You know we all want to be someone who has watched "Rashomon," but right now we want to watch "Ace Ventura" for the fourth time. (Laughter) So the best editing gives us a bit of both. It gives us a little bit of Justin Bieber and a little bit of Afghanistan. It gives us some information vegetables; it gives us some information dessert. And the challenge with these kinds of algorithmic filters, these personalized filters, is that, because they're mainly looking at what you click on first, it can throw off that balance. And instead of a balanced information diet, you can end up surrounded by information junk food.
Նրանք հայտնաբերեցին, որ Netfix-ի հերթերում, տեղի է ունենում հսկայական պայքար, երկու «ես»-երի միջև` այն, ինչպես մենք ցանկանում ենք լինել և ավելի իմպուլսիվ, այսօրվա «ես»-ի միջև։ Մենք բոլորս էլ ուզում ենք լինել մեկը, որ դիտում է «Ռաշոմոն»-ը բայց տվյալ պահին, մենք ցանկանում ենք 4-րդ անգամ դիտել «Էյս Վենտուրա»-ն։ (Ծիծաղ) Լավագույն խմբագրումը տալիս է մեզ ամեն ինչից քիչ-քիչ՝ այն բերում է մի քիչ տեղեկություն Ջասթին Բիեբերի մասին, և մի քիչ էլ տեղեկություն Աֆղանստանի մասին: Այն մեզ տալիս է մի քիչ տեղեկատվական բանջարեղեն, և մի քիչ տեղեկատվական աղանդեր: Այսպիսի ալգորիթմիկ ֆիլտրերի հետ խնդիրը նրանում է, որ անձնավորված ֆիլտրները, հիմնականում առաջնորդվում են նրանով, թե ինչ հղում ենք մենք առաջինը սեղմում, այդ իսկ պատճառով այն խախտում է հավասարակշռությունը: Եվ հավասարակշռված տեղեկատվական սննդի փոխարեն, դուք ստանում եք տեղեկատվական արագ պատրաստվող սնունդ:
What this suggests is actually that we may have the story about the Internet wrong. In a broadcast society -- this is how the founding mythology goes -- in a broadcast society, there were these gatekeepers, the editors, and they controlled the flows of information. And along came the Internet and it swept them out of the way, and it allowed all of us to connect together, and it was awesome. But that's not actually what's happening right now. What we're seeing is more of a passing of the torch from human gatekeepers to algorithmic ones. And the thing is that the algorithms don't yet have the kind of embedded ethics that the editors did. So if algorithms are going to curate the world for us, if they're going to decide what we get to see and what we don't get to see, then we need to make sure that they're not just keyed to relevance. We need to make sure that they also show us things that are uncomfortable or challenging or important -- this is what TED does -- other points of view.
Դա նշանակում է, որ մենք ինտերնետի մասին սխալ պատկերացում ենք ստանում։ Եթեր հեռարձակվող հասարակության մեջ հիմնական գործընթացն ընթանում է հետևյալ կերպ. եթեր հեռարձակվող հասարակության մեջ կային ստուգողներ, խմբագիրներ, ովքեր վերահսկում էին տեղեկատվության հոսքը: Եվ ահա հայտնվում է համացանցը և հեռացնում նրանց բոլորին ճանապարհից՝ ընձեռելով մեզ հնարավորություն կապվել միմյանց հետ, և դա հրաշալի էր: Բայդ դա այն չէ, ինչ տեղի է ունենում այսօր։ Այն, ինչին մենք հիմա վկա ենք՝ ընդհամենը տեղափոխում է մարդկային ստուգողներից ալգորիթմիկ ստուգողների։ Եվ բանը նրանում է, որ ալգորիթմերը դեռևս չունեն ներկառուցված էթիկական նորմեր, ի տարբերություն խմբագիրների: Եթե ալգորիթմերն են այսուհետ ղեկավարելու աշխարհը մեր փոխարեն, եթե դրանք են որոշելու, թե ինչը մենք պետք է տեսնենք և ինչը՝ ոչ, ապա մենք պետք է համոզված լինենք, որ դրանք հիմնված չլինեն զուտ ռելևանտության վրա։ Մենք պետք է համոզված լինենք, որ մեզ ցույց են տալիս այն տեղեկատվությունը, որը կարող է տհաճ լինի կամ մարտահրավեր նետի կամ կարևոր լինի՝ մի բան, որ անում է TED-ը, այն է՝ ներկայացնել տարբեր կարծիքներ:
And the thing is, we've actually been here before as a society. In 1915, it's not like newspapers were sweating a lot about their civic responsibilities. Then people noticed that they were doing something really important. That, in fact, you couldn't have a functioning democracy if citizens didn't get a good flow of information, that the newspapers were critical because they were acting as the filter, and then journalistic ethics developed. It wasn't perfect, but it got us through the last century. And so now, we're kind of back in 1915 on the Web. And we need the new gatekeepers to encode that kind of responsibility into the code that they're writing.
Բանն այն է, որ մենք որպես հասարակություն, արդեն անցել ենք այս ամենի միջով։ 1915 թ-ին թերթերն առանձնապես մտահոգված չէին իրենց քաղաքացիական պարտականություններով։ Հետո մարդիկ նկատեցին, դրանք իրականում շատ կարևոր են։ Հնարավոր չէ կառուցել ժողովրդավարություն, երբ քաղաքացիները չեն ստանում տեղեկատվության հոսք: Նախկինում թերթերը շատ կարևոր էին, որովհետև դրանք կրում էին ֆիլտրողի դեր, այնուհետև դրա հետևանքով զարգացավ լրագրողական էթիկայի կիրառումը: Այն կատարյալ չէր, սակայն ուղղորդեց մեզ անցյալ դարաշրջանի ընթացքում: Եվ ահա այժմ մենք ինչ-որ չափով վերադարձել ենք 1915 թվական՝ համացանցի առումով: Եվ մեզ հիմա հարկավոր են նոր ստուգողներ, որոնք նման պատասխանատվություն կհաղորդեն ծրագրերին, որոնք ստեղծվում են։
I know that there are a lot of people here from Facebook and from Google -- Larry and Sergey -- people who have helped build the Web as it is, and I'm grateful for that. But we really need you to make sure that these algorithms have encoded in them a sense of the public life, a sense of civic responsibility. We need you to make sure that they're transparent enough that we can see what the rules are that determine what gets through our filters. And we need you to give us some control so that we can decide what gets through and what doesn't. Because I think we really need the Internet to be that thing that we all dreamed of it being. We need it to connect us all together. We need it to introduce us to new ideas and new people and different perspectives. And it's not going to do that if it leaves us all isolated in a Web of one.
Ես գիտեմ, որ շատերդ այստեղ աշխատում եք Ֆեյսբուքում և Գուգլում՝ Լարրին և Սերգեյը այն մարդիկ են, ովքեր նպաստել են համացանցի ստեղծմանը, և ես շատ շնորհակալ եմ իրենցից: Բայց մենք պետք է անենք ամեն բան, որպեսզի այդ ալգորիթմներն իրենց մեջ ունենան քաղաքացիական պատասխանատվության զգացում։ Մենք պետք է համոզվենք, որ դրանք բավականաչափ թափանցիկ են, որ մենք կարող ենք հասկանալ այն օրենքները, որոնք որոշում են, թե ինչպես է տեղեկատվությունը ֆիլտրվում։ Եվ մեզ անհրաժեշտ է որոշակի վերահսկում, որպեսզի մենք կարողանանք որոշել, թե ինչն է ֆիլտրվում, իսկը ինչը՝ ոչ։ Որովհետև ես հավատացած եմ, որ մեզ համար անհրաժեշտ է, որ ինտերնետն ունենա այն նշանակությունը, որի մասին մենք երազում էինք։ Մեզ անհրաժեշտ է, որ այն միավորի մեզ բոլորիս։ Մեզ անհրաժեշտ է, որ այն ծանոթացնի մեզ նոր գաղափարների, նոր մարդկանց և նոր հեռանկարների հետ։ Եվ այդ բոլորը տեղի չի ունենա, եթե այն մեկուսացրած թողնի մեզ մեկ մարդու ցանցում։
Thank you.
Շնորհակալություն։
(Applause)
(Ծափահարություններ)