I want you to imagine walking into a room, a control room with a bunch of people, a hundred people, hunched over a desk with little dials, and that that control room will shape the thoughts and feelings of a billion people. This might sound like science fiction, but this actually exists right now, today.
Skúste si predstaviť, že vchádzate do miestnosti, riadiacej miestnosti plnej ľudí, stovky ľudí, zhrbených nad stolom s tlačidlami, a že táto riadiaca miestnosť formuje myšlienky a pocity miliardy ľudí. Znie to možno ako sci-fi, lenže toto skutočne existuje, práve teraz, dnes.
I know because I used to be in one of those control rooms. I was a design ethicist at Google, where I studied how do you ethically steer people's thoughts? Because what we don't talk about is how the handful of people working at a handful of technology companies through their choices will steer what a billion people are thinking today. Because when you pull out your phone and they design how this works or what's on the feed, it's scheduling little blocks of time in our minds. If you see a notification, it schedules you to have thoughts that maybe you didn't intend to have. If you swipe over that notification, it schedules you into spending a little bit of time getting sucked into something that maybe you didn't intend to get sucked into. When we talk about technology, we tend to talk about it as this blue sky opportunity. It could go any direction. And I want to get serious for a moment and tell you why it's going in a very specific direction. Because it's not evolving randomly. There's a hidden goal driving the direction of all of the technology we make, and that goal is the race for our attention. Because every news site, TED, elections, politicians, games, even meditation apps have to compete for one thing, which is our attention, and there's only so much of it. And the best way to get people's attention is to know how someone's mind works. And there's a whole bunch of persuasive techniques that I learned in college at a lab called the Persuasive Technology Lab to get people's attention.
Viem to, pretože som v jednej takejto miestnosti pracoval, ako etik dizajnu v Google, kde som skúmal, ako eticky ovládať myšlienky ľudí. Veľa sa totiž nehovorí o tom, ako hŕstka ľudí, ktorí pracujú pre pár technologických firiem, zámerne usmerňuje, čo si dnes myslí miliarda ľudí. Pretože keď vezmete svoj mobil a oni navrhujú, ako to funguje alebo čo je v príspevkoch, v mysli vám tak naplánujú malé časové bloky. Keď si všimnete notifikáciu, zahniezdia sa vám v mysli myšlienky, ktoré ste možno nechceli mať. Keď na túto notifikáciu kliknete, strávite kvôli nej chvíľku svojho času sústredením sa na niečo, do čoho ste sa možno vôbec nemali v úmysle nechať vtiahnuť. Keď sa bavíme o technológiách, máme tendenciu hovoriť o nich ako o neobmedzených možnostiach. Môžu ísť akýmkoľvek smerom. Teraz sa chcem nad tým vážne zamyslieť a vysvetliť, prečo to ide jedným veľmi konkrétnym smerom. Pretože tento vývoj nie je náhodný. Je tu skrytý cieľ, ktorý určuje smer všetkých technológií, čo vývíjame, a týmto cieľom je súboj o našu pozornosť. Pretože každý spravodajský web, TED, voľby, politici, hry a dokonca aj meditačné aplikácie musia súťažiť o jedinú vec: našu pozornosť. A tá nie je neobmedzená. A najlepší spôsob, ako ľudí zaujať, je vedieť, ako funguje ich myseľ. A existuje celý rad presvedčovacích techník, ktoré som sa naučil v univerzitnom Laboratóriu presvedčovacích technológií, ako získať ľudskú pozornosť.
A simple example is YouTube. YouTube wants to maximize how much time you spend. And so what do they do? They autoplay the next video. And let's say that works really well. They're getting a little bit more of people's time. Well, if you're Netflix, you look at that and say, well, that's shrinking my market share, so I'm going to autoplay the next episode. But then if you're Facebook, you say, that's shrinking all of my market share, so now I have to autoplay all the videos in the newsfeed before waiting for you to click play. So the internet is not evolving at random. The reason it feels like it's sucking us in the way it is is because of this race for attention. We know where this is going. Technology is not neutral, and it becomes this race to the bottom of the brain stem of who can go lower to get it.
Jednoduchou ukážkou je YouTube. YouTube chce, aby ste na ňom strávili čo možno najviac času. Čo teda urobia? Automaticky prehrajú nasledujúce video. A povedzme, že to funguje vážne dobre. Získajú o trochu viac vášho času. Ale keď ste Netflix, pozriete sa nato a poviete si: "Hm, to zmenšuje môj podiel na trhu, a tak budem automaticky prehrávať ďalšiu epizódu." Lenže ak ste Facebook, uvažujete: "To zmenšuje môj celkový podiel na trhu, tak teraz musím automaticky spúšťať všetky videá na stene, než ich kliknutím spustíte sami." Takže internet sa nevyvíja náhodne. Dôvod, prečo máme pocit, že nás to takýmto spôsobom vťahuje, je tento boj o pozornosť. Vieme, kam to povedie. Technológie nie sú neutrálne, a stáva sa z toho súboj o bunky mozgového kmeňa a o to, kto môže ísť hlbšie a získať ich.
Let me give you an example of Snapchat. If you didn't know, Snapchat is the number one way that teenagers in the United States communicate. So if you're like me, and you use text messages to communicate, Snapchat is that for teenagers, and there's, like, a hundred million of them that use it. And they invented a feature called Snapstreaks, which shows the number of days in a row that two people have communicated with each other. In other words, what they just did is they gave two people something they don't want to lose. Because if you're a teenager, and you have 150 days in a row, you don't want that to go away. And so think of the little blocks of time that that schedules in kids' minds. This isn't theoretical: when kids go on vacation, it's been shown they give their passwords to up to five other friends to keep their Snapstreaks going, even when they can't do it. And they have, like, 30 of these things, and so they have to get through taking photos of just pictures or walls or ceilings just to get through their day. So it's not even like they're having real conversations. We have a temptation to think about this as, oh, they're just using Snapchat the way we used to gossip on the telephone. It's probably OK. Well, what this misses is that in the 1970s, when you were just gossiping on the telephone, there wasn't a hundred engineers on the other side of the screen who knew exactly how your psychology worked and orchestrated you into a double bind with each other.
Dovoľte mi použiť príklad Snapchatu. Pokiaľ Snapchat nepoznáte, jedná sa o najobľúbenejší spôsob, akým spolu komunikujú teenageri v USA. Takže, pokiaľ ste ako ja a používate na komunikáciu SMS-ky, tak Snapchat je to isté pre teenagerov. A používa ho nejakých sto miliónov detí. A vývojári prišli s funkciou Snapstreaks, ktorá ukazuje súvislý rad dní, kedy boli spolu dvaja ľudia v kontakte. Inými slovami, urobili to, že dali dvom ľuďom niečo, o čo nechcú prísť. Pretože, pokiaľ ste teenager a máte 150 dňový rad, nechcete ho prerušiť. Pomyslite na tie bloy času, ktoré to načasuje v detských mysliach. A to nie je len teória: Keď deti idú na dovolenku, dajú svoje heslo až piatim ďalším kamarátom, aby im udržovali tieto rady neprerušené, keď to ony sami nemôžu robiť. A takýchto radov majú pokojne aj 30, a tak strávia celý deň fotením nejakých obrázkov, stien alebo stropov, len aby ich udržali. Takže nejde ani o to, že by viedli skutočné konverzácie. Nás to však zvádza myslileť si: "Ale veď len používajú Snapchat rovnako, ako sme my klebetili po telefóne. To je asi v poriadku." Ale zabúdame nato, že v sedemdesiatych rokoch, keď sme my klebetili po telefóne, nebola na druhej strane stovka inžinierov, ktorá presne vedela, ako funguje naša psychika, a riadili nás tak, aby sme spojenie nechceli prerušiť.
Now, if this is making you feel a little bit of outrage, notice that that thought just comes over you. Outrage is a really good way also of getting your attention, because we don't choose outrage. It happens to us. And if you're the Facebook newsfeed, whether you'd want to or not, you actually benefit when there's outrage. Because outrage doesn't just schedule a reaction in emotional time, space, for you. We want to share that outrage with other people. So we want to hit share and say, "Can you believe the thing that they said?" And so outrage works really well at getting attention, such that if Facebook had a choice between showing you the outrage feed and a calm newsfeed, they would want to show you the outrage feed, not because someone consciously chose that, but because that worked better at getting your attention. And the newsfeed control room is not accountable to us. It's only accountable to maximizing attention. It's also accountable, because of the business model of advertising, for anybody who can pay the most to actually walk into the control room and say, "That group over there, I want to schedule these thoughts into their minds." So you can target, you can precisely target a lie directly to the people who are most susceptible. And because this is profitable, it's only going to get worse.
Pokiaľ vo vás táto myšlienka vyvoláva trochu pobúreniia, všimnite si, že na vás pôsobí. Pobúrenie je tiež naozaj dobrý spôsob, ako získať vašu pozornosť, pretože pobúrenie si nevyberáme, len nás prepadne. A pokiaľ ste príspevkom na Facebooku, tak či chcete, alebo nie, z pobúrenia vlastne ťažíte. Pretože pobúrenie nielen vyvoláva reakciu v emočnom priestore a čase, vo vás. Vy toto pobúrenie chcete zdielať s ostatnými. Takže chceme príspevok zdielať so slovami: "Ako len mohli toto povedať?" A pobúrenie dokáže upútať našu pozornosť naozaj skvele, takže pokiaľ má Facebook na výber medzi zobrazením poburujúcich príspevkov a pokojných príspevkov, tak si vyberú tie prvé; nie preto, že ich niekto vedome vyberie, ale preto, že tie účinnejšie získajú vašu pozornosť. A riadiaca miestnosť príspevkov sa nezodpovedá nám. Cieľom je maximalizácia pozornosti. Zodpovedá sa tiež, kvôli obchodnému modelu reklamy, každému, kto najviac zaplatí, aby mohol prísť do riadiacej miestnosti a povedať: "Chcem naplánovať tieto myšlienky do myslí tamtej skupiny." Takže môžete zacieliť, môžete precízne zacieliť lož priamo na najľahšie ovplyvniteľných ľudí. A pretože to prináša zisk, bude sa to len zhoršovať.
So I'm here today because the costs are so obvious. I don't know a more urgent problem than this, because this problem is underneath all other problems. It's not just taking away our agency to spend our attention and live the lives that we want, it's changing the way that we have our conversations, it's changing our democracy, and it's changing our ability to have the conversations and relationships we want with each other. And it affects everyone, because a billion people have one of these in their pocket.
Takže dnes som tu preto, že náklady s tým spojené sú také očividné. Nepoznám naliehavejší problém než tento, pretože tento problém je základom ostatných problémov. Nielenže nás oberá o našu schopnosť nakladať so svojou pozornosťou a žiť životy, aké sami chceme; mení to aj spôsob ako vedieme konverzácie, mení to našu demokraciu, mení to našu schopnosť dialógu a vzájomné vzťahy, ktoré chceme mať. A ovplyvňuje to každého, pretože miliardy ľudí majú niečo takéto (smartfón) vo svojom vrecku.
So how do we fix this? We need to make three radical changes to technology and to our society. The first is we need to acknowledge that we are persuadable. Once you start understanding that your mind can be scheduled into having little thoughts or little blocks of time that you didn't choose, wouldn't we want to use that understanding and protect against the way that that happens? I think we need to see ourselves fundamentally in a new way. It's almost like a new period of human history, like the Enlightenment, but almost a kind of self-aware Enlightenment, that we can be persuaded, and there might be something we want to protect. The second is we need new models and accountability systems so that as the world gets better and more and more persuasive over time -- because it's only going to get more persuasive -- that the people in those control rooms are accountable and transparent to what we want. The only form of ethical persuasion that exists is when the goals of the persuader are aligned with the goals of the persuadee. And that involves questioning big things, like the business model of advertising. Lastly, we need a design renaissance, because once you have this view of human nature, that you can steer the timelines of a billion people -- just imagine, there's people who have some desire about what they want to do and what they want to be thinking and what they want to be feeling and how they want to be informed, and we're all just tugged into these other directions. And you have a billion people just tugged into all these different directions. Well, imagine an entire design renaissance that tried to orchestrate the exact and most empowering time-well-spent way for those timelines to happen. And that would involve two things: one would be protecting against the timelines that we don't want to be experiencing, the thoughts that we wouldn't want to be happening, so that when that ding happens, not having the ding that sends us away; and the second would be empowering us to live out the timeline that we want.
Takže ako to napravíme? Musíme spraviť tri radikálne zmeny v technológiách a v našej spoločnosti. Po prvé si musíme pripustiť, že sme presvedčiteľní. Akonáhle porozumiete, že vaša myseľ môže byť naprogramovaná, aby mala drobné myšlienky, alebo malé časové bloky, ktoré ste si nevybrali, nechceli by ste toto poznanie použiť tak, aby vás pred tým ochránilo? Myslím si, že sa musíme na seba pozerať od základov novým spôsobom. Je to skoro ako nová etapa v ľudskej histórii, ako osvietenstvo, ale skôr ako isté osvietenstvo "vedomé si samo seba", že môžeme byť nevedome presvedčení a že by tu mohlo byť niečo, čo chceme chrániť. Po druhé potrebujeme nové modely a systémy zodpovednosti, pretože ako sa svet zlepšuje v presviedčaní - lebo techniky presviedčania sa budú stále zdokonaľovať - tak tí ľudia v tých riadiacich miestnostiach by mali zodpovedne a transparentne sledovať naše záujmy. Pretože jediná forma etického presviedčania je taká, keď sú ciele presviedčajúceho v súlade s cieľmi presviedčaného. A to zahŕňa riešenie veľkých vecí ako obchodný model reklamy. Nakoniec potrebujeme obrodu dizajnu, pretože keď už máme tento pohľad na ľudskú povahu, že je možné meniť časové preferencie miliardy ľudí, len si predstavte ľudí, ktorí majú nejakú túžbu o tom, čo chcú robiť a načo chcú myslieť, čo chcú cítiť a ako chcú byť informovaní, no všetci budeme ťahaní inými smermi. Miliarda ľudí bude ťahaná týmito rôznymi smermi. Takže si predstavte úplnú zmenu dizajnu, ktorá sa pokúša o cielenú organizáciu "dobre stráveného času", dávajúcej ľuďom čo najväčšiu kontrolu nad ich aktivitami. A to by zahŕňalo dve veci: Ochranu proti aktivitám, ktoré nechceme zažívať, proti neželaným myšlienkam, takže keď zaznie signál, nemať to upozornenie, čo nás rozptýli. Druhá vec by bola uľahčovať nám zažívať aktivity, ktoré sami chceme.
So let me give you a concrete example. Today, let's say your friend cancels dinner on you, and you are feeling a little bit lonely. And so what do you do in that moment? You open up Facebook. And in that moment, the designers in the control room want to schedule exactly one thing, which is to maximize how much time you spend on the screen. Now, instead, imagine if those designers created a different timeline that was the easiest way, using all of their data, to actually help you get out with the people that you care about? Just think, alleviating all loneliness in society, if that was the timeline that Facebook wanted to make possible for people. Or imagine a different conversation. Let's say you wanted to post something supercontroversial on Facebook, which is a really important thing to be able to do, to talk about controversial topics. And right now, when there's that big comment box, it's almost asking you, what key do you want to type? In other words, it's scheduling a little timeline of things you're going to continue to do on the screen. And imagine instead that there was another button there saying, what would be most time well spent for you? And you click "host a dinner." And right there underneath the item it said, "Who wants to RSVP for the dinner?" And so you'd still have a conversation about something controversial, but you'd be having it in the most empowering place on your timeline, which would be at home that night with a bunch of a friends over to talk about it. So imagine we're running, like, a find and replace on all of the timelines that are currently steering us towards more and more screen time persuasively and replacing all of those timelines with what do we want in our lives.
Dovoľte mi uviesť konkrétny príklad. Povedzme, že dnes váš priateľ s vami zrušil večeru a vy sa cítite trochu osamelo. Čo urobíte v takejto chvíli? Otvoríte si Facebook. A práve v tomto momente, chcú vývojári v riadiacej miestnosti naplánovať presne jednu vec, a tou je maximalizácia času, ktorý strávite na obrazovke. Namiesto toho si predstavte, že títo vývojári vytvoria iný časový plán, čo by malo byť úplne jednoduché s dátami, ktoré majú k dispozícii, a pomôžu vám vyjsť si s ľuďmi, na ktorých vám záleží. Zamyslite sa nad možným zmiernením všetkej tej osamelosti v spoločnosti, ak by toto Facebook chcel ľuďom umožniť. Alebo si predstavte inú situáciu. Povedzme, že chcete na Facebooku zverejniť niečo veľmi kontroverzné, čo je skutočne veľmi dôležitá možnosť, hovoriť o kontroverzných témach. Teraz, keď je tam ten veľký priestor na komentár, priamo sa vám ponúka: "Ktorú klávesu chcete stlačiť?" Inými slovami, plánuje časový sled činností, s ktorými budete na obrazovke pokračovať. Predstavte si, že namiesto toho tam bude tlačidlo s otázkou: "Aký by bol pre vás najlepšie strávený čas?" Vy kliknete: "Usporiadať večeru." A priamo pod tým bude položka: "Ozvite sa, kto má záujem o večeru." Takže stále budete mať konverzáciu o niečom kontroverznom, ale na mieste a v čase, ktoré vám vyhovujú, čo by bolo v ten večer u vás doma, kde sa o tom budete rozprávať s priateľmi. Predstavte si, že by sme našli a nahradili všetky tie veci, čo nás aktuálne presvedčivo smerujú k stále dlhšiemu času strávenému za obrazovkou, niečím, čo my sami skutočne chceme v našich životoch.
It doesn't have to be this way. Instead of handicapping our attention, imagine if we used all of this data and all of this power and this new view of human nature to give us a superhuman ability to focus and a superhuman ability to put our attention to what we cared about and a superhuman ability to have the conversations that we need to have for democracy. The most complex challenges in the world require not just us to use our attention individually. They require us to use our attention and coordinate it together. Climate change is going to require that a lot of people are being able to coordinate their attention in the most empowering way together. And imagine creating a superhuman ability to do that.
Nemusí to byť takto. Predstavte si, že by sme využili všetky tieto dáta a všetku tú silu, tento nový pohľad na ľudskú povahu, namiesto na oslabovanie našej pozornosti na vytvorenie nadľudskej schopnosti sústrediť sa a zamerať svoju pozornosť na to, na čom nám záleží, a nadľudskej schopnosti viesť konverzácie, tak potrebné pre demokraciu. Najzložitejšie výzvy na svete vyžadujú nielen nás a individuálne využívanie našej pozornosti. Vyžadujú spoločné a koordinované využívanie našej pozornosti. Klimatické zmeny vyžadujú schopnosť veľkého množstva ľudí koordinovať ich pozornosť najlepším možným spôsobom. Predstavte si stvorenie nadľudskej schopnosti, ktorá to umožní.
Sometimes the world's most pressing and important problems are not these hypothetical future things that we could create in the future. Sometimes the most pressing problems are the ones that are right underneath our noses, the things that are already directing a billion people's thoughts. And maybe instead of getting excited about the new augmented reality and virtual reality and these cool things that could happen, which are going to be susceptible to the same race for attention, if we could fix the race for attention on the thing that's already in a billion people's pockets. Maybe instead of getting excited about the most exciting new cool fancy education apps, we could fix the way kids' minds are getting manipulated into sending empty messages back and forth.
Niekedy najpálčivejšie a najdôležitejšie problémy sveta nie sú hypotetické budúce veci, ktoré by sme mohli vytvoriť v budúcnosti. Niekedy sú najpálčivejšie problémy tie, ktoré sú priamo pod naším nosom, veci, ktoré už ovládajú miliardy ľudských myslí. A tak sa nevzrušujme nad novou rozšírenou realitou, virtuálnou realitou a všetkými tými super vecami, čo možno prídu, a ktoré budú náchylné na rovnaký boj o pozornosť, ale radšej riešme samotný boj o pozornosť, čo sa deje v zariadeniach vo vreckách miliardy ľudí. Možno namiesto nadšenia z nových vzrušujúcich módnych vzdelávacích aplikácií by sme mali riešiť manipuláciu mysle našich detí, kvôli ktorej si posielajú hore-dole prázdne správy.
(Applause)
(Potlesk)
Maybe instead of worrying about hypothetical future runaway artificial intelligences that are maximizing for one goal, we could solve the runaway artificial intelligence that already exists right now, which are these newsfeeds maximizing for one thing. It's almost like instead of running away to colonize new planets, we could fix the one that we're already on.
Možno namiesto obáv z hypotetickej budúcej neovládateľnej umelej inteligencie, ktorá sa zameria na nesprávny cieľ, by sme mali vyriešiť nezvládnutú umelú inteligenciu, ktorá už existuje a nevhodne riadi zobrazovanie príspevkov. Podobne ako by sme mohli namiesto ponáhľania sa s kolonizovaním nových planét opraviť tú, na ktorej žijeme.
(Applause)
(Potlesk)
Solving this problem is critical infrastructure for solving every other problem. There's nothing in your life or in our collective problems that does not require our ability to put our attention where we care about. At the end of our lives, all we have is our attention and our time. What will be time well spent for ours?
Riešenie tohto problému je kritickou infraštruktúrou pre vyriešenie všetkých ostatných problémov. Nie je nič vo vašom živote alebo v našich spoločných problémoch, čo by nevyžadovalo schopnosť zamerať pozornosť na veci, na ktorých nám záleží. Napokon nám všetkým ostanú len naša pozornosť a náš čas. Čo bude znamenať "dobre strávený čas" pre nás?
Thank you.
Ďakujem.
(Applause)
(Potlesk)
Chris Anderson: Tristan, thank you. Hey, stay up here a sec. First of all, thank you. I know we asked you to do this talk on pretty short notice, and you've had quite a stressful week getting this thing together, so thank you. Some people listening might say, what you complain about is addiction, and all these people doing this stuff, for them it's actually interesting. All these design decisions have built user content that is fantastically interesting. The world's more interesting than it ever has been. What's wrong with that?
Chris Anderson: Tristan, vďaka. Hej, zostaň tu ešte chvíľu. Predovšetkým ďakujem. Viem, že sme ťa požiadali o túto prednášku na poslednú chvíľu, a ty si mal dosť stresujúci týždeň dávajúc to celé dokopy, takže vďaka. Niektorí poslucháči by mohli povedať, že to, načo sa sťažuješ, je závislosť a pre tých, ktorí to robia, je to vlastne zaujímavé. Všetky tie dizajnové prvky užívateľského obsahu sú fantasticky zaujímavé. Najzaujímavejšie, aké doteraz boli vytvorené. Tak čo je na tom zlé?
Tristan Harris: I think it's really interesting. One way to see this is if you're just YouTube, for example, you want to always show the more interesting next video. You want to get better and better at suggesting that next video, but even if you could propose the perfect next video that everyone would want to watch, it would just be better and better at keeping you hooked on the screen. So what's missing in that equation is figuring out what our boundaries would be. You would want YouTube to know something about, say, falling asleep. The CEO of Netflix recently said, "our biggest competitors are Facebook, YouTube and sleep." And so what we need to recognize is that the human architecture is limited and that we have certain boundaries or dimensions of our lives that we want to be honored and respected, and technology could help do that.
TH: Myslím, že sú naozaj zaujímavé. Jeden spôsob, ako nato pozerať, je, napríklad keď ste YouTube, chcete vždy ukázať ešte zaujímavejšie nasledujúce video. Chcete byť lepší a lepší v navrhovaní nasledujúceho videa, ale aj ak by ste mohli navrhnúť perfektné ďalšie video, ktoré by všetci chceli pozerať, bol by to len lepší a lepší spôsob, ako vás udržať pred obrazovkou. Takže chýba určenie, kde by mali byť naše hranice. Mali by ste YouTube dať vedieť, povedzme, niečo o zaspávaní. Šéf Netflixu nedávno povedal: "Naši najväčší konkurenti sú Facebook, YouTube a spánok." Potrebujeme si uvedomiť, že ľudská architektúra je limitovaná a že máme určité hranice alebo dimenzie našich životov, ktoré chceme ctiť a rešpektovať, a technológie by nám v tom mali pomáhať.
(Applause)
(Potlesk)
CA: I mean, could you make the case that part of the problem here is that we've got a naïve model of human nature? So much of this is justified in terms of human preference, where we've got these algorithms that do an amazing job of optimizing for human preference, but which preference? There's the preferences of things that we really care about when we think about them versus the preferences of what we just instinctively click on. If we could implant that more nuanced view of human nature in every design, would that be a step forward?
CA: A mohol by si ukázať, že tento problém čiastočne spočíva v naivnej predstave o ľudskej povahe? Toľko z toho je odôvodnené ľudskými preferenciami, máme tieto algoritmy, ktoré skvelo optimalizujú preferencie, ale ktoré preferencie? Sú tam preferencie vecí, na ktorých nám záleží, keď nad nimi rozmýšľame, versus preferencie, na ktoré len inštinktívne klikáme. Ak by sme mohli vniesť tento detailnejší obraz ľudskej povahy do každého dizajnu, bol by to krok vpred?
TH: Absolutely. I mean, I think right now it's as if all of our technology is basically only asking our lizard brain what's the best way to just impulsively get you to do the next tiniest thing with your time, instead of asking you in your life what we would be most time well spent for you? What would be the perfect timeline that might include something later, would be time well spent for you here at TED in your last day here?
TH: Určite. Myslím, že v súčasnosti akoby sa naše technológie len pýtali vašich pradávnych inštinktov, čo je najlepší spôsob, ako vás donútiť impulzívne spraviť nasledujúcu drobnosť s vaším časom, namiesto otázky, čo by mohol byť pre vás "najlepšie strávený čas". Čo by bolo pre vás ideálne, vrátane niečoho neskoršieho, mohol by byť dobre strávený čas pre vás tu, posledný deň na TED?
CA: So if Facebook and Google and everyone said to us first up, "Hey, would you like us to optimize for your reflective brain or your lizard brain? You choose."
CA: Takže Facebook a Google a ostatní by sa najprv spýtali: "Chcete, aby sme optimalizovali pre váš mysliaci alebo inštinktívny mozog? Vyberte si."
TH: Right. That would be one way. Yes.
TH: Správne, to by mohol byť jeden spôsob.
CA: You said persuadability, that's an interesting word to me because to me there's two different types of persuadability. There's the persuadability that we're trying right now of reason and thinking and making an argument, but I think you're almost talking about a different kind, a more visceral type of persuadability, of being persuaded without even knowing that you're thinking.
CA: Povedal si presvedčiteľnosť; pre mňa zaujímavé slovo, pretože podľa mňa sú dva typy presvedčiteľnosti. Je tu presvedčiteľnosť, ktorú skúšame práve teraz, rozumom, rozmýšľaním a argumentovaním, ale myslím že ty hovoríš o odlišnom type, viac pudovom; o tom, ako byť presvedčený bez toho, aby si vedel, že premýšľaš.
TH: Exactly. The reason I care about this problem so much is I studied at a lab called the Persuasive Technology Lab at Stanford that taught [students how to recognize] exactly these techniques. There's conferences and workshops that teach people all these covert ways of getting people's attention and orchestrating people's lives. And it's because most people don't know that that exists that this conversation is so important.
TH: Presne. Na tomto probléme mi veľmi záleží, lebo som študoval v Laboratóriu presvedčovacích technológií na Standforde, kde sa ľudia učia presne tieto techniky. Sú konferencie a workshopy, kde sa učia tieto skryté spôsoby získavania ľudskej pozornosti a organizovania ľudských životov. A pretože väčšina netuší, že to existuje, je táto konverzácia tak dôležitá.
CA: Tristan, you and I, we both know so many people from all these companies. There are actually many here in the room, and I don't know about you, but my experience of them is that there is no shortage of good intent. People want a better world. They are actually -- they really want it. And I don't think anything you're saying is that these are evil people. It's a system where there's these unintended consequences that have really got out of control --
CA: Tristan, my obaja poznáme veľa ľudí zo všetkých týchto spoločností. Veľa ich je dokonca tu v sále. Neviem ako ty, ale moje skúsenosti s nimi sú, že u nich nevidím nedostatok dobrého úmyslu. Ľudia chcú lepší svet. Skutočne ho chcú. A nemyslím si, že by si tvrdil, že sú to zlí ľudia. Je to systém, kde sa tieto nezamýšľané následky vymkli kontrole.
TH: Of this race for attention. It's the classic race to the bottom when you have to get attention, and it's so tense. The only way to get more is to go lower on the brain stem, to go lower into outrage, to go lower into emotion, to go lower into the lizard brain.
TH: Je to intenzívny súboj o pozornosť s klasickou snahou spoločností znižovať náklady na získanie pozornosti. Jediný spôsob, ako získať viac, je ísť hlbšie do mozgového kmeňa, isť hlbšie do pobúrenia, hlbšie do emócií, hlbšie do pudového mozgu.
CA: Well, thank you so much for helping us all get a little bit wiser about this.
CA: Veľmi ďakujem, že nám všetkým pomáhaš vedieť o tom viac.
Tristan Harris, thank you. TH: Thank you very much.
Trsitan Harris, ďakujeme. TH: Ďakujem veľmi pekne.
(Applause)
(Potlesk)