I want you to imagine walking into a room, a control room with a bunch of people, a hundred people, hunched over a desk with little dials, and that that control room will shape the thoughts and feelings of a billion people. This might sound like science fiction, but this actually exists right now, today.
Hãy tưởng tượng bạn đang đi vào một căn phòng, là phòng điều khiển, cùng với một nhóm người một trăm người, quanh một cái bàn với những chiếc điện thoại quay số và phòng điều khiển đó sẽ định hình suy nghĩ và cảm xúc của một tỷ người. Điều đó nghe như khoa học viễn tưởng, nhưng điều đó thực sự đang tồn tại ngay hôm nay, ngay lúc này.
I know because I used to be in one of those control rooms. I was a design ethicist at Google, where I studied how do you ethically steer people's thoughts? Because what we don't talk about is how the handful of people working at a handful of technology companies through their choices will steer what a billion people are thinking today. Because when you pull out your phone and they design how this works or what's on the feed, it's scheduling little blocks of time in our minds. If you see a notification, it schedules you to have thoughts that maybe you didn't intend to have. If you swipe over that notification, it schedules you into spending a little bit of time getting sucked into something that maybe you didn't intend to get sucked into. When we talk about technology, we tend to talk about it as this blue sky opportunity. It could go any direction. And I want to get serious for a moment and tell you why it's going in a very specific direction. Because it's not evolving randomly. There's a hidden goal driving the direction of all of the technology we make, and that goal is the race for our attention. Because every news site, TED, elections, politicians, games, even meditation apps have to compete for one thing, which is our attention, and there's only so much of it. And the best way to get people's attention is to know how someone's mind works. And there's a whole bunch of persuasive techniques that I learned in college at a lab called the Persuasive Technology Lab to get people's attention.
Tôi biết vì tôi đã từng là một trong những người ở căn phòng đó. Tôi đã là người phác thảo khuôn mẫu tại Google, nơi tôi học làm thế nào bạn hướng ý nghĩ con người theo khuôn mẫu. Vì chúng tôi không nói về việc làm thế nào mà một nhóm người đang làm việc cho một số công ty công nghệ thông qua lựa chọn của họ để điều khiển suy nghĩ của một tỉ người. Vì khi bạn lấy điện thoại ra và họ thiết kế việc gì kế tiếp, cái gì sẽ hiện ra, nó lên lịch như một đồng hồ nhỏ trong suy nghĩ của bạn. Nếu bạn thấy một thông báo, nó khiến bạn có những suy nghĩ mà bạn vốn không muốn có. Nếu bạn bỏ qua những thông báo đó, nó sẽ đặt lịch cho bạn dùng từng chút thời gian để bị thu hút vào một điều đó mà bạn vốn không muốn bị thu hút vào. Khi chúng ta nói về công nghệ, chúng ta có khuynh hướng nói về nó như một chân trời cơ hội, có thể đi bất kỳ hướng nào. Và lúc này tôi muốn nghiêm túc nói với các bạn tại sao nó luôn đi theo một hướng nhất định. Vì nó không phát triển một cách ngẫu nhiên. Có một mục tiêu ẩn dẫn dắt hướng đi cho tất cả công nghệ chúng tôi tạo ra, và mục tiêu đó là cuộc đua giành sự chú ý. Vì mọi trang mạng mới-- TED, bầu cử, chính khách, trò chơi, cả những ứng dụng để thiền-- phải tranh giành một thứ, đó là sự chú ý của chúng ta, và nó bị giới hạn số lượng. Và cách tốt nhất để có được sự chú ý của mọi người là biết cách họ tư duy. Có một loạt những kỹ thuật thuyết phục mà tôi đã học tại phòng thí nghiệm tên là Phòng Công Nghệ Thuyết Phục để lấy được sự chú ý của mọi người.
A simple example is YouTube. YouTube wants to maximize how much time you spend. And so what do they do? They autoplay the next video. And let's say that works really well. They're getting a little bit more of people's time. Well, if you're Netflix, you look at that and say, well, that's shrinking my market share, so I'm going to autoplay the next episode. But then if you're Facebook, you say, that's shrinking all of my market share, so now I have to autoplay all the videos in the newsfeed before waiting for you to click play. So the internet is not evolving at random. The reason it feels like it's sucking us in the way it is is because of this race for attention. We know where this is going. Technology is not neutral, and it becomes this race to the bottom of the brain stem of who can go lower to get it.
Ví dụ đơn giản như YouTube. YouTube muốn tối đa hoá thời gian bạn sử dụng nó. Và họ sẽ làm gì? Họ tự động chuyển sang video kế tiếp. Việc này rất có hiệu quả. Họ có thêm một chút thời gian của người dùng. Nếu bạn là Netflix, bạn nhìn vào đó và nói, nó làm giảm thị phần của chúng ta, nên ta sẽ tự chuyển sang tập kế tiếp. Nhưng nếu bạn là Facebook, bạn nói, nó làm giảm hết thị phần của chúng ta nên ta sẽ phải tự động chạy tất cả các video trên trang chủ mà không cần chờ bạn nhấn nút. Do vậy, Internet không phát triển một cách ngẫu nhiên. Lí do nó khiến chúng ta thấy như bị "hút cạn" thời gian là bởi vì cuộc đua giành sự chú ý này. Chúng tôi biết nó sẽ đi tới đâu. Công nghệ không trung tính, và nó trở thành cuộc đua đến tận gốc của tế bào não ai có thể đi sâu hơn để có được nó.
Let me give you an example of Snapchat. If you didn't know, Snapchat is the number one way that teenagers in the United States communicate. So if you're like me, and you use text messages to communicate, Snapchat is that for teenagers, and there's, like, a hundred million of them that use it. And they invented a feature called Snapstreaks, which shows the number of days in a row that two people have communicated with each other. In other words, what they just did is they gave two people something they don't want to lose. Because if you're a teenager, and you have 150 days in a row, you don't want that to go away. And so think of the little blocks of time that that schedules in kids' minds. This isn't theoretical: when kids go on vacation, it's been shown they give their passwords to up to five other friends to keep their Snapstreaks going, even when they can't do it. And they have, like, 30 of these things, and so they have to get through taking photos of just pictures or walls or ceilings just to get through their day. So it's not even like they're having real conversations. We have a temptation to think about this as, oh, they're just using Snapchat the way we used to gossip on the telephone. It's probably OK. Well, what this misses is that in the 1970s, when you were just gossiping on the telephone, there wasn't a hundred engineers on the other side of the screen who knew exactly how your psychology worked and orchestrated you into a double bind with each other.
Tôi sẽ lấy một ví dụ về Snapchat. Nếu bạn không biết, Snapchat là cách giao tiếp phổ biến nhất của các thiếu niên Mỹ. Nếu bạn giống tôi, sử dụng tin nhắn thường để trao đổi. thì Snapchat là thứ tương tự mà các thiếu niên sử dụng, có khoảng một trăm triệu người sử dụng nó. Họ đã phát minh một chức năng gọi là Snaptreakes, cho biết số ngày liên tiếp mà hai người trò chuyện với nhau. Nói cách khác, điều họ làm là cho hai con người một thứ mà họ không muốn mất. Vì nếu bạn là một thiếu niên, và bạn có kỉ lục 150 ngày liên tiếp, bạn không muốn làm mất nó. Hãy nghĩ về một khoảng thời gian đặt lịch cố định trong đầu bọn trẻ. Đây không phải là lý thuyết: khi bọn trẻ đi nghỉ mát, chúng sẽ đưa mật khẩu cho khoảng năm người bạn khác nhau để giữ kỉ lục Snapstreakes, ngay cả khi chúng không thể làm điều đó. Và chúng có khoảng 30 thứ như vậy, và phải có những bức hình dù là tranh hay bức tường hay trần nhà chỉ để qua ngày. Do vậy nó sẽ không giống một cuộc trò chuyện thật sự. Chúng ta có xu hướng nghĩ về nó như, oh, chúng chỉ dùng Snapchat như cách chúng ta dùng điện thoại để tám chuyện, có thể chấp nhận được. Nhưng sự khác biệt là vào những năm 1970, khi bạn chỉ trò chuyện trên điện thoại, lúc đó không có hàng trăm kỹ sư ngồi trước màn hình những người biết chính xác hoạt động tâm lý của bạn và sắp đặt bạn vào mối liên kết với những người khác.
Now, if this is making you feel a little bit of outrage, notice that that thought just comes over you. Outrage is a really good way also of getting your attention, because we don't choose outrage. It happens to us. And if you're the Facebook newsfeed, whether you'd want to or not, you actually benefit when there's outrage. Because outrage doesn't just schedule a reaction in emotional time, space, for you. We want to share that outrage with other people. So we want to hit share and say, "Can you believe the thing that they said?" And so outrage works really well at getting attention, such that if Facebook had a choice between showing you the outrage feed and a calm newsfeed, they would want to show you the outrage feed, not because someone consciously chose that, but because that worked better at getting your attention. And the newsfeed control room is not accountable to us. It's only accountable to maximizing attention. It's also accountable, because of the business model of advertising, for anybody who can pay the most to actually walk into the control room and say, "That group over there, I want to schedule these thoughts into their minds." So you can target, you can precisely target a lie directly to the people who are most susceptible. And because this is profitable, it's only going to get worse.
Bây giờ, nếu điều đó đang tạo cho bạn cảm giác bực bội. chú ý rằng ý nghĩ đó chỉ thoáng qua bạn. Sự bực bội này là cách tốt nhất để có được sự chú ý của bạn vì ta không lựa chọn sự bực bội mà là nó đang diễn ra với chúng ta, và nếu bạn có tin tức Facebook, dù bạn muốn hay không bạn được hưởng lợi khi có sự bực bội. Vì sự bực bội này không chỉ được lên lịch như phản ứng trong cảm xúc không gian, thời gian của bạn. Chúng ta muốn chia sẻ sự phẫn nộ này với những người khác. Và ta muốn chia sẻ và nói, "Bạn có thể tin những gì họ đã nói không?" Và sự phẫn nộ rất dễ gây sự chú ý, đến mức nếu Facebook có sự lựa chọn giữa việc đưa thông tin gây phẫn nộ hay những tin tức bình yên, họ muốn đưa những tin tức gây phẫn nộ không chủ đích vì một người nào, nhưng vị việc tạo được sự chú ý sẽ tốt hơn. Và phòng điều khiển tin tức không thuộc trách nhiệm của chúng tôi. Nó chỉ chịu trách nhiệm cho sự chú ý lớn nhất. Nó chỉ có trách nhiệm theo một dạng quảng cáo kinh doanh, cho bất kỳ ai trả tiền để đi vào phòng điều khiển và nói, "Nhóm kia, tôi muốn lên lịch cho những suy nghĩ trong họ". Và bạn có thể có nhắm tới bạn có thể liên tục nhắm tới việc lừa một người nhạy cảm một cách trực tiếp. Và vì đây là việc sinh lời, nên nó dần trở nên xấu đi.
So I'm here today because the costs are so obvious. I don't know a more urgent problem than this, because this problem is underneath all other problems. It's not just taking away our agency to spend our attention and live the lives that we want, it's changing the way that we have our conversations, it's changing our democracy, and it's changing our ability to have the conversations and relationships we want with each other. And it affects everyone, because a billion people have one of these in their pocket.
Do vậy tôi ở đây hôm nay vì cái giá của nó rất hiển nhiên. Tôi không biết những vấn đề cấp thiết hơn, vì vấn đề này nằm dưới những vấn đề khác. Nó không chỉ làm mất quyền của chúng ta về điều ta quan tâm và sống cuộc sống chúng ta muốn, nó đang thay đổi cách thức chúng ta trò chuyện, nó đang thay đổi chế độ dân chủ, và nó đang thay đổi khả năng có thể bắt chuyện và mối quan hệ chúng ta muốn có. Và nó có ảnh hưởng tới mọi người, vì hàng tỷ người có mặt trong số những nhóm đặc biệt đó.
So how do we fix this? We need to make three radical changes to technology and to our society. The first is we need to acknowledge that we are persuadable. Once you start understanding that your mind can be scheduled into having little thoughts or little blocks of time that you didn't choose, wouldn't we want to use that understanding and protect against the way that that happens? I think we need to see ourselves fundamentally in a new way. It's almost like a new period of human history, like the Enlightenment, but almost a kind of self-aware Enlightenment, that we can be persuaded, and there might be something we want to protect. The second is we need new models and accountability systems so that as the world gets better and more and more persuasive over time -- because it's only going to get more persuasive -- that the people in those control rooms are accountable and transparent to what we want. The only form of ethical persuasion that exists is when the goals of the persuader are aligned with the goals of the persuadee. And that involves questioning big things, like the business model of advertising. Lastly, we need a design renaissance, because once you have this view of human nature, that you can steer the timelines of a billion people -- just imagine, there's people who have some desire about what they want to do and what they want to be thinking and what they want to be feeling and how they want to be informed, and we're all just tugged into these other directions. And you have a billion people just tugged into all these different directions. Well, imagine an entire design renaissance that tried to orchestrate the exact and most empowering time-well-spent way for those timelines to happen. And that would involve two things: one would be protecting against the timelines that we don't want to be experiencing, the thoughts that we wouldn't want to be happening, so that when that ding happens, not having the ding that sends us away; and the second would be empowering us to live out the timeline that we want.
Vậy chúng ta thay đổi nó thế nào? Chúng ta cần tạo ra ba thay đổi lớn về công nghệ và xã hội. Điều đầu tiên, chúng ta cần hiểu rằng mình dễ bị thuyết phục. Một khi bạn bắt đầu hiểu rằng trí nhớ của bạn có thể được lên lịch cho các suy nghĩ thoáng qua hoặc một thời khắc mà bạn không lựa chọn chẳng phải chúng ta muốn dùng điều đó để bảo vệ chống lại cách mà nó đang diễn ra sao? Tôi nghĩ ta cần nhìn nhận bản thân theo một cách mới. Nó gần như một giai đoạn mới của lịch sử loài người, như một sự khai sáng, nhưng thiên về tự khai sáng, rằng chúng ta có thể bị thuyết phục, và có một số điều mà chúng ta muốn bảo vệ. Thứ hai là chúng ta cần một mô hình mới và hệ thống đáng tin cậy để khi thế giới trở nên tốt hơn và có sức thuyết phục theo thời gian hơn- bởi vì nó chỉ ngày càng nhiều sức thuyết phục hơn đó là khi những người trong phòng điều khiển đáng tin cậy và minh bạch về những gì chúng ta muốn. Hình thức thuyết phục duy nhất còn tồn tại là khi mục đích của người thuyết phục giống với mục đích của người được thuyết phục. Và nó cần đặt câu hỏi lớn về những vấn đề như mô hình kinh doanh hay quảng cáo. Sau cùng, ta cần một thiết kế phục hưng vì khi bạn đã có cái nhìn tổng thể về bản chất con người, bạn có thể điều khiển thời gian của một tỷ người-- hãy tưởng tượng, những người có khao khát về những họ muốn làm và những gì họ muốn nghĩ và những gì họ đang cảm thấy và cách họ muốn thu nhận tin tức, và chúng ta lại bị kéo hoàn toàn theo hướng khác. Và có một tỷ người bị kéo theo các hướng khác. Hãy nghĩ về một thiết kế phục hưng như một người nhạc trưởng chính xác và có thể truyền sức mạnh điều phối thời gian hiệu quả cho những gì đang diễn ra. Và điều đó bao gồm hai điều: một là nó sẽ được bảo vệ chống lại dòng thời gian mà chúng ta không muốn trải nghiệm, những suy nghĩ mà ta không muốn nghĩ để khi tiếng "ding" phát ra, nó không làm chúng ta xao lãng và điều thứ hai là sẽ truyền sức mạnh để ta sống theo thời gian mình muốn.
So let me give you a concrete example. Today, let's say your friend cancels dinner on you, and you are feeling a little bit lonely. And so what do you do in that moment? You open up Facebook. And in that moment, the designers in the control room want to schedule exactly one thing, which is to maximize how much time you spend on the screen. Now, instead, imagine if those designers created a different timeline that was the easiest way, using all of their data, to actually help you get out with the people that you care about? Just think, alleviating all loneliness in society, if that was the timeline that Facebook wanted to make possible for people. Or imagine a different conversation. Let's say you wanted to post something supercontroversial on Facebook, which is a really important thing to be able to do, to talk about controversial topics. And right now, when there's that big comment box, it's almost asking you, what key do you want to type? In other words, it's scheduling a little timeline of things you're going to continue to do on the screen. And imagine instead that there was another button there saying, what would be most time well spent for you? And you click "host a dinner." And right there underneath the item it said, "Who wants to RSVP for the dinner?" And so you'd still have a conversation about something controversial, but you'd be having it in the most empowering place on your timeline, which would be at home that night with a bunch of a friends over to talk about it. So imagine we're running, like, a find and replace on all of the timelines that are currently steering us towards more and more screen time persuasively and replacing all of those timelines with what do we want in our lives.
Để tôi cho bạn một ví dụ. Hôm nay, bạn của bạn huỷ cuộc hẹn ăn tối với bạn, và bạn sẽ cảm thấy có chút cô đơn. Và bạn sẽ làm gì vào lúc đó? Bạn mở Facebook. Và trong khoảnh khắc đó, người thiết kế trong phòng điều khiển muốn lên lịch một điều duy nhất, đó là kéo dài tối đa thời gian bạn lướt màn hình. Bây giờ, thay vào đó, tưởng tượng nếu người thiết kế tạo ra dòng thời gian khác là cách dễ dàng nhất, dùng toàn bộ dữ liệu của họ, để chắc chắn giúp cho bạn liên lạc được với người mà bạn quan tâm? Hãy nghĩ đến việc làm giảm đi sự cô đơn trong xã hội, nếu đó là dòng thời gian mà Facebook muốn tạo ra cho người dùng. Hay tưởng tượng một câu chuyện khác. Ví dụ bạn muốn đưa lên một thông tin mang tính tranh luận cao lên Facebook, nó thật sự quan trọng để làm, nói về các chủ đề gây tranh cãi. Và ngay bây giờ, khi mà nó là một kho bình luận lớn, nó sẽ chỉ hỏi bạn muốn bình luận thế nào? Nói cách khác, nó lên lịch cho một số việc mà bạn sẽ tiếp tục làm trên màn hình. Và hãy tưởng tượng rằng có một nút khác hỏi rằng bạn muốn làm gì nhất lúc này? Và bạn nhấn "mời ăn tối." Và ngay lập tức sẽ có một lời hồi đáp, "Ai muốn nhận lời mời ăn tối?" Và có thể tiếp tục cuộc trò chuyện xoay quanh một chủ đề bàn luận, nhưng địa điểm tốt nhất cho cuộc tranh luận trên timeline của bạn, là tại nhà bạn tối hôm đó, tụ tập với một nhóm bạn để bàn luận về điều đó. Hãy nghĩ rằng chúng ta đang chạy, như đang tìm kiếm và thay thế tất cả những lời gợi ý trên dòng thời gian chi phối chúng ta dành ngày càng nhiều thời gian cho nó và thay thế tất cả dòng thời gian đó với những gì chúng ta muốn cho cuộc sống của mình.
It doesn't have to be this way. Instead of handicapping our attention, imagine if we used all of this data and all of this power and this new view of human nature to give us a superhuman ability to focus and a superhuman ability to put our attention to what we cared about and a superhuman ability to have the conversations that we need to have for democracy. The most complex challenges in the world require not just us to use our attention individually. They require us to use our attention and coordinate it together. Climate change is going to require that a lot of people are being able to coordinate their attention in the most empowering way together. And imagine creating a superhuman ability to do that.
Không nhất thiết phải làm như vậy. Thay vì làm giảm sự chú ý của mình, tưởng tượng nếu chúng ta dùng tất cả dữ liệu và cả sức lực và cái nhìn mới về bản chất con người để cho chúng ta một khả năng tập trung cao độ và khả năng siêu phàm để đặt sự chú ý vào cái mà ta quan tâm và một siêu năng lực để tạo ra các hội thoại cần thiết cho sự dân chủ. Những thử thách phức tạp nhất trên thế giới không chỉ yêu cầu sự chú ý của bạn. mà chúng còn yêu cầu tận dụng sự chú ý và hợp tác lẫn nhau. Biến đổi khí hậu sẽ cần rất nhiều người có thể tập hợp sự chú ý của họ một cách mạnh mẽ nhất có thể. Và tưởng tượng tạo ra một siêu năng lực có thể làm được điều đó.
Sometimes the world's most pressing and important problems are not these hypothetical future things that we could create in the future. Sometimes the most pressing problems are the ones that are right underneath our noses, the things that are already directing a billion people's thoughts. And maybe instead of getting excited about the new augmented reality and virtual reality and these cool things that could happen, which are going to be susceptible to the same race for attention, if we could fix the race for attention on the thing that's already in a billion people's pockets. Maybe instead of getting excited about the most exciting new cool fancy education apps, we could fix the way kids' minds are getting manipulated into sending empty messages back and forth.
Thỉnh thoảng, những vấn đề quan trọng và khẩn trương của thế giới không phải một giả thuyết về những gì có thể tạo ra trong tương lai. Đôi khi những vấn đề cấp bách nhất là thứ ngay dưới mũi chúng ta một việc có thể định hướng cho suy nghĩ của một tỷ người. Và có thể thay vì chú ý vào thực tế mới nổi và thực tế ảo và những thứ thú vị có thể diễn ra, những thứ tham gia vào cuộc đua gây sự chú ý, nếu chúng ta có thể cố định cuộc đua này vào thứ đang có sẵn trong túi của một tỷ người. Có thể thay vì quan tâm tới những ứng dụng giáo dục mới thú vị chúng ta có thể điều chỉnh cách thức suy nghĩ của trẻ về việc vùi đầu vào gửi tin nhắn qua lại.
(Applause)
(Vỗ tay)
Maybe instead of worrying about hypothetical future runaway artificial intelligences that are maximizing for one goal, we could solve the runaway artificial intelligence that already exists right now, which are these newsfeeds maximizing for one thing. It's almost like instead of running away to colonize new planets, we could fix the one that we're already on.
Có thể thay vì lo lắng cho những giả thiết về cuộc đua trí thông minh nhân tạo trong tương lai mà được tối ưu hóa cho một mục đích duy nhất, chúng ta có thể giải quyết cuộc đua trí thông minh nhân tạo mà hiện tại đang diễn ra, chúng là tin tức được tối ưu hóa chỉ vì một mục đích duy nhất. Thay vì chạy đi xâm chiếm các hành tinh mới, thì có thể điều chỉnh hành tinh mình đang sống.
(Applause)
(Vỗ tay)
Solving this problem is critical infrastructure for solving every other problem. There's nothing in your life or in our collective problems that does not require our ability to put our attention where we care about. At the end of our lives, all we have is our attention and our time. What will be time well spent for ours?
Giải quyết vấn đề này là cơ sở quan trọng để giải quyết những vấn đề khác. Không có gì trong cuộc sống của bạn hay trong những vấn đề của chúng ta mà không yêu cầu đặt sự chú ý vào nơi chúng ta quan tâm. Vào cuối đời, tất cả những gì ta có là sự quan tâm và thời gian. Chúng ta sẽ sử dụng thời gian thế nào cho tốt?
Thank you.
Cảm ơn.
(Applause)
(Vỗ tay)
Chris Anderson: Tristan, thank you. Hey, stay up here a sec. First of all, thank you. I know we asked you to do this talk on pretty short notice, and you've had quite a stressful week getting this thing together, so thank you. Some people listening might say, what you complain about is addiction, and all these people doing this stuff, for them it's actually interesting. All these design decisions have built user content that is fantastically interesting. The world's more interesting than it ever has been. What's wrong with that?
Chris Anderson: Triston, cảm ơn bạn. Nào, đứng lại đây một chút. Đầu tiên, cảm ơn bạn Tôi biết họ đã yêu cầu bạn phát biểu trong thời gian chuẩn bị rất ngắn và bạn có một tuần rất áp lực để chuẩn bị, cảm ơn bạn. Một vài người nghe muốn nói rằng bạn phàn nàn về sự gây nghiện và những người làm việc này, nó thực sự rất thú vị. Tất cả những quyết định được xây dựng bao hàm những điều thú vị. Thế giới ngày càng trở nên thú vị hơn. Điều đó có gì sai?
Tristan Harris: I think it's really interesting. One way to see this is if you're just YouTube, for example, you want to always show the more interesting next video. You want to get better and better at suggesting that next video, but even if you could propose the perfect next video that everyone would want to watch, it would just be better and better at keeping you hooked on the screen. So what's missing in that equation is figuring out what our boundaries would be. You would want YouTube to know something about, say, falling asleep. The CEO of Netflix recently said, "our biggest competitors are Facebook, YouTube and sleep." And so what we need to recognize is that the human architecture is limited and that we have certain boundaries or dimensions of our lives that we want to be honored and respected, and technology could help do that.
Tristan Harris: Tôi nghĩ nó thực sự thú vị. Lấy một ví dụ như bạn đang xem YouTube, bạn luôn muốn xem những video thú vị hơn. Bạn muốn có những gợi ý tốt hơn về video tiếp theo nhưng kể cả khi bạn đưa ra gợi ý hoàn hảo cho những video kế tiếp mà ai cũng muốn xem, thì nó chỉ giữ bạn dán mắt vào màn hình lâu hơn mà thôi. Do vậy sai sót của phương trình này là tìm ra giới hạn là gì. Bạn muốn YouTube biết về, sự buồn ngủ chẳng hạn. CEO của Netflixx đã nói, "Đối thủ lớn nhất của chúng tôi là Facebook, YouTube và ngủ" Và chúng ta cần nhận ra rằng kiến trúc con người bị giới hạn, có các giới hạn hay kích thước nhất định cho cuộc sống của chúng ta mà chúng ta muốn giữ vững và tôn trọng và công nghệ có thể giúp chúng ta làm điều đó.
(Applause)
(Vỗ tay)
CA: I mean, could you make the case that part of the problem here is that we've got a naïve model of human nature? So much of this is justified in terms of human preference, where we've got these algorithms that do an amazing job of optimizing for human preference, but which preference? There's the preferences of things that we really care about when we think about them versus the preferences of what we just instinctively click on. If we could implant that more nuanced view of human nature in every design, would that be a step forward?
CA: Vậy bạn có thể giải thích trường hợp một phần vấn đề là do chúng ta có bản chất ngây thơ. Nó được bào chữa bằng việc con người có những ưu tiên, chúng ta có thuật toán để làm những việc thú vị cho việc tối ưu hóa sự ưu tiên của con người, nhưng ưu tiên như thế nào? Ưu tiên cho những thứ chúng ta thực sự quan tâm khi chúng ta nghĩ về chúng so với những ưu tiên mà chúng ta vô tình nhấn chuột vào nếu chúng ta có thể áp dụng cách nghĩ đó về con người vào các bản thiết kế thì nó có thể là một bước tiến không?
TH: Absolutely. I mean, I think right now it's as if all of our technology is basically only asking our lizard brain what's the best way to just impulsively get you to do the next tiniest thing with your time, instead of asking you in your life what we would be most time well spent for you? What would be the perfect timeline that might include something later, would be time well spent for you here at TED in your last day here?
TH: Dĩ nhiên, tôi nghĩ bây giờ tất cả những công nghệ của chúng ta chỉ đơn thuần hỏi bộ não bò sát về cách tốt nhất để ngay lập tức áp đặt bạn làm những việc tiếp theo thay vì hỏi xem trong cuộc sống bạn muốn dành thời gian cho việc gì nhất? Bạn muốn phân bổ thời gian như thế nào một cách hoàn hảo nhất cho ngày cuối cùng ở TED?
CA: So if Facebook and Google and everyone said to us first up, "Hey, would you like us to optimize for your reflective brain or your lizard brain? You choose."
CA: Vậy nếu Facebook và Google và tất cả mọi người đều nói rằng: "Bạn có muốn chúng tôi tối ưu hoá phần não phản xạ của bạn hay não bó sát? Bạn hãy chọn đi"
TH: Right. That would be one way. Yes.
TH: Đúng. Đó là một cách. Vâng.
CA: You said persuadability, that's an interesting word to me because to me there's two different types of persuadability. There's the persuadability that we're trying right now of reason and thinking and making an argument, but I think you're almost talking about a different kind, a more visceral type of persuadability, of being persuaded without even knowing that you're thinking.
CA: Bạn đã nói đến "khả năng thuyết phục", một từ mà tôi thất rất thú vị bởi vì tôi có hai cách thuyết phục khác nhau. Sự thuyết phục mà chúng ta đang thử bây giờ cho lý do và ý nghĩ và nêu ra sự lý luận nhưng tôi nghĩ bạn đang nói về cách khác một sự thuyết phục mang tính bản năng nhiều hơn bị thuyết phục mà không cần biết bạn nghĩ gi.
TH: Exactly. The reason I care about this problem so much is I studied at a lab called the Persuasive Technology Lab at Stanford that taught [students how to recognize] exactly these techniques. There's conferences and workshops that teach people all these covert ways of getting people's attention and orchestrating people's lives. And it's because most people don't know that that exists that this conversation is so important.
TH: Chính xác. Lý do tôi quan tâm vấn đề này là tôi đã nghiên cứu tại phòng thí nghiệm công nghệ thuyết phục Stanford dạy cách nhận biết những kĩ thuật này. Những buổi hội thảo và nghiên cứu dạy mọi người con đường tổng quát để có được sự chú ý của con người và bố trí cuộc sống của họ. Và vì hầu hết mọi người không biết điều đó tồn tại nên cuộc đối thoại này mới quan trọng.
CA: Tristan, you and I, we both know so many people from all these companies. There are actually many here in the room, and I don't know about you, but my experience of them is that there is no shortage of good intent. People want a better world. They are actually -- they really want it. And I don't think anything you're saying is that these are evil people. It's a system where there's these unintended consequences that have really got out of control --
CA: Tristan, bạn và tôi, chúng ta đều biết nhiều người từ những công ty này. Thực ra có nhiều người đang có mặt tại đây và tôi không biết về bạn, nhưng theo kinh nghiệm của tôi là họ không thiếu những ý định tốt. Mọi người muốn thế giới tốt hơn. Họ chắc chắn cũng thật sự muốn như vậy. Và tôi không nghĩ bạn đang nói họ là những người xấu xa. Nó là hệ thống mà những hậu quả không mong đợi thật sự ngoài tầm kiểm soát-
TH: Of this race for attention. It's the classic race to the bottom when you have to get attention, and it's so tense. The only way to get more is to go lower on the brain stem, to go lower into outrage, to go lower into emotion, to go lower into the lizard brain.
TH: Với cuộc đua giành chú ý. Một cuộc đua cơ bản đến đỉnh cao sự chú ý, và nó khá căng thẳng. Chỉ có một con đường duy nhất là đi sâu vào não bộ đi sâu vào sự nóng giận, sâu hơn về cảm xúc sâu hơn vào não bò sát.
CA: Well, thank you so much for helping us all get a little bit wiser about this.
CA: Cảm ơn bạn rất nhiều đã giúp chúng tôi thông suốt một phần về điều đó.
Tristan Harris, thank you. TH: Thank you very much.
Tristan Harris, cảm ơn bạn. TH: Cảm ơn rất nhiều
(Applause)
(Vỗ tay)