Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.
Bạn có nhớ khi bạn còn nhỏ, có lẽ bạn có một món đồ chơi yêu thích như một người bạn trung thành, như Christopher Robin có gấu Pooh vậy, và bạn thả trí tưởng tượng theo những hành trình bất tận? Còn gì ngây thơ hơn thế? Ồ, để tôi giới thiệu các bạn với bạn tôi, Cayla.
Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.
Cayla được bình chọn là đồ chơi của năm ở các nước trên toàn thế giới. Nó kết nối internet và sử dụng công nghệ nhận dạng giọng nói để trả lời câu hỏi của con bạn, hệt như một người bạn. Nhưng quyền hạn không nằm ở trí tưởng tượng của con bạn. Quyền hạn thuộc về công ty đang thu thập lượng thông tin cá nhân khổng lồ khi gia đình bạn đang vô tư trò chuyện trong sự an toàn khi ở nhà, cảm giác sai lầm thật nguy hiểm về sự an toàn. Điều này gióng lên hồi chuông cho tôi, vì công việc của tôi là bảo vệ quyền lợi của người tiêu dùng ở nước tôi. Và với hàng tỷ thiết bị như ô tô, đồng hồ điện hay thậm chí máy hút bụi dự kiến sẽ kết nối mạng vào 2020, chúng tôi nghĩ trường hợp này đáng để tìm hiểu kĩ hơn. Bởi vì Cayla đang làm gì với những điều thú vị mà nó học được? Có phải nó là bạn tốt của ai khác nữa và sẽ chia sẻ thông tin với họ không? Bạn đoán đúng rồi đấy. Đúng vậy. Để chơi với Cayla, bạn cần tải một ứng dụng để truy cập mọi tính năng của nó. Bố mẹ phải đồng ý với điều khoản mà không thông báo gì nếu có thay đổi. Bản ghi hình đứa trẻ, bạn bè và gia đình có thể được sử dụng để quảng cáo. Và tất cả thông tin này có thể bị chia sẻ với bên thứ ba nào đó.
Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see, one, two, three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...
Hết rồi ư? Không đâu. Bất cứ ai có điện thoại thông minh đều có thể kết nối với Cayla trong một khoảng cách nhất định. Khi chúng tôi đối chất với công ty sản xuất và lập trình Cayla, họ khăng khăng rằng chỉ có chuyên gia công nghệ thông tin mới xâm phạm bảo mật được. Chúng ta sẽ kiểm chứng điều đó và cùng trực tiếp hack Cayla chứ? Nó đây. Cayla được trang bị một thiết bị Bluetooth có thể truyền xa tới hơn 18m, ngắn hơn chút nếu có tường chắn ở giữa. Có nghĩa là tôi hay bất kì người lạ nào có thể kết nối với con búp bê khi đang ở ngoài căn phòng nơi Cayla và bọn trẻ đang ở. Và để minh hoạ điều này, bây giờ tôi sẽ bật Cayla lên. Nhìn này, một, hai, ba. Đó. Bật rồi. Và tôi bảo một đồng nghiệp cầm smartphone đứng bên ngoài và kết nối, và để điều này đáng sợ hơn chút ...
(Laughter)
(Tiếng cười)
let's see what kids could hear Cayla say in the safety of their room.
hãy xem bọn trẻ có thể nghe Cayla nói gì khi đang an toàn trong phòng của chúng.
Man: Hi. My name is Cayla. What is yours?
Người đàn ông: Xin chào. Tôi là Cayla. Bạn tên gì?
Finn Myrstad: Uh, Finn.
Finn Myrstad: Ờ, Finn.
Man: Is your mom close by?
Người kia: Mẹ bạn có ở gần đó không?
FM: Uh, no, she's in the store.
FM: Không, mẹ ra cửa hàng rồi.
Man: Ah. Do you want to come out and play with me?
Người kia: À. Bạn muốn ra ngoài chơi với tôi không?
FM: That's a great idea.
FM: Hay đấy.
Man: Ah, great.
Người kia: Ah, được.
FM: I'm going to turn Cayla off now.
FM: Giờ tôi sẽ tắt Cayla đi.
(Laughter)
(Tiếng cười)
We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.
Chúng ta không cần mật khẩu hay phải vượt qua bất cứ hàng rào an ninh nào để làm điều này. Chúng tôi đã xuất bản một báo cáo tại 20 quốc gia trên thế giới, chỉ ra lỗi bảo mật nghiêm trọng này và nhiều vấn đề rắc rối khác. Và rồi điều gì xảy ra? Cayla bị cấm ở Đức, không được bán ở Amazon và Wal-Mart nữa, và giờ nó đang yên nghỉ ở Bảo tàng Gián điệp Đức ở Berlin.
(Laughter)
(Tiếng cười)
However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?
Tuy nhiên, Cayla vẫn được bán tại các cửa hàng trên khắp thế giới suốt hơn một năm sau khi chúng tôi công bố báo cáo đó. Điều chúng tôi tìm ra đó là có rất ít luật để bảo vệ chúng ta và những luật mà ta có không được thực thi đúng đắn. Chúng ta cần làm rõ tính bảo mật và riêng tư của những thiết bị này trước khi chúng được bán ra thị trường, bởi vì khoá một căn nhà bằng chìa khoá thì có ích gì nếu bất cứ ai cũng có thể vào nhà nhờ thiết bị kết nối?
You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.
Có lẽ bạn nghĩ, “Điều này sẽ không xảy ra với tôi. Tôi sẽ tránh xa những thiết bị lỗi này.” Nhưng điều đó không giúp bạn an toàn, bởi vì chỉ cần kết nối internet thôi, bạn đã có thể bị đặt vào thế đành phải chấp nhận.
Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.
Để tôi cho bạn thấy. Giống như đa số các bạn, tôi có rất nhiều ứng dụng điện thoại, và sử dụng đúng cách, chúng khiến cuộc sống của ta dễ dàng, thuận tiện và thậm chí khoẻ mạnh hơn. Nhưng liệu ta có đang ảo tưởng về sự an toàn? Chuyện đơn giản bắt đầu bằng việc đánh dấu vào một ô. Đúng rồi, ta nói, tôi đã đọc các điều khoản. Nhưng bạn có thật sự đọc các điều khoản không? Bạn có chắc là nhìn nó không dài lắm và điện thoại bạn đang gần hết pin, và lần cuối bạn thử đọc thì nó rất khó hiểu, và bạn lại cần sử dụng dịch vụ ngay? Thế là giờ, sự không bình đẳng về quyền lực được thiết lập, bởi vì chúng ta vừa chấp nhận việc thông tin cá nhân của mình bị thu thập và sử dụng trong phạm vi mà ta không tưởng tượng được.
This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours, 49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.
Đây là lý do tôi và đồng nghiệp quyết định nghiên cứu sâu hơn về việc này. Chúng tôi bắt đầu đọc các điều khoản của các ứng dụng phổ biến trên điện thoại thông thường. Và để cho mọi người thấy độ không tưởng của việc kì vọng người tiêu dùng thực sự đọc các điều khoản, chúng tôi đã in chúng ra, hơn 900 trang, và ngồi trong văn phòng và đọc chúng thành tiếng, phát trực tiếp thí nghiệm trên website của chúng tôi. Như bạn thấy, tốn khá nhiều thời gian. Chúng tôi mất 31 giờ, 49 phút, 11 giây để đọc hết điều khoản trên một chiếc điện thoại thông thường. Dài hơn cả thời gian xem liền tù tì loạt phim “Harry Potter” và phim “Bố già” cộng lại.
(Laughter)
(Tiếng cười)
And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.
Và đọc là một chuyện. Hiểu là một chuyện khác. Chúng tôi còn tốn rất nhiều thời gian hơn cho việc đó. Và đây là một vấn đề thực sự, bởi vì suốt 20 đến 30 năm nay, các công ty đã bác bỏ việc quản lý internet tốt hơn. bởi vì người dùng đồng ý với các điều khoản và điều kiện.
As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.
Như chúng tôi đã chỉ ra qua thí nghiệm này, việc đạt được sự ưng thuận khi đã hiểu rõ gần như là không thể. Bạn có nghĩ đặt gánh nặng trách nhiệm lên người dùng là công bằng không? Tôi thì không. Tôi nghĩ chúng ta nên mong chờ ít hơn vào việc đành lòng chấp nhận và nhiều hơn vào những điều khoản dễ hiểu trước khi ta chấp thuận chúng.
(Applause)
(Vỗ tay)
Thank you.
Cảm ơn.
Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to, three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.
Bây giờ, tôi muốn kể bạn một câu chuyện về tình yêu. Một vài ứng dụng phổ biến nhất thế giới là các ứng dụng hẹn hò, một ngành công nghiệp có giá hơn hoặc gần ba tỷ đồng mỗi năm. Và tất nhiên, chúng ta đều chấp nhận việc chia sẻ thông tin riêng tư của ta với một nửa của mình. Nhưng còn ai khác đang rình mò, lưu và chia sẻ thông tin của ta khi ta đang tâm sự không? Tôi và đồng nghiệp quyết định điều tra việc này. Và để hiểu mọi khía cạnh của vấn đề và để làm việc thật kỹ lưỡng, tôi nhận ra tôi phải tự tải về một trong những ứng dụng hẹn hò phổ biến nhất thế giới.
So I went home to my wife ...
Nên tôi về nhà nói với vợ ...
(Laughter)
(Tiếng cười)
who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"
người mà tôi vừa cưới. “Anh lập tài khoản trên một ứng dụng hẹn hò rất phổ biến thuần vì mục đích khoa học được không?”
(Laughter)
(Tiếng cười)
This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.
Đây là điều chúng tôi tìm ra. Ẩn sau menu chính là một ô được đánh dấu sẵn cho phép công ty hẹn hò truy cập vào tất cả ảnh cá nhân của tôi trên Facebook, của tôi là hơn 2000 ảnh, và một vài ảnh khá là riêng tư. Và tệ hơn là, khi chúng tôi đọc điều khoản và điều kiện, chúng tôi tìm ra điều sau, và tôi sẽ phải lấy kính đọc sách của tôi ra. Và tôi sẽ đọc cho bạn nghe bởi vì nó rất phức tạp. Được rồi
"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."
“Bằng việc đăng tải nội dung” -- và nội dung gồm ảnh, trò chuyện và tương tác khác trên dịch vụ hẹn hò -- “như một phần của dịch vụ, bạn tự động cho phép công ty, các chi nhánh, người được cấp phép và người kế nhiệm của công ty quyền và sự cho phép không thể thu hồi” -- tức là bạn không thể thay đổi ý định -- “vĩnh viễn” -- tức là mãi mãi -- “không độc quyền, có thể chuyển nhượng, cấp phép lại, trả trước đầy đủ, trên toàn cầu về việc sử dụng, lưu trữ, thực hiện, hiển thị, tái tạo, ghi lại, phát, sửa đổi, chỉnh sửa và phát tán nội dung, tạo ra các nội dung thứ phát, hoặc kết hợp nội dung của mình với tác phẩm khác và cấp và ủy quyền giấy phép phụ nêu trên trên bất kỳ phương tiện truyền thông nào mà hiện đã biết hoặc tạo ra sau này.”
That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.
Điều đó về cơ bản nghĩa là mọi lịch sử hẹn hò của bạn và mọi thứ liên quan có thể được sử dụng cho bất kỳ mục đích vào bất cứ lúc nào. Tưởng tượng con bạn thấy những bức ảnh hẹn hò không đứng đắn của bạn trong một quảng cáo kiểm soát sinh nở vào 20 năm sau.
But seriously, though --
Nhưng nghiêm túc thì --
(Laughter)
(Tiếng cười)
what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.
những hoạt động thương mại này ảnh hưởng gì đến bạn? Chẳng hạn, mất tiền: dựa vào lịch sử lướt web của bạn, thuật toán có thể biết liệu bạn có được thế chấp hay không. Thao túng tiềm thức: các công ty có thể phân tích cảm xúc của bạn dựa trên ảnh và đoạn chat, chạy quảng cáo cho bạn khi bạn đang dễ bị ảnh hưởng nhất. Sự phân biệt: một ứng dụng sức khoẻ có thể bán dữ liệu của bạn cho công ty bảo hiểm, ngăn bạn nhận được tiền bảo hiểm trong tương lai. Tất cả chuyện này đang diễn ra trên thế giới.
But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.
Nhưng tất nhiên, không phải mọi hành vi sử dụng dữ liệu đều xấu. Một số còn thiếu sót hoặc cần cải thiện thêm, và một số thực sự tốt. Và cũng có vài tin tốt. Các công ty hẹn hò thay đổi chính sách của họ trên toàn cầu sau khi chúng tôi nộp đơn khiếu nại pháp lý. Nhưng những tổ chức đấu tranh cho quyền lợi người tiêu dùng như của tôi không thể có mặt ở mọi nơi. Người tiêu dùng cũng không thể tự sửa những thứ này, bởi vì nếu chúng ta biết những điều mà chúng ta cho là vô hại sẽ quay lại giày vò chúng ta, chúng ta sẽ ngừng nói vậy. Nếu ta biết rằng ta đang bị theo dõi và giám sát, ta sẽ thay đổi hành vi của mình. Và nếu ta không thể kiểm soát ai đang có dữ liệu của ta và dùng nó như thế nào, ta đã mất quyền kiểm soát cuộc sống của mình.
The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.
Các câu chuyện tôi kể hôm nay không phải là ví dụ ngẫu nhiên. Chúng ở khắp mọi nơi, và nó báo hiệu mọi thứ cần thay đổi. Và làm sao chúng ta có thể thay đổi? Vâng, các công ty cần nhận ra rằng bằng cách ưu tiên sự riêng tư và bảo mật, họ có thể xây dựng niềm tin và sự trung thành với người dùng. Chính phủ phải tạo ra một môi trường mạng an toàn hơn bằng cách đảm bảo việc thực thi và luật được cập nhật kịp thời. Và người dân như chúng ta thì sao? Chúng ta có thể lên tiếng để nhắc nhở thế giới rằng công nghệ chỉ thực sự có ích cho xã hội nếu nó tôn trọng những quyền cơ bản.
Thank you so much.
Cảm ơn các bạn rất nhiều.
(Applause)
(Vỗ tay)