My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
Công việc của tôi tại Twitter là đảm bảo sự bảo mật người dùng, bảo vệ các quyền lợi và giữ an toàn cho họ, khỏi những người dùng khác và, đôi khi, là từ chính bản thân họ. Nói đến hệ thống Twitter. Vào tháng 1 năm 2009, chúng tôi thống kê được hơn 2 triệu tweets mới mỗi ngày Tháng 1 năm 2014, có hơn 500 triệu. 2 triệu tweets trong vòng chưa đầy 6 phút. Tăng những 24,900%. Ngày nay, hầu hết các hoạt động trên Twitter
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
không gây tổn hại cho ai. Không có những rủi ro liên quan. Công việc của tôi là loại trừ và ngăn chặn nguy cơ. Nghe chừng rất đơn giản, phải không? Thậm chí cho là dễ, rằng tôi chỉ nói đến phần lớn các hoạt động vô hại trên Twitter. Vậy tại sao lại dành nhiều thời gian tìm kiếm nguy cơ tiềm tàng trong hoạt động vô hại này? Với quy mô của Twitter, xác suất chỉ là một phần 1 triệu tức 500 lần 1 ngày. Con số này tương tự các công ty khác cùng quy mô. Với chúng tôi, các trường hợp, các tình huống hiếm hoi hầu như không diễn ra này giống như những định mức. Cứ cho là 99.999% tweets không gây rủi ro hay đe dọa nào. Mọi người có thể đánh dấu những điểm du lịch như Rạn san hô trái tim ở Úc, hay tweet về buổi hòa nhạc mà họ tham dự, hay chia sẻ những bức ảnh về vật nuôi. Ngoài 99.999%, một phần trăm rất nhỏ các tweets còn lại vào khoảng 150,000 mỗi tháng. Tỷ lệ tuyệt đối này trở thành một thách thức. Điều gì khác làm cho vai trò của tôi trở nên khó khăn?
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
Con người ta hay làm những điều kì quặc. (Cười) Còn tôi thì phải thống kê điều họ làm, nguyên nhân, và liệu rằng nó có gây rủi ro, vốn thường không chứa trong hoàn cảnh hay bối cảnh xung quanh. Tôi sẽ đưa ra vài ví dụ mà tôi từng gặp trong thời gian làm việc tại Twitter -- tất cả đều là ví dụ thực tiễn -- về những tình huống tưởng chừng không có gì , nhưng sự thực lại hoàn toàn khác hẳn. Chi tiết đã được thay đổi để bảo vệ người vô tội và đôi khi cả tội phạm. Chúng ta bắt đầu với những thứ đơn giản. ["Yo bitch"]
["Yo bitch"]
Khi thấy 1 tweet như trên,
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
bạn có thể nghĩ rằng, "Nghe như lăng mạ vậy." Sao bạn lại muốn nhận tin nhắn này: "Yo, bitch." Khi cố gắng tiếp cận xu hướng và cập nhật văn hóa, tôi biết rằng "yo, bitch" cũng là lời chào hỏi giữa bạn bè với nhau, cũng giống như trong "Breaking Bad". Thừa nhận rằng tôi không trông mong sẽ bắt gặp trường hợp sử dụng thứ 4. Thì ram nó cũng được sử dụng trên Twitter khi mà người ta trong vai những con chó. (Cười) Trên thực tế, trường hợp đó, không những không phải lăng mạ, mà còn là một lời chào hỏi kỹ cách. (cười)
So okay, determining whether or not something is abusive without context, definitely hard.
Do vậy, thật sự rất khó để khẳng định có hay không sự lăng mạ ẩn giấu trong nội dung.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
Hãy nhìn vào các thư rác. Dưới đây là ví dụ của một tài khoản gửi thư rác điển hình, gửi cùng một tin nhắn đến hàng nghìn người. Cái này được giả lập bằng tài khoản của tôi, ta thấy các tài khoản lúc nào cũng gửi đi tin nhắn. Không rắc rối lắm. Chúng ta tự động đình chỉ tài khoản thực hiện các hành vi kiểu này. Vẫn tồn tại một vài ngoại lệ. Các tin nhắn có thể là một thông báo đăng ký tham gia Trạm vũ trụ quốc tế bởi bạn muốn ra ngoài và quan sát không gian. Bạn sẽ không có cơ hội nếu chúng tôi đình chỉ nhầm tài khoản vì nghĩ đó là thư rác. Ổn thôi. Liều hơn nữa nhé.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Trở lại với tài khoản của tôi, và các hành vi điển hình này. Bây giờ là gửi tin nhắn và liên kết. Đây thường là dấu hiệu của lừa đảo, ai đó cố ăn cắp thông tin tài khoản của người khác bằng cách hướng dẫn họ vào một trang web. Rõ ràng không phải là điều tốt đẹp. Chúng tôi muốn đình chỉ tài khoản thực hiện các hành vi kiểu này. Vậy tại sao lại liều hơn cho khoản này? Vâng, một người đứng ngoài cuộc biểu tình ghi lại cảnh một cảnh sát đánh đập một người biểu tình không bạo lực cố gắng cho thế giới biết điều đang xảy ra. Chúng tôi không muốn mạo hiểm giữ im lặng cho bài phát biểu quan trọng này bằng cách phân vào nhóm thư rác và đình chỉ nó. Chúng tôi phải đánh giá hàng trăm thông số về hành vi của tài khoản, sau đó, thậm chí, chúng tôi có thể sai và phải đánh giá lại. Bây giờ, những thách thức mà tôi phải vượt qua
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
không hẳn là dự đoán mà còn là bảo vệ thiết kế trước những điều không ngờ. Đây không chỉ là vấn đề của riêng tôi, của twitter; mà là vấn đề cho bạn cho bất kì ai tạo ra thứ mà bạn nghĩ sẽ bất ngờ và khiến người khác làm những điều bất ngờ. Vậy, tôi sẽ làm gì? Tôi dừng lại và suy nghĩ, liệu những điều này có thể trở thành sai lầm khủng khiếp? Tôi hình dung ra bi kịch. Thật là khó. Hàng chuỗi mâu thuẫn trong nhận thức vốn có giống như khi đọc lời thề đám cưới hay thỏa thuận tiền hôn nhân. (Cười) Nhưng bạn sẽ vẫn phải làm điều đó, đặc biệt là khi bạn có 500 triệu tweets mỗi ngày. Ý tôi là gì khi nói "vẽ ra bi kịch" Tôi cố gắng nghĩ bằng mọi cách một bức hình con mèo hiền lành vô hại có thể dẫn đến cái chết, và cần làm gì để ngăn cản điều này. Trong ví dụ tiếp theo, điều gì xảy ra đây. Chú mèo của tôi, Eli Chúng tôi muốn cho người dùng khả năng thêm hình ảnh vào tweet của mình. Trăm nghe không bằng mắt thấy. Mà bạn chỉ có thể viết 140 kí tự. Thêm 1 bức hình vào tweet, nhìn xem có bao nhiêu là nội dung. Nhiều điều tuyệt vời có thể làm bằng cách thêm hình vào tweet. Công việc của tôi không phải là nghĩ đến chúng mà là nghĩ đến những mối nguy. Bằng cách nào bức hình này có thể dẫn tới cái chết?
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Đây là một khả năng. Có nhiều thứ hơn là bức hình con mèo. Các dữ kiện địa lý. Khi chụp hình bằng điện thoại thông minh hay camera kỹ thuật số, có rất nhiều thông tin đi kèm được lưu giữ cùng bức ảnh. Những bức ảnh này cũng hàm chứa điều tương đương, rất đặc trưng. Gần như chắc chắn rằng, không ai có thể theo dõi và làm hại tôi chỉ dựa vào thông số đi kèm với bức hình con mèo mà tôi tải lên, nhưng tôi bắt đầu giả định điều tồi tệ nhất. Đó là lí do, khi đưa ảnh lên Twitter, chúng tôi quyết định tách dữ liệu địa lý ra. (Vỗ tay) Nếu bắt đầu bằng các giả định xấu nhất và truy ngược lại, tôi có thể chắc chắn rằng sự bảo vệ là dành cho tất cả các trường hợp. Cho rằng tôi dành ngày đêm
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
tưởng tượng ra điều tệ nhất có thế xảy đến Không ngạc nhiên nếu thế giới quan của tôi ảm đạm. (Cười) Không. Phần lớn các phản ứng mà tôi thấy và thấy rất nhiều, tin tôi đi rất tích cực mọi người cần sự giúp đỡ hay liên kết hoặc chia sẻ thông tin. Chỉ một số trong chúng ta làm việc với hệ thống, bảo đảm sự an toàn cho người dùng, chúng ta phải giả định những điều tệ nhất bởi vì xác suất một trong 1 triệu thì không phải là nhỏ. Xin cảm ơn.
Thank you.
(Vổ tay)
(Applause)