My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
저는 트위터에서 하는 일은 사용자의 신뢰를 구축하고, 권리를 보호하며, 그들을 안전하게 보호하는 것입니다. 사용자 간에도 그렇고 사용자 자신에 대해서도 마찬가지입니다. 트위터의 규모가 어떤지 한번 보도록 하시죠. 2009년 1월로 돌아가 보면 트위터 상에 매일 약 2백만 개 이상의 새로운 트윗이 게시되었습니다. 2014년 1월에는 5억 건이 넘었습니다. 2백만 개의 트윗이 6분도 되지 않는 시간에 게시되는 것이죠. 그건 대략 24,900%의 증가입니다.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
트위터 상에서 대다수의 활동은 그 누구에게도 해를 가하지 않습니다. 어떤 위험도 없습니다. 저의 임무는 위험할지 모를 행위를 분류하고 예방하는 것이에요. 간단하게 들리시죠? 쉽다고 생각하실지도 모르겠어요. 방금 제가 말씀드렸듯 트위터 내 대부분의 행위는 다른 이에게 해가 되지 않으니까요. 그런데 왜 무해한 행위 가운데 문제가 될지 모를 행위를 찾는데 그렇게 많은 시간을 허비할까요? 현재 트위터의 규모를 고려해보면 백만 분의 일이라는 확률은 하루에 500번 일어납니다. 이 정도의 규모를 다루는 회사들은 모두 비슷한 상황에 있어요. 저희로서는 극단적인 상황, 거의 발생할 것 같지 않은 드문 상황들이 좀 더 일반적입니다. 말하자면 99.999%의 트윗은 사람들에게 아무런 위험이 되지 않아요. 어떤 위험 요소도 없습니다. 누구는 호주의 하트형 산호초와 같은 여행의 중요 지점을 문서화하기도 하고 다른 누구는 참석한 음악회에 대해 트윗을 하죠. 혹은 귀여운 어린 동물 사진을 공유하기도 합니다. 그런 99.999%를 제외하고 남은 아주 작은 일부가 대략 한 달에 150,000건 정도 됩니다. 저희가 처리하고 있는 그 단순한 숫자는 도전이 됩니다.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
그 외에 어떤 것이 제 직책을 특별히 힘들게 할까요? 사람들은 정말 이상한 짓도 합니다. (웃음) 그리고 전 그 사람들이 무엇을 하는지 알아내야하고 그 이유와 잠재적 관련 위험도 알아내야만 합니다. 종종 그 내용이나 배경을 잘 모른 체 말이죠. 제가 트위터에서 일하면서 맞닥뜨린 몇 가지 예를 보여드리도록 하겠습니다. 이건 모두 실제의 예들입니다. 이런 것들은 처음 보기에는 말끔하고 단순해 보이지만 사실은 매우 다른 것들이기도 합니다. 죄없는 사람들과 때로는 문제가 있는 사람들을 보호하기 위해 세부 내용은 바꾼 것입니다. 쉬운 것부터 시작해보죠.
["Yo bitch"]
["개같은 년"]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
트위터에서 단순히 이렇게 말한 것을 보신다면 이렇게 생각하실지도 모르죠. "욕설이군." 어쨌든 왜 이런 메세지를 받고 싶어하겠습니까? "개같은 년" 저는 최신 유행과 문화 요소에 잘 따라가려고 노력합니다. 그래서 전 "개같은 년"이란 욕설은 흔히 친구들 사이에 일반적인 인사란 걸 알았습니다. 인기있는 "브레이킹 배드"로 인해 유명해지기도 했었죠. 사실 저는 네번째 사용처에 대해서는 전혀 예상하지 못했다고 인정합니다. 트위터에서는 이 말은 사람들이 개 연기를 할 때 사용하는 것으로 드러났습니다. (웃음) 사실, 이런 경우에 이건 욕도 아닐 뿐더러 엄밀히 말하면 딱 알맞는 인사법이기도 하죠. (웃음)
So okay, determining whether or not something is abusive without context, definitely hard.
좋습니다. 문장도 없이 뭔가가 욕인지 아닌지 결정하는 것은 분명히 어려운 일입니다.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
스팸을 볼까요. 여기 전형적인 스팸의 행동을 보이는 계정의 예가 있습니다. 정말 똑같은 메세지를 수천 명의 사람들에게 보내는 거죠. 이건 제 계정을 이용해서 가짜로 만들어 본 것인데 이런 짓을 하는 사람들이 항상 있습니다. 상당히 확실해 보이지요. 저희는 이런 행동을 하는 의심스런 계정은 자동적으로 정지시킵니다. 이런 규칙에 몇몇 예외가 있습니다. 저 메세지는 당신이 국제 우주 정거장을 밖에 나가 볼 수 있는지 확인하고 싶어 그게 지금 머리 위를 지나고 있는지 알려주는 메세지 일 수도 있습니다. 저희가 그걸 스팸으로 잘못 알고 계정을 실수로 정지시키면 사람들은 그렇게 할 기회를 갖지 못하겠죠.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
이제 수위를 좀 더 높여보겠습니다. 제 계정으로 돌아가서 고전적인 행동을 다시 보여드리죠. 이번에는 똑같은 메세지와 링크를 보내고 있습니다. 이건 보통 피싱이라는 걸 표시하는 신호입니다. 누군가 사람들을 다른 웹사이트로 이끌어 그 사람들의 계정 정보를 탈취하는 겁니다. 분명히 옳은 행동이 아니죠. 저희는 이런 행동을 보이는 계정은 정지시키길 원하고 실제로 그렇게 합니다. 왜 이런 경우의 위험성이 더 클까요? 자, 이건 마치 집회 현장에서 무슨 일이 일어나고 있는지 세상에 알리려는 비폭력적 집회 참여자를 구타하는 경찰을 녹화하는 구경꾼과 같은데요. 저희는 중요한 의견을 스팸으로 처리하거나 정지시킴으로써 잠재적으로 침묵을 강요하는 도박을 하고 싶지는 않아요. 그 말은 우리가 계정 활동을 볼 때, 수백개의 변수를 감정한다는 겁니다. 심지어 그 후에도 실수가 있을 수 있고 평가 작업을 다시 해야 하기도 하죠.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
제가 직면하는 모든 종류의 도전을 감안할 때 전 예측하는 것뿐만 아니라 예상 밖의 것에 대한 안전 장치를 만드는 것도 중요합니다. 그건 저만의 문제가 아니라 트위터에 대해 여러분이 제기하는 문제점이에요. 그건 여러분이 대단할거라 생각하고 또 사람들로 하여금 멋진 일을 하게 해줄 것을 만들고 창조하는 그 누구에게든 문제가 됩니다. 그럼 저는 어떻게 할까요? 잠시 멈춰 생각하는 겁니다. 어떻게 이 모든 것이 상상할 수 조차 없게 잘못될 수 있을까? 저는 최악의 상황을 떠올립니다. 그건 어려운 일이에요. 그렇게 하는 데에는 일종의 내재적, 인지적 불협화음이 있죠. 마치 혼인 서약서를 쓰는 동시에 혼전 합의서를 작성하는 것 같은거죠. (웃음) 그래도 해야 합니다. 특히 하루 5억 건의 트윗과 결혼하려면요. 제가 "최악을 떠올린다" 라는건 무슨 말일까요? 저는 고양이 사진처럼 악의없이 천진난만한 것이 어떻게 죽음을 야기하는지 그리고 그런 걸 어떻게 방지할지 생각하려고 합니다. 그것이 제가 준비한 다음 예인데요. 이건 제가 고양이 엘리입니다. 저희는 사용자들에게 자신의 트위터에 사진을 올릴 수 있게 하고 싶었습니다. 사진은 천 마디 말의 값어치가 있으니까요. 단어는 겨우 140개 밖에 쓸 수 없잖아요. 트위터에 사진을 올리면 얼마나 많은 내용이 채워지는지 한번 보세요. 트위터에 사진을 올릴 수 있으면 상당히 많은 대단한 것들을 할 수 있습니다. 제 직업은 그런 것을 생각하는 것이 아니에요. 그게 어떻게 잘못 될 수 있는지 생각해내는 것이죠.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
이 사진이 어떻게 절 죽음으로 이끌 수 있을까요? 이런 가능성이 있습니다. 저 사진에는 고양이 이상의 것이 담겨 있어요. 지리 정보가 있죠. 스마트폰이나 디지털 카메라로 사진을 찍으면 수많은 부가 정보가 그 사진과 함께 저장됩니다. 사실 이 사진에는 그런 비슷한 게 들어있어요. 더 정확하게는 바로 이겁니다. 맞습니다. 제가 찍은 고양이 사진에 담긴 정보를 이용하여 누군가가 저에 대해 알아보고 저를 해칠 것 같지는 않아요. 하지만 전 최악이 일어날거라 가정하며 시작합니다. 그게 바로 저희가 트위터에 사진을 올릴 수 있게 했을 때 지리 정보를 지운다는 결정을 내린 이유에요. (박수) 최악의 가정으로 시작해서 역으로 작업하면 저희가 만드는 개인 보호 장치가 예상했거나 예상치 못했던 상황 모두에서 사용되게 할 수 있습니다.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
일어날 수 있는 최악을 밤낮으로 생각하며 시간을 보냈다고 할 때 제 세계관이 우울하다 해도 놀랄 일이 아니지요. (웃음) 그렇지 않습니다. 제가 보는 대부분의 상호 반응, 사실 전 엄청 많이 보는데요, 거의 다 긍정적입니다. 도움을 주려고 하거나 서로 연결하여 정보를 공유하는 사람들입니다. 이만한 규모를 다루고 사람들을 안전하게 보호해야 하는 저희는 최악의 상황이 발생할거라 가정해야만 합니다. 왜냐하면 저희에게 백만분의 일이라는 확률은 엄청나게 큰 확률이기 때문입니다.
Thank you.
감사합니다.
(Applause)
(박수)