My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
Twitter'daki işim kullanıcıların güvenliğini sağlamak, kullanıcı haklarını ve kullanıcıların güvenliğini birbirinden ve bazen de kendilerinden korumak. Twitter'ın nasıl göründüğüne dair bir ölçekten bahsedeyim. Ocak 2009'a döndüğümüzde: Twitter'da günde 2 milyon twit atıldığını görüyoruz. Ocak 2014'te ise 500 milyondan fazla. Yani, 6 dakikadan daha az bir süre içinde 2 milyon twit görüyorduk. Bu, %24.900'lük bir artış.
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
Twitter'daki faaliyetin büyük çoğunluğu kimseyi tehlikeye sokmuyor. Hiçbir risk yok. Benim görevim olabilecek riskleri araştırmak ve engellemek. Kulağa basit geliyor, değil mi? Kolay olduğunu bile düşünebilirsiniz. Söylediğim gibi, Twitter'daki etkinliklerin çoğu kimseyi tehlikeye sokmuyor. Neden zararsız şeylerin içindeki potansiyel felaketleri araştırmak için çok fazla zaman harcayalım? Az önceki ölçeğin bize söylediğine göre milyonda birlik bir ihtimal, Twitter'da günde 500 defa oluyor. Bu ölçek türünde iş yapan diğer şirketler için de aynı. Bizim için böylesi ender ve istenmeyen, normalde karşılaşılmayan durumlar, daha çok standart olaylar olur. Diyelim ki twitlerin %99,999'u kimse için bir risk değil. Hiçbir tehdit içermiyor. Belki insanlar Avustralya'daki ünlü Heart Reef tatillerini belgeliyorlar, bir konser hakkında twit atıyorlar ya da küçük şirin hayvanların fotoğrafını paylaşıyorlar. Bütün o 99,999 oranı çıkarttıktan sonra, geriye kalan twitlerin kabaca küçücük bir yüzdesi kalıyor. Ayda 150 bin tane. Bu, aslında bizim meydan okuma için gerçekte ne ölçekte uğraştığımızı gösteriyor.
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
Benim pozisyonumun başka ne gibi zorlukları vardır? İnsanlar garip şeyler yapar. (Kahkahalar) Ve ben ne yaptıklarını, neden yaptıklarını ve davranışlarının, içerik olarak veya arka planda herhangi bir risk içerip içermediğini anlamak zorundayım. Twitter'da benim dönemimde gerçekleşen örneklerden birkaçını göstereceğim. -- Tamamı gerçek -- İlk başta önceden planlanmış gibiydi ama aslında gerçekte tamamen farklıydı. Masumları ve bazı durumlarda suçluları korumak için detaylar değiştirilmiştir. Kolaydan başlayacağız.
["Yo bitch"]
["Seni o..."]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
Bir Twit'in sadece bu kısmını görürseniz; kendinizce şunu düşünebilirsiniz, "Bu bir taciz gibi görünüyor." Sonuçta, neden bu mesajı almak isteyesiniz: "Seni o..." Son trend ve internette komiklik ifadelerinden olabildiğince haberdar olmaya çalışıyorum. Yani "Seni o..."'nun, popüler "Breaking Bad" kaynaklı olmasının yanı sıra, arkadaşlar arasında sık kullanılan bir selamlaşma terimi olduğunu biliyorum. İtiraf ediyorum, dördüncü bir kullanım örneği ile karşılaşacağımı beklemiyordum. İnsanlar ayrıca Twitter'da köpek taklidi yaparken de kullanılıyor. (Kahkahalar) Aslında bu durumda, bu sadece küfürlü değil, teknik olarak tam bir selamlaşma. (Kahkahalar)
So okay, determining whether or not something is abusive without context, definitely hard.
Peki tamam, bir şeyin içerik olmadan küfür olup olmadığını belirlemek kesinlikle zor.
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
İstenmeyen maillere (Spam) bakalım. Burada klasik spamci davranışı ile ilgili bir hesap örneği var, tam olarak aynı mesajı binlerce kişiye gönderiyor. Bu, hesabımı kullanarak bir araya getirdiğim bir model. Bunu her zaman yapan hesapları görüyoruz. Oldukça hilesiz görünüyor. Bu tarz davranışlarda bulunan hesapları otomatik olarak askıya almalıyız. Bu kurala istisna olan bazı durumlar var. Yukarıdan geçen Uluslararası Uzay İstasyonu'nun bildirim listesine katıldıysanız, bu mesaj bir bildirim olarak da çıkabilir, çünkü dışarı çıkıp bakmak istediniz, acaba uzay istasyonunu görebilecek miydiniz. Eğer hesabın spam olduğunu düşünüp yanlışlıkla askıya alırsak, bu şansı elde edemeyeceksiniz.
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
Tamam. Hadi bahsi artıralım. Yine klasik davranış sergileyen hesabıma geri dönelim. Bu sefer aynı mesajı ve bağlantıyı gönderiyor. Bu sıkça kullanılan kimlik avı adında bir şeyin göstergesidir, başka bir internet sitesine yönlendirerek, başka birinin hesap bilgilerini çalmaya çalışan biri. Açıkçası iyi bir şey değil. Bu tür davranış sergileyen hesapları askıya almayı istiyoruz. Peki neden bunun için bahisler daha yüksek? Bu da bir polis memurunun şiddet uygulamayan bir protestocuyu dövmesini videoya kaydeden ve ne olduğunu dünyanın öğrenmesini sağlamaya çalışan mitingdeki bir görgü tanığı olabilir. Çok hayati olan bu konuşmayı, spam olarak sınıflandırıp potansiyel olarak askıya alıp susturacak bir kumar oynamak istemiyoruz. Bu, hesap davranışlarına bakarken yüzlerce parametreyi değerlendirdiğimiz anlamına geliyor ve yine de hata yapabiliyoruz ve bunu yeniden değerlendirmek zorundayız.
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
Karşılaştığım zorluklara bakıldığında, sadece önceden tahmin etmek değil, aynı zamanda beklenmedik durumlar için önlemler tasarlamak da çok önemli. Bu sadece benim ya da Twitter için bir sorun değil, sizin için de bir sorun. Bu, harika olacağını düşündüğünüz ve insanların harika şeyler yapmasını sağlayan şeyleri yapan veya yaratan herkes için bir sorun. Peki, ben ne yapıyorum? Durup düşünüyorum, bu şeylerin tümü nasıl korkunç şekilde yanlış gidebilir? Felaketi görselleştiririm. Bu zor. Bunu yaparken bir tür doğal kavramsal uyumsuzluk var. Aynen evlilik yemininizi yazarken, aynı zamanda evlilik öncesi anlaşma yapmak gibi. (Kahkahalar) Ama yine de yapmak zorundasınız, özellikle günde 500 milyon twitle evleniyorsanız. Ben, "felaketi görselleştirmek" ile ne anlatıyorum? İyi huylu ve zararsız bir kedi resminin nasıl ölüme yol açabilecek bir şey olduğunu ve önlemek için ne yapacağımı düşünmeye çalışırım. Bir sonraki örneğim bu olacak. Bu benim kedim, Eli. Kullanıcılara twitlerine fotoğraf ekleme seçeneği vermek istedik. Bir resim bin kelime değerindedir. Sadece 140 karakteriniz var. Twitinize bir fotoğraf ekleyin, bakın, daha fazla içeriğe sahip oldunuz. Bir twite fotoğraf ekleyerek yapabileceğiniz harika şeyler var. Benim işim bunu düşünmek değil. Neyin yanlış gidebileceğini düşünmek.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
Bu resim nasıl olur da ölüme yol açabilir? Bir olasılık var. O resimde bir kediden fazlası var. Konum verisi var. Akıllı telefon ya da kameranızla bir fotoğraf çektiğinizde, görüntüyle birlikte kaydedilen bir sürü ek bilgi var. Aslında bu görüntü de daha özel olarak, bunun eşdeğerini içeriyor. Tabii ki kimsenin kedimin fotoğrafıyla ilişkili görüntü verilerine dayanarak, beni takip etme ve bana zarar vermeyi deneme ihtimali pek yok ama ben en kötü ihtimali varsayarak başlarım. Bu yüzden Twitter'da fotoğraf paylaşımına başladığımızda konum bilgilerini kapatmaya karar verdik. (Alkışlar) En kötüyü varsayarak ve geriye dönük çalışmaya başlarsam, bekleyen ve beklenmeyen durumlar için kurduğumuz çalışmaların korunduğuna emin olabilirim.
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
Gündüzümü, gecemi, en kötüsünün olabileceğini hayal ederek geçirdiğim göz önüne alındığında, dünya görüşümün kasvetli olması şaşırtıcı olmazdı. (Kahkahalar) Öyle değil. Gördüğüm etkileşimlerin büyük çoğunluğu pozitif, -- büyük bölümü, inanın bana -- insanlara yardımcı olmak, iletişim kurmak ya da birbirleriyle bilgi paylaşmak için. Sadece bu skala ile uğraşan ve insanları güvende tutmaya görevli bizler, olabilecek en kötü şeyi düşünmek zorundayız, çünkü bizim için milyonda bir şans gerçekleşmesi oldukça mümkün bir orandır.
Thank you.
Teşekkür ederim.
(Applause)
(Alkışlar)