My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase.
งานของฉันที่ ทวิตเตอร์ คือการทำให้ผู้ใช้บริการมั่นใจในบริการ ปกป้องสิทธิ์และรักษาความปลอดภัยของผู้ใช้ จากผู้ใช้ทวิตเตอร์ด้วยกันเอง และบางครั้ง จากตัวผู้ใช้บริการเอง ลองมาดูกันว่าตัวเลขการใช้ทวิตเตอร์มันเยอะขนาดไหน ย้อนกลับไปเดือนมกราคม ปี 2009 เราเห็นมากกว่า 2 ล้านทวีตต่อวัน บนแพลตฟอร์ม มกราคม ปี 2014 มากกว่า 500 ล้าน นั่นคือมากกว่า 2 ล้านทวีต ในเวลาน้อยกว่า 6 นาที เพิ่มขึ้น 24,900 เปอร์เซ็นต์
Now, the vast majority of activity on Twitter puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly 150,000 per month. The sheer scale of what we're dealing with makes for a challenge.
ทีนี้ กิจกรรมส่วนใหญ่บนทวิตเตอร์ ไม่มีอันตรายกับใคร ไม่มีความเสี่ยงใดๆ หน้าที่ของฉันคือการสืบค้น และป้องกันกิจกรรมเสี่ยงต่างๆ ฟังดูชัดเจนใช่ไหมคะ? บางทีคุณอาจจะคิดว่ามันง่าย เพราะฉันเพิ่งพูดไปว่ากิจกรรมบนทวิตเตอร์ ส่วนใหญ่ไม่ได้สร้างภัยอันตรายให้ใคร ทำไมถึงต้องใช้เวลามากมาย ค้นหาอันตรายที่อาจเกิดขึ้นได้ ในกิจกรรมที่ดูสุดจะปลอดภัย ดูจากขนาดของทวิตเตอร์ในตอนนี้ สิ่งที่มีโอกาสเกิดขึ้นแค่หนึ่งในล้าน คือสิ่งที่เกิดขึ้นวันละ 500 ครั้ง บริษัทอื่นก็เป็นแบบนี้เหมือนกัน ถ้าต้องจัดการกับอะไรที่มีขนาดแบบนี้ สำหรับเรา กรณีสุดโต่ง เหตุการณ์หายากที่ไม่น่าจะเกิดขึ้นเหล่านั้น มันคือเรื่องปกติ สมมติว่า 99.999 เปอร์เซ็นต์ของทวีต ไม่มีอันตรายกับใคร ไม่มีภัยคุกคามใดๆ เกี่ยวข้อง บางทีก็แค่คนถ่ายรูปสถานที่ท่องเที่ยวที่น่าสนใจ อย่าง ฮาร์ท ลีฟ ที่ ออสเตรเลีย หรือทวีตเกี่ยวกับคอนเสิร์ตที่เขากำลังเข้าร่วม หรือแบ่งปันรูปทารกสัตว์แสนน่ารัก หลังจากที่คุณตัด 99.999 เปอร์เซ็นต์ ออก จำนวนทวีตที่เหลือไม่กี่เปอร์เซ็นต์ คิดออกมาแล้วก็ประมาณ 150,000 ทวีตต่อเดือน แต่ด้วยขนาดของสิ่งที่เราต้องต่อกรด้วย ทำให้มันท้าทาย
You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples — of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy.
คุณรู้ไหมว่ามีอะไรอีกที่ทำให้ หน้าที่ของดิฉันท้าทายมาก คนเราชอบทำอะไรแปลกๆ (เสียงหัวเราะ) และฉันจะต้องคิดให้ออกว่าพวกเขากำลังทำอะไร ทำไม และสิ่งที่พวกเขาทำมีอันตรายไหม บ่อยครั้งที่ไม่มีคำอธิบายหรือพื้นหลัง มากนัก ดิฉันจะให้คุณดูตัวอย่าง ที่ดิฉันได้พบเจอในช่วงเวลาของฉันที่ทวิตเตอร์ ตัวอย่างทั้งหมดนี้เป็นเรื่องจริง ของสถานการณ์ที่ดูเหมือนจะไม่ซับซ้อน แต่ความจริงมันคือบางอย่าง ที่แตกต่างโดยสิ้นเชิง รายละเอียดได้ถูกเปลี่ยน เพื่อปกป้องผู้บริสุทธิ์ และบางครั้งผู้กระทำความผิด เราจะเริ่มจากง่ายๆ
["Yo bitch"]
["ว่าไง นังตัวแสบ"]
If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter)
ถ้าคุณเห็นทวีตที่พูดแค่นี้ คุณอาจจะคิดกับตัวเองว่า "นั่นเหมือนเป็นการคุกคาม" ไม่ว่ายังไงคงไม่มีใครอยากได้รับข้อความ "ว่าไง นังตัวแสบ" ทีนี้ ฉันพยายามทำตัวให้เท่าทันเหตุการณ์ ให้ทันกับความเชื่อและค่านิยมล่าสุด เพราะฉะนั้น ฉันรู้ว่า "ว่าไง นังตัวแสบ" เป็นคำทักทายทั่วไปในหมู่เพื่อนๆ และเป็นคำที่ใช้กล่าวถึงคนอื่น ในละครทีวียอดนิยมเรื่อง "เบรคกิ้ง แบด" ฉันยอมรับ ว่าฉันไม่ทันได้คาดคิด ว่าจะเจอกับกรณีที่สี่ ปรากฏว่ามันถูกใช้บนทวิตเตอร์ เมื่อคนบางคนสวมบทบาทเป็นสุนัข (เสียงหัวเราะ) ความจริงแล้ว ในกรณีนั้น ไม่ใช่แค่ว่ามันไม่ใช่การคุกคาม มันกลับเป็นแค่คำทักทายที่ถูกต้องทางเทคนิค (คำนี้มีความหมายอีกอย่างว่า สุนัขตัวเมีย) (เสียงหัวเราะ)
So okay, determining whether or not something is abusive without context, definitely hard.
เอาล่ะ ทีนี้การตีความว่าอะไรเป็นภัยคุกคามหรือไม่ โดยปราศจากบริบท เป็นอะไรที่ยากแน่นอน
Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule. Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam.
ลองมาดู สแปม นี่เป็นตัวอย่างของบัญชีที่เกี่ยวข้อง กับพฤติกรรมคลาสสิคของนักสแปม ส่งข้อความที่เหมือนกันออกไป ให้กับผู้คนนับพัน นี่เป็นแค่ตัวอย่างที่ฉันรวมจากบัญชีของตัวเอง เราสามารถเห็นบัญชีต่างๆ ทำแบบนี้ได้ตลอดเวลา ดูชัดเจน เราควรระงับบัญชีที่กระทำพฤติกรรมนี้ โดยอัตโนมัติ ปรากฏว่ามันมีข้อยกเว้นเกี่ยวกับกฎนั้น ข้อความนั้นอาจเป็นการแจ้งเตือน ที่คุณสมัครรับบริการไว้ ให้แจ้งเตือนเมื่อ สถานีอวกาศนานาชาติเคลื่อนผ่านเหนือบ้านคุณ เพราะคุณอยากออกไปข้างนอก และดูว่าคุณจะสามารถเห็นมันได้หรือไม่ คุณจะไม่ได้รับโอกาสนั้น ถ้าเราระงับบัญชีนี้ คิดว่ามันคือสแปม
Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate.
โอเค ทีนี้มาดูเรื่องที่มีผลกระทบสำคัญขึ้นหน่อย กลับมาที่บัญชีของฉัน อีกครั้งกับพฤติกรรมสุดคลาสสิค ทีนี้มันส่งข้อความพร้อมด้วยลิงค์ บ่อยครั้ง สิ่งนี้คือตัวบ่งชี้ว่า มันคือสิ่งที่เรียกว่าการ ฟิชชิ่ง ใครบางคนกำลังพยายามขโมยข้อมูล บัญชีของอีกคนหนึ่ง โดยชี้นำบุคคลไปยังอีกเว็บไซต์หนึ่ง ซึ่งดูแล้วไม่ปลอดภัยแน่ๆ เราอยากทำ และเราก็ได้ทำการระงับบัญชี ที่แสดงพฤติกรรมแบบนี้ ทีนี้ทำไมความเสี่ยงถึงได้มากขึ้น? นี่อาจเป็นผู้เข้าชมการชุมนุม ที่มีโอกาศได้อัดวีดีโอ ที่ตำรวจทำร้ายผู้ที่มาชุมนุมโดยสันติ และต้องการให้โลกได้รับรู้สิ่งที่เกิดขึ้น เราไม่อยากเสี่ยง ที่จะปิดบังคำปราศรัยสำคัญ โดยการจำแนกว่ามันคือสแปมและระงับมัน นั่นหมายความว่าเราประเมินตัวแปรเป็นร้อยๆ เมื่อดูพฤติกรรมของบัญชีต่างๆ แต่ถึงขนาดนั้น เราก็สามารถผิดพลาดได้ และจำเป็นต้องประเมินอีกครั้ง
Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think, how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
ทีนี้ ดูจากความท้าทายที่ฉันต้องเจอ มันสำคัญมากที่นอกจากดิฉันจะคาดการณ์แล้ว ยังต้องออกแบบการป้องกันเหตุการณ์ที่ไม่อาจคาดคิด และนั่นไม่ใช่แค่ปัญหาของดิฉัน หรือทวิตเตอร์ แต่มันคือปัญหาสำหรับคุณ มันคือปัญหาสำหรับทุกคนที่สร้างหรือผลิต บางสิ่งที่คุณคิดว่ามันจะออกมามหัศจรรย์ และจะทำให้ผู้คนได้ทำอะไรเจ๋งๆ ทีนี้ดิฉันจะทำอย่างไร? ดิฉันหยุด และคิด สิ่งต่างๆ ทั้งหมดนี้ จะเกิดความผิดพลาดร้ายแรงได้อย่างไร? ดิฉันจินตนาการภัยพิบัติ และการทำแบบนั้นมันยาก มันมีบางอย่างที่ ขัดแย้งกันในหัวเวลาทำแบบนั้น เหมือนเวลาที่คุณเขียนคำสาบานในงานแต่งงาน พร้อมกับเขียนข้อตกลงก่อนแต่งงาน (เสียงหัวเราะ) แต่คุณก็ยังต้องทำมัน โดยเฉพาะถ้าคุณต้องแต่งงานกับ 500 ล้าน ทวีตต่อวัน ฉันหมายความอย่างไรเมื่อพูดว่า "จินตนาการภัยพิบัติ" ฉันพยายามคิดว่าบางสิ่งที่ดูอ่อนโยน และไร้พิษสงอย่างรูปของแมว จะนำไปสู่ความตายได้อย่างไร และจะทำอะไรเพื่อป้องกันเหตุการณ์นั้น ซึ่งบังเอิญว่าเป็นตัวอย่างต่อไปของฉัน นี่คือแมวของดิฉัน อีไล เราต้องการมอบความสามารถในการเพิ่มรูป ลงไปในทวีตให้แก่ผู้ใช้บริการ หนึ่งภาพมีค่ามากกว่าพันคำพูด คุณพิมพ์ได้แค่ 140 ตัวอักษร คุณเพิ่มรูปภาพลงไปในทวีต ดูสิตอนนี้คุณมีเนื้อหามากมายแค่ไหน มันมีสิ่งต่างๆ มากมายที่คุณทำได้ โดยการเพิ่มรูปภาพลงไปในทวีตของคุณ หน้าที่ของดิฉันไม่ใช่การคิดถึงเรื่องพวกนั้น มันคือการคิดว่าอะไรจะผิดพลาด
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases.
รูปภาพนี้จะนำมาซึ่งความตาย ของดิฉันได้อย่างไร และนี่คือหนึ่งสิ่งที่เป็นไปได้ ในรูปภาพนั้นมันไม่ได้มีแค่แมวตัวเดียว มันมีข้อมูลทางภูมิศาสตร์ เมื่อคุณถ่ายรูปด้วยโทรศัพท์อัจฉริยะ หรือกล้องถ่ายรูปดิจิตอล มันมีข้อมูลมากมาย ถูกบันทึกไปกับรูปภาพ จริงๆ แล้ว รูปภาพนี้มี สิ่งที่มีค่าเท่ากับสิ่งนี้ เจาะจงไปอีกก็คือนี่ แน่นอน มันดูไม่น่าจะมีใครพยายาม สะกดรอยตามและทำร้ายดิฉัน โดยใช้ข้อมูลที่เกี่ยวข้องกับ รูปของแมวฉันที่ดิฉันถ่าย แต่ฉันเริ่มต้นด้วยการสมมติสิ่งที่เลวร้ายที่สุด และนั่นคือเหตุผลว่าทำไม ตอนที่เราเปิดตัว รูปภาพบนทวิตเตอร์ เราตัดสินใจที่จะลบข้อมูลทางภูมิศาสตร์พวกนั้นออกไป (เสียงปรบมือ) ถ้าดิฉันเริ่มต้นจากการสมมติสิ่งที่เลวร้ายที่สุด และทำงานย้อนหลัง ดิฉันจะสามารถมั่นใจได้ว่าระบบป้องกันที่เราสร้างขึ้น จะเป็นประโยชน์กับเหตุการณ์ทั้งที่ คาดคิดและไม่คาดคิด
Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy. (Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds.
ถ้าดูจากที่ดิฉันใช้เวลาทั้งกลางวันและกลางคืน จินตนาการสิ่งเลวร้ายต่างๆ ที่อาจเกิดขึ้น มันคงไม่แปลกเลยถ้าโลกทัศน์ของดิฉันจะดูหดหู่ (เสียงหัวเราะ) ไม่เลย ปฏิสัมพันธ์ส่วนใหญ่ที่ดิฉันได้เห็น และฉันได้เห็นเยอะ เชื่อฉันสิ เป็นไปในทางบวก ผู้คนพยายามช่วยเหลือ หรือเชื่อมต่อ หรือแบ่งปัน ซึ่งกันและกัน มันแค่สำหรับพวกเราที่ต้องต่อกรกับขนาด สำหรับพวกเราที่มีหน้าที่ดูแลให้ผู้คนปลอดภัย เราจำเป็นต้องสมมติว่าสิ่งที่เลวร้ายที่สุดจะเกิดขึ้น เพราะสำหรับพวกเรา โอกาสหนึ่งในล้านนั้น คือสิ่งที่เกิดขึ้นได้ไม่ยากเลย
Thank you.
ขอบคุณค่ะ
(Applause)
(เสียงปรบมือ)