كريس أنيدرسون: ما الذي يقلقك الآن؟ كنت صريحًا جدًا بخصوص الكثير من المشاكل فى تويتر. ما أكثر شيء يقلقك فيما آلت إليه الأمور الآن؟
Chris Anderson: What worries you right now? You've been very open about lots of issues on Twitter. What would be your top worry about where things are right now?
جاك دورسي: ما يقلقني الآن هو صحة المحادثات. هدفنا هو خدمة الحوار الاجتماعي، ولكننا رأينا عددًا من التعدّيات عليه. لقد رأينا الإساءة، والمضايقة، رأينا التلاعب، والأوتوماتية، والتنسيق البشري، والتضليل. لذا كل هذه المتغيرات لم نتوقعها حين أسّسنا الشركة قبل 13 عامًا. لكننا نراها الآن على نطاق واسع، وأكثر ما يقلقني هو فقط قدرتنا على معالجة هذا بطريقة ممنهجة ويمكن قياسها، والقائمة على فهم دقيق لكيفية اتخاذنا للإجراءات، فهم واضح لكيفية اتخاذنا للقرارات، وعملية استئناف صارمة حين نخطئ، لأننا حتمًا سنخطئ.
Jack Dorsey: Right now, the health of the conversation. So, our purpose is to serve the public conversation, and we have seen a number of attacks on it. We've seen abuse, we've seen harassment, we've seen manipulation, automation, human coordination, misinformation. So these are all dynamics that we were not expecting 13 years ago when we were starting the company. But we do now see them at scale, and what worries me most is just our ability to address it in a systemic way that is scalable, that has a rigorous understanding of how we're taking action, a transparent understanding of how we're taking action and a rigorous appeals process for when we're wrong, because we will be wrong.
ويتني بينينغتون: أنا سعيدة حقًا لسماع أن هذا شيء يهمّك، لأنني أعتقد أن هناك الكثير من الكلام عن أناس أسيء معاملتهم وتعرضوا للمضايقة على تويتر، وأعتقد أن لا أحد أوذي أكثر من النساء والنساء من غير البيض وذوات البشر السوداء. وهناك بيانات منشورة... أصدرت منظمة العفو الدولية تقريرًا منذ أشهر جاء فيه أن مجموعة من مستخدمات تويتر النشِطات من أصحاب البشرة السوداء كن يتعرضن لشكل من أشكال المضايقة بمعدل تغريدة من كل 10 تغريدات في المتوسط. ولذا عندما تفكر في صحة مجتمع تويتر، أنا مهتمة بسماع كلمة (الصحة للجميع)، لكن على وجه الخصوص، كيف تنوي أن تجعل تويتر مكانًا آمنًا لتلك الفئة من النساء من غير البيض والبشرة السوداء؟
Whitney Pennington Rodgers: I'm really glad to hear that that's something that concerns you, because I think there's been a lot written about people who feel they've been abused and harassed on Twitter, and I think no one more so than women and women of color and black women. And there's been data that's come out -- Amnesty International put out a report a few months ago where they showed that a subset of active black female Twitter users were receiving, on average, one in 10 of their tweets were some form of harassment. And so when you think about health for the community on Twitter, I'm interested to hear, "health for everyone," but specifically: How are you looking to make Twitter a safe space for that subset, for women, for women of color and black women?
نعم. إنه موقف رهيب جدًا عندما تقبل على خدمة لكي -في الظروف المثالية- تتعلم شيئًا ما عن العالم، ولكنك تجد نفسك تقضي معظم وقتك في التبليغ عن الإساءة، وتتعرض للإساءة، وتتلقى المضايقات. لذا ما نبحث عنه الآن باهتمام هو الحوافز التي تقدمها المنصة والخدمة بشكل طبيعي. حاليًا، دينامية النظام تسهل جدًا مضايقة وإساءة معاملة المستخدمين الآخرين في نفس الخدمة، وللأسف، الجزء الأكبر من نظامنا في الماضي كان يعتمد كليًا على بلاغات الناس عن المضايقة والإساءة. لذا في منتصف العام الماضي تقريبًا، قررنا أننا سنطبّق المزيد من تعلم الآلة، والمزيد من التعلم العميق لحل المشكلة، وحاولنا أن نكون أكثر استباقية في تحديد مكان الإساءة ومنعها قبل حدوثها حتى نزيح العبء عن كاهل الضحية تمامًا. ولقد أحرزنا بعض التقدم مؤخرًا. 38% من التغريدات المسيئة يتم التعرف عليها استباقيًا باستخدام خوارزميات التعلم الآلي؛ لذا لا يحتاج الناس حقًا للتبليغ عنها. لكن تلك التغريدات التي تم التعرف عليها يتم مراجعتها من قبل بشر لذا فإننا لا نحذف أي محتوى أو حسابات قبل أن يراجعها بشري. كل هذا لم يكن موجودًا قبل عام فقط. وهذا عنى حينها أن كل شخص يتعرض لإساءة ما كان عليه أن يبلغ عنها بنفسه، وهذا عنى الكثير من العمل بالنسبة لهم، وبالنسبة لنا أيضًا، وهذا غير عادل أبدًا.
JD: Yeah. So it's a pretty terrible situation when you're coming to a service that, ideally, you want to learn something about the world, and you spend the majority of your time reporting abuse, receiving abuse, receiving harassment. So what we're looking most deeply at is just the incentives that the platform naturally provides and the service provides. Right now, the dynamic of the system makes it super-easy to harass and to abuse others through the service, and unfortunately, the majority of our system in the past worked entirely based on people reporting harassment and abuse. So about midway last year, we decided that we were going to apply a lot more machine learning, a lot more deep learning to the problem, and try to be a lot more proactive around where abuse is happening, so that we can take the burden off the victim completely. And we've made some progress recently. About 38 percent of abusive tweets are now proactively identified by machine learning algorithms so that people don't actually have to report them. But those that are identified are still reviewed by humans, so we do not take down content or accounts without a human actually reviewing it. But that was from zero percent just a year ago. So that meant, at that zero percent, every single person who received abuse had to actually report it, which was a lot of work for them, a lot of work for us and just ultimately unfair.
الشيء الآخر الذى نفعله هو التأكد -كشركة- من أننا نحظى بتمثيل من كل المجتمعات التي نحاول خدمتها. لا نستطيع بناء مشروع عمل ناجح إلا إذا كان لدينا تنوع في خلفيات الموظفين داخل شركتنا والذين يختبرون هذه المشاكل كل يوم. وهذا ليس فقط مع الفريق القائم بالعمل، بل أيضًا مع قيادتنا كذلك. لذا فإننا نحتاج لبناء تعاطف مع ما يختبره الناس، وإعطائهم أدواتٍ أفضل للتصرف معه، وكذلك تزويد عملائنا بمدخل أفضل وأسهل لمعالجة بعض الأشياء التي يرونها. لذا فالكثير مما نفعله يتمحور حول التكنولوجيا، لكننا أيضًا ننظر إلى الحوافز في هذه الخدمة: ما الذي يدفعك تويتر لفعله بمجرد الدخول إليه؟ وفي الماضي، كان يحفّز الكثير من الغضب والسلوك الغوغائي، وكان يحفّز الكثير من المضايقات الجماعية. وينبغي علينا أن ننظر بتعمق أكبر في بعض أساسيات ما تفعله الخدمة لإحداث التحولات الكبيرة. نستطيع تحقيق بعض النقلات الصغيرة في التكنولوجيا كما ذكرت توًا، لكن في النهاية، يجب النظر بتعمق في التغيرات في الشبكة نفسها، وهذا ما نفعله.
The other thing that we're doing is making sure that we, as a company, have representation of all the communities that we're trying to serve. We can't build a business that is successful unless we have a diversity of perspective inside of our walls that actually feel these issues every single day. And that's not just with the team that's doing the work, it's also within our leadership as well. So we need to continue to build empathy for what people are experiencing and give them better tools to act on it and also give our customers a much better and easier approach to handle some of the things that they're seeing. So a lot of what we're doing is around technology, but we're also looking at the incentives on the service: What does Twitter incentivize you to do when you first open it up? And in the past, it's incented a lot of outrage, it's incented a lot of mob behavior, it's incented a lot of group harassment. And we have to look a lot deeper at some of the fundamentals of what the service is doing to make the bigger shifts. We can make a bunch of small shifts around technology, as I just described, but ultimately, we have to look deeply at the dynamics in the network itself, and that's what we're doing.
ولكن ما هو تصورك... ما نوع الشيء الذي يمكنك تغييره والذي حقًا سيغير السلوك بشكل كبير؟
CA: But what's your sense -- what is the kind of thing that you might be able to change that would actually fundamentally shift behavior?
حسنًا، أحد الأشياء هي... أننا بدأنا الخدمة بمبدأ اتجاه الناس لمتابعة حساب ما، كمثال. ولكني لا أعتقد أن هذا هو سبب استخدام الناس لتويتر. أعتقد أن تويتر شبكة مبنية على الاهتمامات المشتركة. الناس يستخدمونه لمتابعة اهتمام معين لديهم. ويبذلون الكثير من الجهد لإيجاد ومتابعة حسابات متعلقة باهتماماتهم. بدلاً من ذلك، يمكننا أن نتيح لك خيار متابعة اهتمام ما، بأن تتابع الهاشتاج، أو التريند، أو مجتمعًا معينًا، وهذا يسمح لنا بإظهار جميع الحسابات، وكل الموضوعات، وكل اللحظات، وكل الهاشتاجات المرتبطة بهذا الموضوع والاهتمام المحدد، مما يجعل منظورك أكثر شمولية. ولكن هذا يمثل نقلة أساسية كبيرة؛ أن توجّه الشبكة بأكملها بعيدًا عن متابعة حساب معين إلى متابعة موضوعات واهتمامات معينة.
JD: Well, one of the things -- we started the service with this concept of following an account, as an example, and I don't believe that's why people actually come to Twitter. I believe Twitter is best as an interest-based network. People come with a particular interest. They have to do a ton of work to find and follow the related accounts around those interests. What we could do instead is allow you to follow an interest, follow a hashtag, follow a trend, follow a community, which gives us the opportunity to show all of the accounts, all the topics, all the moments, all the hashtags that are associated with that particular topic and interest, which really opens up the perspective that you see. But that is a huge fundamental shift to bias the entire network away from just an account bias towards a topics and interest bias.
ولكن... أليس أحد أسباب وجود هذا القدر الكبير من المحتوى هناك هو وضع الملايين من الناس حول العالم في هذه المنافسة الملحمية مع بعضهم البعض من أجل المتابعين والحظي بالانتباه؟ بالنسبة للأشخاص الذي يقرأون فقط تويتر، لن يمثل هذا مشكلة جمة، أما بالنسبة للناس الذين يصنعون هذا المحتوى، فكل واحد منهم يقول: "أتمنى لو كان لدي المزيد من الإعجابات والمتابعين وإعادة التغريد." ولذلك فهم يجربون باستمرار محاولين إيجاد وسيلة لتحقيق ذلك. والذي اكتشفناه جميعًا أن الوسيلة الأبرز لتحقيق ذلك هو أن تكون مستفزًا نوعًا ما، أو بغيضًا، بغيضًا فصيحًا، فالإهانات البليغة هي حلم على تويتر، حيث تستشيط غضبًا بسرعة وتصير أشبه بعملية ذاتية الاشتعال من الغضب العارم. كيف يمكنك نزع فتيل ذلك؟
CA: Because isn't it the case that one reason why you have so much content on there is a result of putting millions of people around the world in this kind of gladiatorial contest with each other for followers, for attention? Like, from the point of view of people who just read Twitter, that's not an issue, but for the people who actually create it, everyone's out there saying, "You know, I wish I had a few more 'likes,' followers, retweets." And so they're constantly experimenting, trying to find the path to do that. And what we've all discovered is that the number one path to do that is to be some form of provocative, obnoxious, eloquently obnoxious, like, eloquent insults are a dream on Twitter, where you rapidly pile up -- and it becomes this self-fueling process of driving outrage. How do you defuse that?
نعم، أعني، أعتقد أنك محق تمامًا، لكن هذا يعود للحوافز. مثلاً، أحد الخيارات التي أنشأناها في الأيام الأولى كان ذلك الرقم الذي يظهر عدد متابعيك. قررنا أن ذلك الرقم يجب أن يكون كبيرًا وبالخط العريض، وأي شيء على الصفحة كبير وعريض فهو مهم، هذه هي الأشياء التي تريد تنميتها. هل كان ذلك قرارًا صحيحًا في ذلك الوقت؟ ربما لا. إذا كنت سأعيد بناء الخدمة من البداية، فلن أبرز عدد المتابعين بهذا القدر. ولن أبرز عدد الإعجابات بهذا القدر. ولا أظن أنني كنت سأنشئ زر الإعجاب في المقام الأول؛ لأنه في الواقع لا يخدم ما نعتقده الآن أهم شيء، وهو المساهمة الصحية في الشبكة، والتحاور مع باقي مستخدمي الشبكة، والمشاركة في الحوار، وتعلم شيء من الحوار. هذه ليست الأشياء التي كنا نفكر فيها قبل 13 عامًا، ونعتقد أنها مهمة جدًا الآن.
JD: Yeah, I mean, I think you're spot on, but that goes back to the incentives. Like, one of the choices we made in the early days was we had this number that showed how many people follow you. We decided that number should be big and bold, and anything that's on the page that's big and bold has importance, and those are the things that you want to drive. Was that the right decision at the time? Probably not. If I had to start the service again, I would not emphasize the follower count as much. I would not emphasize the "like" count as much. I don't think I would even create "like" in the first place, because it doesn't actually push what we believe now to be the most important thing, which is healthy contribution back to the network and conversation to the network, participation within conversation, learning something from the conversation. Those are not things that we thought of 13 years ago, and we believe are extremely important right now.
لذا علينا أن ننظر إلى طريقة عرض عدد المتابعين، وطريقة عرض عدد إعادات التغريد، وطريقة عرض الإعجابات، وأن نسأل السؤال العميق: هل هذا حقًا الرقم الذي نريد من الناس أن يضاعفوه؟ هل هذا هو الشيء الذي عندما تفتح تويتر تراه وتقول: "هذا هو الشيء الذي أحتاج لزيادته؟" ولا أعتقد أن هذا هو الوضع الآن.
So we have to look at how we display the follower count, how we display retweet count, how we display "likes," and just ask the deep question: Is this really the number that we want people to drive up? Is this the thing that, when you open Twitter, you see, "That's the thing I need to increase?" And I don't believe that's the case right now.
(تصفيق)
(Applause)
أعتقد أننا يجب أن ننظر إلى بعض التغريدات التي تأتي من الجمهور أيضًا.
WPR: I think we should look at some of the tweets that are coming in from the audience as well.
لنر ما الذي تسألون عنه يا رفاق. أعني، هذا بشكل عام واحد من الأشياء الرائعة بخصوص تويتر أنك يمكن أن تستخدمه لنشر الحكمة بين الجموع، كما تعرف، ذلك يتضمن معرفة أوسع، وأسئلة، ووجهات نظر أكثر مما تتخيل، وأحيانا، العديد منهم صحي جدًا.
CA: Let's see what you guys are asking. I mean, this is -- generally, one of the amazing things about Twitter is how you can use it for crowd wisdom, you know, that more knowledge, more questions, more points of view than you can imagine, and sometimes, many of them are really healthy.
أعتقد أني رأيت سؤالاً يمر بسرعة هنا، "ما هي خطة تويتر لمكافحة التدخل الأجنبي في انتخابات الولايات المتحدة 2020؟" أعتقد أن هذا أمر يمثل مشكلة نراها على الإنترنت بشكل عام، أن هناك الكثير من النشاط الآلي الخبيث يحدث. وعلى تويتر، على سبيل المثال، لدينا بعض العمل في الحقيقة من أصدقائنا في مختبرات زيجنال، وربما يمكننا حتى أن نرى ذلك لنعطي مثالاً عما أتحدث عنه بالضبط، أينما تمتلك روبوتات -إذا كنت تنوي ذلك- أو نشاط حسابي آلي خبيث منسق، فإنها تُستخدَم للتأثير على أشياء مثل الانتخابات. وفي هذا المثال التي تشاركه زيجنال معنا باستخدام البيانات التي لديهم من تويتر، يمكنك أن ترى ذلك في هذه الحالة أن الأبيض يمثل البشر، الحسابات البشرية، حيث أن كل نقطة هي حساب. وكلما زاد لونها الوردي، كلما كان النشاط آليًا أكثر. ويمكنك أن ترى أن هناك بعض البشر يتفاعلون مع الروبوتات هذه الحالة متعلقة بالانتخابات في إسرائيل ونشر معلومات مضللة عن بيني غانتز، وكما نعرف، في النهاية، فاز نتنياهو بفارق ضئيل، وهذا قد يكون تأثر بذلك بشكل أو بآخر. وعندما تفكر فيما يحدث على تويتر، ما الأشياء التي تقوم بها خصيصًا للتأكد من عدم انتشار المعلومات المضللة بهذه الدرجة وتأثيرها على الناس بطرق يمكن أن تؤثر على الديمقراطية؟
WPR: I think one I saw that passed already quickly down here, "What's Twitter's plan to combat foreign meddling in the 2020 US election?" I think that's something that's an issue we're seeing on the internet in general, that we have a lot of malicious automated activity happening. And on Twitter, for example, in fact, we have some work that's come from our friends at Zignal Labs, and maybe we can even see that to give us an example of what exactly I'm talking about, where you have these bots, if you will, or coordinated automated malicious account activity, that is being used to influence things like elections. And in this example we have from Zignal which they've shared with us using the data that they have from Twitter, you actually see that in this case, white represents the humans -- human accounts, each dot is an account. The pinker it is, the more automated the activity is. And you can see how you have a few humans interacting with bots. In this case, it's related to the election in Israel and spreading misinformation about Benny Gantz, and as we know, in the end, that was an election that Netanyahu won by a slim margin, and that may have been in some case influenced by this. And when you think about that happening on Twitter, what are the things that you're doing, specifically, to ensure you don't have misinformation like this spreading in this way, influencing people in ways that could affect democracy?
من أجل حشد بعض الدعم، سألنا أنفسنا سؤالاً: هل يمكننا قياس صحة المحادثة؟ وما الذي يعنيه ذلك؟ وكما أن لديك مؤشرات ولدينا مؤشرات كبشر من حيث هل نحن أصحاء أم لا مثل درجة الحرارة واحمرار وجهك، فإننا نعتقد أننا يمكننا إيجاد مؤشرات لصحة المحادثة. وعملنا مع مختبر يدعى كورتيكو في معهد ماساتشوستس للتكنولوجيا ليقترحوا علينا أربعة مؤشرات أولية يمكننا أن نقيسها في النظام. الأول هو ما نسميه الاهتمام المشترك. هو مقياس لمدى كون المحادثة مثيرة للانتباه حول هذا الموضوع مقارنة بسواه. الثاني يسمى الواقعية المشتركة، وهذه هي النسبة المئوية من المحادثة التي نتشارك فيها نفس الحقائق، لا يهم سواء كانت تلك الحقائق صادقة أم لا، المهم هو: هل نتشارك نفس الحقائق بينما نتحدث؟ والثالث هو التقبل: كم بالمئة من المحادثة يتسم بالتقبل والتحضر؟ أو على النقيض بالسُمّية؟ ثم الرابع هو اختلاف وجهات النظر: إذن، هل نحن بصدد فقاعة المرشح أو غرفة الصدى؟ أم أننا نحن في الواقع نحصل على مجموعة متنوعة من الآراء خلال المحادثة؟ ومفهوم ضمنيًا في هذه المؤشرات أنها كلما زادت، تصبح المحادثة صحية أكثر وأكثر.
JD: Just to back up a bit, we asked ourselves a question: Can we actually measure the health of a conversation, and what does that mean? And in the same way that you have indicators and we have indicators as humans in terms of are we healthy or not, such as temperature, the flushness of your face, we believe that we could find the indicators of conversational health. And we worked with a lab called Cortico at MIT to propose four starter indicators that we believe we could ultimately measure on the system. And the first one is what we're calling shared attention. It's a measure of how much of the conversation is attentive on the same topic versus disparate. The second one is called shared reality, and this is what percentage of the conversation shares the same facts -- not whether those facts are truthful or not, but are we sharing the same facts as we converse? The third is receptivity: How much of the conversation is receptive or civil or the inverse, toxic? And then the fourth is variety of perspective. So, are we seeing filter bubbles or echo chambers, or are we actually getting a variety of opinions within the conversation? And implicit in all four of these is the understanding that, as they increase, the conversation gets healthier and healthier.
لذا خطوتنا الأولى هي أن نرى إن كنا بإمكاننا قياس هذا على الإنترنت، ونعتقد أننا قادرون على ذلك. لدينا الزخم الأكبر حول التقبل. لدينا مقياس أو نموذج للسُمّية على نظامنا يمكنه أن يقيس فعلاً متى ينبغي أن تبتعد عن محادثة تجريها على تويتر لأنها سامة بدرجة كبيرة. نحن أيضًا نعمل على قياس البقية، والخطوة التالية هي -بينما نخلق حلولاً- أن نتابع التغيرات في هذه القياسات مع مرور الوقت ومواصلة التجربة. وهدفنا أن نتأكد من توازنها؛ لأن الزيادة في إحداها تأتي على حساب النقص في أخرى. إذا زاد تنوع وجهات النظر فقد تقل الواقعية المشتركة.
So our first step is to see if we can measure these online, which we believe we can. We have the most momentum around receptivity. We have a toxicity score, a toxicity model, on our system that can actually measure whether you are likely to walk away from a conversation that you're having on Twitter because you feel it's toxic, with some pretty high degree. We're working to measure the rest, and the next step is, as we build up solutions, to watch how these measurements trend over time and continue to experiment. And our goal is to make sure that these are balanced, because if you increase one, you might decrease another. If you increase variety of perspective, you might actually decrease shared reality.
فقط لنأخذ بعض الأسئلة المتدفقة هنا.
CA: Just picking up on some of the questions flooding in here.
السؤال الثابت.
JD: Constant questioning.
الكثير من الناس متحيرون حول مدى صعوبة التخلص من النازيين على تويتر؟
CA: A lot of people are puzzled why, like, how hard is it to get rid of Nazis from Twitter?
(ضحك)
JD: (Laughs)
لدينا سياسات حول الجماعات المتطرفة العنيفة، وغالبية عملنا وشروط خدمتنا تستهدف السلوك وليس المحتوى. لذا نحن في الحقيقة نبحث عن السلوك. كأن يستخدم أحدهم هذه الخدمة لمضايقة شخص ما بشكل متكرر أو دوري، باستخدام الصور البغيضة المرتبطة بمنظمة (كو كلوكس كلان) أو الحزب النازي الأمريكي. هذه كلها أشياء نتصرف بخصوصها على الفور. نحن في وضع الآن حيث يُستخدَم هذا المصطلح بشكل فضفاض، وبالتالي لا نستطيع أن نعتبر هذه الكلمة دليلاً كافيًا لاتهام شخص آخر أو مؤشرًا واقعيًا على ضرورة حذفه من المنصة. لذا الكثير من نماذجنا مبنية حول: أولاً: هل هذا الحساب مرتبط بجماعة متطرفة عنيفة؟ وإذا كان الأمر كذلك، يمكننا اتخاذ إجراء. وفعلنا ذلك مع (كو كلوكس كلان) والحزب النازي الأمريكي وآخرين. ثانيًا: هل يستخدمون صورًا أو يسلكون سلوكًا من شأنه أن يدرجهم في هذا التصنيف أيضًا؟
So we have policies around violent extremist groups, and the majority of our work and our terms of service works on conduct, not content. So we're actually looking for conduct. Conduct being using the service to repeatedly or episodically harass someone, using hateful imagery that might be associated with the KKK or the American Nazi Party. Those are all things that we act on immediately. We're in a situation right now where that term is used fairly loosely, and we just cannot take any one mention of that word accusing someone else as a factual indication that they should be removed from the platform. So a lot of our models are based around, number one: Is this account associated with a violent extremist group? And if so, we can take action. And we have done so on the KKK and the American Nazi Party and others. And number two: Are they using imagery or conduct that would associate them as such as well?
كم عدد الناس لديك الذين يعملون على ضمان الاعتدال في المحتوى وينظرون في هذه الأمور؟
CA: How many people do you have working on content moderation to look at this?
إنه يتفاوت. نريد أن نكون مرنين حول هذا، لأننا نريد أن نتأكد من أننا: رقم واحد: نبني خوارزميات بدلاً من مجرد توظيف أعداد هائلة من الناس، لأننا بحاجة للتأكد من أن ذلك قابل للقياس، وليس هناك عدد من الناس يستطيعون حقًا قياس ذلك. لهذا قمنا بالكثير من العمل للكشف استباقيًا عن إساءة المعاملة، والتي يراجعها البشر بعدها. نريد أن نصل لمرحلة حيث الخوارزميات تجوب باستمرار كل تغريدة وتضع الأكثر إثارة للشك في الأعلى حتى يستطيع الموظفون البشر أن يحكموا ما إذا كان علينا أن نتخذ إجراءًا أم لا، بناء على شروط خدمتنا.
JD: It varies. We want to be flexible on this, because we want to make sure that we're, number one, building algorithms instead of just hiring massive amounts of people, because we need to make sure that this is scalable, and there are no amount of people that can actually scale this. So this is why we've done so much work around proactive detection of abuse that humans can then review. We want to have a situation where algorithms are constantly scouring every single tweet and bringing the most interesting ones to the top so that humans can bring their judgment to whether we should take action or not, based on our terms of service.
ليس هناك عدد من الناس قابل للقياس، لكن كم من الناس لديك حاليا يراقبون هذه الحسابات؟ وكيف تحدد ما هو كافٍ لاحتياجاتك؟
WPR: But there's not an amount of people that are scalable, but how many people do you currently have monitoring these accounts, and how do you figure out what's enough?
إنهم مرِنون تمامًا. أحيانا نخص بعضهم بالتعامل مع الرسائل المزعجة. ونخصّ البعض الآخر بالتعامل مع الإساءة والمضايقة. سنتأكد من وجود المرونة في موظفينا حتى نتمكن من توجيههم نحو الجهات الأكثر احتياجًا، وأحيانًا، الانتخابات. لقد كان لدينا سلسلة من الانتخابات: في المكسيك، وواحدة قادمة في الهند، وانتخابات العام الماضي بالتأكيد، وانتخابات التجديد النصفي، لذا نريد فقط أن نكون مرِنين مع مواردنا. لذا عندما الناس... سأضرب مثالاً، إذا ذهبت إلى شروط خدمتنا الحالية وحرّكت الصفحة للأعلى، بينما تتساءل عن الإساءة والمضايقة التي تعرضت لها للتو وما إذا كانت ضد شروط خدمتنا للإبلاغ عنها، فإن أول شيء تراه عندما تفتح تلك الصفحة هو حول حماية الملكية الفكرية. حرّك الصفحة للأسفل وستجد عناوين الإساءة والمضايقة وأي شيء آخر قد تعاني منه.
JD: They're completely flexible. Sometimes we associate folks with spam. Sometimes we associate folks with abuse and harassment. We're going to make sure that we have flexibility in our people so that we can direct them at what is most needed. Sometimes, the elections. We've had a string of elections in Mexico, one coming up in India, obviously, the election last year, the midterm election, so we just want to be flexible with our resources. So when people -- just as an example, if you go to our current terms of service and you bring the page up, and you're wondering about abuse and harassment that you just received and whether it was against our terms of service to report it, the first thing you see when you open that page is around intellectual property protection. You scroll down and you get to abuse, harassment and everything else that you might be experiencing.
لذا أنا لا أعرف كيف حدث ذلك على مر تاريخ الشركة، لكننا وضعنا حقوق الملكية الفكرية فوق الشيء الذي يريد الناس معرفة ما يكفي من المعلومات عنه واتخاذ رد فعل ضده. وذلك الترتيب يظهر للعالم ما كنا نعتقد أنه مهم. لذا نحن نغير كل ذلك. نرتّبه بالطريقة الصحيحة، لكننا أيضا نقوم بتبسيط القواعد بحيث يسهل قراءتها، لكي يفهم الناس أنفسهم، وإذا كان هناك شيء ضد شروطنا أو لا. ثم إننا... مرة أخرى، تركيزنا الكبير ينصبّ على إزالة عبء العمل عن الضحايا. وهذا يعني الدفع باتجاه التكنولوجيا، بدلاً من أن يقوم البشر بالعمل، وهذا يشمل الأشخاص الذين تعرضوا للإساءة، وأيضا الأشخاص الذين يراجعون هذا العمل. لذا نريد أن نتأكد من أننا لا نكلف البشر بالمزيد من العمل المتعلق بشيء سلبي، سلبي للغاية، ونريد أن يكون لدينا توازن جيد بين التكنولوجيا وبين ما يمكن للبشر أن يكونوا مبدعين فيه: وهو الحكم على القواعد، وليس فقط كل الاشياء الميكانيكية المختصة بتحديد الانتهاكات والإبلاغ عنها. إذن، هكذا ننظر للأمر.
So I don't know how that happened over the company's history, but we put that above the thing that people want the most information on and to actually act on. And just our ordering shows the world what we believed was important. So we're changing all that. We're ordering it the right way, but we're also simplifying the rules so that they're human-readable so that people can actually understand themselves when something is against our terms and when something is not. And then we're making -- again, our big focus is on removing the burden of work from the victims. So that means push more towards technology, rather than humans doing the work -- that means the humans receiving the abuse and also the humans having to review that work. So we want to make sure that we're not just encouraging more work around something that's super, super negative, and we want to have a good balance between the technology and where humans can actually be creative, which is the judgment of the rules, and not just all the mechanical stuff of finding and reporting them. So that's how we think about it.
كريس: أنا فضولي لمعرفة المزيد عما قلته. أعني، أحب أنك قلت أنك تبحث عن طرق لإعادة تعديل التصميم الأساسي للنظام لتثبيط بعض السلوك التفاعلي، وربما... لاستخدام لغة من نوع تريستان هاريس وتشجيع التفكير النقدي عند الناس. ما مدى تقدم ذلك؟ ما هي البدائل لزر الإعجاب؟
CA: I'm curious to dig in more about what you said. I mean, I love that you said you are looking for ways to re-tweak the fundamental design of the system to discourage some of the reactive behavior, and perhaps -- to use Tristan Harris-type language -- engage people's more reflective thinking. How far advanced is that? What would alternatives to that "like" button be?
حسنًا، أولاً وقبل كل شيء، هدفي الشخصي من الخدمة هو أنني أؤمن بشكل أساسي أن الحوار الاجتماعي بالغ الأهمية. هناك مشاكل وجودية تواجه العالم وتواجه العالم بأسره، وليس دولة بعينها، والتي يفيدها ذلك الحوار الاجتماعي. وهذه واحدة من الديناميكيات الفريدة في تويتر، أنه مفتوح تمامًا، وأنه عام تمامًا، وأنه سلس تمامًا، ويمكن لأي شخص أن يرى أي محادثة أخرى ويشارك فيها. لذا هناك نقاشات عن التغير المناخي. هناك مناقشات عن اختفاء الوظائف لصالح الذكاء الاصطناعي. هناك محادثات عن التفاوت في المستوى الاقتصادي. مهما كان ما تفعله أي دولة، فلن تتمكن من حل المشكلة بمفردها. هذه المشاكل تتطلب تنسيقًا حول العالم، وهذا هو الموضع الذي أعتقد أن تويتر يمكن أن يلعب دورًا فيه.
JD: Well, first and foremost, my personal goal with the service is that I believe fundamentally that public conversation is critical. There are existential problems facing the world that are facing the entire world, not any one particular nation-state, that global public conversation benefits. And that is one of the unique dynamics of Twitter, that it is completely open, it is completely public, it is completely fluid, and anyone can see any other conversation and participate in it. So there are conversations like climate change. There are conversations like the displacement in the work through artificial intelligence. There are conversations like economic disparity. No matter what any one nation-state does, they will not be able to solve the problem alone. It takes coordination around the world, and that's where I think Twitter can play a part.
الشيء الثاني هو أن تويتر -حاليًا- عندما تذهب إليه، ليس شرطًا أن ترحل وأنت تشعر أنك تعلمت شيئًا، لكن بعض الناس يفعلون. بعض الناس لديهم شبكة غنية جدًا جدًا، لديهم مجتمع غني جدًا يتعلمون منه كل يوم. لكنه يتطلب الكثير من العمل والكثير من الوقت للوصول إلى ذلك. لذا نريد أن نوصّل الناس إلى تلك المواضيع وتلك الاهتمامات بسرعة أكبر كثيرًا، وأن نتأكد من أنهم سيجدون شيئًا... مهما كان الوقت الذي يقضونه على تويتر، ولا أستهدف زيادة الوقت على تويتر، لكنني أهدف لزيادة ما يأخذونه منه، وما يتعلمونه منه، و...
The second thing is that Twitter, right now, when you go to it, you don't necessarily walk away feeling like you learned something. Some people do. Some people have a very, very rich network, a very rich community that they learn from every single day. But it takes a lot of work and a lot of time to build up to that. So we want to get people to those topics and those interests much, much faster and make sure that they're finding something that, no matter how much time they spend on Twitter -- and I don't want to maximize the time on Twitter, I want to maximize what they actually take away from it and what they learn from it, and --
حسنا، هل تفعل ذلك؟ لأن هذا هو السؤال الجوهري الذي يريد الكثير من الناس أن يعرفوا إجابته بالتأكيد، جاك، أنت مقيد، إلى حد كبير، بحقيقة أنك شركة عامة، لديك مستثمرون يضغطون عليك، والطريقة الأولى لكسب المال هي من خلال الإعلانات والتي تعتمد على تفاعل المستخدم. هل أنت على استعداد للتضحية بوقت المستخدم -إذا لزم الأمر- من أجل توفير حوار أكثر عمقًا؟
CA: Well, do you, though? Because that's the core question that a lot of people want to know. Surely, Jack, you're constrained, to a huge extent, by the fact that you're a public company, you've got investors pressing on you, the number one way you make your money is from advertising -- that depends on user engagement. Are you willing to sacrifice user time, if need be, to go for a more reflective conversation?
نعم، زيادة وثاقة الصلة بالموضوع تعني تقضية وقت أقل على الخدمة، وهذا جيد جدًا، لأننا نريد أن نتأكد من أنك تأتي إلى تويتر وترى شيئًا على الفور تتعلم منه وتشجعه. لا زال بإمكاننا وضع إعلان بجانب ذلك. لا يعني هذا أنك بحاجة لقضاء المزيد من الوقت لرؤية المزيد. الشيء الثاني الذي ننظر إليه...
JD: Yeah; more relevance means less time on the service, and that's perfectly fine, because we want to make sure that, like, you're coming to Twitter, and you see something immediately that you learn from and that you push. We can still serve an ad against that. That doesn't mean you need to spend any more time to see more. The second thing we're looking at --
ولكن، فيما يخص هذا الهدف، الاستخدام النشط اليومي... إذا كنت تقيس ذلك، هذا لا يعني بالضرورة أشياءً يقدّرها الناس كل يوم. قد يعني ذلك الأشياء التي ينجذب إليها الناس كل يوم كالعثة إلى اللهب. نحن مدمنون، لأننا نرى شيئًا يغضبنا، لذا ندخل ونضيف الوقود إلى النار، والاستخدام النشط اليومي يزداد، مما يزيد من عائدات الإعلانات. لكننا جميعًا نصبح أكثر حنقًا على بعضنا البعض. كيف تعرّف... الاستخدام النشط اليومي يبدو وكأنه مصطلح خطير حقًا لتعزيزه.
CA: But just -- on that goal, daily active usage, if you're measuring that, that doesn't necessarily mean things that people value every day. It may well mean things that people are drawn to like a moth to the flame, every day. We are addicted, because we see something that pisses us off, so we go in and add fuel to the fire, and the daily active usage goes up, and there's more ad revenue there, but we all get angrier with each other. How do you define ... "Daily active usage" seems like a really dangerous term to be optimizing.
(تصفيق)
(Applause)
جاك: حين نتحدث عنه منفردًا، فهو كذلك. لكنك لم تدعني أنهي المقياس الآخر، الذي هو: أننا نبحث عن المحادثات وسلاسل المحادثات. لذا نريد أن نحفز المساهمة الصحية إلى الشبكة، وما نعتقد أنه عامل مشترك في المحادثات الصحية كما هو محدد في المؤشرات الأربعة التي أوضحتها سابقًا.
JD: Taken alone, it is, but you didn't let me finish the other metric, which is, we're watching for conversations and conversation chains. So we want to incentivize healthy contribution back to the network, and what we believe that is is actually participating in conversation that is healthy, as defined by those four indicators I articulated earlier.
لذلك لا يمكنك فقط التعزيز في مقياس واحد. يجب أن توازن الأمور وتتطلع باستمرار إلى ما سيخلق حقًا مساهمة صحية للشبكة وتجربة صحية للناس. في النهاية، نريد أن نصل إلى مقياس حيث يخبرنا الناس: "مهلاً، لقد تعلمت شيئًا من تويتر، وها أنا أغادره بشيء قيم." هذا هو هدفنا في نهاية المطاف مع مرور الوقت، لكن هذا سيستغرق بعض الوقت.
So you can't just optimize around one metric. You have to balance and look constantly at what is actually going to create a healthy contribution to the network and a healthy experience for people. Ultimately, we want to get to a metric where people can tell us, "Hey, I learned something from Twitter, and I'm walking away with something valuable." That is our goal ultimately over time, but that's going to take some time.
أنت تصل إلى العديدين، وإليّ على ما أعتقد، وكذلك الحال مع هذه المعضلة. هذا غير عادل غالبًا، لكني استيقظت الليلة الماضية بصورة عن أنني كنت أفكر بك وبالموقف، وأننا في هذه الرحلة العظيمة معك على هذه السفينة المسماة "تويتانيك،"
CA: You come over to many, I think to me, as this enigma. This is possibly unfair, but I woke up the other night with this picture of how I found I was thinking about you and the situation, that we're on this great voyage with you on this ship called the "Twittanic" --
(ضحك)
(Laughter)
وهناك أشخاص على متن السفينة في منصة القيادة يبدون عدم ارتياحهم وأنت، على عكس العديد من القباطنة الآخرين، تقول: "حسنًا، أخبروني، تكلموا معي، استمعوا إليّ، أريد أن أسمع." وهم يتحدثون إليك ويقولون: "نحن قلقون بشأن جبل الجليد أمامنا." وأنت تردّ: "أنت تعرف، هذه نقطة مهمة، وسفينتنا -بصراحة- ليست مهيأة جيدًا للانحراف كما ينبغي." ونحن نقول: "أرجوك افعل شيئًا." وأنت تذهب إلى الجسر، ونحن ننتظر، ثم ننظر إليك، ونراك تتحلى بذلك الهدوء غير العادي، لكننا جميعا واقفون في الخارج نصرخ: "جاك، أدر العجلة اللعينة!"
and there are people on board in steerage who are expressing discomfort, and you, unlike many other captains, are saying, "Well, tell me, talk to me, listen to me, I want to hear." And they talk to you, and they say, "We're worried about the iceberg ahead." And you go, "You know, that is a powerful point, and our ship, frankly, hasn't been built properly for steering as well as it might." And we say, "Please do something." And you go to the bridge, and we're waiting, and we look, and then you're showing this extraordinary calm, but we're all standing outside, saying, "Jack, turn the fucking wheel!"
أنت تعرف؟
You know?
(ضحك)
(Laughter)
(تصفيق)
(Applause)
أعني...
I mean --
(تصفيق)
(Applause)
إنها الديمقراطية على المحك. إنها ثقافتنا على المحك. إنه عالمنا على المحك. وتويتر مدهش ويساهم في تشكيل الكثير. صحيح أنه ليس كبيرًا كبعض المنصات الأخرى، لكن أصحاب النفوذ يستخدمونه لتحقيق أهدافهم، ومن الصعب تخيل دور أكثر أهمية في العالم من أن... أعني... أنت تقوم بعمل رائع بالاستماع يا چاك وسماع الناس، لكن حين يأتي الدور فعلاً لطلب النجدة والمضي قدمًا في هذه الأمور، هل ستفعل ذلك؟
It's democracy at stake. It's our culture at stake. It's our world at stake. And Twitter is amazing and shapes so much. It's not as big as some of the other platforms, but the people of influence use it to set the agenda, and it's just hard to imagine a more important role in the world than to ... I mean, you're doing a brilliant job of listening, Jack, and hearing people, but to actually dial up the urgency and move on this stuff -- will you do that?
نعم، ونحن نتحرك بقوة منذ فترة. أعني... كان هناك بعض التغيرات في تاريخ تويتر. أولاً، عندما عدت إلى الشركة، كنا في حالة مزرية جدًا من حيث مستقبلنا، وليس فقط من حيث كيفية استخدام الناس للمنصة، لكن من الناحية الإدارية أيضًا. لذا كان علينا أن نصلح جزءًا من المؤسسة، قلبنا الشركة رأسًا على عقب، ومررنا بمرحلتين جنونيتين من تسريح العمال، فقط لأن عددنا كان أكبر من احتياجاتنا، وركزنا كل طاقتنا حول هذا المفهوم المتعلق بخدمة الحوار الاجتماعي. وهذا تطلب بعض العمل. وأثناء استغراقنا في ذلك، أدركنا بعض المشاكل في الأساسيات. يمكننا أن نفعل مجموعة من الأشياء السطحية لمعالجة ما تتحدث عنه، لكننا نحتاج من التغييرات أن تدوم، وهذا يعني التعمق في الأمر إلى حد بعيد حقًا، وإعارة الانتباه لما بدأناه قبل 13 سنة، والتساؤل بجدية عن كيفية عمل النظام، وكيفية عمل الإطار، وما يتطلبه العالم اليوم، مع الأخذ في الاعتبار حقيقة أن كل شيء يتحرك بسرعة، وكيفية استخدام الناس له. لذلك نحن نعمل بأسرع ما يمكننا، ولكن ليست السرعة هي ما ستحقق المطلوب، ولكنه التركيز، وتحديد الأولويات، وفهم أساسيات الشبكة، ووضع إطار للقياس والذي هو مرن وقابل للتغيير، وأن نكون منفتحين حول وضعنا حاليًا، وأن نكون شفافين حول وضعنا حاليًا، حتى نتمكن من مواصلة كسب الثقة.
JD: Yes, and we have been moving substantially. I mean, there's been a few dynamics in Twitter's history. One, when I came back to the company, we were in a pretty dire state in terms of our future, and not just from how people were using the platform, but from a corporate narrative as well. So we had to fix a bunch of the foundation, turn the company around, go through two crazy layoffs, because we just got too big for what we were doing, and we focused all of our energy on this concept of serving the public conversation. And that took some work. And as we dived into that, we realized some of the issues with the fundamentals. We could do a bunch of superficial things to address what you're talking about, but we need the changes to last, and that means going really, really deep and paying attention to what we started 13 years ago and really questioning how the system works and how the framework works and what is needed for the world today, given how quickly everything is moving and how people are using it. So we are working as quickly as we can, but quickness will not get the job done. It's focus, it's prioritization, it's understanding the fundamentals of the network and building a framework that scales and that is resilient to change, and being open about where we are and being transparent about where are so that we can continue to earn trust.
لذا أنا فخور بكل الأطر التي وضعناها. أنا فخور باتجاهنا. من الواضح أنه يمكننا التحرك أسرع، لكن هذا تطلب التوقف عن بعض الأشياء الغبية التي كنا نفعلها في الماضي.
So I'm proud of all the frameworks that we've put in place. I'm proud of our direction. We obviously can move faster, but that required just stopping a bunch of stupid stuff we were doing in the past.
صحيح. حسنًا، أعتقد أن هناك الكثير من الناس هنا الذين -إذا حظوا بالفرصة- سيحبون المساعدة في استراتيجية التغيير التي أنت بصددها، وأنا لا أعرف إن كانت ويتني... چاك، شكرًا لقدومك إلى هنا وتحدثك بهذه الصراحة. تطلب الأمر شجاعة. أنا حقًا أقدر ما قلته، وحظًا موفقًا في مهمتك.
CA: All right. Well, I suspect there are many people here who, if given the chance, would love to help you on this change-making agenda you're on, and I don't know if Whitney -- Jack, thank you for coming here and speaking so openly. It took courage. I really appreciate what you said, and good luck with your mission.
شكرًا جزيلًا لك. شكرًا لاستضافتكم لي.
JD: Thank you so much. Thanks for having me.
(تصفيق)
(Applause)
شكرًا لك.
Thank you.