I'm going to be talking about statistics today. If that makes you immediately feel a little bit wary, that's OK, that doesn't make you some kind of crazy conspiracy theorist, it makes you skeptical. And when it comes to numbers, especially now, you should be skeptical. But you should also be able to tell which numbers are reliable and which ones aren't. So today I want to try to give you some tools to be able to do that. But before I do, I just want to clarify which numbers I'm talking about here. I'm not talking about claims like, "9 out of 10 women recommend this anti-aging cream." I think a lot of us always roll our eyes at numbers like that. What's different now is people are questioning statistics like, "The US unemployment rate is five percent." What makes this claim different is it doesn't come from a private company, it comes from the government.
Сьогодні я розповім вам про статистику. Якщо ви трохи насторожились, то це нормально, це почуття не робить з вас божевільного конспіролога, ви стаєте скептиком. І коли мова йде про цифри, особливо зараз, ви повинні ним бути. Та водночас мусите сказати, які цифри надійні, а які ні. Сьогодні для цього я спробую дати вам кілька підказок. Та спочатку хочу пояснити, які цифри я маю на увазі. Я не говорю про щось на кшталт "9 з 10 жінок рекомендують цей омолоджуючий крем". Певно, чимало з нас від такого закотять очі. Та сьогодні люди сумніваються навіть у таких статистичних даних: "Безробіття у США становить 5%". Це ствердження не приватної компанії, а уряду.
About 4 out of 10 Americans distrust the economic data that gets reported by government. Among supporters of President Trump it's even higher; it's about 7 out of 10. I don't need to tell anyone here that there are a lot of dividing lines in our society right now, and a lot of them start to make sense, once you understand people's relationships with these government numbers. On the one hand, there are those who say these statistics are crucial, that we need them to make sense of society as a whole in order to move beyond emotional anecdotes and measure progress in an [objective] way. And then there are the others, who say that these statistics are elitist, maybe even rigged; they don't make sense and they don't really reflect what's happening in people's everyday lives.
Близько 4 з 10 американців не довіряють економічним даним, що озвучує влада. Серед прихильників президента Трампа цифри навіть вищі; це близько 7 з 10. Нема потреби говорити, що є багато ліній, які розділяють суспільство, і багато з них починають набувати сенсу, як тільки ви зрозумієте ставлення людей до таких державних даних. З одного боку, є ті, хто говорить, що ці дані визначальні, що ми потребуємо їх, щоб розуміти суспільство у цілому, щоб вийти за межі емоційності і оцінювати прогрес об'єктивно. А є й інші люди, які говорять, що ця статистика працює на еліту або взагалі сфальсифікована; вона не має сенсу і не відображає істинно те, що відбувається у повсякденному житті людей.
It kind of feels like that second group is winning the argument right now. We're living in a world of alternative facts, where people don't find statistics this kind of common ground, this starting point for debate. This is a problem. There are actually moves in the US right now to get rid of some government statistics altogether. Right now there's a bill in congress about measuring racial inequality. The draft law says that government money should not be used to collect data on racial segregation. This is a total disaster. If we don't have this data, how can we observe discrimination, let alone fix it? In other words: How can a government create fair policies if they can't measure current levels of unfairness? This isn't just about discrimination, it's everything -- think about it. How can we legislate on health care if we don't have good data on health or poverty? How can we have public debate about immigration if we can't at least agree on how many people are entering and leaving the country? Statistics come from the state; that's where they got their name. The point was to better measure the population in order to better serve it. So we need these government numbers, but we also have to move beyond either blindly accepting or blindly rejecting them. We need to learn the skills to be able to spot bad statistics.
Складається враження, що друга група цю битву виграє. Ми живемо у світі, альтернативних фактів, де люди не надто покладаються на статистику, і це породжує дискусії. Це проблема. Наразі у США є рухи за те, щоб взагалі скасувати деяку урядові статистику. Просто зараз у конгресі зареєстровано законопроект щодо даних расової нерівності. У проекті закону вказано, що уряд не повинен витрачати кошти для збору даних про расову сегрегацію. Це тотальна катастрофа. Якщо у нас немає цієї інформації, як ми дізнаємося про дискримінацію, не кажучи вже про її усунення? Іншими словами, як уряд вестиме справедливу політику, якщо не зможе виміряти рівень несправедливості? Йдеться не лише про дискримінацію, а й про все – поміркуйте над цим. Як ухвалювати закони про здоров'я, якщо не буде даних? Як ми можемо обговорювати імміграцію, якщо ми не в змозі узгодити хоча б те, скільки людей іммігрує? Держстатистику надає держава; звідси й назва. Ідея полягала в тому, щоб краще вивчити населення і далі краще обслуговувати його. Тож нам потрібні ці дані, але з розумінням того, у що сліпо вірити, а що сліпо відкидати. Нам потрібно навчитися розрізняти погані дані.
I started to learn some of these when I was working in a statistical department that's part of the United Nations. Our job was to find out how many Iraqis had been forced from their homes as a result of the war, and what they needed. It was really important work, but it was also incredibly difficult. Every single day, we were making decisions that affected the accuracy of our numbers -- decisions like which parts of the country we should go to, who we should speak to, which questions we should ask. And I started to feel really disillusioned with our work, because we thought we were doing a really good job, but the one group of people who could really tell us were the Iraqis, and they rarely got the chance to find our analysis, let alone question it. So I started to feel really determined that the one way to make numbers more accurate is to have as many people as possible be able to question them.
Я почала вчитися цього у відділі статистики Організації Об'єднаних Націй. Ми з'ясовували кількість іракців, які вимушено покинули свої оселі через війну, і те, що їм потрібно. Це була важлива, однак складна робота. Щодня ми приймали рішення, які впливали на точність наших даних. Рішення - які частини країни ми маємо відвідати, з ким ми маємо говорити, які питання ставити. Та я почала розчаровуватися, адже ми думали, що робимо дійсно хорошу роботу, та самим іракцям, котрі єдині могли дати нам відповіді, рідко траплялася нагода навіть знайти наш аналіз. Тож я переконалася, що єдиний шлях зібрати точніші дані - це ставити питання якомога більшій кількості людей.
So I became a data journalist. My job is finding these data sets and sharing them with the public. Anyone can do this, you don't have to be a geek or a nerd. You can ignore those words; they're used by people trying to say they're smart while pretending they're humble. Absolutely anyone can do this.
Таким чином, я стала журналістом даних. Я знаходжу дані і ділюся ними. Будь-хто може це робити, тут не треба бути вундеркіндом. Можете проігнорувати ці слова; їх кажуть, щоб продемонструвати свій розум через вдавану скромність. Але це справді під силу будь-кому.
I want to give you guys three questions that will help you be able to spot some bad statistics. So, question number one is: Can you see uncertainty? One of things that's really changed people's relationship with numbers, and even their trust in the media, has been the use of political polls. I personally have a lot of issues with political polls because I think the role of journalists is actually to report the facts and not attempt to predict them, especially when those predictions can actually damage democracy by signaling to people: don't bother to vote for that guy, he doesn't have a chance. Let's set that aside for now and talk about the accuracy of this endeavor.
Я хочу озвучити три запитання, щоб ви зрозуміли, що таке погана статистика. Отже, питання перше: Ви можете побачити невпевненість? Одна з речей, що дійсно змінила ставлення людей до даних, і навіть їхню довіру до ЗМІ, - використання політичних опитувань. Я маю багато питань щодо політопитувань, адже роль журналістів насправді - повідомляти про факти, а не намагатися їх передбачити, особливо коли вони можуть зашкодити демократії, сигналізуючи людині: не голосуй за того хлопця, він не має жодного шансу. Поговоримо про точність цих зусиль.
Based on national elections in the UK, Italy, Israel and of course, the most recent US presidential election, using polls to predict electoral outcomes is about as accurate as using the moon to predict hospital admissions. No, seriously, I used actual data from an academic study to draw this. There are a lot of reasons why polling has become so inaccurate. Our societies have become really diverse, which makes it difficult for pollsters to get a really nice representative sample of the population for their polls. People are really reluctant to answer their phones to pollsters, and also, shockingly enough, people might lie. But you wouldn't necessarily know that to look at the media. For one thing, the probability of a Hillary Clinton win was communicated with decimal places. We don't use decimal places to describe the temperature. How on earth can predicting the behavior of 230 million voters in this country be that precise? And then there were those sleek charts. See, a lot of data visualizations will overstate certainty, and it works -- these charts can numb our brains to criticism. When you hear a statistic, you might feel skeptical. As soon as it's buried in a chart, it feels like some kind of objective science, and it's not.
Опираючись на результати національних виборів у Великобританії, Італії, Ізраїлі і, звісно, останніх виборів президента в США, використовувати опитування, щоб передбачити результати виборів, це десь так само, як з допомогою місяця планувати кількість госпіталізацій. Ні, серйозно, тут я використала фактичні дані наукового дослідження. Є багато причин, чому опитування такі неточні. Наші суспільства стали дуже різноманітними, що ускладнило отримання хорошої вибірки населення для виборців. Люди неохоче відповідають соціологам по телефону, а також, що досить шокує, люди можуть обманювати. Та ви не дізнаєтеся цього зі ЗМІ. З одного боку, про ймовірність перемоги Гілларі Клінтон повідомили з точністю до десятих. Ми не використовуємо десяткових розрядів для опису температури. То як можна передбачати вибір 230 мільйонів виборців цієї країни настільки точно? А далі були ті "вилизані" графіки. Візуалізація даних у великому обсязі здатна завищити впевненість у них. Ці графіки можуть приголомшити. Коли ви чуєте статистику, ви скептично налаштовані. Як тільки вона показана на графіку, ви відчуваєте об'єктивну науку, якої там немає.
So I was trying to find ways to better communicate this to people, to show people the uncertainty in our numbers. What I did was I started taking real data sets, and turning them into hand-drawn visualizations, so that people can see how imprecise the data is; so people can see that a human did this, a human found the data and visualized it. For example, instead of finding out the probability of getting the flu in any given month, you can see the rough distribution of flu season. This is --
Тож я шукала шляхи краще повідомити це людям, щоб показати ненадійність наших даних. Я почала збирати набори реальних даних і малювала візуалізації, щоб люди могли побачити наскільки ці дані неточні; щоб усі могли бачити, що їх зробила людина, людина знайшла дані і візуалізувала їх. Наприклад, замість визначення ймовірності захворіти грипом у будь-якому місяці, ви бачите грубий розподіл сезону грипу. Це
(Laughter)
(Сміх)
a bad shot to show in February. But it's also more responsible data visualization, because if you were to show the exact probabilities, maybe that would encourage people to get their flu jabs at the wrong time.
поганий приклад для демонстрації у лютому. Але така візуалізація відповідальна, бо якщо вказати на точну ймовірність епідемії, це може підштовхнути людей робити щеплення від грипу не в той час.
The point of these shaky lines is so that people remember these imprecisions, but also so they don't necessarily walk away with a specific number, but they can remember important facts. Facts like injustice and inequality leave a huge mark on our lives. Facts like Black Americans and Native Americans have shorter life expectancies than those of other races, and that isn't changing anytime soon. Facts like prisoners in the US can be kept in solitary confinement cells that are smaller than the size of an average parking space.
Ідея цих розмитих ліній в тому, що люди пам'ятають ці неточності. Вони не обов'язково згадають якесь число, та запам'ятають важливі факти. Несправедливість і нерівність залишили величезний слід у нашому житті. Чорношкірі та корінні американці не живуть так довго, як представники інших рас, і це не скоро зміниться. Ув'язнені у США живуть в одиночних камерах, які за розмірами менші, ніж середньостатистичне місце для парковки.
The point of these visualizations is also to remind people of some really important statistical concepts, concepts like averages. So let's say you hear a claim like, "The average swimming pool in the US contains 6.23 fecal accidents." That doesn't mean every single swimming pool in the country contains exactly 6.23 turds. So in order to show that, I went back to the original data, which comes from the CDC, who surveyed 47 swimming facilities. And I just spent one evening redistributing poop. So you can kind of see how misleading averages can be.
Сенс цих візуалізацій також, щоб нагадати людям про деякі дуже важливі статистичні концепції, наприклад, середнє число. Скажімо, ви чуєте таке: "Середньостатистичний басейн у США містить 6,23 частинок фекалій у воді". Це зовсім не означає, що кожен басейн у країні містить рівно 6,23 частинок екскрементів. Щоб це показати, я повернулася до первинних даних з CDC, які перевірили лише 47 басейнів. Я витратила один вечір, перерозподіляючи фекалії.
(Laughter)
Тож ви бачите, як середньостатистичні дані вводять в оману.
OK, so the second question that you guys should be asking yourselves to spot bad numbers is:
(Сміх) ОК, друге питання для того,
Can I see myself in the data? This question is also about averages in a way, because part of the reason why people are so frustrated with these national statistics, is they don't really tell the story of who's winning and who's losing from national policy. It's easy to understand why people are frustrated with global averages when they don't match up with their personal experiences. I wanted to show people the way data relates to their everyday lives. I started this advice column called "Dear Mona," where people would write to me with questions and concerns and I'd try to answer them with data. People asked me anything. questions like, "Is it normal to sleep in a separate bed to my wife?" "Do people regret their tattoos?" "What does it mean to die of natural causes?"
щоб визначити погані дані: Чи можу я побачити себе в цих даних? Це також про середньостатистичність у деякому сенсі, адже частково люди розчаровуються в держстатистиках через те, що вони не розказують, хто виграє чи програє у національній політиці. Люди розчаровуються у глобальній середньостатистичності, коли та не збігається з їх особистим досвідом. Я хотіла показати вплив даних на повсякденне життя. І почала вести колонку порад «Люба Мона», куди люди могли звертатися з питаннями та проблемами, а я старалася відповідати за допомогою даних. Люди запитували в мене будь-що. "Чи варто спати окремо від дружини?" "Чи шкодують люди про тату?" "Що означає померти природньою смертю?"
All of these questions are great, because they make you think about ways to find and communicate these numbers. If someone asks you, "How much pee is a lot of pee?" which is a question that I got asked, you really want to make sure that the visualization makes sense to as many people as possible. These numbers aren't unavailable. Sometimes they're just buried in the appendix of an academic study. And they're certainly not inscrutable; if you really wanted to test these numbers on urination volume, you could grab a bottle and try it for yourself.
Ці питання - чудові, адже змушують задуматися про те, як шукати та доводити ці цифри. Якщо вас спитають: "Скільки сечі потрібно, щоб помочитися?", (Власне, таке питання я отримала.) ви прагнете, щоб візуалізація була актуальною для якомога більшої кількості людей. Ці цифри - доступні. Просто іноді вони губляться в додатках наукових досліджень. І їх можна визначити. Якщо ви дійсно хотіли б виміряти обсяг сечовипускання, то могли б використати пляшку, й перевірити все на власному досвіді.
(Laughter)
(Сміх)
The point of this isn't necessarily that every single data set has to relate specifically to you. I'm interested in how many women were issued fines in France for wearing the face veil, or the niqab, even if I don't live in France or wear the face veil. The point of asking where you fit in is to get as much context as possible. So it's about zooming out from one data point, like the unemployment rate is five percent, and seeing how it changes over time, or seeing how it changes by educational status -- this is why your parents always wanted you to go to college -- or seeing how it varies by gender. Nowadays, male unemployment rate is higher than the female unemployment rate. Up until the early '80s, it was the other way around. This is a story of one of the biggest changes that's happened in American society, and it's all there in that chart, once you look beyond the averages. The axes are everything; once you change the scale, you can change the story.
Ідея не обов'язково в тому, що кожен набір даних мусить мати якесь відношення до вас. Я цікавлюся, скільком жінкам виписали штрафи у Франції за носіння паранджі або нікабу, навіть якщо я не живу у Франції або не ношу паранджу. Варто отримати якомога більше контексту. Це наче сфокусуватися на якійсь окремій характеристиці даних. Наприклад, рівень безробіття становить 5%, ці дані можуть змінюватися з плином часу, або змінюватися залежно від рівня освіти, - це тому ваші батьки завжди хотіли, щоб ви вступили до коледжу, - або змінюватися залежно від статі. Наразі серед чоловіків рівень безробіття вищий, ніж серед жінок. До початку 80-х років, все було навпаки. Це історія однієї з найбільших змін, що сталася в американському суспільстві, і все це у цій схемі, поза межами середніх значень. Осі – це все; Змінивши масштаб, ви можете змінити історію.
OK, so the third and final question that I want you guys to think about when you're looking at statistics is: How was the data collected? So far, I've only talked about the way data is communicated, but the way it's collected matters just as much. I know this is tough, because methodologies can be opaque and actually kind of boring, but there are some simple steps you can take to check this.
Третє і останнє питання, над яким я прошу вас подумати, коли ви дивитеся на статистику: Як збирали ці дані? Я розповідала, як дані передаються, але важливо і те, як їх збирають. Я знаю, що це важко, методики можуть бути незрозумілі й нудні, але є кілька простих способів, щоб їх перевірити.
I'll use one last example here. One poll found that 41 percent of Muslims in this country support jihad, which is obviously pretty scary, and it was reported everywhere in 2015. When I want to check a number like that, I'll start off by finding the original questionnaire. It turns out that journalists who reported on that statistic ignored a question lower down on the survey that asked respondents how they defined "jihad." And most of them defined it as, "Muslims' personal, peaceful struggle to be more religious." Only 16 percent defined it as, "violent holy war against unbelievers." This is the really important point: based on those numbers, it's totally possible that no one in the survey who defined it as violent holy war also said they support it. Those two groups might not overlap at all.
Я наведу останній приклад. Дані одного опитування зазначили, що 41% мусульман підтримує джихад, що, очевидно, дуже страшно, і у 2015 році про це всі повідомили. Коли я перевіряю подібні дані, я починаю шукати початковий перелік питань. Виявляється, що журналіст, який повідомив про ці дані, проігнорував питання нижче у списку про те, що саме респонденти називали словом "джихад". А більшість з них зрозуміли його так: "Особиста та мирна боротьба мусульман, щоб бути більш релігійними". Лише 16% визначили, що це "священна війна проти невірних". Це дійсно важливий момент: на основі цих даних, цілком можливо, що ніхто з тих, хто дав визначення джихаду як насильницької священної війни, не сказав, що його підтримує. Ці дві групи можуть зовсім не перетинатися.
It's also worth asking how the survey was carried out. This was something called an opt-in poll, which means anyone could have found it on the internet and completed it. There's no way of knowing if those people even identified as Muslim. And finally, there were 600 respondents in that poll. There are roughly three million Muslims in this country, according to Pew Research Center. That means the poll spoke to roughly one in every 5,000 Muslims in this country.
Як проводили опитування? Це було щось на кшталт добровільного опитування, тобто будь-хто міг пройти його в в Інтернеті. Неможливо дізнатися, чи ці люди були мусульманами. І, врешті-решт, у цьому опитуванні взяло участь 600 респондентів. У країні живуть три мільйони мусульман, згідно з дослідницьким центром Pew. Це означає, що в опитуванні взяв участь один із 5 000 мусульман у цій країні.
This is one of the reasons why government statistics are often better than private statistics.
Це одна з причин, чому державна статистика часто краща за приватну.
A poll might speak to a couple hundred people, maybe a thousand, or if you're L'Oreal, trying to sell skin care products in 2005, then you spoke to 48 women to claim that they work.
Вибірка складається з декількох сотень чи тисяч, або якщо ви L'Oreal, що намагається продати засоби по догляду за шкірою, то ви - це 48 жінок, які стверджують, що засоби працюють. (Сміх)
(Laughter)
Private companies don't have a huge interest in getting the numbers right, they just need the right numbers. Government statisticians aren't like that. In theory, at least, they're totally impartial, not least because most of them do their jobs regardless of who's in power. They're civil servants. And to do their jobs properly, they don't just speak to a couple hundred people. Those unemployment numbers I keep on referencing come from the Bureau of Labor Statistics, and to make their estimates, they speak to over 140,000 businesses in this country.
Приватні компанії не зацікавлені у правдивості отриманих даних, їм потрібна лише правильна цифра. Держоргани статистики працюють не так. Принаймні, вони неупереджені, це в теорії - адже робота більшості з них залежить від того, хто при владі. Вони - державні службовці. І виконують свою роботу належним чином, вони не просто говорять з кількома сотнями респондентів. Цифри про безробіття, на котрі я раніше посилалася - це дані Бюро статистики праці, і щоб зробити такі висновки, опитали більш ніж 140 000 компаній.
I get it, it's frustrating. If you want to test a statistic that comes from a private company, you can buy the face cream for you and a bunch of friends, test it out, if it doesn't work, you can say the numbers were wrong. But how do you question government statistics? You just keep checking everything. Find out how they collected the numbers. Find out if you're seeing everything on the chart you need to see. But don't give up on the numbers altogether, because if you do, we'll be making public policy decisions in the dark, using nothing but private interests to guide us.
Я розумію, що це складно. Якщо ви хочете перевірити статистику, яку надала приватна компанія, можете купити крем для обличчя, і разом з друзями перевірити його. Якщо не спрацює, ви зможете стверджувати, що дані були неправильні. Але як перевірити статистику уряду? Просто продовжуйте перевіряти все. Дізнайтеся, як збирали дані. Дізнайтеся, чи на графіку є вся інформація. Але не покладайтеся лише на цифри, бо якщо так, то наша державна політика буде ґрунтуватися на хибних рішеннях і не використовувати нічого, крім власних інтересів, щоб управляти нами. Дякую.
Thank you.
(Оплески)
(Applause)