Statistics are persuasive. So much so that people, organizations, and whole countries base some of their most important decisions on organized data. But there's a problem with that. Any set of statistics might have something lurking inside it, something that can turn the results completely upside down. For example, imagine you need to choose between two hospitals for an elderly relative's surgery. Out of each hospital's last 1000 patient's, 900 survived at Hospital A, while only 800 survived at Hospital B. So it looks like Hospital A is the better choice. But before you make your decision, remember that not all patients arrive at the hospital with the same level of health. And if we divide each hospital's last 1000 patients into those who arrived in good health and those who arrived in poor health, the picture starts to look very different. Hospital A had only 100 patients who arrived in poor health, of which 30 survived. But Hospital B had 400, and they were able to save 210. So Hospital B is the better choice for patients who arrive at hospital in poor health, with a survival rate of 52.5%. And what if your relative's health is good when she arrives at the hospital? Strangely enough, Hospital B is still the better choice, with a survival rate of over 98%. So how can Hospital A have a better overall survival rate if Hospital B has better survival rates for patients in each of the two groups? What we've stumbled upon is a case of Simpson's paradox, where the same set of data can appear to show opposite trends depending on how it's grouped. This often occurs when aggregated data hides a conditional variable, sometimes known as a lurking variable, which is a hidden additional factor that significantly influences results. Here, the hidden factor is the relative proportion of patients who arrive in good or poor health. Simpson's paradox isn't just a hypothetical scenario. It pops up from time to time in the real world, sometimes in important contexts. One study in the UK appeared to show that smokers had a higher survival rate than nonsmokers over a twenty-year time period. That is, until dividing the participants by age group showed that the nonsmokers were significantly older on average, and thus, more likely to die during the trial period, precisely because they were living longer in general. Here, the age groups are the lurking variable, and are vital to correctly interpret the data. In another example, an analysis of Florida's death penalty cases seemed to reveal no racial disparity in sentencing between black and white defendants convicted of murder. But dividing the cases by the race of the victim told a different story. In either situation, black defendants were more likely to be sentenced to death. The slightly higher overall sentencing rate for white defendants was due to the fact that cases with white victims were more likely to elicit a death sentence than cases where the victim was black, and most murders occurred between people of the same race. So how do we avoid falling for the paradox? Unfortunately, there's no one-size-fits-all answer. Data can be grouped and divided in any number of ways, and overall numbers may sometimes give a more accurate picture than data divided into misleading or arbitrary categories. All we can do is carefully study the actual situations the statistics describe and consider whether lurking variables may be present. Otherwise, we leave ourselves vulnerable to those who would use data to manipulate others and promote their own agendas.
İstatistikler ikna edicidir. Öyle ikna edici ki, insanlar, kurumlar ve bütün ülkeler en önemli bazı kararlarını düzenli bilgiye dayanarak alırlar. Ancak burada bir sorun var. İstatistik verilerinde gizlenmiş, sonuçları tamamen alt üst edebilecek bir şeyler olabilir. Örneğin, yaşlı bir akrabanızın ameliyatı için iki hastane arasında seçim yapmak zorunda olduğunuzu düşünün. Her iki hastanenin de son 1000 hastasından, A hastanesinde 900'ü hayatta kalırken B hastanesinde sadece 800 kişi sağ kalmış. O hâlde A hastanesi daha iyi bir seçim gibi görünüyor. Ancak karar vermeden önce tüm hastaların hastaneye aynı sağlık durumunda gelmediğini hatırlayın. İki hastanenin de son 1000 hastasını sağlıklı gelenler ve sağlıksız gelenler olarak bölersek resim çok daha farklı görünmeye başlar. A hastanesine sağlıksız durumda gelen sadece 100 hasta varken 30'u kurtarılmıştır. Fakat B hastanesinde 400 hastadan 210'u kurtarılmıştır. O zaman B hastanesi ağır durumda gelen hastalar için %52,5 kurtulma oranıyla daha iyi bir seçimdir. Peki ya hastanızın sağlığı hastaneye vardığında iyiyse? Garip gelebilir ama B hastanesi %98 hayatta kalma oranıyla yine daha iyi bir seçimdir. Her iki gruptan hastalar için B hastanesi daha iyi kurtulma oranına sahipken A hastanesi genelde nasıl daha iyi bir kurtulma orana sahip olabilir? Karşılaştığımız şey, gruplandırma şekline bağlı olarak aynı verilerin zıt eğilimler gösterebildiği Simpson paradoksudur. Bu durum genelde kümelenmiş bilgi koşullu bir değişkeni örttüğünde oluşur, karışıklığa neden olan değişken olarak da bilinir, bu ise sonuçları önemli ölçüde etkileyen gizli bir ek faktördür. Buradaki gizli faktör, sağlıklı ve sağlıksız gelen hastaların göreceli oranıdır. Simpson paradoksu basit bir varsayımsal durum değildir. Gerçek dünyada ara sıra, bazen önemli durumlarda ortaya çıkar. Birleşik Krallık'ta yapılan bir araştırma sigara içenlerin içmeyenlerden -yirmi yıldan fazla bir sürede- daha yüksek yaşama oranına sahip olduğunu gösteriyordu. Katılımcıların yaş gruplarına bölünmesi, sigara içmeyenlerin önemli oranda ortalamadan yaşlı olduğunu ve bu nedenle genel olarak daha uzun yaşadıkları için tam da deney sırasında ölmelerinin muhtemel olduğunu gösteriyordu. Burada karışıklığa yol açan değişken yaş gruplarıdır ve veriyi doğru yorumlamada son derece önemlidir. Diğer bir örnekte ise Florida'nın idam cezası davalarının analizi, cinayetten hükümlü siyahi ve beyaz zanlılar arasında ceza kararlarında ırksal eşitsizliğin olmadığını ortaya çıkarır. Fakat davaları mağdurun ırkına göre ayırmak farklı bir tablo gösterir. Her iki durumda da siyahi davalıların idam cezası alması daha muhtemeldir. Beyaz sanıkların genel ceza oranlarının nispeten yüksek olması, mağdurların beyaz olduğu davalarda idam cezasının çıkmasının, mağdurun siyahi olduğu davalardan daha muhtemel olması ve çoğu cinayetin aynı ırktan insanlar arasında olmasından dolayıydı. Peki çelişkiye düşmekten nasıl kurtulabiliriz? Ne yazık ki hepsine uyan bir cevap yok. Veriler birçok şekilde gruplanıp kategoriye bölünebilir ve genel rakamlar bazen yanıltıcı ve rastlantısal kategorilere bölünen verilerden daha doğru bir tablo verir. Tek yapabileceğimiz, istatistiğin verdiği geçerli durumu iyi inceleyip karışıklığa neden olan değişkeni olup olmadığını düşünmektir. Aksi takdirde kendimizi, verileri başkalarını yönlendirmek ve kendi çıkarlarını korumak için kullananlara karşı savunmasız bırakırız.