Hi. So, this chap here, he thinks he can tell you the future. His name is Nostradamus, although here the Sun have made him look a little bit like Sean Connery. (Laughter)
안녕하세요. 자, 여기 한 남자가 있습니다. 그는 미래를 예언할 수 있다고 생각하죠. 그의 이름은 노스트라다무스입니다. 다만 햇빛 때문에 약간 션 코네리 같아 보이네요.(웃음)
And like most of you, I suspect, I don't really believe that people can see into the future. I don't believe in precognition, and every now and then, you hear that somebody has been able to predict something that happened in the future, and that's probably because it was a fluke, and we only hear about the flukes and about the freaks. We don't hear about all the times that people got stuff wrong. Now we expect that to happen with silly stories about precognition, but the problem is, we have exactly the same problem in academia and in medicine, and in this environment, it costs lives.
대부분의 사람들처럼, 저 역시 인간이 미래를 볼 수 있다고 생각하지 않습니다 저는 예언 같은 건 믿지 않습니다. 가끔씩 누가 미래에 무슨 일이 일어나는지 안다는데, 그것은 엉터리 괴짜들과 그들의 우연히 들어 맞은 요행 에 대한 것일 뿐입니다. 사실 예언이 틀렸다는 말은 통 들어 보질 못했습니다. 근데 그런 어이없는 이야기들이 예언에 대한 것이면 별 상관없지만, 그런 똑같은 문제가 학계, 특히 의학계에서도 일어납니다. 이 경우엔 생명을 위협하죠.
So firstly, thinking just about precognition, as it turns out, just last year a researcher called Daryl Bem conducted a piece of research where he found evidence of precognitive powers in undergraduate students, and this was published in a peer-reviewed academic journal and most of the people who read this just said, "Okay, well, fair enough, but I think that's a fluke, that's a freak, because I know that if I did a study where I found no evidence that undergraduate students had precognitive powers, it probably wouldn't get published in a journal. And in fact, we know that that's true, because several different groups of research scientists tried to replicate the findings of this precognition study, and when they submitted it to the exact same journal, the journal said, "No, we're not interested in publishing replication. We're not interested in your negative data." So this is already evidence of how, in the academic literature, we will see a biased sample of the true picture of all of the scientific studies that have been conducted.
먼저, 미래 예측에 대해 이야기해 보죠. 작년에 대릴 벰이라는 연구자가 대학생들에게서 미래예측이 가능하다는 증거를 찾아냈다고 했습니다. 이 결과는 학계의 검증을 거쳐 학술지에도 실렸죠. 그 논문을 읽은 대부분의 사람들은 그럴 듯하다고 했지만, 저는 요행의 결과라고 생각했죠. 왜냐하면, 만약 그 실험의 결과가 대학생들이 미래를 예측하는 능력이 있다는 것에 부정적이었다면, 아마 학술지에 싣지 않았을 것이기 때문이죠. 사실, 맞는 말이에요. 왜냐하면 몇몇 연구 그룹의 과학자들이 다른 결과가 나온 똑같은 방식의 연구를 똑같은 학술지에 제출을 했을 때, 편집자들은 "똑같은 연구와 기존 연구에 대한 부정적인 실험 결과는 받아 들이지 않습니다" 라고 하기 때문이죠. 보시다시피 학계에서도 이렇게 과학적 연구를 둘러 싼 편견의 예를 볼 수 있습니다.
But it doesn't just happen in the dry academic field of psychology. It also happens in, for example, cancer research. So in March, 2012, just one month ago, some researchers reported in the journal Nature how they had tried to replicate 53 different basic science studies looking at potential treatment targets in cancer, and out of those 53 studies, they were only able to successfully replicate six. Forty-seven out of those 53 were unreplicable. And they say in their discussion that this is very likely because freaks get published. People will do lots and lots and lots of different studies, and the occasions when it works they will publish, and the ones where it doesn't work they won't. And their first recommendation of how to fix this problem, because it is a problem, because it sends us all down blind alleys, their first recommendation of how to fix this problem is to make it easier to publish negative results in science, and to change the incentives so that scientists are encouraged to post more of their negative results in public.
이런 현상은 경직된 심리학계 뿐만 암 연구같은 분야에서도 일어납니다. 한달전인 2012년 3월, 네이쳐 학술지에 몇몇 연구자들이 53가지의 암 치료 방법을 재연해 보았는데, 그 53방법중에서 단 6가지만 성공적으로 재연할 수 있었다고 합니다. 53개 중 47개는 재연할 수 없었던거죠. 그들은 이런 일이 일어날 수 있는 이유가 바로 앞서 말한 엉터리 과학자들 때문이라고 밝혔습니다. 그러니까, 사람들은 엄청난 양의 실험을 한 뒤 성공한 실험은 발표하고 안 되는 것들은 숨긴다는 것입니다. 이 연구의 과학자들은 다음과 같은 제안을 합니다. 우리의 눈을 가리는 이런 문제를 해결하기 위해서는 우선 부정적인 실험 결과를 낸 연구도 발표하기 쉽도록 해야 하고 또 과학자들이 그렇게 할 수 있도록 충분한 인센티브를 제공해야 합니다.
But it doesn't just happen in the very dry world of preclinical basic science cancer research. It also happens in the very real, flesh and blood of academic medicine. So in 1980, some researchers did a study on a drug called lorcainide, and this was an anti-arrhythmic drug, a drug that suppresses abnormal heart rhythms, and the idea was, after people have had a heart attack, they're quite likely to have abnormal heart rhythms, so if we give them a drug that suppresses abnormal heart rhythms, this will increase the chances of them surviving. Early on its development, they did a very small trial, just under a hundred patients. Fifty patients got lorcainide, and of those patients, 10 died. Another 50 patients got a dummy placebo sugar pill with no active ingredient, and only one of them died. So they rightly regarded this drug as a failure, and its commercial development was stopped, and because its commercial development was stopped, this trial was never published.
그리고 그런 상황들은 경직된 기초과학 분야의 암 연구에서 만 일어나는게 아닙니다. 사람이 실험 대상이 되는 의학계에서도 마찬가지 입니다. 1980년에 몇몇 연구자들이 불규칙적인 심장박동 억제 작용을 하는 Lorcainide라는 항부정맥제를 연구를 했는데요, 심장마비를 겪은 환자들에게 불규칙적인 심장박동 리듬을 고칠 수 있는 약을 제공하여 그들의 생존율을 높이고자 했었죠. 처음 개발단계에서는 100명 미만의 환자들을 대상으로 했습니다. Lorcainide를 투여 받은 50명 중 10명이 사망했습니다. 나마지 50명에게는 위약을 제공했는데, 그들 중 한명만 사망했습니다. 이 임상결과에 따라 이 약은 실패한 것으로 간주되었고, 상업적 개발과 제조를 멈추었습니다.
Unfortunately, over the course of the next five, 10 years, other companies had the same idea about drugs that would prevent arrhythmias in people who have had heart attacks. These drugs were brought to market. They were prescribed very widely because heart attacks are a very common thing, and it took so long for us to find out that these drugs also caused an increased rate of death that before we detected that safety signal, over 100,000 people died unnecessarily in America from the prescription of anti-arrhythmic drugs.
그러나 불행하게도 그 후 5년, 10년동안 비슷한 생각을 가진 다른 회사들이 계속해서 항부정맥제를 개발 했습니다. 심장마비는 꽤 흔한 현상이라서 이 제품들이 출시되어, 광범위하게 처방되었습니다. 이 약이 사실은 사망율을 높인다는 사실을 깨닫기까지 너무 오래 걸렸습니다. 이 항부정맥제의 처방이 위험하다는 것을 감지했을땐 이미 미국의 십만 목숨을 앗아간 뒤였죠.
Now actually, in 1993, the researchers who did that 1980 study, that early study, published a mea culpa, an apology to the scientific community, in which they said, "When we carried out our study in 1980, we thought that the increased death rate that occurred in the lorcainide group was an effect of chance." The development of lorcainide was abandoned for commercial reasons, and this study was never published; it's now a good example of publication bias. That's the technical term for the phenomenon where unflattering data gets lost, gets unpublished, is left missing in action, and they say the results described here "might have provided an early warning of trouble ahead."
사실 1993년에 1980년 초기 연구를 행했던 과학자들은 과실을 인정하고, 사과하는 글을 실었습니다. 여기서 그들은 "1980년 연구를 하면서 나온 항부정맥제로 인한 사망률의 증가는 우연한 결과라고 생각했습니다." 항부정맥제의 상업적 개발은 중단되었고 이 연구 또한 발표되지 않았습니다; 이것은 출판 편향의 좋은 예입니다. 이것은 다음 같은 현상의 전문 용어입니다: 호의적이지 않은 시험 결과들은 유실되고 발표되지 않으며 그래서 사용될 수 없으며, 이런 결과를 "미래에 문제의 소지가 될 수 있습니다" 라는 딱지를 붙여 경고한다.
Now these are stories from basic science. These are stories from 20, 30 years ago. The academic publishing environment is very different now. There are academic journals like "Trials," the open access journal, which will publish any trial conducted in humans regardless of whether it has a positive or a negative result. But this problem of negative results that go missing in action is still very prevalent. In fact it's so prevalent that it cuts to the core of evidence-based medicine. So this is a drug called reboxetine, and this is a drug that I myself have prescribed. It's an antidepressant. And I'm a very nerdy doctor, so I read all of the studies that I could on this drug. I read the one study that was published that showed that reboxetine was better than placebo, and I read the other three studies that were published that showed that reboxetine was just as good as any other antidepressant, and because this patient hadn't done well on those other antidepressants, I thought, well, reboxetine is just as good. It's one to try. But it turned out that I was misled. In fact, seven trials were conducted comparing reboxetine against a dummy placebo sugar pill. One of them was positive and that was published, but six of them were negative and they were left unpublished. Three trials were published comparing reboxetine against other antidepressants in which reboxetine was just as good, and they were published, but three times as many patients' worth of data was collected which showed that reboxetine was worse than those other treatments, and those trials were not published. I felt misled.
이것들은 기초 과학에서 일어났던 20, 30년 전의 이야기들이죠. 학계의 출판(발표) 환경은 현재 매우 다릅니다. "Trials"와 같은 접근성이 열려있는 학술지도 있습니다. 실험의 결과가 부정적이든, 긍정적이든, 인간의 모든 실험 연구는 네이쳐지에 발표할 수 있습니다. 그러나 부정적인 실험 결과를 낸 연구들이 사장된다는 문제는 여전히 만연합니다. 이런 일이 너무 빈번해서 이젠 증거 기반 의학(EBM)의 핵심이 되었습니다. 이것은 reboxetine라는 항우울제 입니다. 저도 이 약을 처방했습니다. 제가 좀 고지식한 편이라, 이 약에 관한 연구 논문 자료들을 모두 읽었습니다. 한 연구 결과는 reboxetine 가 위약보다 효과가 있다고 했습니다. 그리고 다른 세가지 연구 결과들은 reboxetine이 다른 항우울제만큼 뛰어나다고 했습니니다. 그리고 다른 항우울제로는 호전되지 않은 환자에게 효과가 있었기 때문에 reboxetine은 처방할 만 하다고 생각했습니다. 그러나 제가 잘못 생각했다는 걸 깨달았습니다. 사실은 reboxetine을 위약과 비교하는 7개의 실험이 있었지만 그 중 긍정적인 결과를 낸 한 실험만 발표되었고, 나머지 부정적인 결과를 낸 6개의 실험은 발표되지 않았던 것입니다. reboxetine과 다른 항우울제를 비교한 3개의 실험은 reboxetine가 다른 항우울제만큼 뛰어나다는 결과를 보였고 그들은 발표되었습니다. 그러나 세배나 많은 환자들의 자료를 검토했던 연구들은 reboxetine이 다른 항우울제보다 효과가 떨어진다는 결과를 보였지만, 그 논문들은 발표되지 않았습니다. 발표된 자료에 제 판단을 흐렸던 것입니다.
Now you might say, well, that's an extremely unusual example, and I wouldn't want to be guilty of the same kind of cherry-picking and selective referencing that I'm accusing other people of. But it turns out that this phenomenon of publication bias has actually been very, very well studied. So here is one example of how you approach it. The classic model is, you get a bunch of studies where you know that they've been conducted and completed, and then you go and see if they've been published anywhere in the academic literature. So this took all of the trials that had ever been conducted on antidepressants that were approved over a 15-year period by the FDA. They took all of the trials which were submitted to the FDA as part of the approval package. So that's not all of the trials that were ever conducted on these drugs, because we can never know if we have those, but it is the ones that were conducted in order to get the marketing authorization. And then they went to see if these trials had been published in the peer-reviewed academic literature. And this is what they found. It was pretty much a 50-50 split. Half of these trials were positive, half of them were negative, in reality. But when they went to look for these trials in the peer-reviewed academic literature, what they found was a very different picture. Only three of the negative trials were published, but all but one of the positive trials were published. Now if we just flick back and forth between those two, you can see what a staggering difference there was between reality and what doctors, patients, commissioners of health services, and academics were able to see in the peer-reviewed academic literature. We were misled, and this is a systematic flaw in the core of medicine.
너무 희귀한 예만 드는 것이 아니냐고 반박하실 수도 있습니다. 하지만, 어떤 특정한 사람들을 집어서 일부러 비난하고 있는 것은 절대 아닙니다. 이런 환경에도 출판 편향 현상에 대한 연구는 활발하게 진행되어 왔습니다. 여기 출판 편향을 피할 한 좋은 예가 있습니다. 고전적 모델인데요. 어떤 실험들이 실행되어 완료되었다는 것을 알고 있다면, 그 실험들이 학술지에 발표되었는 지를 알아보느 겁니다. 저는 15년에 걸쳐 미 식약청이 승인한 항우울제들에 관해 실행된 모든 연구들을 찾아 보았습니다. 식약청의 승인을 받기위해 실행되었던 모든 실험자료를 의미합니다. 그렇다고 이것이 이 약에 관한 모든 연구 자료는 아니었습니다. 그것이 우리가 접근할 수 있는 전부인지 알 수 없기 때문입니다. 식약청에 제공된 것들은 마케팅 권한을 얻기 위한 실험입니다. 그런 다음 이 실험들인 학술지에 발표되었는지 알아보았습니다. 이걸 보세요. 바로 이걸 찾고 있었던 것입니다. 50/50에 가까웠습니다. 실제로 실험 결과의 반은 긍정적이었으며, 나머지는 부정적이었습니다. 그러나 학술지에서 이런 실험들을 찾아보면, 아주 다른 사실을 발견하게 됩니다. 부정적인 결과를 낸 모든 실험중 3개 만이 발표되어 있었습니다. 이렇게 찬찬히 살펴보면, 의사, 환자, 보건 당국의 책임자, 학술지에 게제된 논문들과 실제 현실과의 사이에는 큰 괴리가 존재함을 알 수 있습니다.. 의학계의 핵심에 존재하는 체계상의 이런 결점들이 우리를 잘못 인도하고 있습니다.
In fact, there have been so many studies conducted on publication bias now, over a hundred, that they've been collected in a systematic review, published in 2010, that took every single study on publication bias that they could find. Publication bias affects every field of medicine. About half of all trials, on average, go missing in action, and we know that positive findings are around twice as likely to be published as negative findings.
이런 출판 편행 하에서 사장되었던 수 많은 연구 중 100개 이상의 논문들이 체계적 검토를 거쳐 수집되었으며 2010년에 발표되었습니다. 출판 편향에 입각한 모든 연구들을 찾아내는 작업이었습니다. 출판 편향은 의학계 전반에 영향을 줍니다. 평균적으로, 모든 연구의 반 정도가 사장됩니다. 긍정적인 실험 결과를 가진 연구들이 그 반대의 연구에 비해 두배 더 많이 발표됩니다.
This is a cancer at the core of evidence-based medicine. If I flipped a coin 100 times but then withheld the results from you from half of those tosses, I could make it look as if I had a coin that always came up heads. But that wouldn't mean that I had a two-headed coin. That would mean that I was a chancer and you were an idiot for letting me get away with it. (Laughter) But this is exactly what we blindly tolerate in the whole of evidence-based medicine. And to me, this is research misconduct. If I conducted one study and I withheld half of the data points from that one study, you would rightly accuse me, essentially, of research fraud. And yet, for some reason, if somebody conducts 10 studies but only publishes the five that give the result that they want, we don't consider that to be research misconduct. And when that responsibility is diffused between a whole network of researchers, academics, industry sponsors, journal editors, for some reason we find it more acceptable, but the effect on patients is damning.
이런 현상은 증거 기반 의학의 발달에 암적인 요소입니다. 만약 제가 100번 동전을 던져 결과의 반을 알려주지 않는다면 앞면만 나오는 동전을 가지고 있는 것 처럼 보일 것이며, 양면 동전을 갖고 있다는 것을 감출수 있겠죠. 저는 성공적으로 여러분을 속인 것이고 여러분은 그것에 속은 바보가 되는 것이죠. (웃음) 근거 기반 의학(EBM)에서 우리가 무조건 받아들이는 것이 있습니다. 저는 그것이 '연구 조작'이라고 생각합니다. 제가 만약 한개의 연구를 하면서 그 실험 결과 중에서 절반을 감췄다면, 저를 연구 사기꾼으로 비난할 것입니다. 그러나 한 개가 아닌 10개의 실험을 한 사람이 그 10개 실험 중에서 5개만 발표한다면 결과 조작을 했다고 하지는 않을 것입니다. 전 연구들의 조직, 학계, 산업 스폰서, 저널 편집자들이 결과 조작을 하지 않아야 한다는 책임감을 갖게 된다면, 이런 인식은 더 보편화 될 것입니다. 그러나 당장 환자들이 받는 해는 큽니다.
And this is happening right now, today. This is a drug called Tamiflu. Tamiflu is a drug which governments around the world have spent billions and billions of dollars on stockpiling, and we've stockpiled Tamiflu in panic, in the belief that it will reduce the rate of complications of influenza. Complications is a medical euphemism for pneumonia and death. (Laughter) Now when the Cochrane systematic reviewers were trying to collect together all of the data from all of the trials that had ever been conducted on whether Tamiflu actually did this or not, they found that several of those trials were unpublished. The results were unavailable to them. And when they started obtaining the writeups of those trials through various different means, through Freedom of Information Act requests, through harassing various different organizations, what they found was inconsistent. And when they tried to get a hold of the clinical study reports, the 10,000-page long documents that have the best possible rendition of the information, they were told they weren't allowed to have them. And if you want to read the full correspondence and the excuses and the explanations given by the drug company, you can see that written up in this week's edition of PLOS Medicine.
그것이 문제인 것입니다.. 이것은 '타미플루'라는 약입니다. 타미플루는 전세계 정부들이 수십억달러를 들여 비축한 약입니다. 타미플루가 인플루엔자의 합병증을 줄여줄 것이라 믿으면서, 공포 속에서 이 약을 사들였습니다 이 합병증이란 폐렴과 사망을 의미하는 의학적 완곡어법입니다. (웃음) 코크런 리뷰 그룹이 타미플루의 효력에 대해 행해진 모든 연구 자료들에 대한 체계적 검토를 하던 중 몇개의 발표되지 않은 실험 자료들을 발견했습니다. 그러나 그 자료들을 열람할 수 없었습니다. 정보공개법등 여러 수단을 동원하고, 많은 기관들을 괴롭혀서 그 논문들을 손에 넣기 시작했을 때, 그들이 알게 된 것은 부조화 였습니다. 그리고10,000 페이지에 달하는 타미플루에 대한 가장 중요한 정보가 들어있을 지도 모를 그 임상연구 보고서를 입수하려고 했을 때 열람이 불가하다는 답변만 들을 수 있었습니다. 제약회사들로 부터 받은 변명과 설명, 서신을 다 보고 싶으시다면, 이번 주의 PLOS Medicine에 모두 게제되어 있을 것입니다
And the most staggering thing of all of this, to me, is that not only is this a problem, not only do we recognize that this is a problem, but we've had to suffer fake fixes. We've had people pretend that this is a problem that's been fixed. First of all, we had trials registers, and everybody said, oh, it's okay. We'll get everyone to register their trials, they'll post the protocol, they'll say what they're going to do before they do it, and then afterwards we'll be able to check and see if all the trials which have been conducted and completed have been published. But people didn't bother to use those registers. And so then the International Committee of Medical Journal Editors came along, and they said, oh, well, we will hold the line. We won't publish any journals, we won't publish any trials, unless they've been registered before they began. But they didn't hold the line. In 2008, a study was conducted which showed that half of all of trials published by journals edited by members of the ICMJE weren't properly registered, and a quarter of them weren't registered at all. And then finally, the FDA Amendment Act was passed a couple of years ago saying that everybody who conducts a trial must post the results of that trial within one year. And in the BMJ, in the first edition of January, 2012, you can see a study which looks to see if people kept to that ruling, and it turns out that only one in five have done so.
이 중에서도 저에게 가장 충격적인 것은 이것이 문제일 뿐만 아니라, 우리가 이것을 인식하고 있는데도 가짜 해결책으로 고통을 받아야 한다는 것입니다. 이 문제가 해결된 듯 보이게 만드는 사람들이 있습니다. 우선 실험 등록제가 실시됐고, 모두가 괜찮다고 했죠. 모든 실험은 시작하기전에 등록하여 그 실험 과정을 게시해야 하고 그런면 실행되고 완료된 모든 실험이 발표되는지를 확인할 수 있다는 것이었습니다. 그러나 사람들은 등록을 하지 않았습니다. 그리자 국제 의학 저술 협회가 나서서, 지지해 주었습니다. 그들은 실험 전에 등록하지 않은 논문은 어떤 학술지에도 싣지 않겠다고 했습니다. 그러나 그들은 약속을 어겼습니다. 2008년의 한 조사는 국제 의학 저술 협회 회원들이 편집하는 저널에 발표된 연구 논문의 반이 그 실험들을 절차에 맞게 등록하지 않았고 1/4은 실험 등록을 아예 하지도 않았음을 밝혀 냈습니다. 그리고 마침내 2년전, 실행된 모든 실험은 그 결과를 반드시 1년안에 게시해야 한다는 식약청 수정법안이 통과되었습니다.. 그리고 영국 의학회 저널(BMJ)의 2012년 1월 첫주 호에 실린 한 연구가 이 규정이 얼마나 잘 지켜 지는 지를 조사했죠. 1/5만이 지키고 있던 것으로 드러 났습니다.
This is a disaster. We cannot know the true effects of the medicines that we prescribe if we do not have access to all of the information.
이것은 재앙입니다. 우리 의사들이 이런 정보에 접근할 수 없다면, 우리가 처방하는 약들이 어떤 영향을 끼칠지 알 길이 없습니다.
And this is not a difficult problem to fix. We need to force people to publish all trials conducted in humans, including the older trials, because the FDA Amendment Act only asks that you publish the trials conducted after 2008, and I don't know what world it is in which we're only practicing medicine on the basis of trials that completed in the past two years. We need to publish all trials in humans, including the older trials, for all drugs in current use, and you need to tell everyone you know that this is a problem and that it has not been fixed. Thank you very much. (Applause) (Applause)
그리고 이것은 고치기 힘든 문제가 아닙니다. 과거의 것을 포함하여, 인간에게 실행된 모든 실험들이 의무적으로 발표되어야 합니다. 미식약청 법은 2008년 이후의 연구들에 한해 게제해 달라고 권고할 뿐입니다. 지난 2년 동안 완료된 실험을 기반으로 해서만 진료하라고 하는 세상이 어떤 세상인지 모르겠습니다. 현재 사용되는 모든 의약품에 대하여, 과거의 것을 포함한 인간의 모든 연구들은 발표되어야 합니다. 여러분이 아는 모든 분에게 이것이 문제이며, 아직 고쳐지 않았음을 알려야 합니다. 고맙습니다.(박수) (박수)