Бен Голдакр - Вся правда о лекарствах. Мировой заговор фармкомпаний
Наконец, я должен упомянуть, возможно, о наиболее постыдном факте: когда мы позволяем исследователям не публиковать отрицательные данные, мы предаем пациентов, которые участвовали в экспериментах. Эти люди пожертвовали своим здоровьем, а иногда даже жизнями, безотчетно, неосознанно веря, что они совершают благое дело. Они верили, что благодаря их согласию участвовать в эксперименте медики смогут больше узнать о свойствах нового лекарства и это принесет пользу другим пациентам, которые могут попасть в такое же отчаянное положение, что и они, в будущем. На самом деле эту веру нельзя назвать неосознанной: часто об этом прямо говорим им именно мы, исследователи. Мы лжем им, потому что данные могут быть скрыты, и мы знаем об этом.
Так чья же это вина?
Почему исчезают плохие результаты исследований?Немного позже мы рассмотрим более очевидные случаи сокрытия фармацевтическими компаниями важных данных, которые иногда происходят при содействии госорганов. В изложенных ниже историях можно будет даже установить личности людей, участвующих в процессе. Когда мы дойдем до них, я надеюсь, вы рассердитесь еще больше от того, что прочитаете. Но сначала имеет смысл сделать короткую передышку и признать, что пристрастный подход к публикации статей имеет место и за пределами разработки коммерческих лекарств, в том числе в совершенно неродственной ей отрасли научных исследований, где людей волнует лишь собственная репутация и преследуются только личные интересы.
По большому счету во многих отношениях пристрастный подход к публикации данных — явление, объяснимое человеческой природой. Если вы провели исследование и не получили блестящих положительных результатов, вы можете сделать неверный вывод, что ваш эксперимент не заинтересует других исследователей. Имеет также значение и наличие стимула к публикации: вес ученого в научных кругах часто измеряется, хоть это и абсолютно неправильно, при помощи сухих цифр, таких как количество ссылок на статьи и число «влиятельных» исследований, упоминаемых в глянцевых журналах, которые читают широкие слои населения. Если отрицательные результаты труднее опубликовать в крупных журналах и на них реже будут ссылаться другие ученые, тогда автор исследования в меньшей степени мотивирован распространять информацию о неудавшейся работе. А вот при получении положительного результата у вас возникает чувство, что вы открыли что-то новое. Друзья и коллеги в восторге, так как ваши достижения неоспоримы.
Один из случаев, который хорошо иллюстрирует эту проблему, имел место в 2010 году. Известный американский исследователь-психолог Дэрил Бем опубликовал в журнале с хорошей репутацией авторитетную научную работу об исследовании возможности человека предвидеть будущее, сообщив о доказанных фактах предвидения событий его испытуемыми[1]. Исследование было грамотно спланировано и проведено, а результаты были статистически значимыми, однако для большинства людей они выглядели неубедительно по тем же самым причинам, что и для вас. Если бы люди действительно могли предвидеть будущее, мы бы, вероятно, уже давно знали об этом. Громкие заявления требуют весомых подтверждающих фактов, а не единичных результатов.
В действительности же исследование было повторено, но с другими результатами, отличными от тех, что получил Бем. По крайней мере две группы ученых повторили несколько экспериментов Бема, используя те же самые методы, и в обоих случаях фактов предсказания будущего подопытными зафиксировано не было. Одна из групп предоставила результаты в «Журнал исследования личности и социальной психологии», в то самое издание, которое опубликовало работу Бема в 2010 году, но на этот раз журнал сходу отверг статью исследователей.
К авторам даже вышел сам редактор и заявил, что они никогда не публикуют исследования, которые дублируют другие работы. Тут мы наблюдаем ту же самую проблему, что и в медицине: положительные результаты публикуются чаще, чем отрицательные. То и дело положительный результат какого-нибудь глупого эксперимента тут же публикуется в статье, где доказывается, например, что люди могут предвидеть будущее. Кто знает, сколько психологов на протяжении многих лет пыталось найти доказательства существования экстрасенсорных способностей, проводя долгие, сложные эксперименты на десятках, может быть, даже сотнях испытуемых, и не находило подтверждения своим догадкам. Любой ученый, пытающийся опубликовать результаты исследования, основной вопрос которого «А что если?», должен будет постараться, чтобы в лучшем случае его не подняли на смех прямо в редакции журнала. Даже несмотря на наличие ясной цели в исследовании Бема, которое широко освещалось в серьезных газетах по всей Европе и США, научные журналы, подтвердившие интерес к вопросу предвидения будущего, просто отказались публиковать статью о работе с отрицательными результатами. Однако воспроизведение этих результатов крайне важно, как сказал сам Бем в своей работе, поэтому отслеживание неудач при попытках получить такой же результат также имеет значение.
Люди, работающие в научных лабораториях, скажут вам, что порой эксперименты много раз заканчиваются неудачей и только после ряда попыток вдруг появляется результат, который исследователь и хотел получить. Что это означает? Иногда неудачи вызваны юридическими или техническими проблемами, но иногда они формируют ряд важных статистических данных, которые даже могут ставить под сомнение правильность основных результатов исследования. Помните, что результаты многих исследований не всегда свидетельствуют строго в пользу того или иного предположения. Большинство из них представляют собой хрупкие статистические корреляции. В рамках существующей системы большинство вспомогательной статистической информации о количестве неудач просто заметается под ковер, что очень отражается на стоимости исследования, во время которого пытаются воспроизвести результаты первого эксперимента. Зависимость может быть неявной и не сразу проявиться. Например, исследователи, которым не удалось воспроизвести результаты первоначального опыта, могут и не знать, с чем связана такая неудача. Возможно, при первом опыте им просто повезло, а может быть, они допустили методическую ошибку.
В действительности на поиск доказательств ошибочности результатов тратится гораздо больше времени, средств и усилий, чем на их воспроизведение. Ведь исследователю нужно провести эксперимент много раз, чтобы доказать отсутствие результатов: так работает статистика обнаружения слабых эффектов. И вам нужно быть абсолютно уверенным в том, что вы исключили все технические неполадки, чтобы не попасть впросак, если данные окажутся воспроизведены неправильно. Эти препятствия при поиске опровергающей информации частично объясняют, почему проще уклониться от публикации данных, которые в конечном счете окажутся неправильными.31
Пристрастный отбор результатов для публикации — проблема, возникающая не только при проведении далеких от жизни психологических экспериментов. В 2012 году группа ученых сообщила в журнал Nature, как они попытались воспроизвести результаты 53 ранних лабораторных исследований, направленных на изучение возможностей разработки перспективных препаратов для лечения рака. В итоге 47 из 53 результатов не были воспроизведены.32 Это исследование имело серьезные последствия для разработки новых лекарств в медицине, так как невоспроизводимость данных не просто абстрактный научный вопрос: исследователи строят теории на их основе, верят в их правильность и исследуют тот же самый феномен, используя другие методы. Если же их просто водили за нос, заставляли воспроизвести случайно полученные неверные данные, то получается, что весомая часть выделенных на проведение исследований денег и усилия ученых были потрачены зря, а прогресс в открытии новых медикаментов в значительной мере замедлился.
Авторы исследования ясно подчеркивали и причину, и решение проблемы. По их мнению, случайно полученные положительные данные чаще высылаются для публикации в журналах и чаще издаются, чем скучные цифры отрицательных исследований. Нужно больше стимулировать ученых к публикации отрицательных результатов, но мы должны предоставлять им также и больше возможностей. Другими словами нам нужно изменить манеру поведения сотрудников научных журналов, и здесь мы сталкиваемся с еще одним затруднением. Несмотря на то что работающие в таких изданиях люди часто сами являются учеными, редакторы журналов ориентируются на свои интересы и приоритеты при публикации статей. В этом отношении они больше похожи на обычных журналистов и редакторов простых газет, что многие из них вряд ли согласятся признать, и пример с экспериментом по предвидению будущего, приведенный выше, хорошо доказывает это. Могут ли журналы, подобные такому, служить примером идеальной площадки для обнародования результатов исследований в принципе — жарко обсуждаемый вопрос в научных кругах, но такова текущая ситуация. Редколлегия журналов — это фильтраторы. Редакторы выносят суждения о том, что существенно и интересно для их аудитории. Они борются за читателей. Это может заставить их действовать в ущерб интересам науки, потому что личное желание редактора журнала наполнить издание привлекательным содержанием может войти в конфликт с объективной необходимостью предоставить исчерпывающую и полную картину исследования. В журналистике распространен хорошо известный афоризм: «Если собака укусила человека, это не новость. Но если человек укусил собаку…» Критерии, определяющие, что стоит публиковать в колонке новостей популярных изданий, даже были выражены количественно. Одно исследование, проведенное в 2003 году, например, на протяжении нескольких месяцев отслеживало способ подачи новостей о здоровье на канале ВВС. Было подсчитано, скольким людям нужно умереть от какой-либо болезни, чтобы сообщение об этом появилось в новостях. Так, в каждом сюжете о курении сообщалось о не менее чем 8571 умершем в среднем, но появилось по одному сообщению о каждом смертельном случае от новой разновидности коровьего бешенства (всего их было три).33 В другой работе от 1992 года исследователи изучили способ подачи печатными изданиями сообщений о смерти от лекарственных препаратов. Они обнаружили, что для появления сообщения в газете об отравлении парацетамолом нужно было зафиксировать 265 случаев смерти, но на каждый случай смерти от экстези в среднем появлялось по одному сообщению в новостях.34
