Мозгоускорители

7. Вероятность и объем выборки

В 2007 г. губернатор Техаса Рик Перри издал распоряжение, согласно которому всем девочкам по достижении 12 лет должны были делать прививки от вируса папилломы человека, заражение которым может привести к раку шейки матки. Критикуя Рика Перри в дебатах перед республиканскими выборами в 2012 г., кандидат Мишель Бахманн заявила, что одна женщина рассказала ей, что «ее дочке сделали эту прививку, а после этого у нее диагностировали задержку в умственном развитии».

Какая ошибка заключалась в выводе, сделанном Бахманн, — или по крайней мере в ее призыве сделать этот вывод — о том, что прививка от ВПЧ провоцирует умственную отсталость? Давайте подумаем.

Слова Бахманн нужно рассматривать как сообщение о примере инцидента, произошедшего среди представителей определенной популяции, а именно группы двенадцатилетних девочек из США, которым была сделана прививка против ВПЧ. Один случай умственной отсталости в этой популяции представляет собой слишком малую выборку (малое количество учтенных примеров), которой даже с натяжкой недостаточно для вывода, что здоровью этих девочек угрожают такие прививки.

Интересно, что на самом деле было проведено несколько опытов с произвольным распределением объектов по контрольным группам, в ходе которого экспериментаторы произвольно выбрали некоторых девочек для проведения прививок. Было обследовано огромное число девочек. Ни одно из исследований не показало, что среди девочек, которым была сделана прививка, количество умственно отсталых впоследствии оказалось выше, чем среди тех, кому прививку не сделали.

Приведенный Бахманн пример с прививкой является типичным образцом доверия статистике, основанной на источнике «я знаю одного человека, который сказал, что...». Пример Бахманн — в лучшем случае непродуманный, но никак не случайный. Чем больше процесс отбора образцов соответствует золотому стандарту случайного выбора — который означает, что каждый индивидуум данной популяции имеет равные шансы появления в выборке, — тем большего доверия он заслуживает. Если мы не знаем, случайно ли выбран данный пример, то любая статистическая оценка, которую мы дадим этому явлению, может оказаться необъективной.

Вообще-то пример Бахманн не назовешь непродуманным. Даже если предположить, что она говорила правду, у нее был серьезный мотив донести до общества именно этот случай. А может быть, она (либо ее информатор) говорила неправду. Причем это необязательно означает, что ее информатор лгала. Может быть, та женщина верила в то, что, как утверждается, она сообщила Бахманн. Если ее дочери сделали прививку, а затем диагностировали у нее задержку умственного развития, возможно, что вывод, сделанный матерью, является примером типичной логической ошибки «после этого — значит из-за этого». Тот факт, что событие 1 предшествует событию 2, еще не означает, что первое обязательно являлось причиной второго. В любом случае, мне кажется, мы должны понимать, что заявление Бахманн не дотягивает даже до статистики на уровне «Один Человек Сказал».

Один из моих любимых примеров логической ошибки «после этого — значит вследствие этого» в сочетании со статистикой «Один Человек Сказал» я знаю в изложении друга, который подслушал разговор между двумя пожилыми людьми. Первый сказал: «Врач говорит, чтобы я бросил курить, иначе умру». Второй ответил: «Нет! Не бросай! У меня двое друзей бросили курить, потому что им так сказали врачи, и оба умерли через несколько месяцев».

Выборка и популяция

Вспомним пример с роддомами из главы 1, посвященной логическим выводам. В маленьких роддомах будет больше таких дней, когда количество родившихся мальчиков превысит 60% всех родившихся детей. Объясняется это действием закона больших чисел: выборочные значения, такие как средние значения и количественные соотношения, тем больше отражают реальные показатели внутри популяции, чем больше И, то есть объем выборки.

Действие закона больших чисел легко увидеть на примере большой популяции. Предположим, в роддоме за день родилось 10 малышей. Какова вероятность того, что 60% или более из родившихся детей мальчики? Разумеется, вероятность довольно высока. Мы ведь не удивимся, подбрасывая монетку, если орел выпадет 6 из 10 раз. Предположим, в другом роддоме за день родилось 200 детей. Насколько вероятным будет подобное отклонение от математического ожидания? Очевидно, что весьма маловероятным — как если бы подброшенная 200 раз монета упала орлом вверх 120 или больше раз, вместо ожидаемых 100 раз.

Попутно замечу, что точность выборочной статистики (средняя величина, медианное значение, среднеквадратическое отклонение и т.д.) по существу не зависит от размера популяции, из которой взята выборка. Для прогноза результатов общенациональных выборов опрашивают около 1,000 человек, и погрешность обычно находится в пределах ±3%. Выборка в 1,000 человек дает примерно одинаковый прогноз процентной поддержки кандидата при голосовании и 100 млн, и 10,000 человек. Так что, если ваш кандидат согласно результатам опросов опережает соперника на 8 баллов, не обращайте внимания на критические заявления соперников, что голосовать будут миллионы людей, а опросы охватывают всего тысячу. С одной оговоркой: если только люди, отобранные для опроса, не являются нетипичными представителями населения в каких-то важных аспектах. И тут мы вплотную подошли к вопросу ошибки выборки.

Закон больших чисел работает только для несмещенных выборок. Выборка оказывается смещенной (необъективной), если процесс ее составления допускает возможность того, что данное выборочное значение является ошибочным. Если вы пытаетесь выяснить, какое количество людей, работающих на заводе, хотели бы работать по гибкому графику, и опрашиваете только мужчин или только работниц столовой, мнение этих людей может значительно отличаться от мнения основного контингента работников. В целом это дает неверное представление о том, сколько работников завода хотели бы работать по гибкому графику. Если в выборке имеется смещение, то чем больше выборка, тем больше можно быть уверенным, что результат ошибочен.

Нужно отметить, что на самом деле выборка для опросов перед общенациональными выборами формируется вовсе не методом слепого отбора. Это было бы оправданно, если бы все избиратели в стране имели равные шансы попасть в выборку. Если это не так, вы рискуете получить серьезную ошибку выборки. Один из первых предвыборных опросов в США, проведенный журналом
Literary Digest,

показал, что Франклин Рузвельт проиграет выборы 1936 г., на которых на самом деле он одержал бесспорную победу. В чем была ошибка этого опроса? Он проводился по телефону, а в то время только очень обеспеченные люди (и большинство из них — республиканцы) имели дома телефон.

Нечто похожее произошло с некоторыми из предвыборных опросов, проведенных в 2012 г. Компания Rasmussen, проводившая опросы общественного мнения, не звонила на мобильные телефоны, игнорируя тот факт, что люди, у которых есть только мобильные телефоны и нет домашних, в большинстве своем молоды и чаще всего симпатизируют Демократической партии. Поэтому компания систематически переоценивала поддержку кандидата от Республиканской партии Митта Ромни по сравнению с результатами опросов путем звонков и на домашние, и на мобильные номера.

Когда люди отвечали на телефонные звонки и пускали в дом проводящих соцопросы, можно было достичь практически идеальной случайной выборки. В наши дни точность опроса зависит частично от данных, имеющихся у лиц, проводящих опросы, и интуиции, подсказывающей, какой лучше сделать выборку — подмешать ли в колдовское зелье из чисел вероятность, с какой респонденты пойдут голосовать, их симпатии той или иной партии, пол, возраст, статистику о том, как это сообщество или регион голосовали на прошлых выборах, глаз тритона или лягушачью лапку...

В поисках точного значения
Рассмотрим следующие две задачи.

Университет А известен постановками мюзиклов в студенческом театре. Талантливые выпускники школ, от которых ждут больших успехов в будущем, могут получить стипендию на обучение в этом университете. Директор университетской театральной программы Джейн знакома с преподавателями актерского мастерства в окрестных школах. Однажды она отправляется посмотреть выступление ученицы, которую все преподаватели в один голос называют замечательной юной актрисой. Но на репетиции эта девушка несколько раз путает текст роли и, кажется, вообще неверно понимает характер своего персонажа. Да и особого сценического обаяния она не демонстрирует. Посмотрев репетицию, директор говорит своим знакомым, что теперь будет сомневаться в их оценках таланта их учеников. Верный это вывод или нет?

Джо подбирает игроков в футбольную команду университета Б. Он всегда ездит на тренировки школьных команд, если тренеры сообщают ему, что появился кандидат в университетскую сборную. Однажды он отправляется в школу, чтобы понаблюдать за нападающим, которого расхваливают его тренеры. Но на тренировке юноша промахивается, не может прорваться сквозь защитников и в целом не слишком результативен. В своем отчете начальству Джо пишет, что игрока переоценили, и рекомендует университету больше не рассматривать его в качестве кандидата в команду. Верное это решение или нет?

Если вы ответили, что Джейн приняла верное решение, а Джо нет, готов поспорить, что вы разбираетесь в спорте, но не в актерском мастерстве. Если же вы сказали, что Джо прав, а Джейн нет, вы, вероятно, разбираетесь в актерском мастерстве, но не в спорте.

Я обнаружил, что люди, которые мало понимают в спорте, чаще говорят, что Джо прав, заключив, что футболист не так уж талантлив, а люди, которые разбираются в спорте, считают, что Джон поторопился с выводом. Они допускают возможность, что выборка, представляющая собой единственную игру нападающего, была слишком мала и, возможно, это была худшая тренировка этого игрока. Таким образом, остается возможность, что способности этого спортсмена на самом деле гораздо больше соответствуют отзывам о нем, чем тому, что увидел Джо.

Люди, которые мало понимают в актерском мастерстве, скорее всего согласятся, что юная актриса не очень талантлива, но те, кто в этом разбирается, скажут, что Джейн пренебрежительно относится к суждениям своих друзей, преподающих в школе. При прочих равных условиях чем больше вы понимаете в каком-то вопросе, тем чаще можете применять статистические закономерности в своей работе. В данном случае важно помнить о законе больших чисел.

И вот почему здесь этот закон здесь необходим. Надежным показателем качества игры и уровня способностей футболиста можно считать то, как он играл на протяжении всего сезона или даже нескольких сезонов. Если его тренеры подтверждают эту информацию, настаивая на том, что он отличный игрок, это уже база доказательств — множество исходных данных, указывающих на то, что игрок, за которым наблюдал Джо, действительно талантлив. Результаты наблюдений Джо ничтожны по сравнению с наблюдениями тренеров, которые каждый день видят игрока на тренировках и в играх.

Конечно, уровень игры футболиста и даже целой команды может меняться от матча к матчу. Как гласит популярная присказка, в любое воскресенье любая команда Национальной футбольной лиги может победить любую другую команду Национальной футбольной лиги. Это не означает, что все команды одинаково сильны, просто нужно помнить: для того, чтобы с уверенностью судить об уровне команды, нужно увидеть много примеров ее игры.

Та же логика определяет мнение директора театральной программы о юной актрисе, выступление которой она смотрит. Если несколько человек, хорошо знающих эту девушку, говорят, что она талантлива, имеет смысл больше довериться их мнению, чем своему, основанному на недостаточном числе примеров. Однако мало кто признает это, за исключением тех, кто сам имеет за плечами сценический опыт и понимает, насколько разными могут быть выступления. Известный актер Стив Мартин писал в автобиографии, что почти любой комедийный актер может иногда сыграть великолепно. Но успех приходит к тем, кто умеет играть по меньшей мере неплохо — раз за разом.

Говоря языком статистики, тренер и директор театральной программы пытаются определить истинное значение кандидата, которого они наблюдают. Наблюдение = истинное значение + ошибка. Это верно для любых расчетов и исследований, даже если речь идет о росте людей или температуре воздуха. Повысить точность полученного значения можно двумя способами. Первый — усовершенствовать средства наблюдения, то есть найти линейки и термометры поточнее. Второй способ — «исключить» ошибки наблюдений, сколько бы их ни было, расширив выборку. Увеличьте количество наблюдений и найдите среднее значение на основе всех наблюдений в сумме. И не забывайте о законе больших чисел: чем больше сделано наблюдений, тем вы ближе к истине.

Иллюзия собеседования

Даже когда мы высококомпетентны в какой-либо сфере и отлично разбираемся в статистике, мы можем забыть о концепции изменчивости и применении закона больших чисел. На факультете психологии Мичиганского университета для того, чтобы принять решение о приеме выпускника в аспирантуру, с ним проводят собеседование. Мои коллеги обычно придавали огромное значение итогам этой 20-30-минутной беседы с выпускником. «Не думаю, что она подойдет нам. По-моему, она не очень разбирается в вопросах, которое мы обсуждали». «Он выглядит очень уверенным в себе. Он рассказал о своей блестящей дипломной работе и сумел показать, что понимает, как проводятся исследования».

Проблема здесь в том, что суждения о человеке, основанные на малой выборке примеров поведения, могут «перевешивать» куда большее количество куда более важных свидетельств, включая средний балл аттестата колледжа, который отражает, как человек учился в течение четырех лет по тридцати с лишним академическим предметам; баллы за выпускной тест (GRE), который отражает знания, полученные за 12 лет обучения, и общие интеллектуальные способности; а также рекомендательные письма, которые обычно составляются на основе многих часов работы со студентом. На самом деле средний балл аттестата колледжа дает весьма приблизительное представление о том, как покажет себя этот студент в ходе последипломного обучения

[104]
(корреляция здесь обычно будет примерно 0,3, что, как вы увидите из следующей главы, очень мало). Примерно такой же точности прогноз дают баллы, полученные за тест GRE. Два этих показателя в общем-то не зависят друг от друга, поэтому уровень точности совокупного прогноза по ним будет выше, чем по каждому из них по отдельности. Рекомендательные письма также повышают точность прогнозирования.

Для сравнения: совпадение прогнозов на основе получасового собеседования и последующей успеваемости кандидата на постдипломное обучение (и точно так же обстоит дело с офицерами, бизнесменами, будущими врачами, волонтерами Корпуса мира и другими людьми, проходящими подобное собеседование) обычно не достигает 0,1. Примерно с таким же успехом можно подбрасывать монетку. Все было бы не так плохо, если бы собеседование воспринимали так, как оно того заслуживает, — всего лишь как еще одну, завершающую попытку предвидеть результат. К сожалению, точность окончательного решения практически всегда снижается, поскольку значение собеседования преувеличивается по отношению к другой, более важной информации.

Значение собеседования настолько переоценивается, что этот короткий разговор может изменить мнение о человеке на прямо противоположное. Считается, что беседа с абитуриентом лучше расскажет о его успеваемости в университете, чем средние оценки в школе, а о готовности к работе в Корпусе мира — лучше, чем рекомендательные письма, основанные на многочасовом наблюдении за кандидатом
[105]
.
Давайте расставим все точки над
i

по поводу информации, которую дает собеседование. В том случае, если у вас есть значимая, безусловно ценная информация о претенденте на место, которую можно узнать, просто просмотрев его бумаги, тогда лучше не проводить собеседование вообще. Если бы мы умели придавать собеседованию ровно столько значения, сколько оно заслуживает, это было бы не так, но не переоценивать его значение практически невозможно, потому что мы склонны с неоправданной самоуверенностью относиться к собственным наблюдениям, которые якобы дают нам верное представление о способностях и качествах человека.

Результаты собеседования надо воспринимать как голографический снимок человека — изображение меньше, оно расплывчатое, но все же это изображение этого человека. Собеседование — это крохотный, фрагментарный и, возможно, искаженный пример, вырванный из контекста всей информации, которая имеется об этом человеке. Вспомните буддистскую притчу про слона и слепых и заставьте себя поверить, что вы и есть один из этих слепых.

Помните, что иллюзия важности собеседования и фундаментальная ошибка атрибуции (ФОА) —явления одной природы. То и другое усугубляется тем, что нам никогда не удается уделить нужное количество внимания той информации, которая имеется о человеке. Если бы мы лучше понимали смысл ФОА, мы бы гораздо больше сомневались в той информации, которую дает собеседование. Точное применение закона больших чисел также делает нас менее подверженными ФОА и иллюзии собеседования.

Я бы хотел с гордостью заявить, что мои знания об истинной пользе собеседований всегда позволяют мне критически относиться к собственным умозаключениям, сделанным на основе собеседования. Однако сдерживающий эффект здесь весьма и весьма ограничен. Слишком сильна иллюзия, что я обладаю ценными знаниями, имеющими под собой серьезную основу. Все равно приходится напоминать себе, что я не должен придавать слишком большое значение собеседованию или любому другому поверхностному впечатлению о человеке. Это особенно важно, когда я обладаю заведомо надежной информацией о нем, основанной на мнении других людей, давно знающих кандидата, а также подробным перечнем достижений этого человека в научной или другой области.

Однако мне не составляет труда помнить об ограниченности чужих суждений, основанных на коротком собеседовании!

Дисперсия и регрессия

Моя подруга — назовем ее Кэтрин — консультирует руководство медицинских учреждений по вопросам менеджмента. Она любит свою работу— отчасти потому, что ей приходится путешествовать и знакомиться с людьми. Кроме того, она немного гурман и любит ходить в хорошие рестораны. Но часто разочаровывается, вновь посетив понравившееся заведение. Во второй раз еда уже не кажется ей такой вкусной. Как вы думаете почему?

Если вы ответите «Может быть, потому что в этом ресторане часто меняется шеф-повар» или «Вероятно, у нее завышенные ожидания», вы игнорируете кое-какие важные статистические закономерности.

Статистический подход к проблеме начинается с понимания того факта, что в том, насколько вкусную еду приносят Кэтрин в любом конкретном ресторане в каждом конкретном случае, всегда содержится элемент случайности. В зависимости от обстоятельств вашего визита в ресторан вы будете по-разному оценивать качество поданных блюд. Блюдо, которое Кэтрин попробовала в этом ресторане первым, по качеству могло варьировать от среднего (или даже ниже среднего) до великолепного. Эта разница и заставляет нас относиться к качеству оцениваемой еды как к переменной величине.

Непрерывная переменная величина (которая может непрерывно изменяться в диапазоне от наименьшего до наибольшего значения — как, например, рост людей), в отличие от дискретной переменной (например, в случае с гендерной идентификацией или политическими пристрастиями), всегда имеет среднее значение и распределение относительно среднего значения. Принимая во внимание один этот факт, неудивительно, что Кэтрин часто была разочарована: нельзя избежать вероятности, что иногда второй поход в ресторан окажется хуже, чем первый (точно так же, как в некоторых случаях второй раз оказывается лучше первого).

Но это еще не все. Следует ожидать, что мнение Кэтрин о блюде, которое однажды показалось ей превосходным, ухудшится. Это происходит оттого, что чем ближе переменная величина к своему среднему значению, тем чаще она встречается. Чем она дальше от среднего значения, тем она встречается реже. Поэтому если в первый раз еда показалась ей исключительной, то в следующий раз, вероятно, ее оценка будет не такой. Это верно для так называемого нормального распределения, график которого изображается кривой нормального распределения, показанной на рисунке 2.

Все материалы, размещенные в боте и канале, получены из открытых источников сети Интернет, либо присланы пользователями  бота. 
Все права на тексты книг принадлежат их авторам и владельцам. Тексты книг предоставлены исключительно для ознакомления. Администрация бота не несет ответственности за материалы, расположенные здесь