Сигнал и шум

Основные идеи

• В условиях избытка информации необходимо научиться отделять сигналы, несущие смысл, от информационного шума.
• Большинство людей, делающих официальные прогнозы, плохо справляются с этой задачей.
• Прогнозирование на основе какой-то одной теории менее эффективно, чем использование комплекса различных подходов.
• Повысить точность прогнозов поможет мышление в категориях вероятности, ориентация на коллективное мнение и анализ качественных данных.
• Различайте риск (его можно измерить) и неопределенность (она не поддается количественному измерению).
• Иногда субъективная оценка бывает точнее, чем компьютерная модель.
• Методы прогнозирования будут различны в различных областях – метеорологии, спорте, азартных играх, экономике, политике.
• Сложность формулировки точных экономических прогнозов связана с высокой динамичностью экономики как системы.
• Труднее всего прогнозировать “неизвестные неизвестные” – явления, которые никто не принимает в расчет, считая слишком малореальными.
• Когда ученые не понимают причин природного явления, например землетрясений, в попытках его объяснить рождается множество фантастических теорий.

Краткое содержание

Информационные взрывы

Первый в истории информационный взрыв случился после того, как Иоганн Гуттенберг изобрел в 1440 году печатный станок. До Гуттенберга книги переписывали вручную, и каждый экземпляр в пересчете на сегодняшние цены стоил десятки тысяч долларов. Создание книг было настолько дорогостоящим процессом, что ни о каком широком их распространении не могло быть и речи.

С появлением печатного станка средняя стоимость книги упала приблизительно в 300 раз, а их количество стало расти в геометрической прогрессии. Объем содержавшейся в этих первых книгах информации рос намного быстрее, чем люди могли ее осмыслить. В ситуации лавинообразного роста объема информации (то, что произошло и с появлением Интернета) мышление у многих становится “сектантским”: они предпочитают верить только тому, что соответствует их пониманию мира, и игнорировать другие точки зрения. В результате невежество не искореняется, как можно было бы предположить, а только усиливается. Чтобы избежать предвзятости, необходимо научиться анализировать получаемую информацию и отделять сигналы, несущие важный смысл, от фонового информационного шума.

Насколько точными могут быть прогнозы?

В 1987 году профессор Пенсильванского университета Филипп Тетлок захотел выяснить, есть ли среди представителей научных и политических кругов США эксперты, прогнозы которых сбываются чаще, чем у остальных. И он таких людей обнаружил. Если использовать метафору Исайи Берлина, их можно назвать “лисами”. В своей статье о Льве Толстом Берлин разделил людей на “ежей”, видящих мир через призму одной теории или идеи, и “лис”, которые руководствуются множеством разных идей и подходов. Экспертов-“ежей” любят приглашать на телевидение, поскольку они делают смелые и однозначные прогнозы. Но прогнозы эти, как правило, ошибочны, поскольку узость взгляда “ежей” на реальность мешает им адекватно ее воспринимать.

Вот несколько основных принципов составления точных прогнозов:

• Мыслите в категориях вероятности. Не стремитесь дать абсолютно точный “черно-белый” прогноз – анализируйте вероятность того или иного события или сценария.
• Корректируйте прогноз с учетом новых данных. Вносите изменения, когда появляется новая информация. Делайте прогноз, исходя из того, что вам известно на данный момент, даже если это противоречит тому, что вы говорили раньше.
• Ищите консенсус. Прогнозы, основанные на мнениях разных специалистов или коллективном мнении экспертной группы, оказываются точнее на 15–20%.
• Рассматривайте не одну, а несколько причин прогнозируемого явления. В упрощенных моделях, учитывающих лишь один-два фактора, слишком много данных выносится за скобки.
• Используйте качественные данные. Прогнозы, составленные на основе качественных, а не количественных данных, часто бывают точнее самых совершенных компьютерных моделей.
• Отличайте риск от неопределенности. Риск – это вероятность определенного исхода событий, например, при раздаче карт во время карточной игры. Риск можно оценить количественно, чтобы понять, следует ли предпринимать то или иное действие. Неопределенность – это риск, не поддающийся количественной оценке. Если вероятность события неизвестна, вы имеете дело с неопределенностью.

Общие принципы составления прогнозов можно применять в любой сфере деятельности. Но есть области, специфика которых создает дополнительные сложности для прогнозирования. Приведем несколько примеров.

Игра в карты и спортивный тотализатор

Чтобы зарабатывать на жизнь с помощью азартных игр, необходим упорный труд, навык прогнозирования и – что еще сложнее – контроль над эмоциями, которые не позволяют объективно оценивать информацию. Американец Боб Вулгарис успешно зарабатывает на жизнь, делая ставки на результаты баскетбольных матчей. Он анализирует огромные массивы информации, определяя вероятность того или иного исхода игр. Одного главного секрета, как это делать, у него нет, зато есть множество маленьких секретов.

В своих расчетах Вулгарис опирается на теорему Байеса, английского математика XVIII века. Эта теорема позволяет определить вероятность того, что определенное условие приведет к определенному событию. Вычисление этой вероятности по формуле Байеса включает определение вероятности того, будет ли соблюдено исходное условие, а также определение “априорной” вероятности события, то есть шансов на его наступление без соблюдения данного условия. Теорема Байеса не гарантирует, что наличие определенных условий приведет к определенным событиям, тем не менее расчет на ее основе позволяет снизить вероятность ошибочного суждения.

В покере вариантов развития событий намного меньше, чем во многих видах спорта: число комбинаций карт, которые можно получить в каждый момент времени, конечно. Многие опытные игроки пытаются просчитать эти вероятности на ходу, меняя прогноз по мере открытия каждой следующей карты. В покере играют не на исход события, а против других игроков. Это требует жесткого контроля над эмоциями. В 2003 году американский телеканал ESPN начал транслировать турниры профессиональных игроков в покер. Возможность наблюдать за игрой с помощью многочисленных телекамер изменила отношение многих людей к покеру – он стал казаться им гораздо более простой игрой, чем есть на самом деле. Если к этому добавить расцвет онлайн-покера, сделавшего игру быстрой и доступной для всех, то становится понятно, почему сегодня такое множество людей играет в покер, сильно переоценивая свои возможности.

На исход игр в бейсболе издавна делаются ставки. Существует целая категория прогнозистов (скаутов), задача которых – как можно раньше предсказать, кто из молодых бейсболистов станет звездой. Инсайдеры бейсбольного мира испробовали различные методы получения максимально точных прогнозов. Сегодня они используют компьютерные модели и особую систему сбора статистических данных. Бейсбольным прогнозам посвящена книга “Деньгобол” Майкла Льюиса. При ее беглом чтении может показаться, что прогнозисты в этом виде спорта разделились на два лагеря – на тех, кто анализирует статистику, и тех, кто опирается на личные наблюдения. Между тем в действительности статистику анализируют все скауты, и разногласия между ними возникают лишь по поводу того, какие показатели важнее и какие важные личностные качества игрока статистика не может учесть.

Ураганы, погода и климатические изменения

Люди пытаются предсказывать погоду уже тысячи лет, но точность этих прогнозов пока оставляет желать лучшего. Одна из причин этого – многообразие сил, формирующих погоду. Другая причина – динамичность такой системы, как погода. Эта система обладает нелинейными свойствами, то есть незначительное воздействие на один из ее элементов может вызвать цепную реакцию, имеющую масштабные и непредсказуемые последствия.

В последние десятилетия ученые научились предсказывать погоду намного точнее. Наилучших результатов достигли синоптики, комбинирующие анализ данных за прошлые годы и построение сложных компьютерных моделей с собственной субъективной оценкой, основанной на опыте. Подобно бейсбольным скаутам с их личными впечатлениями от игроков и наблюдением за игрой, опытные синоптики способны сказать, когда компьютерные модели дают ошибочные результаты, а когда и вовсе неприменимы. Впрочем, модели со временем совершенствуются, а люди накапливают все больше опыта. Сегодня ученые Национального центра США по изучению ураганов могут за три дня до урагана определить, где он пройдет, с точностью до 100 миль, хотя еще 25 лет назад эта цифра составляла 350 миль.

По поводу перспективы создать модель изменения климата лучше сохранять здоровый скептицизм. Специалисты наблюдают за многими метеорологическими явлениями и измеряют отдельные параметры (такие как температура) на протяжении веков, но еще никто не имел возможности наблюдать за изменением климата в целом. Ученые до сих пор обнаруживают новые факторы, формирующие климат и погоду (например, солнечная активность). Разногласия в научном мире возникают лишь относительно конкретных форм проявления этого процесса, а не его природы. Парниковый эффект – это реальность, и изменение климата – доказанный факт.

Землетрясения

Землетрясения оказывают намного более сильное воздействие на мировосприятие человека, чем любые другие природные явления. Ученые выявили наиболее сейсмически опасные зоны планеты, но пока так и не разработали надежные методы, позволяющие точно предсказать, когда произойдет землетрясение, а значит, и не нашли способа предотвращать катастрофы или хотя бы вовремя готовиться к ним.

Предсказание землетрясений не имеет ничего общего с прогнозом погоды. Ученые хорошо понимают, какие силы участвуют в формировании погоды, но происходящее в недрах земли до сих пор недоступно их пониманию. В результате рождаются откровенно нелепые теории, нередко пользующиеся популярностью в научных кругах, пока жизнь не докажет их несостоятельность. В предсказании землетрясений часто встречаются примеры “избыточной подгонки” – ситуации, когда модель полностью удовлетворяет условиям, которые являются информационным шумом, а не сигналом.

Финансы и экономика

Добросовестные авторы политических опросов всегда делают оговорку, что их прогнозы имеют определенную погрешность. К сожалению, в случае с экономическими прогнозами этого не происходит; более того, в таких прогнозах нередко фигурируют точные цифры. В итоге возникает впечатление, что экономика – более строгая наука, чем это есть на самом деле. Если прогноз не сбывается, ответственности за него никто не несет, поскольку достоверность экономических прогнозов никем практически не отслеживается.

Экономическое прогнозирование осложняется тем, что в массивах экономических данных очень непросто выявить причинно-следственные отношения. Правительство США каждый год публикует данные о 45 тысячах экономических показателей, а частные компании в совокупности отслеживают около четырех миллионов различных экономических параметров. В условиях такой информационной перегрузки экономисты перестают понимать, какие показатели необходимо брать в расчет. Ситуацию осложняет и эффект, известный как “закон Гудхарта”: когда правительство начинает в своей политике ориентироваться на отдельный экономический показатель, он перестает быть достоверным индикатором.

Еще более затруднительными оказываются попытки предсказать, в каких секторах экономики будет наблюдаться рост. Со всей ясностью это продемонстрировал финансовый кризис 2008 года. Аналитики рынка капиталовложений, с которого и начался всеобщий коллапс, прогнозировали вероятность неисполнения обязательств по финансовым инструментам с рейтингом ААА на уровне 0,12%. В реальности же этот показатель составил 28%.

Такая ошибка выходит за пределы любой допустимой погрешности. Объясняется это тем, что индивидуальных инвесторов ослепили эмоции, вызванные ажиотажем на рынках недвижимости, который активно подогревался СМИ. Рейтинговые агентства должны были предвидеть финансовые проблемы, но их аналитики использовали некорректные модели прогнозирования. Неадекватная оценка ситуации привела к тому, что инвестиции финансовых институтов в ценные бумаги, обеспечивавшиеся недвижимостью, в тот период превысили вложения индивидуальных инвесторов в 50 раз.

Политические прогнозы и общественная безопасность

Если анализировать события, предшествовавшие террористической атаке 11 сентября 2001 года, то нетрудно заметить признаки надвигавшейся опасности. Возникает впечатление, что в этом случае, как и во многих других, американские спецслужбы могли бы отличить сигнал от шума, но не сделали этого. По словам бывшего министра обороны США Дональда Рамсфелда, в определении текущего уровня террористической угрозы приходится иметь дело с переменными трех типов: “известными известными” – факторами, о которых мы знаем и воздействие которые можем предвидеть; “известными неизвестными” – факторами, воздействие которых мы не можем предвидеть, но о существовании которых знаем; и, наконец, самыми опасными факторами – “неизвестными неизвестными”, о существовании которых даже не догадываемся.

Последние факторы настолько выпадают из общих представлений о террористической угрозе, что аналитики попросту не принимают их в расчет. Именно факторы третьего типа и привели к событиям 11 сентября 2001 года. Объединенное командование ПВО США и Канады рассматривало сценарий похищения террористами самолета для совершения атаки на Пентагон, но аналитики отвергли его как слишком неправдоподобный.

Однако события 11 сентября 2011 года – далеко не самое страшное, чем терроризм грозит планете. Один из экспертов, воспользовавшись методом Шерлока Холмса, решил ответить на вопросы, какие у террористов есть “мотивы, средства и возможности” для нового нападения на США. В итоге он пришел к выводу, что в ближайшее десятилетие резко возрастет вероятность террористической атаки с применением оружия массового поражения, например ядерного, в густонаселенной местности.