A reservationist epistemology
НеореакцияОдин из новых и довольно популярных (среди тех, кто поумнее) примеров алгоритмистского автоматизма — байесианство. Байесианцы — последователи теоремы Байеса, некоторого результата в теории вероятности. Байесианцы обычно стекаются к групповому блогу Overcoming Bias, где они собираются и считают, сколько в белой урне синих шаров.
Вот хорошее интуитивное объяснение теоремы Байеса за авторством одного известного байесианца. Пожалуйста, поверьте мне на слово: подобный уровень высокомерия для них совсем не редкость. Когда они говорят что-нибудь в духе «в когнитивной науке термин "байесовский агент" фактически используется взаимозаменяемо с термином "рассуждающий рационально"», они на самом деле имеют это в виду. С дороги, Аристотель!
Конечно, в католицизме термин «католик» фактически используется взаимозаменяемо с термином «рассуждающий рационально». Я не католик и даже не христианин, однако, честно признаться, если бы меня попросили проголосовать за мирового диктатора, и всё, что я знал бы о кандидатах, заключалось бы в том, что один из них — ортодоксальный байесианец, а второй — ортодоксальный католик, я бы выбрал последнего.
Давайте посмотрим немного повнимательнее на теорему Байеса и поймём, почему у этих людей не все дома.
Теорема Байеса — чистое порождение математики. Она крайне верна и крайне разумна. Если A и B — случайные события, P(A|B), действительно, равна P(A) * P(B|A) / P(B).
Единственная проблема тут заключается в том, что эта небольшую формулу нельзя использовать в качестве полной и надёжной замены мозгу. Если резервационист и относится скептически к чему-нибудь на нашей зелёной планете, так это к людям, которые хотят заменить свой мозг формулой.
Мы можем увидеть это по тем примерам мышления, которым теорема Байеса столь же необходима, сколь и сиськи — борову. Хотите — верьте, хотите — нет, но такие случаи существуют.
Во-первых, что теорема Байеса даёт нам, так это способ посчитать одно число по трём другим. Мы знаем: X = W * (Y / Z). Таким образом, если мы знаем W, Y и Z, мы можем найти X. Или если мы знаем X, W и Z, мы можем найти Y. И так далее. Алгебра! Оставлю это вам как домашнее задание.
И явно есть множество случаев, в которых посчитать P(A|B) по P(A), P(B) и P(B|A) будет на самом деле полезно. Один из них — фильтрация спама. P(Am) — вероятность того, что сообщение M — спам, P(Bs) — вероятность того, что в нём есть какая-то строчка S, P(Bs|Am) — вероятность того, что если это M — спам, оно содержит S, и P(Am|Bs) — вероятность того, что если M содержит S, оно — спам. Если у нас уже есть некоторая база сообщений, мы можем оценить P(Bs|Am) и P(Bs), предположив, что спам-сообщения похожи на другие спам-сообщения — и наоборот. Затем мы можем итеративно посчитать P(Am), начав с доли спама среди всех сообщений, и применить этот алгоритм этот алгоритм для различных строк S.
Обратите внимание, насколько этот случай специфичен. Это именно такой случай, в котором у нас есть хорошие оценки на Y и Z и плохая оценка на W, которую можно улучшить, итерируя большие наборы Y и Z. Поэтому здесь логично использовать теорему Байеса.
Однако мы, по сути, считаем одну переменную по трём. Бессомненно, преподобный Байес был человеком великим, однако его теорема не противоречит теореме о мусоре. Если в W, Y или Z есть мусор, мусор будет и в X. Если мы можем проитерировать гигантские наборы Y и Z, мы сможем развести мусор в W до минимальных значений, однако при отсутствии надёжных Y и Z у нас в руках будет волшебная коробочка, маскирующая мусор под видом вкусной и здоровой пищи.
Давайте добавим немного конкретики и посмотрим, насколько легко байесианское рассуждение может выдать неправильный вывод, если наш поток событий начнёт фильтровать некоторый злоумышленник. Любая необнаруженная структура корреляций, влияющая на P(B), может пустить всю систему по совершенно ложному следу. Если каждый раз, когда наш злоумышленник вытаскивает из урны красный мяч, он возвращает его и повторяет всё заново — до тех пор, пока он не достанет синий мяч, байесианский «рациональный мыслитель» решит, что в урне есть только синие мячи. И система байесианских умозаключений явно не предполагает, что нам нужно посмотреть на человека, вытаскивающего шары из урны и посмотреть, что за козыри у него в рукавах.
Ещё раз, проблема здесь не в том, что байесианизм неверен. Проблема заключается в том, что потенциал для аналитического мышления у человеческого мозга вообще-то весьма ограничен. Если вы убеждаете себя зациклиться на одном изящном, но, по сути, малозначительном результате из теории вероятности, вы делаете всё, что в ваших силах, по превращению себя в байесианский эквивалент этого французского госслужащего.
Не то чтобы байесианцы открыто возьмут и скажут вам, что вы не должны мыслить дедуктивно или интуитивно. Они лишь будут потихоньку намекать, что все остальные способы мыслить — это специальные случаи теоремы Байеса: в каком-то смысле это верно, ведь их можно использовать для расчёта Y и Z. Как говорят турки, теперь вам нужны три остальные подковы и лошадь. И поэтому рационализм — враг разума: в начале у вас есть полностью подкованная лошадь, в конце — одна подкова. Эй, куда подевался мой мозг?
Резервационист совершенно спокойно может применять байесианские умозаключения к байесианским проблемам. Аналогично, Библия — довольно хороший источник по истории в библейскую эпоху; заявления Центкома о войне в Ираке обычно довольно надёжны; я согласен с большинством людей насчёт того, что холодное пиво освежает, а тёплое пиво противно; Пифагор был прав, утверждая, что в сумме углы треугольника дают 180 градусов. Это всё не делает меня христианином-фундаменталистом, сторонником Буша, демотистом или пифагорейцем.
Тем временем, если вы на самом деле хотите «преодолеть свою предвзятость», лучший способ начать — это ознакомиться с биографиями Линкольна за авторством Бевериджа (1928) и Мастерса (1931). Вычистите из головы старые мерзкие культы личности. После Линкольна попробуйте посмотреть, что писал Флинн (1944) о ФДР. Если эти тексты не помогут вам обновить свои априорные вероятности, я не знаю, что поможет.
(Обновление к посту: изначально я использовал термин «рационалист», но по многочисленным просьбам я заменил его на «автоматист».)