Вопросы о рациональности

Этот пост не только про критику рационалистов и Less Wrong сообщества. Он про размышления меня, как достаточно активного члена этого сообщества, с надеждой смотрящего на его развитие, о его проблемах и задачах. В нем больше вопросов и утверждений о текущем положении дел, чем решений (хотя некоторые варианты я уже обдумываю), на которые я бы хотел получить критику, ответы и как-то сапдейтиться, чтобы лучше понять, как лучше действовать (вполне допускаю, что подобные вопросы поднимались уже много раз).

LW рационалисты - не те, кто выигрывают. А скорее те, кто пытаются изобрести/аккумулировать и применить искусство "выигрывания" (или точнее искусство быть ближе к идеальным байесианцам на нашем железе), базируясь на понимании теории принятия решений, теории вероятности, когнитивных искажениях и вообще психологии, а также научном методе и эпистемологии и метаэтике.

Есть ряд убеждений (под убеждением я имею ввиду не только то, что вы бы стали в здравом уме отстаивать в споре, но и то, что вы неосознанно используете для принятия решений, ваши автоматические мысли), которые я встречал среди рационалистов или про рационалистов, в том числе и у себя, которые на данный момент кажутся мне вредными или в которых я сомневаюсь:

1. "Рациональность - техники эффективности и инструментального выигрывания." Если мы забываем про эпистемологию и метаэтику и не уделяем им должного внимания, то не сможем честно измерить эффективность, вовремя отбросить то, что не работает, как мы ожидали, и понять какие задачи на самом деле хотим решать.
2. "Техники рациональности должны делать меня фуллтайм эффективным и исправлять все баги." У человека ограниченные ресурсы внимания, эмпатии, мыслетоплива и т.п. А также потребности во внимании, поддержке, положительном подкреплении и т.д. Если не учитывать этого, то можно ухудшить положение, а не улучшить.
3. "Знание о когнитивных искажениях и байесианстве делает меня супервыигрывающим и непредвзятым, как мощны мой лапищи!" Рационализация и аффективные смертельные спирали могут приводить к тому, что мы перестаем сомневаться в методе, даже если не используем его по-настоящему, а лишь рационализируем. Чтобы этого избежать нужно что-то делать, а не просто знать об этом.
4. "У людей полно когнитивных искажений, но я знаю кучу техник рациональности, так что они мне не страшны." Также, как знание искажений не поможет вам избавится от них, если вы не предпринимаете постоянных усилий, чтобы с ними справится, знание самих техник не поможет вам, если вы их не применяете (или не совсем их, а их адаптированные версии).
5. "Если у меня есть проблема, то мне просто нужно прокачаться в прикладной рациональности и она легко решится." Прикладная рациональность не заменяет работу над задачей, на которую требуется много ресурсов и времени. Если ничего не делать, то рациональность не поможет. В первую очередь работа над задачей, потом постепенный фикс багов в процессе работы над ней. Но это не касается эпистемической рациональности и ценностей, серьезные баги в них могут быть долго незаметны, а выявляться только, когда уже совсем поздно, поэтому, мне кажется, в них нужно примерно равномерно вкладываться на протяжении всей жизни.
6. "Если техники очень усердно практиковать, то всё можно исправить." Техники не исправляют баги полностью, а также имеют много зависимостей (могут не подходить определенным людям или ситуациям или состояниям) и побочных эффектов. И само намерение практиковать их усердно может быть недостаточным, чтобы реализовать его.
7. "Если всем в мире добавить рациональности и культуры LW мы резко начнем выигрывать. Так что рациональность - самое важное." А есть сценарии, когда это неправда? Так ли уж важно влияние когнитивных искажений на проблемы человечества или есть и другие, более значимые факторы?
8. "Если рационалисты не выигрывают (не зарабатывают деняк), то они бесполезны." То, что рационалисты занимаются изучением искусства "выигрывания" - не значит, что у них всё сразу же будет получаться лучше других людей, не использующих это искусство. Но это означает, что наша деятельность может быть полезной (хотя в принципе может быть и вредной), даже если на практике мы пока что не заметно выигрываем, потому что мы способствуем совершенствованию этого искусства.

Эти убеждения навели меня на мысли о проблемах, которые возможно имеют место в сообществе:

1. Так ли уж очевидно, что идеальным байесианцем быть лучше чем нами? Может быть это не самый серьезный пункт, хотя некоторые, например, могли бы поспорить с тем, что внутренне противоречивая система предпочтений, зависящая от времени - это так уж плохо.
2. Как в сообществе происходит противодействие аффективным смертельным спиралям или точнее культовым или субкультовым убеждениям, характерным для сообщества и не слишком часто подвергающимся сомнению или замечаемым? Какая замена способу, который есть в науке? Лайфхак Юдковского про дробление идеи на составные части не слишком выполняется, когда мы говорим о штуке по имени Рациональность, которая помогает Выигрывать.
3. Как не смотреть на проблему только с одного ракурса, не терять важные идеи из других областей и сообществ?
4. Побеждают те, кто делают, а не точат топор и те, кто в детстве упали в котел с волшебным напитком. Иначе говоря, рациональность не покрывает разрыв в везении (многие полезные скилы вырабатываются с опытом незаметно и случайно, но рациональность не может предложить хотя бы 50-90% стратегии, как это повторить), а также может навредить - излишняя рефлексия, мета (мета меты меты) и инсайт порнограферство (insight pornographer) без внедрения и что ещё важнее ПРОВЕРКИ идей, отнимают время, в то время как некоторые не_рационалисты (или те кто просто прочитал цепочки, но не стал дальше сильно упарываться) просто делают и эффективность рациональных идей не покрывает разрыв в упущенном времени и ресурсах. Эпистемический статус: мои собственные наблюдения.
5. Нет понятного мануала по внедрению техник, как не избегать их использования, как использовать их так, чтобы изменения внедрились в Систему 1 и мы стали думать иначе и замечать баги в моменте.
6. Нет понятных ожиданий от техник и их внедрения. Насколько они уменьшают влияния искажений, как быстро это происходит, какие сценарии провала внедрения (завышенные ожидания, кривая обучения - сначала ухудшение, негативное подкрепление за неудачи, а не позитивное за успехи, забывание без интервальных повторений и т.д.)
7. Техники топорны и у них очень много зависимостей. Во многих ситуациях и для многих людей не будет выполнены зависимости и техники не сработают или не будут применены. Эти зависимости даже не очень то описаны.
8. Рациональность помогает замечать много новых багов мышления, в то время как нужно фиксить наиболее актуальные и те, что больше всего мотивации фиксить (с учетом зависимостей). И если таких нет - то искать новые.
9. Нет понятной классификации и карты того, что подразумевается под рациональностью и какие техники и идеи в ней содержаться. Многие идеи могут теряться и не применяться на практике, даже если они, например, в цепочках.
10. Байесианство и эпистемология заметно меньше применяется, чем техники нацеленные на эффективность. Например, как часто практикуется расчет вероятности или мат. ожидания полезности чего-нибудь значимого или не очень, публикация таких расчетов и корректировка? Как часто практикуется Кризис веры (хотя может быть Уличная эпистемология в какой-то степени заменяет этот ритуал)?

Итак, можно ли каким-то образом ожидать от сообщества, что будет происходить прогресс в техниках искусства выигрывания (включая эпистемические и ценностные штуки) и их внедрении, они будут проверяться на практике и с помощью научного метода? Что ожидания от техник буду уточняться и заземляться с использованием понятных метрик и предсказаний и будет составляться карта зависимостей эффективности этих техник от других знаний, умений и личных особенностей? Что применение этих техник все больше будет приводить к выигрыванию и этому будет много очевидных примеров? И что будут выработаны механизмы анализа и пересмотра идей, на которых базируется сообщество, и поиска новых идей в других сообществах и источниках знания?