Полезные привычки и проекты по спасению мира - это охота на оленя

В предыдущей статье мы рассмотрели охоту на оленя как кооперативную теоретико-игровую ситуацию (в которой, увы, пресловутая кооперация случается далеко не так часто, как хотелось бы). Конечно, с математической и общефилософской точки зрения изучать перипетии жизни некоего абстрактного племени охотников может быть очень интересно, но применимо ли всё это на практике?

Оказывается, мы сталкиваемся с подобной ситуацией довольно часто (и порой терпим поражение при попытке все-таки “поймать оленя”). В этой статье я покажу некоторые примеры того, как рассматриваемая нами игра возникает в реальных ситуациях.

От теории игр к практике жизни

Для начала в явном виде проговорим, как звучат отдельные элементы рассмотренной игры в реальной жизни.

“Племя” - это некоторый пул агентов, разнесенных во времени или в пространстве, которые могут либо согласиться участвовать в некой кооперативной деятельности, либо нет.

“Охота на оленя” - это та самая деятельность, которая требует от участников приложения совместных (довольно значительных) усилий, которые, однако, в случае успеха с хорошей вероятностью окупаются с лихвой.

“Охота на кролика”, в свою очередь - это либо альтернативная деятельность с гарантированным успехом и сравнительно небольшой полезностью, либо просто отказ от участия в “охоте на оленя”. Так, соблюдение статус-кво зачастую является “кроликом” - локальным оптимумом с уже налаженными и понятными процессами; при этом попытка изменить текущее положение вещей обычно ломает то, что работает (даже если оно работает плохо).

Частый лейтмотив, который можно услышать при попытке “охоты на оленя” звучит как “Давайте всё-таки соберемся и сделаем это, оно того стоит!” Т.е. если вам приходится убеждать людей чем-то заняться, иначе они ни за что не соберутся (но в случае успеха потом скажут вам: “молодец, что все-таки вытащил нас на это дело!”) - то вы, вероятно, попали в классическую жизненную ситуацию нашего типа.

Впрочем, чтобы убедиться в этом, полезно проверить и другие признаки, которые мы ранее вывели из теоретико-игрового описания:

• если все остальные согласны, то последнему оставшемуся точно выгодно тоже согласиться;
• если один или несколько людей не согласны, то ничего хорошего из всего этого уже не выйдет; лучше даже не пытаться и не тратить силы зря;
• профит от успешно проведенной деятельности заметно перевесит профит от альтернативного варианта (в конце концов, если почти не видно разницы, то зачем плыть против течения и стараться с небольшими шансами выжать из ситуации лишь чуть-чуть больше, рискуя при этом угрохать кучу сил впустую?).

Теперь подробно рассмотрим несколько важных конкретных ситуаций из реальности, которые хорошо описываются формализмом охоты на оленя, и на которые можно распространить многие полученные нами выводы.

Полезная привычка

На первый взгляд, у установления полезной привычки мало общего с какой-либо коллективной деятельностью. Однако по факту в данном случае мы кооперируем с нашими будущими FDT-копиями ради достижения некой важной цели.

В терминах “охоты на оленя” это выглядит следующим образом:

• игроки - “я сегодняшний”, “я завтрашний”, “я послезавтрашний” и т.п. (мои FDT-копии);
• олень - некая активность, реализующая полезную привычку;
• кролик - отказ выполнять эту активность;
• все пошли охотиться на оленя - при регулярном выполнении полезной привычки я получаю значительную пользу;
• кто-то пошел на оленя, а кто-то на кролика - спорадические попытки наконец установить привычку сильно выедают ресурсы (в т.ч. из-за моральных терзаний) и не дают почти никакого положительного эффекта;
• все пошли охотиться на кролика - если вовсе не пытаться устанавливать привычку, то можно сэкономить ресурсы и нервы, но особо ничего не получить.

Стартап, большой проект

Более стандартный пример - какой-то крупный проект, в котором должна участвовать команда людей ради создания продукта или осуществления некой полезной деятельности (пусть для определенности - какой-нибудь проект про эффективный альтруизм или AI Safety).

В терминах игры “охота на оленя”:

• игроки - участники проекта (как правило, занимают разные роли в проекте), инвесторы, клиенты, государственные регулирующие органы и т.п.
• племя - пул потенциальных участников проекта (вплоть до всего человечества);
• олень - присоединение к проекту и активное в нем участие;
• кролик - отказ от участия в проекте (от полного игнорирования его существования до формального участия, но крайне ленивого);
• все пошли охотиться на оленя - все вовлеченные участники получают большую пользу от успешного проекта;
• кто-то пошел на оленя, а кто-то на кролика - если кто-то из ключевых игроков отказывается участвовать в проекте (или команда вовсе не укомплектована), то остальные только растратят впустую кучу времени, сил и других ресурсов;
• все пошли охотиться на кролика - вовсе не затевать всю эту возню является довольно надежным и безопасным вариантом, хотя ожидаемая польза от проекта и не будет достигнута.

Для подобных проектов наиболее актуален фактор того, что оленя в лесу может не оказаться: даже безукоризненно выполненный по всем технологиям проект может оказаться провальным, и нисколько не окупит вложений в него.

Впрочем, если заменить гарантированный профит на математическое ожидание профита, то некоторые (далеко не все!) проекты даже с учетом вероятности провала будут иметь положительную ожидаемую прибыль/полезность. Но для таких проектов, вероятно, придется ограничить пул потенциальных участников только теми, кто размышляет в категориях мат.ожидания и вообще может себе позволить (за счет некой финансовой подушки) параллельное и/или последовательное участие в нескольких подобных проектах, пока один из них не выстрелит (венчурные инвесторы, некоторые студенты, бэкеры на кикстартере, государственные органы).

Концентрация сил рациональности

Еще один пример, требующий, однако, хотя бы краткого (а для подробного - эти поля слишком узки) пояснения - это концентрация сил рациональности, штука имеющая отношение к извечной проблеме high-effort и low-effort общения в рацио-сообществе.

На самом деле нет ничего плохого в том, чтобы люди на встречах вместе готовили еду или пели хором. Еще раз: несмотря на важнейшее “НО” - в этом нет ничего плохого, а зачастую есть много хорошего. Но.

Но сообществу рационалистов, чтобы оставаться таковым и вообще следовать идеалам рациональности, нужен ухоженный сад, в котором рациональность будет доминировать над всем остальным.

В этом месте рациональность должна иметь гарантированную концентрацию сил:

• если обсуждение пошло по кругу - на это укажут и исправят;
• если в чьих-то рассуждениях есть изъян - на это укажут и помогут этот изъян устранить;
• если кто-то не в силах следовать высоким стандартам эпистемической честности и пытается срезать углы - на это укажут и убедительно отправят того набираться сил прежде чем продолжать.

Короче говоря, рацио-сообщество в идеале должно быть тем местом, где наши мозги работают на полную катушку; участники всячески поддерживают друг в друге стремление к high-effort общению; в обсуждениях рождаются максимально точные модели, а навык построения точных моделей у всех участников постоянно развивается; и в результате все участники постоянно и систематически становятся всё менее неправы и начинают всё лучше достигать своих целей.

Дабы не перегружать еще сильнее этот текст посторонними темами, закончим на этом обзор проблемы и опишем наконец ее в терминологии “охоты на оленя”:

• игроки - участники онлайн и/или оффлайн рацио-сообщества;
• олень - high-effort общение на рацио-темы и/или построение в high-effort режиме моделей реальности для более практичных (менее мета-) задач;
• кролик - low- и иногда mid-effort общение как на темы, связанные с рациональностью, так и на более повседневные темы внутри своей ингруппы; развлечение и социализация;
• все пошли охотиться на оленя - вдумчивое high-effort общение помогает взаимному улучшению карты и развитию различных мета-навыков; создает настрой на применение разных техник для систематического выигрывания (возможное интеллектуальное удовольствие от процесса оставим в стороне, т.к. это просто приятный бонус для некоторых участников, а не то, ради чего всё это затевается);
• кто-то пошел на оленя, а кто-то на кролика - попытка high-effort общения в сообществе, в котором нет соответствующей культуры (привычки, отработанных навыков, понимания ценности такого общения), как правило находит слабый отклик у других участников (а зачастую - тонет в low-effort оффтопике) и не дает соответствующего профита, несмотря на все вложенные усилия;
• все пошли охотиться на кролика - low-effort общение может быть довольно веселым, но лишенным дополнительных рацио-бонусов (зачастую сообщества в “диком интернете” и создаются ради подобного общения).

И многие другие

Конечно, эти три типа ситуаций - не единственные примеры охоты на оленя, которые встречаются в реальной практике. В следующих статьях, когда будем разбирать примеры стратегий того, как чаще успешно “ловить оленя”, мы будем рассматривать их именно на этих примерах. Но для полноты картины укажем еще несколько подобных ситуаций:

• “приходить на встречу вовремя” vs “всё равно никто вовремя не придет”;
• некоторые правила поведения и правила хорошего тона;
• правила дорожного движения и другие законы;
• “а давайте наконец соберемся нашей старой компанией, тыщу лет же не виделись!” vs “завтра же последний день цветет календула!”

Короче говоря, мы действительно часто сталкиваемся с охотой на оленя. К сожалению, зачастую мы сталкиваемся и с наглядной иллюстрацией того, что выбор Шеллинга (”по своему вполне благоразумный и притом естественный выбор”) - это кролик. Полезно понимать, почему так происходит, и что сама по себе (если не предпринимать целенаправленных усилий) ситуация не улучшится.

Впрочем, стоит иметь в виду, что кролик - это не неизбежная данность, и кое-какие способы увеличить вероятность успеха в охоте не оленя все же есть. В следующей статье мы поговорим об архетипичных стратегиях в нашей игре, а позже - и о мета-стратегиях (например, как изменить стратегии наших оппонентов так, чтобы они с большей вероятностью обеспечивали успешную добычу именно оленя).

Эта статья в моем телеграм-канале: https://t.me/bayesian_little_list/22