Шестереночные модели шестереночных моделей

Эпистемическая рациональность базируется на способности строить хорошие (т.е. обладающие большой предсказательной силой) модели окружающих вещей и явлений. Один из эффективных способов отличить хорошие модели от плохих (а также перейти от менее хороших моделей к более хорошим) - изучить наличие т.н. "шестеренок" в модели (gears in understanding).

Что такое шестеренки

Представим себе некое устройство - черный ящик - внутри которого есть шестеренки, связанные друг с другом. Две из них торчат наружу; одну мы можем вращать (назовем ее входной шестеренкой), а за вращением второй мы наблюдаем (ее будем называть выходной).

Чуть более конкретный пример - механические наручные часы: когда мы подводим стрелки, то мы можем вращать головку часового механизма (входная шестеренка), при этом будут вращаться стрелки на циферблате (для простоты ограничимся наблюдением за часовой стрелкой; ее примем за аналог выходной шестеренки).

Вопрос, который интересует нас, когда мы смотрим на это устройство: если мы будем вращать входную шестеренку по часовой стрелке, то будет ли вращаться выходная по часовой или против? Если устройство представляет собой черный ящик, то мы не можем заранее с уверенностью дать ответ; если же это белый/прозрачный ящик, то мы вполне можем заранее предсказать выходной сигнал по входному (в нашем случае - направление вращения).

Теперь представим себе, что Бармаглот заглянул в черный ящик и затем сообщил нам, что при вращении входной шестеренки по часовой стрелке выходная будет вращаться против часовой. На основе этой информации мы, в предположении, что в устройстве нет никаких странных вывертов, можем определить, что число шестеренок в нем четное.

Если вслед за Бармаглотом в ящик заглянут и сообщат нам подобное также Брандашмыг, Шляпник, Белый кролик, Гусеница, Чеширский кот и Червонная королева, то мы еще сильнее укрепимся в своем убеждении относительно четности числа шестеренок.

Если же после всего этого мы сами заглянем в ящик и увидим там нечетное число шестеренок, последовательно соединенных друг с другом… Хм, тогда можно выдвинуть несколько гипотез: либо вся эта братия не в своем уме, либо (мы же знаем, что с ума по одиночке сходят, а только коронавирусом все вместе болеют) они просто сговорились и издеваются над нами, либо устройство механизма не так просто, как показалось вначале.

Впрочем, если все наши свидетели не демонстрируют более глубокого понимания устройства, чем мы, то лучше всего будет их не слушать. Особенно если у нас есть модель, которая хорошо объясняет, почему именно они все дружно ошибаются (а мы нет). Да, аргумент затмевает авторитет, а миллион китайцев вполне могут ошибаться.

Итак, метафора понятна. Обычно же, когда мы говорим о шестеренках в наших ментальных моделях, то мы имеем в виду некие убеждения/факты/утверждения и каузальные связи ("если-то", "причина-следствие") между ними. Одно событие через каузальную связь приводит к другому - одна шестеренка вращает другую.

Качества "хорошей" шестереночной модели

Ну хорошо - допустим, что мы построили модель с шестеренками внутри. Как нам убедиться, что полученный результат стоит того? Вот несколько вещей, на которые стоит обратить внимание.

1. Хорошая модель должна продуцировать хоть какие-то предсказания (т.е. упорядоченные пары "входной сигнал, выходной сигнал") с хоть сколько-нибудь приемлемой степенью неопределенности (модель должна быть полезной, убеждения должны окупаться)
2. Если в реальности вы наблюдаете, что случилось что-то, что ваша модель не предсказала, вы должны достаточно сильно удивиться (модель, способная без модификации объяснить все что угодно, обладает нулевой предсказательной силой, а значит бесполезна)
3. Связь "модель - (вход, выход)" должна быть двунаправленной: если случилось что-то, чего ваша модель не предсказала (мы наблюдаем неожиданную пару "входной сигнал, выходной сигнал"), вы должны понимать, какие места в модели являются при такой паре наиболее подозрительными, а также - каким примерно образом ваша неточная модель может быть исправлена
4. Если вы вдруг забыли какой-то элемент из середины модели, то вы должны быть способны восстановить его самостоятельно на основе остальных частей - независимо от конкретных входов и выходов, лишь на основании известной вам внутренней структуры модели. Например, при хорошей шестереночной модели тригонометрии вы сможете вывести формулу тангенса двойного угла из формул синуса суммы, косинуса суммы и основного тригонометрического тождества (это тест на внутреннюю консистентность модели; если модель не проходит этот тест, то либо ваша карта довольно смутно отражает территорию, либо у вас просто нет глубинного понимания явления, а лишь некоторое нагромождение малосвязанных фактов и предположений)

Небольшое отступление о Системе 1 и Системе 2

Прежде чем мы отправимся дальше исследовать шестереночные ментальные модели, я бы хотел сделать несколько оговорок о Системе 1 и Системе 2.

Кейт Станович, автор концепции двух систем (которая позже была популяризирована Даниэлем Канеманом), позже стал рассматривать известные ситуации в терминологии когнитивных процессов первого и второго рода. В сознании одновременно может протекать несколько таких процессов. Их ключевое отличие состоит в том, что процессы второго рода используют рабочую память (и, следовательно, ограничены ее объемом - пресловутое число 7±2), а процессы первого рода - нет.

Модель, выраженная в терминах процессов, более фундаментальна и более аккуратна; однако, утверждения, описанные в терминах процессов, обычно легко можно переформулировать и в терминах систем (и наоборот).

Правда, возникает вопрос - а стоит ли нам держать этот зоопарк, или лучше будет избавиться от одного подхода, оставив лишь второй? Пожалуй, у нас есть хорошие причины оставить оба. Дело в том, что терминология двух систем как условно антропоморфных сущностей, обладающих некими чертами характера, очень удобна для Системы 1 - она занимается моделированием антропоморфных сущностей вот уже миллионы лет, и действительно преуспела в этом. А терминология процессов более удобна для Системы 2, т.к. такая модель более конкретна, точна, и позволяет делать надежные аналитические выводы.

Шестереночные модели шестереночных моделей

Теперь мы можем пойти дальше и посмотреть, как выглядят шестеренки в ментальных моделях изнутри нашего разума.

Модели, используемые Системой 1 - это всегда черные ящики: вы формулируете входные данные, а затем автоматически, быстро и без усилий получаете выходные.

Модели Системы 2 уже имеют шестереночную структуру (и только ей доступны такие модели - ведь в памяти необходимо удерживать минимум две шестеренки и одну связь между ними).

При этом можно заметить, что отдельные шестеренки уже будут представлять собой скорее черные ящики. Иными словами, процессы второго рода обычно делегируют часть работы процессам первого рода:

• Система 2 в процессе анализа формулирует вопрос: "что будет, если X?", удерживая в рабочей памяти контекст - зачем вообще этот ответ нужен, и как он будет учитываться
• если она получает ответ вида "очевидно, что тогда будет Y", то это сработала Система 1
• если же Система 1 затруднилась с однозначным ответом, то она может начать генерировать потенциальные мысли на заданную тему, а Система 2 должна (продолжая удерживать в памяти контекст вопроса, а также добавив в рабочую память критерий релевантности предлагаемого к решаемой задаче) перебирать то, что ей предлагают

Фактически, работа Системы 2 состоит в том, чтобы разбивать задачу на подзадачи, делегировать решение подзадач Системе 1, и затем склеивать из этих решений итоговое решение большой задачи.

Стоит отметить, что одна и та же модель может быть представлена на шестереночном уровне (и быть доступной для плодотворного анализа Системой 2), и одновременно иметь представление в виде черного ящика, которым оперирует Система 1. Если модель хорошо закэширована в память (либо в виде собственно взаимосвязей/алгоритма, либо в виде большого числа пар "входные данные, выходные данные"), то этот черный ящик может оказаться довольно точным отображением своего шестереночного прообраза. В этом случае вся эта модель может стать отдельной шестеренкой (эффективным черным ящиком Системы 1) в более сложной модели.

Еще немного о "хороших" шестереночных моделях и "хороших" шестеренках

В идеале хорошая шестеренка (черный ящик) сама должна иметь внутри себя полноценную шестереночную модель. Причем обе эти ипостаси - черный ящик и сложная модель - должны бы действовать одинаковым образом, т.е. для одинаковых входных сигналов всегда выдавать одинаковые выходные.

Также было бы неплохо, если бы каждая шестеренка имела четкую связь между входным и выходным сигналом: по четким исходным данным генерировала бы не слишком размытые результатирующие данные. Если мы видим, что шестеренка выдает слишком расплывчатый результат, то это может означать либо что внутри нее нет собственной шестереночной модели, либо эта модель слишком плоха. Обратное, вообще говоря, неверно: черный ящик без внутренней структуры порой может выдавать вполне четкий результат (иногда соответствующий действительности, иногда нет).

Наконец, в хорошей модели не должно быть места, в котором происходит непредсказуемая магия (т.е. модель не должна содержать очень плохих шестеренок). В противном случае в этом месте поток данных прерывается, и выход перестает быть связан со входом. К сожалению, порой подобное может наблюдаться в реальности: вблизи входа и выхода мы можем проследить довольно четкие каузальные связи, но в какой-то момент мы утыкаемся в "здесь происходит черная магия, и непонятно, как связать одно с другим". Такая модель может иметь потенциал стать полезной - но лишь начиная с того момента, как магическая (бесполезная) шестеренка будет заменена на более-менее четкую.

Финальное напутствие

Обращайте внимание на наличие шестеренок в ваших моделях и моделях других людей. Модели без шестеренок подвержены опасности часто оказываться неверными; у моделей с шестеренками шансы значительно лучше.

Обращайте внимание на качество шестереночных моделей (однозначность логических переходов, внутреннюю консистентность, отсутствие зоны черной магии в сердце модели). Слабые места модели могут быть источником серьезных проблем в предсказательной силе модели (и хорошим кандидатом на починку с целью значительно улучшить ситуацию).

Помните, что практически любой черный ящик можно при необходимости открыть и построить его шестереночную модель. Если при этом вам пришлось полностью пересмотреть эту модель - чтож, похоже, вы достигли немалого успеха и улучшили соответствие вашей карты и территории.