Кто твой авторитет?
БайесятинаNullis in verba — Никому нельзя верить на слово — девиз британского королевского общества, и главный постулат этого самого критического мышления, о котором все говорят. Всё нужно проверять самостоятельно, и никому нельзя доверять. Вот только вопросик, а стоит ли доверять британскому королевскому обществу и стоит ли проверять сам этот принцип? Сегодня мы поговорим обо всех этих голосах у вас в голове. Я про мнения авторитетов и экспертов, конечно же. Какую роль играет аргумент к авторитету в нашей жизни, и как его взвесить?
Мир без авторитетов
В один прекрасный день вы узнаёте, что апелляция к авторитету — это логическая ошибка (Argumentum ad verecundiam). Вы начинаете мягко поправлять собеседников, запрашивая у них непосредственные доказательства, вместо мнений каких-то там экспертов. Это не лучшим образом сказывается на общении, но вы уже слишком увлечены идеей отказа от авторитетов. О, как вы могли так слепо доверять чьим-то мнениям. Теперь-то вы будете мыслить критически, а значит, вы должны думать своей головой. А вот как раз врач назначает вам лекарство. Но вас уже так просто не проведёшь. Вы сами посмотрите клинические рекомендации при вашем заболевании. Хотя это недостаточно скептично. Получается, что вы доверяете некоему консенсусу специалистов в этой области. Нет, так не пойдёт, вы садитесь проверять исследования, на базе которых составлены клинические рекомендации. И выясняете, что бывают некачественные исследования. Что ж, делов-то, нужно изучить дизайн экспериментов, мат статистику и ещё пару смежных областей. Погружаясь всё больше в эту пучину, вы приходите к выводу, что лучшее решение — получить профильное образование, поработать в этой области и провести собственные эксперименты. Но в экспериментах вы с ужасом выясняете, что коллеги используют множество методов, слепо позаимствованных из других наук, вроде рентгенографии. Но вы не такой. И вот вы уже физик, пытающийся повторить в гараже опыты Кюри с радиоактивными элементами. Но есть и плюс, простуда у вас давно прошла, и в принципе вы готовы двинуться дальше на пути самостоятельного познания окружающего вас мира, не опирающегося ни на чей авторитет.
М-да, похоже, слепо следовать рекомендации думать самостоятельно немного противоречивая позиция. Может, есть какой-то более ленивый выход? Пожалуйста: вы можете не выбирать никаких авторитетов, а просто пользоваться проверенными источникам информации. Осталось придумать, кто бы мог их проверить? Вот бы был эксперт по выбору экспертов. Тогда вы могли бы в любой непонятной ситуации просто сказать: если вас не устраивает моя ссылка на авторитет, то вот мой консультант по выбору авторитетов, все вопросы к нему. Правда, этого консультанта всё равно нужно как-то выбирать.
К тому же когда кто-то другой приводит мнение эксперта, вам нужно иметь какой-то алгоритм работы с ним помимо инструкции «выбросить в мусорку со словами — вы просто апеллируете к авторитету».
Похоже, придётся всё-таки потратить немного времени на изучение этого вопроса. Но я могу утешить вас тем фактом, что этот навык имеет огромное значение в вашей жизни. Я рискну заявить: значительное количество человеческих проблем обусловлено тем, что мы верим не в то, во что стоило бы.
Популярная сейчас точка зрения состоит в том, что у людей просто слишком мало критического мышления, то есть они слишком мало сомневаются в советах и авторитетах. Но мне кажется, что всё с точностью до наоборот. Люди слишком много сомневаются, в местах, где этого делать не стоило бы, и не сомневаются там, где это было бы вполне уместно.
А судьи кто?
Чтобы разобраться в этом вопросе, мы, конечно же, обратимся к мнениям авторитетов. Давайте взглянем, какие науки изучают вопросы авторитета и аргументов к экспертному мнению? Вообще, список научных дисциплин по этим темам довольно широк.
Мы можем встретить их в философских дебатах об эпистемологии (то есть природе знания). Мы обязательно столкнёмся с ними в рамках теории принятия решений, теории аргументации или других попытках изучать практические рассуждения и нормы рационального мышления. Экспериментальные психологи и учёные, занимающиеся коммуникацией, сталкиваются с этими вопросами при попытке узнать, что убеждает людей лучше всего. Кроме того, эти вопросы поднимаются при исследовании неклассических логик, разработанных для рассуждений в условиях неопределённости, а также в довольно специфическом направлении проектирования вычислительных систем, способных участвовать в аргументации (да, такие тоже разрабатываются).
И раз уж я упомянул философию, то давайте воспользуемся принятым там разделением авторитета на два типа. Первый тип — это мнение знатока или специалиста. То есть авторитет — это тот, кто знает что-то лучше нас, и поэтому мы следуем его рекомендациям. Если у нас сломалась машина, то нам нужно мнение автомеханика (а ещё лучше его навыки). Философы называют такой авторитет эпистемическим, ну а мы в обычном языке зовём таких авторитетов экспертами или специалистами. В основном этот ролик будет посвящён этому типу.
Но есть и другой тип авторитета — авторитет начальника, вышестоящего лица или закона. Мы следуем ему потому, что должны. Такой авторитет называют деонтическим, от слова deon - долг. Этот тип я упомяну лишь вскользь, рассказывая о том, какие проблемы возникают при смешивании у нас в голове двух этих понятий.
Так что, говоря далее про авторитет или эксперта, я буду иметь в виду того, кто обладает знанием о некоторых фактах, о которых мы с вами не знаем. Договорились?
Неудачная интуиция
Если вы особо не задумывались обо всём этом, то дайте мне попробовать угадать ваше интуитивное представление на эту тему. Все авторитеты делятся на тех, которым можно доверять, и тех, кому доверять нельзя. Чтобы определить, можно ли доверять мнению некоторого человека, нам нужно уточнить, является ли он специалистом в этом вопросе, не предвзят ли он, и есть ли у него какие-нибудь доказательства его мнения. Возможно, вы придумали ещё пару критических вопросов, но важен сам принцип: если мы ответили положительно, то мнение авторитета заслуживает доверия и мы кладём его в коробочку «проверенные источники информации». Если же мы получили хоть один ответ «нет», то можно принять или проигнорировать мнение эксперта в зависимости от личного предпочтения. То есть мы делим всех авторитетов на правильных и неправильных. Такое чёрно-белое представление об устройстве авторитета царило долгое время и в профильных областях, оно наследие, наследье аристотелевской логики, где любой аргумент либо правильный, либо нет.
Чтобы не быть голословным, давайте я покажу, как в теории аргументации до некоторого времени предлагалось определять хороший аргумент от авторитета: речь пойдёт о критических вопросах Дугласа Уолтона. Этот подход упомянут в огромном количестве работ, и приобрёл значительную популярность в сфере искусственного интеллекта, педагогической психологии и исследованиях убеждения.
И так у нас есть собеседник, который апеллирует к некоторому авторитетному мнению. Как нам определить, стоит ли доверять ему? Дуглас Уолтон предлагает задать вот такой ряд критичных вопросов:
Насколько этот авторитет заслуживает доверия как экспертный источник?
Является ли этот авторитет экспертом в той области в которой высказывается?
Не искажено ли высказывание авторитета?
Добросовестен ли авторитет в своём высказывании?
Согласуется ли это утверждение с мнениями других экспертов?
Основано ли утверждение эксперта на доказательствах?
Похоже на те вопросы, которые сформулировали вы, не так ли? Если по всем вопросам мы получим положительные ответы, утверждает Уолтон, то это авторитетное мнение прошло критическую проверку и мы можем полностью ему доверять. То есть мы присваиваем ему статус: проверено. Если хоть один вопрос получает отрицательный ответ, то это мнение не заслуживает доверия и его можно вообще не учитывать при принятии решения, а собеседнику можно заявить, что его апелляция к авторитету отклонена.
На бумаге выглядит неплохо. Возникает лишь вопрос, почему список выглядит именно так, и как нам понять, нет ли важного седьмого вопроса? В ответ Уолтон выкатывает куда более длинный список…
CQ1: Экспертный вопрос. Насколько E заслуживает доверия как экспертный источник?
1.1. Как зовут E, должность или официальный статус, местонахождение и работодатель?
1.2. Какими степенями, профессиональными квалификациями или сертификациями от лицензирующих агентств обладает E?
1.3. Могут ли быть предоставлены свидетельства равных экспертов в той же области в поддержку компетентности E?
1.4. Каков послужной список E по опыту или другим признакам практических навыков в S?
1.5. Каков послужной список E по рецензируемым публикациям или вкладу в знания в S?
CQ2: Вопрос области. Является ли E экспертом в той области, в которой работает A?
2.1. Является ли область знаний, упомянутая в апелляции, подлинной областью знаний или областью технических знаний? Существует ли навык подтверждающий претензию на знание?
2.2. Если E является экспертом в области, тесно связанной с областью, указанной в апелляции, насколько близка взаимосвязь между опытом в двух областях?
2.3. Является ли проблема проблемой, в которой экспертные знания в любом поле имеют непосредственное отношение к решению проблемы?
2.4. Является ли упомянутая область знаний областью, в которой происходят изменения в методах или быстрые развитие новых знаний, и, если да, то в курсе ли эксперт этих разработок?
CQ3: Вопрос мнения. Что, по утверждению E, подразумевает A?
3.1.Цитировалось ли E как утверждение A? Была ли дана ссылка на источник цитаты, и может ли быть проверено, что E действительно сказал A?
3.2. Если E не сказал A точно, то что E утверждал и как был выведен A?
3.3. Если вывод A был основан более чем на одной посылке, могла ли одна посылка исходить из E, а другая от другого эксперта? Если да, то есть ли доказательства разногласий между двумя утвержденными экспертами (по отдельности)?
3.4. Ясно ли то, что утверждал E? Если нет, то был ли процесс интерпретации сказанного автором оправдан? Допустимы ли другие интерпретации? Могли ли быть опущены важные детали?
CQ4: вопрос о достоверности. Надежен ли лично Я как источник?
4.1. Является ли E предвзятым?
4.2. Честен ли E?
4.3. Добросовестен ли E?
CQ5: Вопрос согласованности. Соответствует ли A тому, что утверждают другие эксперты?
5.1. Имеет ли A общее признание в S?
5.2. Если нет, может ли E объяснить, почему нет, и привести причины, по которым для A имеются веские доказательства?
CQ6: вопрос о резервных доказательствах. Основано ли утверждение E на доказательствах?
6.1. Какие внутренние доказательства использовал сам эксперт, чтобы прийти к этому заключению в качестве своего заключения?
6.2. Если есть внешние доказательства - например, вещественные доказательства, представленные независимо от эксперта - может ли эксперт справиться с этим адекватно?
6.3. Можно ли доказать, что приведенное мнение не является непроверяемым с научной точки зрения?
Список довольно интересный. Но спасает ли это ситуацию? Вопрос всё тот же: почему мы решили, что это все важные вопросы? А вдруг авторитет находится в изменённом состоянии сознания, разве не стоит это уточнить? А сколько ещё таких вопросов?
Но это вопросы, появляющиеся ещё до попытки практического применения этого метода. Что делать, если мы имеем положительные ответы лишь на половину вопросов (а статус других нам пока неизвестен)? Или вот: многие вопросы не подразумевают ответа да/нет, что если мы получаем нечто промежуточное, например… на вопрос «насколько эксперт заслуживает доверия» на 9 из 10? А если мы не уверены в ответе? То ли да, то ли нет. О, придумал, нужно придумать вопросы, которые позволяют быть уверенными в ответе на вопрос. Ну вы знаете эти споры, где собеседники начинают спорить о том, можно ли считать этого эксперта признанным в этой сфере.
Уолтон понимал проблематичность подхода, и сам задавался частью этих вопросов. Остальную часть дополнили его критики, вроде профессора Моти Мизрахи, критику которого критиковали в статье с великолепным названием: дьявол кроется в рамках. В общем, специалисты по теории аргументации довольно искушены в искусстве аргументации, и наблюдать за их фехтованием словами крайне увлекательно, однако не будем отвлекаться от темы.
Пожалуй, главная проблема такого подхода выяснилась при попытках спроектировать те самые компьютерные системы, способные анализировать аргументацию. Вот допустим у нас, как это часто бывает, есть два мнения экспертов, каждый из которых прошёл критическую проверку, вот только они противоположны друг другу. Как взвесить их количественно? А если с разных сторон разное количество мнений? Чьих голосов больше тот и победил?
Учимся у детей?
Вот исследование, в котором пытались определить, сколько мнений неспециалистов нужно поставить против мнения одного эксперта, чтобы испытуемые признали их более сильным аргументом.
Выяснилось, что изменение мнения людей подчиняется вероятностной логике. Пьер Симон Лаплас не удивился бы этом, ведь он утверждал, что: теория вероятности — не что иное, как формализованный здравый смысл. Принятие решений испытуемыми напоминало чаши весов с гирьками. С одной стороны, была гирька авторитета, а с другой — гирьки неспециалистов. Чем выше была заявленная экспертиза авторитета, тем больше был его вес, и тем больше грузчиков требовалось. Не происходило ничего похожего на то, что люди игнорировали бы мнения неспециалистов, или назначали авторитету «бесконечный вес».
Забавная штука в том, что, похоже, этому даже не нужно учиться. Этот механизм уже зашит у нас в мозге. Вот исследование, показывающее, что дети дошкольного возраста ранжируют взрослых, присваивая им что-то вроде рейтинга доверия. При этом они опираются на историю предсказаний взрослых, а также на то, соответствует ли высказанное мнение остальным. Дети динамически меняют этот самый рейтинг. Вот мама сказала дочери, что если она не будет есть кашу, то замуж её никто не возьмёт. Дочка пойдёт к бабушке и спросит, ела ли та кашу в детстве, а она ответит, что терпеть её не могла. После чего дочка понизит рейтинг мамы на пару пунктов.
Вот бы у нас была какая-нибудь формула, которая описывает, как это происходит и даёт нормативные предписания, как понять, что что-то идёт не так? А если бы были математические обоснования считать её частью оптимально стратегии... Даже не знаю, что за формула это могла бы быть?
Формула доверия
А в ответе на этот вопрос нам помогут два специалиста, которые, к сожалению, не успели приехать на съёмки, потому что я их не позвал. Это экспериментальный психолог Ульрике Хан и специалист по теории аргументации Йос Хорникс. Вы, кстати, должны его помнить, если смотрели мой ролик о доказательствах. Это он собирал мета-анализ по вопросу того, какой тип доказательств убеждает людей лучше всего.
В своей работе Хан и Хорникс утверждают, что хотя могут быть случаи, когда слабые аргументы оказывают большее влияние, чем они того заслуживают, в общем и целом, эмпирические исследования демонстрируют, что более убедительные аргументы с большей вероятностью будут иметь успех. Но что они называют более убедительными аргументами?
А в качестве нормативной модели, то есть способа определить, какие аргументы более убедительны, они использовали байесовский подход. С этой точки зрения, ваша уверенность в любом вашем мнении может быть выражена как некоторая вероятность или ставка. Вероятность — штука довольно контринтуитивная, поэтому я воспользуюсь рядом аналогий, чтобы прояснить, как это работает. Ваше мнение по какому-нибудь вопросу можно представить как чаши мерных весов. Допустим, это какой-то вопрос, по которому вы не имеете ярко выраженного мнения, тогда чаши ваших весов пусты, на них нет свидетельств. Теперь некоторый человек высказывает мнение по этому вопросу, и мы кладём очень маленькую гирьку. Она почти не сдвигает чаши весов. Но как изменится ситуация, если мы узнаем, что этот человек является признанным экспертом в этой области? Гиря станет весить больше. Именно это и выяснили в исследовании, которое я вам демонстрировал ранее.
Но как мы определяем вес этой самой гирьки авторитета? Сколько весит авторитет и от чего это зависит?
Схема (почему-то не прикрепляется в качестве изображения, если ты в курсе как это поправить, напиши пожалуйста).
У нас есть реальность: некоторое положение дел, о котором мы хотели бы узнать. К сожалению, мы довольно редко можем взаимодействовать с ней напрямую. Однако у нас есть некоторые свидетельства в пользу того, как она устроена.
Сейчас мы не будем подробно углубляться в вопрос того, что считать свидетельством в байесовском смысле, пока я упрощённо скажу, что это такие штуки, которые более вероятно увидеть в мире, где положение дел такое, а не иное. В мире, где Лондон — туристический город, мы ожидаем увидеть туристические автобусы, китайских туристов с фотоаппаратами и прочие подобные штуки. Они свидетельства потому, что в мире, где Лондон не туристическое направление, мы не ожидали бы увидеть эти штуки и сильно им удивились бы.
Чем больше мы будем знать свидетельств, тем лучше будет наше представление об этом конкретном куске реальности, и тем лучше будет результат, который мы сможем получить. Но мы не можем знать все свидетельства по всем вопросам, или хотя бы по всем вопросам, по которым это было бы практически полезно. Поэтому у нас есть эксперт — это человек, который знает много свидетельств. Обратите внимание, если мы сами знаем свидетельства, то эксперт уже не будет для нас авторитетом, мы как бы отсекаем его отсюда и сами становимся своего рода экспертом.
Это может показаться контринтуитивным: чем больше данных мы узнаем от эксперта, тем меньшим авторитетом он для нас обладает. Но если задуматься, то вы легко вспомните ситуацию подобной потери авторитета. Если вы узнали от человека всё, то как бы стали равны ему в эпистемическом смысле, а значит, можете и поспорить.
Но вернёмся к схеме. И так у нас есть мнение эксперта по поводу реального положения дел, которое он сформировал на базе некоторого набора свидетельств. В каком-то смысле мы пытаемся угадать, с каким шансом высказанное экспертом мнение верно. Это можно представить так: если мы точно знаем, что этот эксперт ошибается один раз из 3, то корректным будем поставить на то, что его мнение окажется верным 2 к 1. Проблема в том, что мы имеем подобную статистику довольно редко.
И здесь мы возвращаемся к схеме из исследования. Думаю, довольно очевидно, что чем больше свидетельств знает эксперт, тем выше наше доверие к его мнению. К сожалению, мы не можем вскрыть его череп и пересчитать свидетельства, поэтому в оценке этого параметра мы вынуждены полагаться на отдельные данные. Мы можем взглянуть, на то, обосновывает ли авторитет своё мнение какими-то доказательствами, нет ли в них очевидных противоречий, соответствуют ли они другим источникам. Каждый раз, когда его данные оказываются более обоснованными, мы немного повышаем его рейтинг, и наказываем его каждый раз, когда он ошибся.
К счастью, это не всё, что мы можем использовать для оценки. Есть ещё как минимум два важных узла. Но прежде чем мы к ним перейдём, возможно, вы обеспокоены тем, насколько сильно нужно менять мнение, и как это всё считать? Может нужен огромный калькулятор? Нет, для использования этого подхода не нужно вести блокнот с рейтингом всех людей вокруг. К сожалению, этого не понимают даже многие люди, называющие себя рационалистами. Этот подход скорее является эвристикой — подсказкой, на что нужно обратить внимание.
Первый узел: достоверность. Он нужен на случай, когда эксперт знает, как обстоят дела, но почему-то не заинтересован нам это сообщить. Обратите внимание, он не связан со свидетельствами, то есть не важно знает эксперт что-то или нет, этот узел может сильно понизить рейтинг. Он, в свою очередь, зависит от нескольких других: во-первых, на наше доверие будет влиять честность авторитета. Возможно его ловили на лжи, это серьезный аргумент против доверия ему. Вот, например, экспериментальный психолог Франческа Джино с индексом Хирша равным 76 была поймана на грубой подделке экспериментальных данных. Иронично, что произошло это в исследовании честности. Конечно же, после такой потери доверия коллеги захотели проверить и другие её работы.
Но честность — это ещё не всё. Если вы играете с другом в покер, то, хотя вы знаете, что в целом он честен с вами, сама ситуация может располагать к искажению информации. Такую ситуацию обычно называют конфликтом интересов. Ну знаете, лоббист какой-нибудь медицинской компании обязательно расскажет вам о преимуществах их препарата, умолчав о недостатках. Это не будет ложью в прямом смысле слова, он может опираться только на правдивые данные, однако сам факт того, что он заинтересован отобрать выгодную ему информацию, должен немного снизить её ценность. Это ещё называют cherry picking, выбор вишенок. Это не значит, что его рейтинг нужно автоматически аннулировать, или его доказательства нужно выкинуть. Просто снижаем рейтинг. Причём если конфликт интересов авторитет заявил сам, то не так сильно, как если он его утаил, и это всплыло в ходе обсуждения.
Сюда можно прикрутить любые штуки, влияющие на узел достоверности: например, оказываемое на авторитета давление, изменённое состояние сознания, психические заболевания и любые подобные штуки. Байесовский подход предлагает не выкидывать никакие данные, а использовать всю доступную информацию. Именно поэтому я так иронизировал над «логической ошибкой» под названием ad hominem. Оскорбление человека — это неэтично, но указание на искажение, например, его состояния сознания как на причину, почему его мнение может быть искажено вполне релевантно. Кто пустит в суд свидетеля в состоянии алкогольного опьянения? Ну байесовец пустит, просто понизит степень доверия, мы здесь свидетельства не выкидываем.
Перейдём к следующему крупному узлу. Узел экспертизы. Этот узел существует из-за проблемы неявных знаний. Представьте, вы спрашиваете у гроссмейстера, какой ход лучше сделать в шахматах? Он говорит вам, что такой-то, но когда вы спрашиваете почему, он не может представить доказательств, или они звучат не убедительно. Всё дело в том, что мы не всегда имеем явный доступ к данным, на основе которых принимаем решения. Это и называется интуицией. Должны ли вы послушать совет гроссмейстера? Давайте для усложнения я скажу, что это не человек, а шахматный движок alpha zero.
В этом случае мы обращаемся не к узлу свидетельств, а к узлу экспертизы. На него влияет две штуки: опыт и компетенция. В случае шахмат опыт будет подтверждаться количеством сыгранных партий. Компетенция чуть более сложна штука. Чтобы продемонстрировать разницу, приведу вот это исследование, в котором выяснилось, что годы работы в финансовом секторе не влияют на подверженность ошибке невозвратных потерь. В отличие от посещения некоторого количества курсов по бухгалтерскому учёту. Так что для экспертизы важны и опыт, и компетенция. Это особенно ярко видно в спортивных дисциплинах, я, когда играл во дворе в настольный теннис, потратил на это сотни часов. Но на первом же любительском турнире я проиграл новичкам, которые потратили гораздо меньше времени на занятиях у опытного тренера. Есть такая поговорка: если у вас неправильный инструмент, не важно сколько вы сделаете измерений. Именно поэтому мы боимся как врачей с хорошим образованием, но без опыта, так и некомпетентных врачей с огромным стажем.
С этим узлом есть важная проблема. Как и в случае со свидетельствами, мы не всегда имеем доступ непосредственно к данным об опыте и квалификации эксперта. И здесь в дело вступает закон Гудхарта: если эксперт знает, как мы будем проверять его, то в какой-то момент ему становится выгодно вместо фактического увеличения экспертизы увеличивать штуку, на которую мы будем смотреть. Ну знаете, интернет-магазинам иногда выгоднее накрутить отзывов, чем продать вам нормальный товар. Так и здесь, если учёный знает, что вы будете смотреть на количество цитат, заметное «профессиональное» поведение, уверенность, насколько сложно выглядит и звучит его работа, то важнее становится увеличить эти параметры, чем разобраться, как работает штука экспертом, в которой он выступает.
Об этом прекрасно знают рекламщики, одевающие актёров в халаты и заставляющие их притворяться учёными или врачами, чтобы убедить вас купить что-нибудь. В экспериментах Стэнли Милгрэма изучалась склонность людей подчиняться авторитету, даже если это противоречит их представлениям о морали. Участники думали, что участвуют в исследовании о влиянии наказания на обучение. Они играли роль «учителя», который должен был наказывать «ученика» (подставного актёра) электрическим током за неправильные ответы. На самом деле ток не применялся, но «ученик» имитировал боль, что создавало иллюзию реальности. Повышать силу тока требовал лаборант. И вот что интересно, когда лаборанты были в халатах, это в несколько раз увеличивало исполнение приказов. Я же обещал вам яркую демонстрацию того, что происходит, когда мы смешиваем эпистемический и деонтический авторитет?
Помимо прочего, именно закон Гудхарта вынуждает экспертов говорить более уверенно. Но если вы посмотрите ролик про калибровку, то, возможно, больше будете ценить ситуации, когда эксперт старается сопоставить имеющиеся доказательства и уровень уверенности.
Но вернёмся к нашей схеме. Осталось добавить кое-что, что подсказали нам дети из упомянутого выше исследования, ну и Дуглас Уолтон. Соответствует ли мнение авторитета мнениям других экспертов? Чем сильнее некоторое мнение противоречит мнениям других специалистов, тем больше должен быть его вес, чтобы уравновесить чаши. Мнение эксперта совсем необязательно должно совпадать с консенсусом, я бы даже сказал, что способность эксперта делать выводы независимо от мнений коллег это необходимое условие для формирования хорошего консенсуса по вопросу. Но про это мы поговорим в другом ролике.
Искажения
На самом деле эта схема отражает только часть ситуации. Она отражает то, как оценка должна происходить в некотором идеальном случае. Однако мы с вами вносим в эту оценку значительные искажения.
Когда мы уже имеем сформированное мнение по какому-то вопросу, мы склонны к рационализации, то есть мы учитываем вес гирек, клонящих в нашу сторону несколько больше, чем вес противоположных. Авторитеты, подтверждающие нашу позицию добрее, честнее и квалифицированнее, чем эти неучи из противоположного лагеря. Я об этом явлении подробно рассказал вот в этом ролике.
Но мы искажаем оценку не только за поддержку нашей позиции. Мы присваиваем больший вес людям, которые нам симпатичны. Нет, серьёзно, я сейчас даже не про их взгляды на жизнь, мы считаем более убедительными аргументы физически более привлекательных людей. Такой эффект ещё называют эффектом ореола. Нам нравится целостность, и если человек красив, значит, он ещё добр, умён и так далее.
Но ещё хуже то, что если эксперт действительно подтвердил свою экспертизу в одной области, мы склонны переносить это на все остальные. Я люблю приводить в пример вот этот кружок заслуженных специалистов в своих областях:
Лайнус Полинг, нобелевский лауреат по Химии продвигал крайне сомнительную идею из области медицины — о пользе сверхпотребления витамина C, что как бы относится к области медицины. Но у нас есть Люк Монтанье, нобелевский Лауреат по физиологии и медицине за установление связи между ВИЧ и СПИД. Правда, при этом активный сторонник идеи памяти воды. Иронично, что его открытие само стало предметом теорий заговора, и появилось целое сообщество вич-диссидентов, в котором не последнюю роль сыграл другой Нобелевский Лауреат уже по химии Керри Мюллис. При этом заслуги Мюллиса в рамках его области сложно недооценить, он открыл ту самую полимеразную цепную реакцию, которая применялась в тестах на Ковид.
Так что лучше, когда механик чинит машину, а проктолог… ну в общем лучше когда вы их не путаете.
Я не имею в виду, что только специалист может высказывать по какому-то вопросу, просто если некоторый человек получил у вас высокий рейтинг в какой-то области, при переходе в другую область вам придётся назначить новый рейтинг. И, может, он заслужит доверия и там, но это придётся сделать отдельно.
P.s.
Как я уже сказал, чем больше данных мы узнаем от эксперта, тем меньшим авторитетом он для нас обладает. Надеюсь после прочтения данной статьи, мой авторитет для вас упал, потому что вы узнали что-то новое по этой теме. Поэтому самое время поспорить со мной в комментариях!
Дополнительная литература:
О байесовском подходе к оценке надежности источника
О влияниее метакогниций и калибровки на то, будем ли мы искать совета эксперта
Эпистемичесике проблемы свидетельства (Стэнфордская энциклопедия философии)
Как признание ошибок влияет на авторитет