Язык против сознания, эпистемические парадоксы, и как философия подарила нам ИИ

Меня зовут Мачей Тарновски, я докторант Варшавского университета, и моя основная специализация – философия сознания, логика и философия языка.

Ранее я изучал философию, математику и когнитивные науки в течение 5 лет.

I. Философия языка и сознания

Давай начнем издалека: можешь объяснить, что представляют собой философия сознания и языка?

Философия сознания, в широком смысле, ищет объяснение таким вещам, как сознание, мыслительная деятельность и так далее.

Все мы знаем, каково это – иметь сознание, но с этим есть по крайней мере несколько философских проблем.

Например, как мы можем утверждать, что прямо сейчас находимся в сознании? Физика и биология говорят нам, что мир материалистичен и состоит из атомов. Кажется, что идея сознания не совсем вписывается в эту картину. Чтобы доказать, что сознание существует, нужно либо объяснить его в контексте материалистических взглядов, либо найти убедительные аргументы в пользу того, что наше сознание – это нечто большее, чем просто набор функций мозга.

Философия языка пытается анализировать природу языка, то, как язык связан с его носителями и так далее.

Например, все мы вроде бы можем сказать, имеет ли смысл то или иное слово или предложение или нет. Но пытаясь объяснить, что такое смысл, мы сталкиваемся с проблемами.

Почему одни предложения или слова несут смысл, а другие – нет? Как мы извлекаем общую суть предложения из множества частей? Как мы вообще понимаем друг друга? Является ли способность к языку врожденной и влияет ли конкретный язык на то, как мыслят его носители?

На подобные вопросы и пытается ответить философия языка.

А лингвисты и философы видят язык по-разному?

На мой взгляд, лингвистика исследует, как работают естественные языки*, а философия языка пытается ответить на вопрос, почему они работают.

*естественный язык – это любой язык, который развился эволюционным путем без какого-либо сознательного планирования. Скажем, английский, русский или польский можно назвать примерами естественного языка, а Python, эсперанто или язык формальной логики – нет.

Когда лингвист смотрит на язык, он_а задается вопросами о том, какова структура данного предложения, или как мы можем описать естественный язык в виде производного от грамматических правил и так далее. 

Когда философ смотрит на тот же самый язык, он_а думает: почему то, о чем говорит лингвист, на самом деле работает? Почему конкретное сочетание слов дает нам предложение именно с этим значением, а не с другим? И что такое слова? Что такое значения?

В этом плане философия дает некоторые основы лингвистике, но при этом не умаляет ее важность.

Поскольку ты изучал философию и языка, и сознания, можешь рассказать, как они связаны?

Думаю, здесь есть как минимум две истории.

Первая заключается в том, что мы не можем понять язык, если не поймем, как работает наш разум. Эта идея основана на предпосылке, что наш язык основан на некоторых свойствах нашего разума.

Например, если я скажу тебе «Снег белый», ты меня поймешь.

Человек, который верит, что разум первичнее языка, скажет: хорошо, у нас обоих есть представление о том, что значит эта фраза; мы знаем, что она соответствует некому факту из материального мира. Получается, мы оба поняли фразу «Снег белый» лишь потому, что у нас уже были определенные убеждения, знания о мире и так далее.

Но некоторые люди пошли бы другим путем и сказали бы: послушайте, мы никогда не сталкивались напрямую с разумом другого человека. Я не знаю, есть ли у тебя вообще ментальная жизнь – ты вообще можешь быть роботом, который притворяется человеком. 

Но зато я могу воспринимать фразы, которые ты произносишь, вопросы, которые ты задаешь, и так далее. Именно речь служит основным доказательством того, что у нас есть разум.

Философы, разделяющие эту точку зрения, думают, что лишь изучая язык, мы действительно сможем понять разум.

Получается, что, с одной стороны, язык первичен, потому что с ним можно непосредственно взаимодействовать, но с другой стороны, чтобы понимать язык, нужно понимать, как работает разум. Эти две истории не противостоят, а, скорее, дополняют друг друга. 

Можешь ли ты определить разницу между философией сознания/языка и нейробиологией/другими областями, которые изучают мозг напрямую?

Разница такая же, как между лингвистикой и философией языка.

Нейробиология пытается связать наши ментальные процессы с конкретной физической деятельностью мозга, а философы сознания пытаются выяснить, какова природа этой связи.

Некоторые философы утверждают, что наша ментальная жизнь и мысли – это просто некоторые физические состояния нашего мозга. Их тезис звучит примерно так: «Я вижу твой мозг – значит, я могу читать твои мысли».

Другие ученые не согласны с этим. Они полагают, что в нас есть нечто большее – скажем, душа, – и именно она активирует наши нейроны, когда мы о чем-то думаем и так далее.

Если мы посмотрим на современные данные в нейробиологии, то не увидим четких закономерностей, которые однозначно определяли бы конкретные мысли, желания и так далее лишь по мозговой активности. Поэтому философы пытаются понять, как эти два процесса могут быть связаны.

Развитие нейробиологии может сделать некоторые философские позиции устаревшими или просто бессмысленными, но с другой стороны, развитие философии сознания может дать толчок нейробиологии.

II. Эпистемология и эпистемические парадоксы

Ты упоминал, что один из твоих интересов – это эпистемология. Можешь вкратце рассказать, что она изучает?

Эпистемология – одна из старейших ветвей философии; ее интересует, что такое знание и как оно может быть оправдано. Самый основной эпистемологический вопрос – это «Откуда ты знаешь, что ты знаешь?». Как ты можешь доказать, что знаешь что-то?

Эпистемология связана с разными отраслями философии. Например, есть философия науки – она изучает системы знания, научный прогресс, природу научных открытий и так далее. Очевидно, что вопрос доказательства знаний здесь очень важен. 

С другой стороны, есть философия сознания.

Когда мы в эпистемологии задаем вопрос: «Откуда ты знаешь, что ты знаешь?», мы полагаем, что существует такая вещь, как знание. Философия сознания рассматривает знание как психическое состояние, поэтому,  когда она пытается понять природу наших убеждений и психических состояний в целом, она также может рассказать нам что-то важное о знании.

Ты говорил, что в области эпистемологии тебя больше всего интересуют эпистемические парадоксы. Что это такое и с чем их едят?

Парадокс в целом – это такая ситуация, когда у нас есть мощные дедуктивные аргументы в пользу чего-то, что кажется совершенно неправдоподобным, контр-интуитивным.

Эпистемические парадоксы – это семейство парадоксов, которые затрагивают наши знания.

Небольшой пример – парадокс неожиданного теста (в русскоязычных источниках – Парадокс неожиданной казни – прим. ред.). Многие люди с ним знакомы.

Суть парадокса такова. Учитель говорит классу, что на этой неделе он даст неожиданный тест. Мы предполагаем, что, если известна дата теста, то он уже не может быть неожиданным. 

Рассмотрите следующую линию аргументации. 

Тест не может быть в пятницу, потому что пятница – последний учебный день недели, и, если сегодня четверг, мы уже знаем, что тест будет в пятницу, поэтому для нас это не будет сюрпризом. Но если тест не дадут в пятницу, то его не могут провести и в четверг, потому что теперь четверг – последний возможный день для теста, и в среду мы уже знаем, что тест будет в четверг. Такая же история происходит со средой, вторником и так далее.

Отсюда вывод: на протяжении всей недели учитель не может дать неожиданный тест.

С другой стороны, если учащиеся убедили себя в том, что теста не будет, а учитель его все-таки даст, то тест может стать неожиданностью.

Итак, у нас есть две противоречивые логики о том, можно ли провести тест-сюрприз или нет. Это парадокс, так как у нас есть некий вывод, который звучит неправдоподобно, и этот парадокс эпистемический, поскольку включает в себя наши рассуждения о состоянии знания учащихся.

Насколько, по-твоему, эпистемические парадоксы распространены в повседневной жизни?

Я думаю, что по крайней мере парадокс неожиданного теста очень распространен, многие из людей с ним сталкивались и даже шутили о нем.

Это – одна из вещей, которая мне очень нравится в философии: ты переносишь шутки и бытовые вопросы в плоскость философии и пытаешься найти на них ответ.

Повседневная жизнь вдохновляет меня на изучение парадоксов. Изучая их, я могу проверять свои догадки о том, что такое знание.

Если я снова и снова сталкиваюсь с парадоксами, это значит, что мои представления о знании не могут быть верными.

Наверное, ты стал замечать больше парадоксов в обычной жизни. Можешь поделиться какими-нибудь из недавних наблюдений?

Вот это задачка (смеется).

Я начал замечать вещи, которые для многих не кажутся парадоксальными, поэтому трудно объяснить, что именно в них необычного.

Есть так называемый «парадокс Мура», который я долго изучал. Он состоит из утверждения в форме:

р, но я не верю, что p.

Например, «идет дождь, но я не верю, что идет дождь».

На первый взгляд кажется, что выражение непоследовательное или ошибочное. Но в реальной жизни мы часто говорим вещи, близкие по содержанию к парадоксу Мура.

Предположим, что я прохожу курс психотерапии. С одной стороны, многие вещи, которые мой терапевт говорит обо мне, кажутся верными, но с другой стороны, я просто не могу поверить, что это правда.

Но нельзя ли разрешить эпистемические парадоксы, просто изменив их словесную формулировку? Например, я могу сказать: я верю своему терапевту, но не могу принять то, что он говорит. Тогда мое утверждение уже не парадоксально, потому что верить во что-то и смиряться с чем-то – это разные вещи. Может, все парадоксы существуют из-за того, что мы просто не можем правильно использовать язык?

На самом деле, это довольно старая философская позиция – что корень всех наших проблем и парадоксов в неправильном понимании языка. Именно это, например, отстаивал Людвиг Витгенштейн на протяжении всей своей карьеры – и это при том, что большинство других своих взглядов он кардинально изменил. Он считал, что, когда мы найдем более точные инструменты для анализа языка, парадоксы просто исчезнут.

Справляться с парадоксами с помощью логического анализа языка – очень старая традиция. Классический пример, на мой взгляд, это Бертран Рассел. Он показал, что некоторые проблематичные утверждения на самом деле не являются таковыми – достаточно просто представить предложения в виде высказываний с кванторами.

Как пример он приводит утверждение:

Нынешний король Франции лысый.

С одной стороны, во Франции нет никакого короля, поэтому он не может быть лысым. Значит, утверждение ложное. С другой стороны, если утверждение ложно, то его отрицанием должно быть «Нынешний король Франции не лысый». Но это предложение также неверно. Получается, что это парадокс. 

Но Рассел показал, что если мы формализуем это утверждение и выразим его на языке логики, то мы получим:

Существует такой X, который является нынешним королем Франции, и X лысый.

Теперь можно заметить, что истинным отрицанием будет не то, что нынешний король Франции не лысый, а то, что его не существует. Это делает оба предыдущих утверждения ложными, и парадокс просто исчезает.

Так что действительно, некоторые парадоксы основаны на нашем непонимании того, как работает язык. Но я верю, что большинство парадоксов существует потому, что наши представления о знании, убеждениях и так далее недостаточно точны.

Например, есть известный парадокс лжеца. Он состоит из утверждения:

Это предложение является ложным.

Если это правда, то предложение ложное, но если оно ложное, то оно должно быть истинным, ведь оно говорит, что оно ложное. 

Этот парадокс показывает, что наше привычное понимание языка, истинности и ложности заводит нас в тупик. Мы должны отказаться от некоторых интуитивных представлений об истине, чтобы парадокс исчез.

Если мы хотим и дальше использовать понятие истинности в философии, математике или других науках, мы должны дать ему другое определение, чтобы избежать таких парадоксов.

Опасны ли для нас парадоксы?

Да. Классический тому пример – парадокс Рассела. В начале XX века в математике было мощное движение, которое хотело доказать основы существования математики как науки. Ранее предполагалось, что она основана на теории множеств. Но Рассел доказал, что старая теория множеств несостоятельна.

Старая теория множеств предполагает, что любое свойство может быть использовано для создания множества – например, мы можем выделить множество людей, живущих в Варшаве, множество атомов в этой комнате, множество желтых чашек с цветами и т. д.

Предположим, R – это множество всех множеств, которые не содержат себя.
Если R не входит в это множество, это значит, что оно содержит себя. Если оно содержит себя, то оно не должно содержать себя, потому что R – множество множеств, которые не содержат себя. Этот парадокс называется парадоксом Рассела.

Повторяется та же логика, что и с парадоксом лжеца. Если множество содержит себя, значит, оно не должно содержать себя. Но если оно не содержит себя, значит, оно должно содержать себя (сравните с парадоксом лжеца: «Это предложение ложно» – если оно истинно, то оно ложно, а если оно ложно, то оно истинно).

Для наглядности Рассел привел такой пример: представьте некий город, в котором король издает приказ, что все небритые люди не могут бриться сами – они должны быть побриты цирюльником. Предположим, в городе есть только один цирюльник, и он небрит. Получается, он должен побрить себя сам, но это запрещено! Указ непоследователен и делает жизнь бедного цирюльника невыносимой.

Парадокс Рассела доказал несостоятельность основ всей математики. Ученые ломали голову: как же доказать, что математика вообще работает? Если не теория множеств, то что тогда?

Эта проблема стала мощным стимулом для создания новых основ математики, и именно так появилась современная теория множеств. Вместе с собой она принесла много новых разработок, математическую логику и информатику – то, без чего мы сейчас не мыслим жизнь.

Вот почему изучение парадоксов бывает не только разрушительным, но и полезным.

Возможно ли разрешить любой парадокс в принципе?

Зависит о того, что ты имеешь в виду под этим. Например, чтобы разрешить парадокс Рассела, потребовалось создать новую теорию множеств, в которой этот парадокс просто не может быть сформулирован.

Получается, чтобы избежать парадоксов, надо пересмотреть основы основ?

Да. Как по мне, в парадоксах очень интересно то, что они метят прямо в фундамент.

А как провести черту между разными типами парадоксов? Например, между математическими и эпистемологическими.

На самом деле, это глубоко философский вопрос – так же, как и вопрос «Что такое парадокс?». В начале я дал определение, что парадокс – это дедуктивный аргумент в пользу чего-то, что кажется неправдоподобным. Но это все еще зависит от того, что ты считаешь неправдоподобным, верно? 

Например, многие положения из теории вероятностей очень противоречивы и кажутся людям парадоксальными. Но если поизучать математику год или два, то ты просто примешь эти законы и больше не будешь считаешь их парадоксальными. 

Я люблю давать ученикам такой пример. У многих людей есть любимые номера лото, и они из года в год продолжают делать на них ставки в лотерее. Оправдывают они это тем, что, если эти числа никогда не выигрывали в лотерею раньше, то вероятность их выигрыша в будущем растет. Для человека, который прошел пару-тройку занятий по статистике, очевидно, что это так не работает. А для кого-то это остается парадоксом. 

Другой, более сложный пример – это парадокс Монти Холла, который получил свое название от телешоу. 

В этом шоу участникам предлагалось открыть одну из трех дверей. За двумя из них находилась коза, а за одной – машина. Человек, конечно, хотел выиграть машину, а не козу.

И вот участник выбирает дверь. Ведущий открывает другую дверь, за которой стоит коза, и спрашивает участника, хочет ли он или она поменять свой изначальный выбор двери. Вот как бы ты на это ответила?

Думаю, рациональные люди сказали бы, что вероятность того, что за дверью коза, одинакова для любой двери, поэтому не надо менять свой выбор. Но среднестатистический человек подумает, что это какой-то знак вселенной и надо поменять дверь.

На самом деле, наоборот! Вероятность того, что твой первый выбор был ошибочным, целых ⅔ против ⅓.

Для большей наглядности представим ту же ситуацию, но с 1000 дверей. Ты выбираешь одну дверь, после чего ведущий открывает 998 дверей, за которыми стоят козы. В итоге остается только две двери – та, которую ты выбрала, и еще одна.

Стоит ли тебе менять выбор? Ответ – да!

Вероятность того, что твой первый выбор был верным, всего 1 из 1000. Учитывая, что 998 дверей уже были открыты и за ними не было машины, вероятность того, что автомобиль находится за другой дверью – 999 из 1000.

Это решение кажется очень неинтуитивным поначалу, но чем больше ты вникаешь в него, тем более очевидным для тебя становится, что нужно менять ставку.

III. Философия, компьютеры и ИИ: где здесь связь?

Мне кажется, что многие люди, работающие с данными и инженерией, склонны думать о философских проблемах как о каких-то псевдопроблемах или как о чем-то бессмысленном. Я думаю, есть по крайней мере 2 вещи в защиту философии, которые я могу им сказать.

Во-первых, сама концепция ИИ и компьютеров в некотором смысле проистекает из философского вопроса: «Что для нас значит считать?». В XX веке остро стояла философско-математическая проблема: все ли на свете можно посчитать? Могут ли машины заниматься математикой?

Курт Гёдель и Алан Тьюринг считали, что для того, чтобы ответить на этот вопрос, мы должны создать некую математическую модель того, что означает счет. Так Алан Тьюринг придумал идею машины, которая могла бы делать то же, что и человек с карандашом и бесконечным листом бумаги. Эта концепция породила то, что лежит перед тобой на столе (показывает на мой ноутбук).

До Тьюринга у людей по факту не было точного определения алгоритмов или серийных вычислений. Конечно, Тьюринг был математиком, как и Гёдель, но их интерес к компьютерам был вдохновлен именно философией. Насколько мне известно, они оба даже считали себя философами.

Второй аргумент за философию в том, что ее изучение – или, по крайней мере, осведомленность о современных открытиях в изучении парадоксов – может дать вам более глубокое понимание того, что вы делаете.

Если вы пытаетесь смоделировать определенных агентов или разработать некую логическую систему для базы данных знаний, то вы, вероятно, используете инструменты эпистемической логики. И эти инструменты в основном получены из изучения парадоксов, как и многие другие разработки современной логики. Так что интерес к ним может улучшить ваше понимание того, что вы делаете и почему.

Выходит, философия в каком-то смысле повлияла на развитие технологий?

Именно так. Я думаю, отличным примером будет дискуссия из 60-70-х годов, когда шли горячие споры о том, могут ли классические модели ИИ развивать сознание. Можно ли свести все наше сознание к неким алгоритмам в мозге?

Многие философы считали, что компьютерам не хватает понимания происходящего вокруг. Поскольку они не могут взаимодействовать с окружающей средой, собирать данные о мире самостоятельно, то, следовательно, они не могут производить что-либо близкое к человеческому сознанию.

Эти дебаты привели к появлению новых интересных разработок в области ИИ и нейробиологии. Были спроектированы инструменты, которые позволили искусственным системам самостоятельно взаимодействовать со средой. Это называется воплощенным познанием (embodied cognition). Такой подход мы видим на примере самоуправляемых роботов, автомобилей, сенсорного замещения и любых других автономных систем. А инструменты эти появились потому, что разработчики ИИ хотели ответить на вызовы, поставленные философами.

Блиц-опрос для участников :)

1. Твое любимое слово на любом языке?

Достопримечательность (говорит на русском – прим. ред.). Мне было очень сложно запомнить это слово, даже правильно прочитать его у меня получилось только раза с 5-6. Зато теперь оно дает мне гордиться собой.

2. Любимый автор/книга/статья, которую ты бы посоветовал.

Думаю, для меня самый вдохновляющий художественный писатель – это Хорхе Луис Борхес. Он пишет короткие истории, так что прочитать их не составляет большого труда. За 20 минут ты можешь прочитать интересный, насыщенный философский рассказ. На 100% советую всем тем, кто заинтересован в философии или в жизни в целом.

3. С каким человеком в мире (ныне живущим или покойным) ты хотел бы побеседовать, если бы у тебя была такая возможность? 

Думаю, я бы неплохо поладил с Бертраном Расселом, потому что он для меня – самый вдохновляющий человек. Конечно, с известными людьми всегда есть шанс, что при жизни они были какими-нибудь фанатиками, но я уверен, что Рассел таким не был.

Если тебе понравилась статья, подписывайся на Language, Technology & Mind – будет интересно :)

Для контакта
Мачей Тарновски: https://www.facebook.com/maciek.tarnowski.129

Редактор: @joye_richness в Telegram или на Facebook