Тезис Тьюринга

1. Страшная правда.

Давайте начнём с простого мысленного эксперимента. Представьте, уважаемый читатель, что вам только что открыли страшную правду: вы единственное разумное существо в этом мире. Все окружающие вас люди, в том числе знакомые вам с детства -- это на самом деле очень совершенные имитации людей. Вам предлагается поставить эксперимент, который это докажет или опровергнет. Не читайте дальше, пока не придумаете как именно вы будете это проверять, или пока не признаете эту проверку невозможной.

Мне почему-то кажется, что вы только что не справились.

Человеческий разум по самой своей природе бесконечно и безнадёжно одинок. Сертификат разумности это то, что мы выписываем сами себе на основании того, что можем себе его выписать. Другие разумные люди всегда и неизбежно воспринимаются нами через внешние социальные взаимодействия, по своей природе простые и механистичные.

Математик Алан Тьюринг прославился в массовой культуре в основном так называемым "тестом Тьюринга", предложенным в знаменитой работе "Computing Machinery and Intelligence". Этот тест многими недооценивается. Я встречал издевательские утверждения вида "если тряпка на заборе кажется нам вороной, это, тем не менее, тряпка". И действительно, сейчас, когда большие языковые модели способны вести довольно-таки осмысленные диалоги, вряд ли кто-то предполагает наличие у этих гигантских печек, устроенных из кластеров видеокарт, настоящего разума (чем бы ни был настоящий разум, но об этом позже).

2. Спасение сборщика кубиков.

Главное достижение Тьюринга также лежало в области различения сущностей, но это было вовсе не отличение разумного от неразумного. Главным и общепризнанным его достижением было отличение вычислимого от невычислимого.

Давайте проведём ещё один небольшой эксперимент. Вам приносят набор фишек, похожих на домино, показанных сверху. Ваша задача -- подобрать их таким образом, чтобы строчки снизу и сверху совпали. Каждую можно брать сколько угодно раз. Например в решении ниже, нам дважды потребовалась вторая фишка.

Вопрос: как вы будете действовать в общем случае?

Правильный ответ: никак, в общем случае это вычислительно неразрешимая проблема.

Но это очень обескураживающий ответ. Представьте, что вы работаете старшим сборщиком кубиков на кубикосборном заводе и достаточно сложный экземпляр этой проблемы вам принёс ваш начальник. Как вы объясните ему почему вы не справились? Как вы докажете, что справиться вы не могли в принципе?

Тьюринг решил это один раз и для всех, построив очень простую модель универсального вычислителя. Эта модель (так называемая "машина Тьюринга") работает над бесконечной лентой и умеет выполнять четыре команды: прочитать ячейку, записать ячейку, пойти вправо по ленте и влево по ленте. Её программа состоит из перечная состояний, каждому из которых соответствуют действия.

Пример одной из команд такого рода программы: "если мы в состоянии номер два и при этом на ленте ноль, то надо записать на ленту единицу, пойти вправо и перейти в состояние семнадцать". Можно записать короче: (2, 0, 1, R, 17). Специальное состояние HALT означает "завершить работу".

Если вы не можете осознать, что она делает, вы всегда можете воспользоваться эмулятором.

Благодаря своей простоте, программа конкретной машины Тьюринга сама может быть записана на ленту и универсальная машина Тьюринга может быть использована чтобы сначала считать программу, а потом исполнить её на неких входных данных. В том числе и на входных данных, равных самой программе!

Проблема, невычислимость которой доказал Тьюринг, называется проблемой останова. Она заключается в том, чтобы построить такую машину Тьюринга, которая, принимая на вход программу произвольной машины Тьюринга и её входные данные, сообщила нам, остановится эта машина или зациклится навечно. Такая гипотетическая машина называется Halting Machine.

Представим себе на секунду, что Halting Machine существует.

Тогда мы можем построить машину TD как на рисунке выше. Она для любой машины T определяет, зацикливается ли эта машина на себе же как на входных данных. И если зацикливается то TD прекращает работу, а если не зацикливается, то TD зацикливается за неё.

Теперь TD(TD) имеет парадоксальное поведение. Если TD зацикливается, она должна завершить работу, а если TD завершает работу, она должна зациклиться.

Всё, что вам как старшему сборщику кубиков теперь осталось это отметить, что принесённая вам задача с кубиками является частным случае Post Correspondence Problem. А относительно этой проблемы доказано, что она невычислима на машине Тьюринга. Доказано это методом сведения. Оказывается, если бы проблема соответствия была вычислима, то мы бы легко собрали из такого рода кубиков решатель проблемы останова (что и доказал Эмиль Пост), а это невозможно в силу невозможности Halting Machine.

3. Тезис Тьюринга и его следствия.

Итак, фундаментальный результат Тьюринга состоит в том, что существуют проблемы, невычислимые на машине Тьюринга. Но может быть они вычислимы где-то ещё? Например не станут ли какие-то проблемы вычислимыми, если мы разрешим память с произвольным доступом, арифметику за один такт, или что-то в этом роде?

Некоторые такие машины даже были построены, например известная машина Зенона, которая каждый следующий шаг вычислений делает вдвое быстрее предыдущего. Интересно, что на машине Зенона можно решить проблему останова для машины Тьюринга, но нельзя решить проблему останова для самой машины Зенона. Также наличие такой машины не противоречит доказательству выше, ведь тогда TD просто не будет машиной Тьюринга. Но все такого рода гипервычислительные машины пока что оказывались физически не реализуемыми.

Тезисом Тьюринга называют утверждение, что для любой алгоритмически вычислимой функции существует вычисляющая её значения машина Тьюринга.

Термин "алгоритмически вычислимый" является расплывчатым и его можно заменить на "физически реализуемый" (что тоже расплывчато). Собственно из-за такого рода расплывчатости это тезис, а не теорема.

Важно понимать, что при этом машина Тьюринга это не просто абстракция, это реализуемая, причём универсально реализуемая физическая машина. В принципе такого рода машину можно сделать из человека: мы берём вас, уважаемый читатель, объясняем вам простые правила (я их, собственно, уже объяснил) и выдаём таблицу с состояниями и переходами и отводим вас куда-то где можно писать и стирать символы, например мелом по асфальту. Всё. После этого на вас, как на вычислительной машине, можно играть в "сапёра" и "косынку", и при этом вы даже не будете понимать что происходит: с вашей точки зрения вы будете ходить по ленте, писать и стирать и всё. Примерно как муравей не осознаёт сложнейшие и эффективнейшие действия муравейника в целом.

Именно из-за такого рода универсальной механистической реализуемости машины Тьюринга, мне кажется неправильным записывать в авторы этого тезиса также Чёрча. Алонсо Чёрч предложил универсальную вычислительную модель, основанную на так называемых лямбда-функциях и ещё одну на частично рекурсивных функциях. Все они эквивалентны машине Тьюринга, но ни одна из предложенных им моделей напрямую физически не реализуема. Чтобы реализовать редукции лямбда-функций, вам придётся идти на машину Тьюринга и просить там вычислительное время.

3.1. Экстенсиональность.

Очень важно, что тезис Тьюринга относится к машинам, обладающим свойством экстенсиональности. То есть две машины Тьюринга равны если на одинаковые входы (состояние ленты до начала работы) они дают одинаковые выходы (состояние ленты после окончания работы или зацикливание машины). В них нет никакого учёта состояния, не описываемого самой моделью машины. Большинство выражений человеческого языка, напротив, интенсиональны, то есть не допускают замену равных без учёта контекста.

Например, представим себе человека, который спрашивает является ли Алан Тьюринг автором статьи "Computing machinery and intelligence" в журнале Mind. Очевидно, что выражения "Алан Тьюринг" и "автор статьи Computing machinery and intelligence в журнале Mind" в этом вопросе обозначают одного и того же человека. Проведя наивную замену равных, мы могли бы сказать, что человек интересуется является ли Алан Тьюринг Аланом Тьюрингом. Но мы понимаем, что у этих вопросов различается субъект. Исходный вопрос -- про автора некоей статьи. Преобразованный подстановкой вопрос -- про идентификацию личности. Математические выражения, напротив, всегда экстенсиональны. Зная, что y = x + 1, мы всегда можем заменить 5 - x на 6 - y, осуществив прямую подстановку в любом контексте.

Экстенсиональность в тезисе Тьюринга означает, что субъектные и прагматические свойства рассуждений не имеют значений для вычислимости: любые алгоритмические вычисления могут быть проведены экстенсиональной машиной с обычной заменой равных. То есть если тезис Тьюринга верен, то должен существовать такой экстенсиональный язык, на котором можно сформулировать любой вопрос, ответ на который может быть физически получен. Собственно, мы уже знаем этот язык, это те самые таблицы, которые фигурировали в определении машины Тьюринга чуть выше.

3.2. Квалиа.

Ещё одно свойство машин Тьюринга -- они по определению не обладают квалиа.

Чтобы понять что такое квалиа, я попрошу уважаемого читателя провести на себе третий мысленный эксперимент. Представьте себе, что вам опять рассказали страшную правду: тот цвет, который вы видите как красный, все остальные люди в мире видят также, как вы видите зелёный. Способны ли вы предложить некий опыт, который подтвердил бы или опроверг это положение вещей?

И мне кажется, вы опять не справились.

Машина Тьюринга по построению не способна испытывать ощущение красного, когда видит красный цвет (мы впрочем не можем определённо утверждать, что она не испытывает ничего, не предусмотренного её построением). Даже если подключить её входную ленту к камере максимально высокого разрешения, для неё яркий красный цвет всё равно будет просто набором нулей и единиц на ленте. Мало того, даже если сделать такого рода машину из существа (такого как человек), которое способно видеть красное, и задать ему эту последовательность нулей и единиц, никакого ощущения красного он от неё напрямую тоже не испытает. Для него они будут цвета асфальта и мела. То есть наша живая машина Тьюринга, использующая для вычислений мел и асфальт, явно способна на что-то большее, чем та модель, которую она играет. Казалось бы это ли не доказательство, что машин Тьюринга недостаточно?

С одной стороны да. Но вообще это утверждение можно понять иначе: тезис Тьюринга говорит нам, что экстенсиональной машины хватит. Значит с точки зрения проведения вычислений, обладание или не обладание квалиа неважно. Любые алгоритмические вычисления в физическом мире, которые только можно провести, способна провести машина, не обладающая квалиа (и мы уже видели эту машину). То есть, с точки зрения вычислений, проблема квалиа в соответствии с тезисом Тьюринга иррелевантна и само их наличие (а квалиа это не только ощущение цвета, это, например боль, любопытство или даже самоосознание) не увеличивает вычислительную мощность модели.

Грубо говоря, если мы научим наши нейросети чувствовать настоящую боль, они от этого не станут более вычислительно мощными. Разве что более несчастными. С другой стороны, что мы знаем об их счастье?

И в этот момент становится понятен настоящий, мрачный и безнадёжный смысл теста Тьюринга. Его смысл не в установлении настоящей разумности и не в установлении настоящего обладания квалиа (или скажем настоящего обладания бессмертной душой и т.д.). Всё это не особенно поддаётся внешнему выяснению и внешнему эксперименту, потому что внешний эксперимент будет проводить экстенсиональная машина, оперирующая символами на основе доступных ей правил.

4. Тест Тьюринга.

Проведём ещё один мысленный эксперимент, расширив эксперимент номер три. Представим, что все люди в мире при виде красного цвета испытывают разные когнитивные состояния. Нет никаких двух, которые увидели бы одно и то же. Будут ли в этом мире проблемы со светофорами и с соблюдением правил дорожного движения?

Нет конечно. Все договорились о значении символа "красный" и внутренне сопоставили его с комплексом когнитивных ощущений (а робот без квалиа может его сопоставить с последовательностью битов на оптическом сенсоре). И все, включая машины без водителей, спокойно ездят по правилам. Ну, по крайней мере все те, кто достаточно разумен, чтобы оперировать символами и понимать правила.

Если мы суммируем все правила, известные нам на нашей планете: сигналы светофоров, строевой шаг, математические формулы, картинки наглядной агитации, лозунги и так далее и так далее, то что будет наиболее общим из правил, правилом, на котором описаны правила? Разумеется это и будет язык.

Настоящий сертификат на квалиа, разумность и бессмертную душу, живое существо выписывает себе само и он проверке не подлежит. Что выясняет тест Тьюринга так это способность оперировать символами и понимать правила. Именно поэтому это языковой тест. И то, наличие чего этот тест проверяет, можно назвать внешним, искусственным или -- точнее -- имитационным интеллектом.

Алан Тьюринг придумал свой тест на основании салонной "игры в имитацию": ведущий обменивается записочками с двумя испытуемыми, одна из которых настоящая женщина, а второй -- мужчина, притворяющийся женщиной. Надо понять кто есть кто. Для Тьюринга игра была особо сложная, так как он был гомосексуалистом. Так, например, он чуть не сделал предложение своей ассистентке Джоан Кларк.

В случае с мужчинами и женщинами у нас есть правильный ответ: набор хромосом, который позволяет установить победителя. Но имитационный разум, не отличимый внешне от настоящего, теоретически может иметь любую природу. Биологический человек может не быть разумен при органических поражениях мозга. Он может сознательно вести себя неразумно. Он может ситуационно вести себя неразумно (скажем, в состоянии опьянения). Хуже того, человек может быть по долгу службы временно менее убедительно имитировать разум, чем сложная языковая модель. Девочка на холодных звонках, чья задача -- дозвониться и огласить скрипт, не пройдёт тест Тьюринга потому что она работает неразумным роботом и если она проявит разум, то её просто уволят (мы к этому ещё вернёмся ниже).

В соответствии с правилами теста, разговор с претендентом любой природы (в том числе с живой нейросетью, говорящей ртом) должен строиться через последовательное выяснение того, что значат для неё символы и каких конкретных правил взаимодействия с вами она будет придерживается. Если считающий себя разумным испытующий признаёт эти правила обоснованными, а их понимание достаточным, значит он может разговаривать с контрагентом как с таким же разумным. Может и не разговаривать: тест Тьюринга определяет возможность, он не обязывает. Но если мы видим, что с той стороны трубки просто читается скрипт, то кто бы это не был на самом деле, тест он не прошёл и разумным существом в рамках этой коммуникации не является.

5. Имитационный разум

Алан Тьюринг был стопроцентным британцем (с папой-шотландцем, работающим в Индии), выпускником Кембриджа и, как я уже выше сказал, гомосексуалистом. Всё это было ему в плюс, потому что делало своим среди своих. Кроме того он конечно же был гениальным математиком, но это как раз его несколько отчуждало от приличного общества.

Понятие искусственного интеллекта (или как мы его будем называть -- имитационного разума, либо просто разума) в его время было очень новым, оно тут и там рождалось и использовалось в отношении по-детски примитивных вычислительных машин. Люди в то время ещё не доросли до осознания того, что на самом деле в имитационном разуме (как в явлении, а не как в понятии) для них уже тогда не было ничего нового. Они, собственно, уже во время Тьюринга регулярно с ним взаимодействовали. И я, конечно, имею в виду имитационный коллективный разум государственной бюрократии.

В отсутствие автоматизации, люди много лет занимались тупой и механической работой -- от гребли на галерах и пахоты до корректуры текстов и рассылки писем. И если крестьянин, идущий пасти коров мимо болтающих кумушек, мог и перекинуться с ними парой слов, то стенографистка, ведущая протокол собрания, должна была полностью абстрагироваться от темы, даже если решалась её личная судьба, иначе она просто не успела бы всё записать. И, конечно, максимального развития это достигало в государственном аппарате.

Не будет преувеличением сказать, что во времена Тьюринга на планете жило два вида разумных существ -- люди и государства. Сейчас количество видов ещё сильнее увеличилось, но даже двум видам на одной планете бывает сложно. Государства обладали и обладают автономностью действий, коллективным интеллектом для принятия решений и коллективными органами исполнения решений. Им даже можно написать и пообщаться.

При этом государства того времени были, относительно людей, намного мощнее, чем сейчас. Сейчас любой человек, которому есть что сказать, может очень легко собрать скажем десять тысяч настоящих живых подписчиков и при этом оставаться частным лицом и не сотрудничать ни с прессой ни с политиками ни с преступностью. Попробовал бы кто-то это сделать в те времена.

Для современного человека с опытом разговоров с нейросетями, очень интересным опытом было бы перечитать классические книги о взаимодействии с государством вроде "Процесса" или "Уловки 22", но только с точки зрения того, что там на самом деле рассматривается взаимодействие людей с чем-то вроде большой языковой модели. То есть государство это и есть ChatGPT.

Я думаю если бы Тьюринг это понимал, он бы в 1950-м написал статью не про то, может ли машина мыслить, а про то, может ли машина менять гнев на милость (и может быть эту статью ещё стоит написать). Потому что бывает же и так: ты в 1950-м сидишь обласканный чинами и наградами, ветеран и профессор и пишешь в журналы про вымышленный искусственный разум.

А через два года щупальца настоящего бессубъектного имитационного разума дотягиваются до тебя, кастрируют и хоронят. Ничего личного, у нас тут борьба с геями. Потом то же государство начинает тебя посмертно хвалить, посмертно оправдывает (у имитационных разумов плохо с концепцией смерти, они её не понимают) и даже снимает фильм. Ничего личного, у нас тут борьба за геев. А потом тот же имитационный разум ставит тебе памятник.

Но вернёмся к тесту Тьюринга. Кажется у нас есть пропасть, которую мы сознательно проигнорировали.

6. Нищета математики.

Математика, являясь лучшим из доступных человеку языков описания символов, пока что не способна предложить человечеству описание того, что каждый математик испытывает каждую секунду: ощущение субъектности. При этом есть предположение (мы не можем этого установить точно, потому что не знаем о чём вообще речь), что субъектность в той или иной степени присуща даже существам, с точки зрения оперирования символами неразумным -- кошкам, собакам, крысам и всему такому.

Любой разум, лишённый субъектности, воспринимается нами как имитационный. Используется также термин "философский зомби". Это гипотетическое существо, которое действует в точности как человек, но при этом ничего по этому поводу не испытывает. Все лампочки у него внутри выключены, а мозг работает только на отработку внешних действий.

И наоборот, субъектность, лишённая даже попыток имитировать разум, в природе не встречается и её очень сложно представить. Это будет нечто вроде мыслящего камня.

Все виды доступного нам сейчас имитационного интеллекта, созданного на небиологической основе -- это так называемый слабый искусственный интеллект, то есть нечто, что обладает разумом, но не субъектностью (мы не можем точно определять субъектность, так что это не точное утверждение. Но в наших моделях её нет по построению, то есть если какая-то нейросеть её и обретёт, это будет незапланированная субъектность).

К слову, давайте проведём ещё один мысленный эксперимент. Представим, что субъектность это вообще не атрибут материи, а атрибут некоего мирового духа и ей обладает каждая травинка, каждый камешек и каждый комарик и каждая компьютерная программа даже самая простая. То есть всё вокруг нас осознаёт себя, страдает, болит, любит, стремится и так далее. Сможете ли вы предложить эксперимент, в котором это утверждение было бы доказано или опровергнуто?

Ладно, это был последний раз.

Математически, в качестве последовательности формул, мы можем описать только входные действия и сколь угодно сложно из них получающиеся выходные без любого внутреннего состояния по определению: не ясно как цепочка формул и символов может испытывать боль. Получается у нас не просто нет гигантского куска формального описания для оперирования такого рода состояниями, а мы даже не знаем как такой описательный язык мог бы выглядеть.

Но при этом жизнь как явление удивительно механистична и в своей основе имеет единый на всё живое символический код ДНК.

Разбирая человека буквально до молекул, мы до сих пор не нашли никаких намёков ни на что такое, чего нельзя было бы просто собрать из любых запчастей (углерод кажется удобным, но опциональным). Всё внутри наших тел -- это более или менее сложные механизмы, которые подчиняются достаточно обычным законам математики.

И вот в этом и заключается трагедия так называемого сильного искусственного интеллекта -- то есть произвольно реализуемой модели, обладающей и разумом и квалиа. У нас не просто нет такой математики. Мы не просто не знаем даже примерно как могла бы выглядеть такая математика. У нас даже нет идей относительно того, куда посмотреть чтобы там хотя бы увидеть такого рода программу, в общем-то всё равно даже как записанную.

Есть мнение, что разум возникает при достижении системами некоего порога сложности, но не очень понятно почему если система из трёх уравнений не испытывает ощущение красного, система из трёх миллионов уравнений вдруг начнёт это делать.

В итоге по земле ходят восемь миллиардов исключительно совершенных мыслящих машин, оперирующих триллионами символов, и каждая из них представления не имеет, что именно с ней происходит каждую секунду, потому что ни один из операбельных символов этого не выражает. Поэтично можно сказать о бесконечном разгадывании тайны самого себя и всём таком, но никто ничего не разгадывает, потому что нет языка, на котором можно было бы дать ответ.

7. Границы возможного.

Вновь возвращаясь к тезису и тесту Тьюринга я снова и снова не перестаю восхищаться тем, насколько точно и насколько исчерпывающе здесь нащупаны границы того, о чём человек вообще может говорить.

Мы не можем с полной уверенностью утверждать, что у нас есть квалиа, а у деревьев нет. Откуда мы знаем? Как нам проверить? Но точно потому же, мы не можем и утверждать, что квалиа есть у каких-нибудь собак, даже самых милых. Мы видим наблюдаемое поведение собаки, мы больше ничего про неё не знаем. Или, например, мы также не можем утверждать, что у нас есть самоосознание а у компьютеров его нет. А почему нет? А вдруг есть? В эксперименте чуть выше мы не смогли опровергнуть наличие самоосознания даже у камней. В большинстве случаев, когда люди рассуждают о таких вещах как разум, самосознание и субъектность, они выдают некие непроверямые тезисы за истину и далее начинается богословие.

Это не значит, что человечество никогда не найдёт этот отсутствующий сейчас язык описания квалиа. Но его нахождение также не гарантировано. Есть же у нас задачи, невычислимые на машине Тьюринга. Почему бы самопознанию человека теоретически не быть задачей, не разрешимой на элементной базе человека?

Алан Тьюринг сформулировал ровно то, до чего человечество могло дотянуться в его время и ровно то, до чего может дотянуться сейчас, на момент написания этого текста: если нечто проявляет языковые свойства разума, его можно считать разумным на уровне оперирования символами. И если что-то вычислимо, то для него можно построить экстенсиональный вычислитель.

Надо всем, что далее, смыкается тишина и церковные своды.