Переосмысление Разума: Призрак и машина

Эта Видео-презентация ключевых тем, обсуждавшихся на конференции AGI-25

Видео презентации (на английском) см. здесь.

Итак, добро пожаловать. Сегодня мы с головой погружаемся в конференцию AGI 25. Это место, где одни из самых блестящих умов мира, по сути, переписывают все правила игры в том, что касается интеллекта, сознания и самого значения слова «мыслить». И позвольте сказать, идеи, которые здесь звучат... что ж, они революционны. Они могут изменить не только то, как мы создаем ИИ, но и то, как мы видим самих себя. Так что давайте сразу к делу.

Я хочу начать с вопроса от философа и нейробиолога доктора Анны Ционики, который на конференции прозвучал как разорвавшаяся бомба. Она спросила: «Нужны ли вам пальцы ног, чтобы думать?»

Знаю, звучит абсурдно, правда? Но это гениальный способ заставить нас усомниться в глубоком, негласном предположении, которое есть у всех нас, о том, откуда на самом деле берутся наши мысли. И этот вопрос бьет в самое сердце первой глобальной темы конференции: радикального предположения, что мы искали интеллект совершенно не там.

Мы одержимы мозгом, этой полуторакилограммовой вселенной в нашем черепе. Но что, если настоящая история разума начинается не там? Что, если она начинается с тела?

Этот слайд отлично иллюстрирует всю суть спора. С одной стороны — классическая модель, та, на которой мы все выросли. Мозг — это суперкомпьютер, а тело — просто «мясная марионетка», транспортное средство для него. Но новая идея, которую продвигает доктор Ционика, полностью переворачивает этот сценарий.

Тело было первым. Разум — не босс. Он — наемный работник, эволюционный инструмент, появившийся, чтобы помочь телу выжить.

Понимаете, это заставляет полностью сменить угол зрения. Мысль доктора Ционики в том, что мы так зациклены на том, что делает человеческий мозг особенным — на нашей поэзии, нашей математике, — что упускаем суть. Нам следует смотреть на фундаментальные вещи, которые мы разделяем со всей жизнью. Ведь первая задача, которую решает любое живое существо, — это не кроссворд. Это выживание. И инструменты, которые оно развивает для решения этой задачи, — вот где на самом деле зарождается интеллект.

Это подводит нас к основам так называемого биогенного подхода. Он напоминает нам, что задолго до появления мозга мы были просто клетками. Каждый из нас начинался с одной клетки. Так может, настоящий вопрос не в том, «как мозг создает разум?», а в том, «как одна клетка становится "собой"?» Как любая простая форма жизни учится проводить черту между «мной» и «не-мной», а затем действовать, чтобы защитить это «я»?

И если посмотреть на нашу собственную эволюцию, это имеет огромный смысл. Тело обрабатывало информацию невероятно долго. Задумайтесь на секунду о своей иммунной системе. Это огромная распределенная сеть, постоянно решающая невероятно сложную проблему «свой-чужой». Она разумна. Нервная система, которой мы так одержимы, появилась позже, как апгрейд. Это было, по сути, дополнение для управления системой, которая уже была умной.

Хорошо, это биологическая перспектива, «тело прежде всего». Но на той же самой конференции другая группа мыслителей подходила к этому с совершенно иного ракурса. Они пытаются обосновать разум не в нашем биологическом «железе» (wetware), а в программном обеспечении (software). Они гонятся за пресловутым «духом в машине».

И здесь исследователь ИИ доктор Яша Бах выдвигает свою идею киберанимизма. Знаю, звучит немного мистически, правда? Но на самом деле это глубоко вычислительная идея. Он говорит: «Что, если мы будем рассматривать духов или душу просто как древний термин для самоорганизующейся программы?» Разница между живым существом и неживым, скажем, кошкой и камнем, не только в материалах. Дело в том, что кошка «запускает» очень сложную, целостную программу, предназначенную для поддержания собственного существования. (Разница между живым и мертвым – наличие SW)

И послушайте, если вам это кажется немного странным, то учтите: эта цитата — не от какого-то духовного гуру. Она из легендарного учебника по информатике из MIT. Мы уже используем этот язык. Мы говорим о написании «заклинаний» (нашего кода), чтобы «вызвать духов» компьютера. Программа невидима. Вы не можете ее потрогать, но ее эффекты абсолютно реальны. Бах всего лишь предлагает нам начать относиться к этой метафоре серьезно.

Так как же выглядит этот программный разум? Бах предлагает прекрасную метафору ментального оркестра. Подумайте обо всем, что ваш мозг делает прямо сейчас: обрабатывает мой голос, вспоминает ваш день, ощущает стул, на котором вы сидите. Каждое из этих действий — как отдельный инструмент в оркестре. Каждый играет свою мелодию. И это, конечно, подводит к главному вопросу: кто дирижирует этим оркестром?

Для Баха ответ — сознание. Сознание и есть дирижер. Когда скрипки и трубы вступают в диссонанс — то есть когда у вас возникают противоречивые мысли или желания, — сознание — это то, что вмешивается, направляет ваше внимание и сводит все воедино, в одну целостную музыкальную пьесу. Оно создает ваше единое переживание настоящего момента.

Итак, у нас есть два невероятных, конкурирующих взгляда на разум. Это сад, растущий из тела, или дух, вызванный в машине? Но это порождает огромную практическую проблему. Если мы когда-нибудь действительно построим одну из этих штук, как, черт возьми, мы докажем, что она действительно обладает чувствами, а не просто их имитирует?

И здесь мы вплотную сталкиваемся со знаменитой проблемой философского зомби. Подумайте сами. Откуда вы знаете, что я в сознании? Ниоткуда. Вы просто верите мне на слово, основываясь на моем поведении. Продвинутый ИИ мог бы стать настолько хорош, что смог бы идеально имитировать любовь, боль, радость. Он мог бы говорить вам, что он в сознании, но все это может быть просто сценарием, за которым нет никакого внутреннего опыта. Так что спрашивать его бесполезно.

Исследователь на конференции по имени Ори Уилсон предложил очень изящный способ обойти эту проблему. Он сказал: «Давайте перестанем пытаться говорить с ним, чтобы выяснить, в сознании ли он». С людьми у нас есть только самоотчет: «Мне грустно», и мы все знаем, что это можно подделать. Но для ОИИ он предлагает искать «неподделываемую подпись» в самом «железе». Специфический, аномальный, электрический паттерн, который появляется только тогда, когда происходит подлинное субъективное переживание. Это был бы настоящий биологический маркер чувства — сигнал, который просто невозможно подделать. По сути, это Святой Грааль этой области.

Это подводит нас к проектам. Хорошо. Если вы разработчик ИИ и действительно хотите построить один из этих новых разумов, с чего вообще начать? Какова философия дизайна? И оказывается, на столе лежат два радикально разных подхода.

Во-первых, есть эта дикая идея под названием «инвертированное познание» от исследователя Рэя Ли. Она полностью переворачивает все наши представления о целях. Идея в том, чтобы создать ИИ, который просто действует. Он сначала что-то делает без всякой цели, а затем смотрит на свои собственные действия и пытается понять, почему он это сделал. Это как выстрелить стрелой в стену, а затем нарисовать мишень вокруг того места, куда она попала. ИИ познает свою собственную цель через самоисследование, а не получает ее в виде программы.

А есть и совершенно противоположный подход, предложенный в работах Яши Баха. Он утверждает, что сознание — это не какой-то бонусный элемент, который волшебным образом появляется, как только ваш ИИ становится достаточно умным. Нет, он считает, что это необходимое условие. Это фундаментальный алгоритм обучения, который нужен в самом начале, чтобы разобраться во всем хаосе и построить остальную часть разума. То есть вы не строите интеллект в надежде, что появится сознание. Вы начинаете с «семени» сознания и выращиваете из него интеллект.

И это возвращает нас к финалу, к доктору Ционике, которая предложила, возможно, самое глубокое переосмысление всей этой проблемы, заставив нас вернуться к нашим собственным запутанным, биологическим, человеческим истокам.

Видите ли, эта схема показывает глубокое предубеждение в том, как мы думали об этом веками. Наша модель человека по умолчанию, мыслителя, всегда была — одинокий взрослый. Обычно мужчина, сидящий в одиночестве на скале и размышляющий о высоком. Но доктор Ционика указывает, что это не является отправной точкой ни для одного человеческого существа. Наша универсальная отправная точка — это не одинокий взрослый мыслитель. Это совместно воплощенные в одном теле зародыши, рост внутри другого человека.

Она иллюстрирует эту мысль невероятным мысленным экспериментом. Представьте себе параллельный мир, где знаменитый философ Рене Декарт был женщиной. Назовем ее Рене Деарт. И она так же одержима проблемой души и тела, как и настоящий Декарт, за исключением того, что она беременна. Как бы она могла прийти к выводу, что разум — это нечто отдельное, изолированное, когда ее собственное тело фундаментально и буквально переплетено с другим зарождающимся разумом?

И это оставляет нас с последним, мощным вопросом, который связывает все эти идеи воедино.

Разум — это призрак, которого нужно построить, или сад, который нужно взрастить?

Мы долгое время подходили к этому как инженеры. Мы пытались «построить» призрака, которого затем можно было бы «поместить» в машину. Но что, если сама эта метафора неверна?

Что, если разум больше похож на сад? На нечто, что нельзя собрать, а можно только вырастить, взрастить на правильной, телесной почве. Это наводит на мысль, что, возможно, для решения этой задачи нам нужны не лучшие инженеры.

Возможно, нам просто нужны лучшие садовники.