Часть 3. Роботы как новая раса
Клеверенс
Предыдущие части:
Часть 1: История робототехники (Историю робототехники, как прикладной науки о разработке и производстве автоматизированных технических систем, можно условно разделить на две части: популярную и актуальную.)
Часть 2: Люди и роботы (Не теряя сути вопроса можно считать, что в представлении обывателя настоящие роботы – это автономные машины с искусственным зрением, руками-манипуляторами, генератором речи и обязательно искусственным разумом. А все остальное – просто гипертрофированные тостеры.)
Часть 3
Если не вдаваться глубоко в спор о слабом и сильном искусственном интеллекте, простой ретроспективный взгляд позволяет надеяться, что метафизика сдаст и этот рубеж, т.е. будет доказана материальность сознания. Во всяком случае, истории не известны примеры, когда теория нематериальности или непознаваемости чего бы то ни было уверенно одержала победу над материальной или познаваемой версией. А это ставит перед нами проблему социальных прав роботов. Например, такие абсурдные по нынешним меркам вопросы, как:
1. Судить ли человека за убийство робота?
2. Вводить ли ограничения на создание копий с роботов?
3. Давать ли роботам избирательные права?
4. Разрешать ли им занимать руководящие должности?
5. Разрешать ли смешанные браки и усыновление?
6. Что-то еще более странное…?
Следуя за Бертраном Расселом и Аланом Тьюрингом, отметим следующие интересные мысли:
Тезис №III. Каждый человек судит о наличии у окружающих такого же сознания, как у себя, только из личного общения.
Т.е. нет никакого «непосредственного контакта». Если мой собеседник вдруг начинает «сбоить», неадекватно реагировать, непрерывно говорить ерунду металлическим голосом и искрить проводкой, сознательность сразу же ставится под сомнение. С другой стороны, как насчет «Человека дождя»?
Эпоха одухотворенных машин
В своей книге «Эпоха одухотворенных машин», пионер интеллектуального машиностроения Рэй Курцвейль предсказывает следующее:
От этого мнения тяжело отмахнуться, т.к. оно принадлежит человеку, создавшему первые в мире программу-поэта, систему распознавания печатных текстов и музыкальный синтезатор. В своих предсказаниях он использует закон Мура для роста вычислительной техники, и приводит следующий график:
Согласно этому графику, к 2060 году один компьютер стоимостью $1000 будет превышать по вычислительной мощности все человечество. В настоящий момент даже самые застарелые скептики согласны с тем, что закон Мура представляет собой действительный закон, который не основывается на простом удвоении плотности упаковки транзисторов. Существует более глубокая закономерность, заключающаяся в положительной обратной связи между мощностью вычислительной техники и новым поколением, построенным с ее использованием. Более того, уже сейчас видно, что рост ускоряется. Влияют и законы рынка, вынуждающие производителей искать все новые технологии для обеспечения головокружительного роста.
Вывод Курцвейля таков, что мы неизбежно исчезнем как доминирующий вид, передав эволюционную эстафету более надежным и более интеллектуальным творениям – машинам.
Обеспокоенный таким положением вещей, Билл Джой, ведущий специалист и архитектор программного обеспечения Sun Microsistems и друг Курцвейля, пишет:
Мнение Джоя - такая ситуация недопустима. Однако, будучи архитектором современного программного обеспечения, он чувствует, как сам себе копает могилу. Следует заметить, что Билл Джой новичок в вопросе социальных последствий развития робототехники. Обычный ответ, который он слышит, таков: «В этом нет ничего нового. Есть целые университеты, которые ежедневно изучают эту проблему, а Ваши заботы и аргументы – уже прошлый век».
Однако, вычислительная мощность, очевидно, еще не означает разумности. Прежде чем мы сможем говорить о равенстве машин и людей, человечество должно создать целую систему теорий, полностью объясняющих феномен человеческого сознания. На данный момент, этот процесс не подгоняется никаким известным законом, хотя прогресс в нем уже сейчас может оказаться даже более значительным, просто никто ничего не подсчитывал.
На сегодняшний день, наиболее известным в широких кругах лидером движения за невозможность создания разумных машин, является известный математик Роджер Пенроуз со своей книгой «Новый ум короля». Камнем преткновения является теорема Геделя о неполноте, под которую должен, по идее, подпадать и человеческий мозг. Пенроуз находит решение в квантовых вычислениях. Если еще раз посмотреть на теорему, можно увидеть, что она постулирует не невозможность, а бесконечное число шагов доказательства. Обнаружив в нейронах крохотные углеродные мини-трубочки, Пенроуз приходит к выводу: именно в них происходят квантовые вычисления, позволяющие за конечное время осуществить бесконечное число шагов доказательства истинности того самого ускользающего истинного утверждения.
Курцвейль приводит три возражения:
1. Это правда, что машины не могут доказать неразрешимые утверждения геделевского типа. Но люди также не могут их решить. Люди могут только диагностировать, что перед ними геделевское утверждение, а это может сделать и компьютер;
2. В любом случае, квантовые вычисления не могут преодолеть ограничения, т.к. способны выполнить очень большое, невероятно большое, но никак не бесконечное число шагов;
3. Даже если доводы 1 и 2 неверны, это не мешает нам использовать квантовые вычисления в компьютерах. Если мозг производит квантовые вычисления, это доказывает только то, что они не противоречат законам физики. Триллионы современных транзисторов используют квантовый эффект – туннельный переход – и нет никаких доводов в пользу того, что мозг обладает эксклюзивными правами на квантовые вычисления.
Далее Пенроуз считает, что момент редукции квантового состояния волновой функции ответственен за сознание - ощущение человеком реальности и собственного «я». Курцвейль отвечает, что думал над этим вопросом 3 года и, хотя все это несколько лишено здравого смысла, не смог найти серьезных аргументов ни в одну пользу.
Есть ли у роботов душа?
После решения вопросов разумности, проблема души будет являться основным философским камнем XXI века. Отложим немного жизнь после смерти и переформулируем вопрос по-другому:
Что в нашем теле является вместилищем души, т.е. источником нашей самоидентификации?
Предположим, что у нас есть возможность целиком заменить все органы ниже шеи на искусственные. Заменить глаза, слуховой аппарат, череп, все мягкие ткани, кроме мозга. Правда ли, что «я» - это определенный орган внутри мозга, или же это комплекс сигналов обширной области мозга? Если мы решим перенести себя на другой носитель, неважно органический или нет, что мы должны будем переносить? Что важно, а что нет?
Попытаемся продвинуться в решении этой проблемы, проделав один мысленный эксперимент. Известные нам законы физики не запрещают создать почти точную копию индивида или его части, например путем магниторезонансного сканирования и последующей сборки нанороботами. При этом оригинал видит окружающий мир, осознает, а что будет с копией? Фактически вопрос ставится так: наше сознание – это материальный продукт мозга или проявление некой сущности, временно живущей в мозгу? Даже зная, что вся память индивидуума и все когнитивные процессы материализованы в мозгу, достаточно ли этого для того, чтобы утверждать – каждый момент сознания, то, что мы ощущаем, прикасаясь к другим предметам, так же полностью принадлежит мозгу и может быть тиражировано?
Кто-то может предполагать наличие в мозгу каких-то не копируемых элементов, таких как носитель уникального глобального кода души или чего-то вроде этого, необходимого для отправки информации из фокуса внимания в другой мир вне «матрицы». Очевидно, теория метафизических существ, наблюдающих материальный мир через фокус внимания мозга, для которых это своего рода развлечение, просто переносит вопрос в другую плоскость.
Если не избегать ответа и не забалтывать его в метафизических представлениях, можно прийти к мысли, что даже если природа осознания себя нематериальна, это не противоречит материальности сознания.
Спасти душу, как она представлена в религии, может только метафизическое хранилище всех знаний души, приобретенных ею за время жизни. Это, вообще говоря, вопрос ненаучный. Опыты хирургического вмешательства в мозг показывают, что органические повреждения вызывают пропадание знаний и навыков. А если теорию невозможно проверить на воспроизводимом опыте, она ненаучна и автоматически побеждает та, которую проверить можно.
Учитывая, что не существует воспроизводимых техник помнить моменты полного беспамятства, вне зависимости от того, есть душа или нет, т.к. память все-таки хранится в мозге, можно считать, что с каждым пробуждением нам приходится заново осознавать себя и свой опыт. К примеру, если моя душа проснется в другом теле, в другом мозгу, со своей памятью об индивидууме, она никак не сможет заметить подлога. Все, к чему она может получить доступ, находится в черепной коробке того другого тела, и там нигде нет компромата.
Т.е. если душа существует и у нее есть носитель, маркер, номер или еще что-то такое, то после смерти человеческого тела его можно будет воссоздать искусственно в другом носителе. А если душа не существует, то все и проще и сложнее, поскольку довольно трудно понять, каким образом в хитросплетении электрических сигналов может зародиться сознание, и только наличие его у нас позволяет с уверенностью сказать, что это возможно.
В этом смысле никак нельзя с полной уверенностью утверждать, что у искусственного создания не может быть собственного сознания, души или чего угодно еще.
Кто такие e-существа?
В российской прессе основной шум по поводу будущего робототехники производят статьи к.т.н. Александра Болонкина, гражданина США. Болонкин придерживается следующей позиции:
Выдержки из этой статьи часто появляются и на ТВ. Особенно заманчивой представляется идея путешествия бессмертной электронной души со скоростью света. Переписывая данные программы с одного носителя на Земле на другой, к примеру, на Марсе, мы как бы переносим и саму личность. В общем и целом, статья совершенно неадекватная. Например, она приводит данные о проекте «Маугли» Министерства Обороны США в рамках которого в 1990х был сканирован мозг смертельно больного ребенка, и теперь родители могут общаться со своим растущим электронным сыном, видеть его на мониторе, и даже «как бы качать его на руках», что в настоящий момент совершенно чудовищная ерунда.
Заключение
Кибернетический организм как симбиоз не добавляет ничего нового к уже известным нам отношениям. Очки могут стать контактными линзами, так же как компьютер в неопределенном будущем может стать чем-то внутри черепной коробки. Даже став частью глаза, линза остается инструментом. А все вопросы потери контроля и манипулирования могут быть рассмотрены на примере отношений наркомана и его наркотика. Инициатива всегда исходит от человека, по крайней мере в первый момент.
Ситуация меняется в случае полностью искусственных организмов. До какой-то степени это по-прежнему инструмент, но инструмент в том же положении, как и сельскохозяйственный скот или римские рабы. Разница состоит в том, что у коров практически нет никаких шансов встать у руля, а технологии потенциально способны. Сугубо прагматически, мы можем двигаться по пути роботизации до тех пор, пока это будет выгодно, т.е. очень далеко. Прилагая достаточно много усилий, мы можем последовательно делать робота лучше и лучше среднего человека в любой его деятельности. Человек сам поставит технологии на пьедестал. И тогда уже, если не можешь победить чего-то – стань им.
Тем не менее, история богата сюрпризами и примерами тому, как глубоко можно ошибаться в любых суждениях. И если история не пойдет по пути плавной роботизации самого человека, это будет очень интересно, но не невероятно.