Захватят ли компьютеры мир?

Краткое содержание:

Некоторые люди боятся, что компьютеры станут умнее них и захватят мир. Конечно, с по-мощью компьютеров порочные люди вполне могут контролировать других, но сами по себе машины не представляют угрозу. Теорема Курта Гёделя о неполноте утверждает, что любая математическая система неполна, и что ни одна система не может доказать свои собственные истины. Система всегда располагает общеизвестными истинными утверждениями, но не доказуемыми инструментами самой системы. Алан Тьюринг, отец искусственного интеллекта, реализовал вы-воды Гёделя в области компьютерного программирования. Поскольку любая математическая си-стема недоказуема, а в основе работы компьютеров лежит систематическое мышление, то ни один компьютер, даже абстрактная вычислительная машина Тьюринга, не сможет разрешить все задачи в рамках этой системы. Оксфордские профессора Джон Лукас и Роджер Пенроуз применили вы-воды Тьюринга для изучения человеческого разума и доказали, что человеческий ум – не компьютер. Кроме того, они продемонстрировали, что компьютеры никогда не смогут «думать» как люди. Поэтому не следует бояться, что машины возьмут верх над человеком. А истину о нематериальном происхождении разума можно использовать в качестве доказательства существования Бога.

Статья:
В 1968 году фильм Стэнли Кубрика «Космическая одиссея 2001 года» вселил страх, что скоро компьютеры могут стать разумными, независимыми и опасными для людей. По сюжету компьютер HAL управляет космическим кораблем с экипажем на борту. Два члена экипажа решают деактивировать HAL и восстановить контроль над космическим кораблем, но HAL убивает одного и пытается уничтожить другого. Некоторое время назад Джеймс Хоскинс говорил, что страх перед компьютерами – не только научно-фантастические пугалки. Это мнение разделяют Стивен Хокинг, Илон Маск и Билл Гейтс [1].

Напрасно они боятся.

Кубрику, Хокингу, Маску, Гейтсу и всем остальным следует бояться не того, что с ними сделают сами компьютеры, а тех, кто может использовать суперкомпьютеры и искусственный интеллект против человечества. Новаторское математическое открытие, сделанное в 1930 году, и его значение для компьютерной науки могут нас успокоить.

История этого удивительного открытия берет начало в XVIII веке, когда Дэвид Юм поставил под сомнение идею Галилея о том, что математика – это язык, на котором Бог пишет законы природы. Кант в ответ предположил: даже если мы не уверены в том, что математика работает во внешнем мире, мы знаем, что она работает в нашем разуме, опираясь на законы логики. Эта идея ставит перед математиками задачу укрепить основы и доказать, что математика прочно зиждется на логике. Определив, что 1 + 1 = 2, Готлоб Фреге думал, что продемонстрировал рациональность и логическую последовательность арифметики и алгебры, сродни евклидовой геометрии. Он уже собирался опубликовать свое выдающееся произведение «Основы арифметики», когда получил письмо от Бертрана Рассела. Рассел показал ему логическую противоречивость теории множеств, на которой была построена вся работа Фреге. «Арифметика шатается», – пожал плечами Фреге [2].

Решив узнать, какие еще отрасли этой науки шатаются, многие математики XIX века принялись выискивать в своих рассуждениях доселе не выявленные погрешности. Поиски закончились в 1930 году, когда Курт Гёдель сформулировал свою «теорему о неполноте». Она обозначила одну из интеллектуальных вех ХХ века. Ученые поставили ее в один ряд с открытиями Ньютона, Эйнштейна и Гейзенберга. Гёдель доказал, что ни одна математическая система не сможет доказать себя полностью. Что же касается «не полностью», то всегда найдутся истинные математические утверждения, которые никакая система не сможет доказать. Каким образом это удалось до-казать Гёделю, – выходит за рамки данной статьи, но то, что его доказательство верно, признано учеными всего мира [3].

Элементарным примером теоремы о неполноте служит математическая система S1, состоящая из четных и нечетных чисел и операции сложения. В рамках этой системы невозможно доказать, что не найдутся три нечетных числа, которые в сумме составят двадцать. Однако за пределами системы S1, очень просто показать, что три нечетных числа никогда не дадут в сумме двадцать.
1. Допустим, Х, Y и Z – любые целые числа.
2. Тогда (2X + 1), (2Y + 1) и (2Z + 1) – нечетные числа.
3. Предположим, что (2X + 1) + (2Y + 1) + (2Z + 1) = 20.
4. Тогда 2(X + Y + Z) + 3 = 20.
5. Тогда 2(X + Y + Z) = 17.
6. Тогда (X + Y + Z) = 8,5.
7. Согласно теории чисел, множество целых чисел замкнуто относительно сложения (при сложении целых чисел никогда не будет дробей), поэтому утверждение № 6 – ложно.
8. Тогда и утверждение № 3 должно быть ложным, и трех нечетных чисел, которые в сумме дают двадцать, не существует.

Скептик может предложить изменить систему: добавить теорию чисел, дроби и умножение, и создать систему S2. Теперь система S2 может показать, что никакие три нечетных числа не дают в сумме двадцать. Но остается по крайней мере одно истинное утверждение, которое нельзя доказать в этой системе. S2 не может сказать нам, какова сумма ряда 4 х (1−1/3+1/5−1/7+1/9−...). (Если не узнали, ответ: π.) Теперь, если мы изменим S2 на S3, добавив трансцендентные числа, например π, у нас все еще остается по крайней мере одно истинное утверждение, которое нельзя доказать в системе S3. Что Гёдель доказал «неопровержимо» – что этот процесс может продолжаться бесконечно [4].
Спустя примерно десять лет после открытия Гёделя, Алан Тьюринг, отец искусственного интеллекта, применил эту идею к компьютерам. Он понял, что работа математической системы и есть работа компьютера. Таким образом, если все математические системы неполны, то машины, которые применяют эти системы, также неполны. Он показал, что даже «машина Тьюринга» – воображаемый компьютер неограниченной скорости и мощности, который работает вечно, – не способна доказать, что есть три нечетные числа, которые в сумме дают двадцать, если в ее про-грамму заложено использовать нечетные и четные числа и действие сложения. Как бесконечно количество четных и нечетных чисел (положительных и отрицательных), так бесконечно количе-ство примеров сложения трех целых чисел в компьютере. Вскоре машина вычислит, что не суще-ствует таких трех, которые в сумме дают двадцать, но она не сможет исчерпать бесконечное число комбинаций [5].

Выводы Тьюринга можно продемонстрировать на реальном примере из области компью-терных шахмат. Расположение фигур было таким. Белые ходят. Должна ли пешка забрать ладью?

Белым не стоит забирать ладью. У черных большое численное преимущество, но если белые не разобьют пешечный частокол, у черных нет шансов создать угрозу вражескому королю. Белые должны ходить королем за этой неприступной защитой, пока не сработает правило пятидесяти ходов и не получится ничья. Такое решение очевидно всем, кроме новичка в шахматах. Однако оно ускользнуло и от лучшего в свое время компьютера Deep Thought, созданного для игры в шахматы. Он выиграл у нескольких гроссмейстеров, но в этой ситуации компьютер забрал ладью, и проиграл. Почему у человека получается ничья, а компьютер проигрывает? Потому что машина не «видит» пешечный барьер. Она «видит» отдельные пешки, но не «понимает», что вместе они непобедимы. Компьютер следует алгоритмам и оценивает возможные ходы, но он никогда не «поймет», что белые в безопасности до тех пор, пока существует барьер [6].

Применение Тьюрингом результатов работы Гёделя привело оксфордского философа Джона Лукаса к следующему выводу: если компьютеры не в состоянии решить очевидные для человека задачи, то между ними и человеческим разумом существует значительное различие. Он писал: «теорема Гёделя, похоже, доказывает, что механизм ложен, то есть, разум нельзя объяснить механикой» [7]. Между человеческим разумом и компьютером существует не только количественная, но и качественная разница. Причем не просто по форме, но и по содержанию. Поэтому разум и компьютеры должны отличаться не только своей производительностью, но и своей онтологией. То, что Лукас называет «механизмом», также известно как «физикализм» и может быть выражено словами из фильма «Космос» Карла Сагана: «Космос – это всё, что есть, что когда-либо было и когда-нибудь будет» [8]. Есть только энергия, материя, время и пространство.

Физикализм подразделяется на редуктивный и нередуктивный. Редуктивный физикализм основан на идее о том, что феномен человеческого сознания – иллюзия. В основе же нередуктив-ного физикализма лежит идея о том, что сознание – это признак физической активности мозга [9]. Лукас понимает, что теорема Гёделя о неполноте исключает оба вида физикализма.
Другой оксфордский философ, математик и физик Роджер Пенроуз развивает мысль Гёделя, Тьюринга и Лукаса, заявляя: мало того, что между «мышлением» компьютера и человека существует принципиальное различие, некоторые аспекты человеческой мысли не могут даже сравниться с работой компьютеров. Он утверждает, что существует четыре возможных способа пред-ставить себе связь между тем, на что способны компьютеры, и тем, на что способен разум. Ком-пьютеры выполняют «вычисления», а разум занят «сознательным мышлением». Какая между ни-ми связь?

Существует четыре возможных варианта ответа:
A. Всякое мышление есть вычисление: в частности, чувство сознания возникает в ре-зультате выполнения соответствующих вычислений (редуктивный физикализм).
B. Сознание – это особенность физической работы мозга; и пока любая физическая работа может быть смоделирована с помощью компьютера, компьютерное модели-рование само по себе не может пробудить сознание (нередуктивный физикализм).
C. Надлежащая физическая активность мозга пробуждает сознание, но компьютер не может моделировать даже физическую активность (дуализм).
D. Сознание невозможно объяснить с помощью физических, компьютерных и других научных терминов (мистицизм).

Пенроуз исключает D (мистицизм), потому что этот вариант исключает научное исследова-ние. По мнению ученого, быстрее всего выбрать между A, B и C можно с помощью «теста Тьюринга». Человек общается с помощью клавиатуры либо с компьютером, либо с человеком, которого не видно. Если человек может распознать, кто его собеседник, то тогда верно С. Если человек не может определить, с кем он разговаривает: с человеком или компьютером, то верны варианты А или B. Если компьютер может идеально смоделировать все ответы человека, то верна любая форма физикализма. Сторонники редуктивного физикализма утверждают, что компьютер «обрел» сознание, а сторонники нередуктивного физикализма – что он просто его моделирует. Сам Пенроуз считает верным вариант C и на оставшихся четырехстах восьми страницах своей книги доказывает эту точку зрения. Он делает вывод, что вычисление и сознательное мышление существенно отличаются, и компьютеры никогда не смогут думать [10].

Некоторые считают, что тест Тьюринга решает этот вопрос. Несколько раз компьютерам все-таки удавалось ввести человека в заблуждение и заставить его думать, что он разговаривает с себе подобным. Поскольку люди не могут сказать, беседуют ли они с человеком или с компьютерной программой, компьютеры должны уметь «думать» так же, как люди. Однажды компьютер запрограммировали допустить в своих ответах несколько опечаток. Человек был сбит с толку, считая, что только люди могут делать ошибки. В результате победил компьютер. Однако такого рода приемы лишний раз подчеркивают разницу между человеком и машиной. Компьютер смог обмануть человека только потому, что другой человек – программист – зная, как думают люди, смог встроить вводящие в заблуждение «ошибки» в работу компьютера. Эту умелую стратегию придумал сам человек, а не компьютер. Это лишь подтверждает, что умные мысли возникают только у человека, но никак не у компьютера [11].

Генерация новых идей или креативное мышление – вот, что представляет собой труд Гёделя. Компьютеры предназначены для систематического мышления, и Гёдель показал, что такое систематическое мышление никогда не приведет к окончательным результатам. Теорема о неполноте дает прямой ответ на вопрос «Появится ли когда-нибудь общий метод решения всех математических задач?» – «Нет». Поскольку никакая математическая система не может доказать все свои истины, а все компьютеры зависят от математических систем, открывать математические истины сможет только человек. В конце своей книге о высшей математике Рейд делает вывод: «Сегодня установлено – и логические доказательства это подтверждают, – что машины никогда, даже в теории, не заменят математиков» [12]. Компьютеры никогда не заменят математиков, да и вообще людей, потому что человеческое мышление неспособна воспроизвести ни одна машина.

Истины, открытые Гёделем, Тьюрингом, Лукасом и Пенроузом, не только освобождают нас от страха перед тем, что компьютеры, подобные HAL, вдруг «придут в себя» и захватят мир, но и приводят к апологетическим выводам. Если человеческий разум невозможно свести к компьютерам из силикона и металла, то его также нельзя свести к компьютерам из протонов и белка. Наш разум не сводится только лишь к физическим мозгам. То, что человеческий разум – это больше, чем просто материал физического мозга, указывает на существование во Вселенной чего-то не-материального. Существование нематериального, метафизического открывает дверь к духовной реальности. Как только становится ясно, что существует что-то еще, кроме физического мира, разве до веры в Бога не остается лишь один шаг?

Примечания
1 James Hoskins, "Digital Souls,” Christian Research Journal, 39:2 2016, 34-39.
2 Morris Kline, Mathematics: The loss of certainty (New York: Oxford University Press, 1980), 46, 74-6 and Stephen M. Barr, Modern Physics and Ancient Faith (Notre Dame, In., University of Notre Dame Press, 2003, 279-80, and Roger Penrose, Shadows of the Mind: A search for the missing science of consciousness (New York: Oxford University Press, 1994, 65.
3 Barr, 279–88.
4 Penrose, 65.
5 Barr, 211 and Constance Reid, Introduction to Higher Mathematics for the General Reader (New York: Thomas Y. Crowell, 1962), 174–8.
6 J. Seymour and David Norwood, “A Game for Life,” New Scientist, 139, 1889, 23-6 cited in Penrose, 46–7. Конечно, можно переделать программу, и компьютер справится с пешечным частоко-лом, но, по Тьюрингу, всегда будет по крайней мере один хитроумный ход человека, кото-рый не сможет предвидеть машина. И тогда можно переделать программу с учетом этой стратегии, но человек найдет новую, и так далее до тех пор, пока компьютер не освоит все возможные шахматные партии, которых по оценкам около 10120. См. в Википедии «Число Шеннона».
7 John R. Lucas, "Minds, machines, and Gödel,” in K. M. Sayer and J. M. Crossen, eds., The Modeling of Mind (Notre Dame, In.: University of Notre Dame Press, 1963), 255.
8 Carl Sagan, Cosmos (New York: Random House, 1980), 4.
9 Penrose, 12–3.
10 Penrose, 12–5.
11 См. Тест Тьюринга, Википедия.
12 Reid, 180.

Who’s Afraid of HAL? by Charles Edward White, Spring Arbor University