Превосходство ИИ над человеком — это миф

Аудиоверсия статьи:

Мне приходилось слышать, что в будущем компьютеры с искусственным интеллектом станут настолько умнее человека, что лишат нас рабочих мест и ресурсов, и в итоге человечеству придет конец. Но так ли это? Подобный вопрос мне задают каждый раз, когда я читаю лекции об ИИ.

Вопрошающие при этом серьезны как никогда, их беспокойство отчасти связано с тревогами некоторых экспертов, которых терзает тот же самый вопрос. К их числу относятся умнейшие из наших современников — Стивен Хокинг, Илон Маск, Макс Тегмарк, Сэм Харрис и Билл Гейтс.

Все они допускают возможность подобного сценария. На состоявшейся недавно конференции по ИИ коллегия из девяти наиболее просвещенных гуру в этой области пришла к единодушному заключению, что создание сверхчеловеческого интеллекта неминуемо и уже не за горами.

И всё же сценарий порабощения человечества искусственным интеллектом основывается на пяти допущениях, которые при более внимательном рассмотрении оказываются бездоказательными. Эти утверждения могут быть истинными в будущем, но на сегодняшний день ничем не подтверждены. Вот они:

1. Искусственный интеллект уже становится умнее человеческого разума, причем этот процесс носит экспоненциальный характер.

2. Мы разработаем ИИ общего назначения, схожий с нашим.

3. Мы можем создать человеческий интеллект из кремния.

4. Интеллект может быть безграничен.

5. Создание грандиозного сверхинтеллекта разрешит большинство наших проблем.

В противовес этим ортодоксальным постулатам я могу привести следующую доказанную ересь:

1. Интеллект не одномерен, поэтому «умнее человека» — бессмысленное понятие.

2. Люди не наделены разумом общего назначения, что не грозит и искусственному интеллекту.

3. Соперничество между человеком и компьютером будет ограничено затратами.

4. Интеллект не безграничен.

5. Создание ИИ — лишь часть прогресса.

Если вера в порабощение человека искусственным интеллектом базируется на пяти безосновательных допущениях, то эта идея в большей мере схожа с религиозными верованиями — мифами. В следующих главах я дополню мои контраргументы фактами и докажу, что сверхчеловеческий искусственный интеллект и в самом деле не более, чем миф.

1.

Наиболее распространенное заблуждение об ИИ исходит из не менее популярного мнения о естественном интеллекте, будто он одномерен. В точных науках многие изображают интеллект так, как Ник Бостром в своей книге «Сверхразум» — буквально в виде одномерного линейного графика с растущей амплитудой.

На одном конце расположены существа с наиболее низким уровнем интеллекта, к примеру, маленькие животные, а на другом — гении, словно уровень интеллекта ничем не отличается от уровня звука, измеряемого в децибелах. Конечно, в таком случае легко представить дальнейшее увеличение, при котором уровень интеллекта превышает самую высокую отметку графика и даже выходит за его пределы.

Такая модель топологически эквивалентна лестнице, на ступенях которой уровни интеллекта расставлены в порядке возрастания. Менее разумные животные занимают нижние ступени лестницы, а искусственный интеллект более высокого уровня будет неизбежно располагаться над нами. Временные рамки того, когда это случится, не играют роли. Куда важнее сами ступени иерархии — метрики растущего интеллекта.

Проблема этой модели заключается в том, что она мифична, как и модель эволюционной лестницы. До дарвинизма живая природа представлялась лестницей живых существ, где человек занимал ступень над более примитивными животными.

И даже после Дарвина одним из наиболее распространенных понятий остается лестница эволюции. Она демонстрирует превращение рыб в рептилий, их — в млекопитающих, приматов в человека. При этом каждое следующее существо более развитое (и разумеется, более разумное), чем его предшественник. Так лестница интеллекта коррелирует с лестницей мироздания. Однако обе модели отражают совершенно антинаучные взгляды.

Более точной схемой для природной эволюции был бы диск, расходящийся наружу, как на изображении выше. Впервые такое строение было разработано Дэвидом Хиллисом из Техасского университета, он сделал это на основании ДНК. Эта генеалогическая мандала начинается в центре с самых примитивных форм жизни, а затем разветвляется наружу. Время идет вперед, поэтому наиболее поздние формы жизни располагаются по периметру круга.

Это изображение подчеркивает не поддающийся оценке факт об эволюции фундаментального значения — все живые существа эволюционировали в равной степени. Человек располагается на внешней части диска наравне с тараканами, моллюсками, папоротниками, лисами и бактериями.

Все без исключения виды прошли неразрывную цепочку успешного воспроизводства длиной в три миллиарда лет, а значит, бактерии и тараканы так же высоко эволюционировали, как и человек. Нет никакой лестницы.

Аналогично, что нет никакой лестницы интеллекта. Интеллект не одномерен. Это комплекс различных видов и способов познания, каждый из которых непрерывен. Давайте выполним простое упражнение по измерению интеллекта у животных. Если бы интеллект был одномерен, мы без труда расположили бы в порядке возрастания интеллекта попугая, дельфина, лошадь, белку, осьминога, голубого кита, кошку и гориллу.

Сейчас нет научного доказательства существования такой последовательности. Причиной тому может быть отсутствие различий между уровнем интеллекта тех или иных животных, но это так же необоснованно.

Зоология богата примерами ярких различий в мышлении животных. Может быть, все животные наделены интеллектом «общего назначения»? Возможно, но у нас нет единого инструмента для измерения такого вида интеллекта. Однако у нас есть множество систем измерения для разных видов познания.

Вместо единой линии децибелов правильнее было бы изображать интеллект в виде схемы вероятностного пространства, как в визуализации возможных форм, которая была создана алгоритмом Ричарда Докинза. Интеллект — это комбинаторный континуум. Множество узлов, каждый из которых — континуум, создают комплекс колоссального многообразия в множестве измерений. Одни разновидности интеллекта могут быть очень сложными, с большим набором суб-узлов мышления. Другие — проще, но экстремальнее, они достигают крайней точки пространства.

Эти комплексы, которые означают для нас различные разновидности интеллекта, можно воспринимать как симфонии, исполненные на разных видах музыкальных инструментов. Они отличаются не только громкостью, но и мелодией, окраской, темпом, и т. д. Можно воспринимать их как экосистему. В этом смысле различные компоненты узлов мышления взаимозависимы и создаются друг из друга.

Как говорил Марвин Минский, человеческое сознание — это общество разума. Наше мышление — полноценная экосистема. Наш мозг обладает множеством способов познания, которые выполняют разные мыслительные функции: дедукция, индукция, эмоциональный интеллект, абстрактное и пространственное мышление, краткосрочная и долгосрочная память.

Вся нервная система человека представляет собой часть мозга с собственным уровнем познания. На самом деле процесс мышления осуществляется не мозгом, а всем телом человека.

Все разновидности мышления различаются как между видами, так и между представителями одного вида. Белка может годами помнить точное местоположение нескольких тысяч желудей, что для человека совершенно непостижимо. В этом виде мышления люди уступают белкам. Разум белки представляет собой сочетание этой суперспособности с другими формами интеллекта, в которых человек превосходит белку. В царстве животных можно найти множество примеров превосходства отдельных форм животного интеллекта над человеческим.

Такая же ситуация сложилась с искусственным интеллектом, который в некоторых областях уже превосходит человеческий. Любой калькулятор — гений математики, а память поисковика Google уже в некотором смысле лучше нашей собственной.

Некоторые ИИ совершают такую мыслительную деятельность, на которую мы не способны. Запомнить каждое слово на шести миллиардах веб-страниц — непосильная задача для человека и пустяк для поисковых систем. В будущем мы создадим совершенно новые способы мышления, не доступные человеку и не существующие в природе.

Изобретатели летательных аппаратов вдохновлялись естественным полетом — взмахами крыльев. Однако позже было придумано неподвижное крыло с прикрепленными к нему пропеллерами, и это был совершенно новый, не встречающийся в природе принцип полета.

Так мы изобретаем новые способы мышления, на которые не способен ни один биологический вид. Скорее всего, это будут принципы, применимые только к узкоспециализированным задачам: например, новые логические построения, которые нужны только в статистике и теории вероятностей.

Новый вид мышления поможет решить проблемы, с которыми человеческому разуму не удается справиться. Некоторые из сложнейших вопросов бизнеса и науки требуют двухступенчатого решения. Первый этап — изобрести новый способ естественного мышления. Второй — приступить к поиску ответов вместе с ИИ.

Люди начнут считать ИИ умнее себя, если с его помощью удастся решить ранее неразрешимые проблемы. На самом деле, мышление ИИ не лучше нашего, оно просто иное. Я считаю, что основная польза искусственного интеллекта в том, что он способен мыслить как чужак, и эта чуждость — главное его достоинство.

Более того, мы создадим комплексные «сообщества» ИИ с различными образами мышления. Они будут настолько сложны, что смогут решать проблемы, с которыми мы справиться не в силах. Потому некоторые люди ошибочно решат, что комплексы ИИ разумнее людей. Но ведь мы не считаем, что поисковая система Google умнее человека, хотя его память лучше нашей.

Вероятно, эти комплексы искусственных интеллектов превзойдут нас во многих сферах, но ни один из них не превзойдет человека сразу везде. Похожая ситуация сложилась с нашей физической силой. Прошло двести лет после индустриальной революции, и ни одна машина не стала сильнее среднего человека по всем показателям, хотя машины как класс значительно превосходят человека в скорости бега, подъеме тяжестей, точности разреза и других видах деятельности.

Несмотря на усложнение структуры ИИ, измерить ее методами современной науки невозможно. У нас нет инструментов, чтобы определить, что сложнее — огурец или Boeing 747, как нет и способов измерить отличия в их сложности. Именно поэтому у нас до сих пор нет точных критериев интеллектуальных возможностей.

Со временем станет все труднее установить, что сложнее, и, соответственно, умнее: интеллект А или интеллект Б. Существует множество неизученных сфер мыслительной деятельности, и главным образом, это мешает нам понять, что разум не одномерен.

2.

Второе заблуждение относительно человеческого ума заключается в том, что мы убеждены, будто наш разум носит универсальный характер. Эта распространенная уверенность влияет на то, каким путем мы идем к созданию общего искусственного интеллекта (AGI), идею которого однажды провозгласили ИИ-специалисты.

Однако, если мы представляем ум как обширное пространство возможностей, нельзя говорить о состоянии общего назначения. Человеческий разум не занимает какое-то абстрактное центральное место, а вокруг него не вращаются остальные специализированные виды разума.

Скорее, человеческий интеллект представляет собой чрезвычайно специфический тип интеллекта, который миллионы лет эволюционировал для выживания нашего вида на этой планете. Если бы мы захотели расположить наш интеллект среди всех остальных возможных видов разума, он оказался бы где-нибудь в уголке — как и сам наш мир, ютящийся на краю огромной галактики.

Конечно, мы можем представить себе, а иногда и изобрести некий вид мышления, похожий по своим характеристикам на швейцарский нож. Он вроде бы и справляется со многими задачами, но не на ура.

Туда же можно отнести и техническое правило, которому должны подчиняться все вещи, вне зависимости от того, были они созданы намеренно или появились на свет естественным путем: «Невозможно оптимизировать все измерения. Можно лишь находить компромиссы. Универсальный многофункциональный аппарат не может превзойти в производительности специализированные функции».

Сознание модели «сделай все» не может работать наравне со специализированными исполнителями конкретных задач. Поскольку мы считаем свое сознание универсальным механизмом, мы верим, что познание не должно быть основано на компромиссе и что есть возможность изобрести искусственный интеллект, демонстрирующий максимальную степень эффективности во всех видах мышления.

Однако я не вижу никаких доказательств этому утверждению. Мы просто-напросто еще не создали достаточное число разновидностей сознания, которые позволили бы нам увидеть полную картину (а пока предпочитаем не рассматривать сознание животных через призму одного параметра как отдельный тип мышления с переменной амплитудой).

3.

Отчасти эта убежденность, что наше мышление носит максимально универсальный характер, проистекает из концепции универсального вычисления. Это предположение в 1950 году назвали тезисом Чёрча-Тьюринга. Он гласит, что все вычисления, удовлетворяющие определенным параметрам, являются равноценными.

Таким образом, существует универсальная для всех вычислений база. Вне зависимости от того, производится ли расчет с помощью одной машины с множеством быстрых механизмов, машиной с менее высокой производительностью или даже в биологическом мозгу — речь идет об одном и том же логическом процессе. Это, в свою очередь, означает, что мы можем имитировать любой вычислительный процесс (мышление) с помощью любой машины, которая может совершать «универсальные» вычисления.

С помощью этого принципа сторонники сингулярности обосновывают свои ожидания, будто мы сможем спроектировать работающий на кремниевой основе искусственный мозг, способный вместить в себя человеческое сознание, будто мы сможем создать искусственный интеллект, который будет мыслить так же, как человек, но в разы эффективнее. К этим надеждам следует относиться с известной долей скепсиса, поскольку в их основе лежит неправильная интерпретация тезиса Чёрча-Тьюринга.

Исходное положение этой теории гласит: «В условиях безграничной памяти и времени все вычисления равноценны». Проблема заключается в том, что в реальности ни один компьютер не обладает характеристиками бесконечной памяти или времени. Когда вы производите вычисления в реальном мире, компонент времени чрезвычайно важен, вплоть до того, что зачастую речь идет о жизни и смерти.

Да, все типы мышления равны, если исключить временной аспект. Да, можно имитировать процесс присущего человеку мышления в любой матрице, если вы решаете игнорировать время или действующие в реальности ограничения свободного пространства и памяти.

Однако если включить в это уравнение переменную времени, придется существенно изменить формулировку принципа: «Две вычислительных системы, функционирующие на радикально разных платформах, не будут производить равноценные вычисления в режиме реального времени».

Этот принцип можно переформулировать так: «Единственный метод получить равноценные способы мышления — осуществлять их на одной и той же основе. Физический носитель, на котором вы производите ваши вычисления — особенно по мере возрастания степени их сложности — существенно влияет на тип мышления в условиях реального времени».

Продолжая логическую цепочку, предположу, что единственный метод создания максимально близкого к человеческому типа мышления — это производство вычислений при помощи материи, максимально напоминающей наше серое вещество.

Значит, можно также предположить, что объемный, сложный искусственный интеллект, созданный на основе сухого кремния, будет порождать неповоротливые, сложные и не похожие на человеческий типы мышления. Если можно было бы создать искусственный интеллект, работающий на влажном веществе с использованием искусственных нейронов наподобие человеческих, мыслительный процесс такого ИИ был бы намного ближе к нашему.

Преимущества такой «влажной» системы пропорциональны близости используемых физических носителей к человеческим. Создание подобного вещества потребовало бы огромных материальных затрат, чтобы добиться уровня, хотя бы схожего с тем, что присуще нам от природы. А нового человека мы можем создать и так — стоит лишь подождать 9 месяцев.

Кроме того, как упоминалось ранее, мы думаем всем своим существом, а не одним лишь сознанием. Современная наука располагает большим количеством данных относительно того, как наша нервная система влияет на «рациональный» процесс принятия решения, предсказывает и адаптируется. Чем детальнее мы рассматриваем систему человеческого организма, тем тщательнее мы сможем впоследствии воссоздать ее. Искусственный интеллект, оперирующий на радикально отличающемся от нашего веществе (сухой кремний вместо влажного углерода), будет и мыслить по-другому.

Я не думаю, что эта особенность скорее «не баг, а фича». Как я утверждал во втором пункте этой статьи, отличия в мыслительном процессе ИИ выступают его основным преимуществом. Вот еще одна причина, почему было бы ошибочно говорить, что он «умнее, чем человеческий мозг».

Продолжение статьи: http://telegra.ph/Prevoshodstvo-II-nad-chelovekom--ehto-mif-ch-2-10-04