Часть 1. AI-революция: Путь к суперинтеллекту

Часть 1. AI-революция: Путь к суперинтеллекту


Мы на пороге изменений, сравнимых с расцветом человечества на Земле, — Вернор Виндж

Как вы себя чувствуете, стоя здесь?

Edge1


Кажется, что это довольно напряжённое место, пока не вспомнишь, что значит стоять на временной шкале на самом деле: ты не можешь видеть ничего, что справа от тебя. Так что в реальности вот, как ощущается стоять на этом месте:

Edge12


И, в принципе, это ощущение нормальности...

Далёкое будущее — в ближайшее время

Представьте, что вы переместились на машине времени назад в 1750-е — время, когда мир находился в состоянии перманентного отсутствия электричества, общение на длинные расстояния значило либо громкий крик, либо пушечный выстрел в воздух, а транспорт работал на сене. Прибываете в это время, берёте первого попавшегося паренька, переносите в 2015, показываете наше время и смотрите, как он на всё реагирует. Нам просто невозможно понять, каково ему будет увидеть блестящие капсулы, гоняющие по хайвэю, разговаривать с людьми, которые ещё утром находились на другой стороне океана, слушать концерт, записанный ещё 50 лет назад, и играть с волшебным прямоугольником, с помощью которого можно сделать фото или записать видео, отобразить карту с паранормально двигающейся голубой точкой, которая показывает, где ты сейчас находишься. И всё это ещё до того, как вы покажете ему интернет и объясните такие вещи, как Международная космическая станция, Большой адронный коллайдер, атомное оружие или теория относительности.

Этот опыт не станет для него удивительным или шокирующим, или даже «выносящим мозг» — эти слова слишком слабы. Вероятно, он просто умрёт.

Но вот что интересно. Если он вернётся назад в 1750 год и позавидует тому, что мы видели вот эту его реакцию, то он тоже захочет построить машину времени, вернётся назад на ту же дистанцию, вытащит кого-нибудь из 1500 года, доставит в 1750-й и всё ему покажет. И парень из 1500-го будет шокирован очень многими вещами, но не умрёт. Это будет куда менее безумный опыт для него, потому что хотя 1500 и 1750-й годы были очень разными, но разница между ними гораздо меньше, чем между 1750 и 2015-м. Парнишка из 1500-го узнает немного галлюциногенного бреда о космосе и физике, впечатлится, насколько идейной станет Европа с этим новым империалистическим пунктиком, но основные изменения коснутся его в области картографической концепции мира. Но наблюдение за бытовой жизнью в 1750-м — перевозки, коммуникация и т. д. — точно не убьёт его.

Нет, чтобы парнишка из 1750-го смог так же повеселиться, как мы с вами, ему пришлось бы вернуться куда раньше во времени — может быть, прямо к 12 000 году до н. э., ещё до Неолитической аграрной революции, которая дала жизнь первым городам и цивилизационной концепции. Если кто-то из мира охотников и собирателей — периода, когда человек был, в той или иной степенни, только разновидностью среди животных — увидит громадные империи 1750 года с их башнями, кораблями, бороздящими океаны и их безграничные горы коллективного, аккумулированного человеческого знания и открытий, тогда он, вероятно, умрёт.

А вот парню из 12 000 года до н. э., чтобы настолько впечатлить кого-то, придётся отправиться ещё на 100 000 лет назад и найти того, кому он сможет показать огонь и человеческую речь.

Чтобы перенести кого-то в будущее и поразить до смерти, нужно отправиться достаточно далеко в прошлое, чтобы достичь Единицы Смертельного Прогресса (ЕСП). Итак, ЕСП достигается за 100 000 лет в период охоты и собирательства, но в пост-аграрнореволюционную эпоху достаточно уже 12 000 лет. А в пост-индустриальное время мир начал двигаться так быстро, что парню из 1750-го нужно переместиться всего на пару сотен лет вперёд, что достичь ЕСП.

Эту модель — ускорение человеческого прогресса с течением времени — футурист Рэй Курцвейл называет Законом ускоряющейся отдачи. Так происходит, потому что более продвинутое общество способно двигаться в ускоренном темпе по сравнению с менее продвинутым обществом. Человечество 19-го века знало больше и было более технологичным, чем человечество 15-го века, поэтому неудивительно, что человечество сделало куда больше открытий в 19-м веке, чем в 15-м.

Этот принцип работает и в масштабах поменьше. Фильм «Назад в будущее» вышел в 1985 году, «прошлое» по сценарию происходило в 1955-м. Когда Майкл Дж. Фокс вернулся в 1955, его застигли врасплох необычность телевидения, цены на содовую, отсутствие любви к электрогитарам и совсем другой сленг. Это был совсем другой мир, правда, но если бы фильм сняли сегодня и герой вернулся в прошлое в 1985 год, разница была бы значительно большей. Персонаж попал бы во время до ПК, интернета, смартфонов — сегодняшний Марти Макфлай, тинейджер, родившийся в конце 90-х, почувствовал бы себя куда больше не в своей тарелке в 1985 году, чем знакомый нам Марти чувствовал себя в 1955-м.

И виной тому та же причина, которую мы только что обсудили — Закон ускоряющейся отдачи. Средний уровень совершенствования между 1985 и 2015 годами значительно выше, чем между 1955 и 1985, потому что в последние 30 лет произошло куда больше изменений, чем в предыдущие 30 лет.

Итак, «апгрейд» во всех сферах происходит всё чаще и быстрее. Это предполагает кое-что крутое в нашем недалёком будущем, да?

Курцвейл предполагает, что прогресс всего 20-го века можно было бы достичь лишь за 20 лет при уровне развития 2000 года — другими словами, к 2000-му году прогресс был в пять раз быстрее среднего уровня прогресса 20-го века. Он также считает, что в следующий раз объём общего прогресса прошлого века был достигнут в период с 2000 по 2014 год, а следующий произойдёт до 2021, то есть всего за семь лет. Именно согласно Закону ускоряющейся отдачи, как полагает Курцвейл, 21-й век достигнет в тысячу раз большей скорости развития предыдущего века.

Если Курцвейл и согласные с ним правы, то 2030 год «снесёт нам головы» так же, как это произошло с парнем из 1750 года в 2015. Например, следующего ЕСП можно будет достичь всего за несколько десятков лет и мир 2050 года будет настолько отличаться от сегодняшнего, что мы едва сможем его узнать.

Это не научная фантастика. Это то, во что верят многие учёные, которые умнее и образованнее вас или меня, и если вы посмотрите на историю, это именно логичный прогноз развития.

Так почему, когда вы слышите от меня что-то вроде «через 35 лет с сегодняшнего дня мир станет абсолютно неузнаваем», вы думаете: «Круто... но нееееет»? Вот три причины, по которым мы скептично относимся к самым диковинным прогнозам будущего:

1. Когда речь идёт об истории, мы представляем ровные линии. Когда мы представляем прогресс следующих 30 лет, то оглядываемся на прогресс предыдущих 30 лет в качестве индикатора того, что наиболее вероятно произойдёт. Когда мы размышляем о степени изменения мира в 21 веке, то всего-лишь берём прогресс 20-го века и прибавляем к 2000 году. Это та же ошибка, которую сделал наш парень из 1750 года, когда перенёс в будущее кого-то из 1500 года и ожидал шокировать его до смерти так же, как сам был шокирован на таком же расстоянии в будущем. Интуитивно понятный для нас способ мышления — линейный, а должен быть экспоненциальным. Чтобы делать прогнозы о будущем на следующие 30 лет, нужно не смотреть на предыдущие 30 лет, а оценить текущий уровень прогресса и делать предположения на этом основании. Прогнозы были бы более точными, но всё равно далеки от правды. Чтобы правильно размышлять о будущем, нужно уметь представлять развитие ещё быстрее, чем оно происходит сейчас.

Projections1


2. Самый близкий к нам период истории часто искажён в нашем сознании. Во-первых, даже крутая экспоненциальная кривая кажется прямой, когда вы смотрите на её крошечный кусочек, точно так же, как огромная окружность кажется прямой, если рассматривать только небольшой её участок с близкого расстояния. Во-вторых, экспоненциальный рост не бывает абсолютно гладким и однородным. Курцвейл объясняет, что прогресс происходит в виде S-кривых:

S-Curves2


S создаётся волной прогресса, во время которой новая парадигма сметает всё перед собой. Кривая проходит три фазы:

  • Медленный рост (ранняя фаза экспоненциального роста)
  • Стремительный рост (поздняя, взрывная фаза экспоненциального роста)
  • Нивелирование, когда конкретная парадигма достигает зрелости

Если вы посмотрите на ближайшую историю, кусочек S-кривой, на котором вы сейчас находитесь, может перевернуть ваше восприятие того, насколько быстро двигается время. Между 1995 и 2007 годом произошёл взрыв интернета, внедрение Microsoft, Google и Facebook в общественное сознание, рождение социального нетворкинга, трансформация мобильных телефонов в смартфоны. Это была Фаза 2: стремительный рост. А вот с 2008 по 2015 рост замедлился, по крайней мере, в технологической части. Некоторые думают, что сегодня как раз время прогнозировать будущее и оценивать текущий темп прогресса, но они не видят всей картины. На самом деле, новая, большая Фаза 2 экспрессивного роста начинается именно сейчас.

3. Наш собственный опыт превращает нас в упрямых стариков в вопросах будущего. Мы базируем наши идеи о мире на личном опыте, и этот опыт укоренил в наших головах темпы роста недавнего прошлого в качестве мысли «именно так всё и происходит». Мы также ограничены воображением, которое использует наш опыт, чтобы создавать прогнозы о будущем, хотя часто то, что нам знакомо, просто не способно дать возможность представить будущее. Если мы слышим предсказание, которое идёт вразрез с нашим ощущением, которое базируется на собственном опыте, оно кажется нам наивным. Если я скажу вам дальше в статье, что вы проживёте 150 или 200 лет или вообще никогда не умрёте, инстинктивно подумаете: «Это глупо: если чему-то меня и научила история, так это то, что все умирают». И да, в прошлом все умерли. Но никто и не летал на самолётах до тех пор, пока их не изобрели.

Поэтому пока вам кажется, что «нееееет» — это правильный ответ, на самом деле это не так. Факт в том, что когда более совершенные виды на планете делают всё большие и большие прыжки вперёд, однажды они сделают настолько большой прыжок, что их жизнь и понимание собственной сущности кардинально изменятся. Если вы потратите немного времени, чтобы почитать о том, что происходит с современной наукой и технологиями, то увидите множество признаков перемен в сравнении с нашей обычной жизнью.

Дорога к суперинтеллекту

Что такое ИИ?

Вы могли думать, что Искусственный Интеллект — это глупый научно-фантастический концепт, но потом начали слышать эту фразу из уст серьёзных людей, хотя до конца не поняли её сути.

Есть три причины, почему большинство людей смущает термин ИИ:

  1. Мы ассоциируем ИИ с фильмами. Звёздные войны. Терминатор. 2001: Космическая Одиссея. Даже «Джетсоны». Всё это фантастика, как и персонажи роботов. Поэтому ИИ звучит для нас фантастично.
  2. ИИ — это обширная тема. Она охватывает всё от калькулятора в вашем телефоне и машин с автопилотом до чего-то в будущем, что может кардинально изменить мир. ИИ относится ко всем этим вещам, что и смущает.
  3. Мы используем ИИ всё время в повседневной жизни, но часто даже не осознаём это. Джон МакКарти, который придумал понятие «Искусственный Интеллект» в 1956 году, жаловался, что «как только он заработает, никто больше не будет называть его так». Из-за этого феномена ИИ чаще звучит, как мифическое предсказание будущего, чем реальность. Одновременно он заставляет ИИ звучать, как поп-концерт из прошлого, который никогда не осуществится.

Давайте проясним ситуацию. Во-первых, перестаньте думать о роботах. Робот — это оболочка для ИИ: иногда она мимикрирует под человеческую форму, иногда нет, но сам по себе ИИ — это компьютер внутри робота.

Во-вторых, вы, наверное, слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используют в математике, чтобы описать ситуации, схожие с асимптотой, когда обычные правила больше не действуют. Его используют в физике, чтобы описать бесконечно маленькую, плотную чёрную дыру или точку, в которой нас расплющило прямо перед Большим Взрывом. Вот пример ситуации, к которой неприменимы обычные правила. В 1993 году Вернор Виндж написал знаменитое эссе, в котором применил термин к моменту в будущем, когда интеллект технологий превысил наш собственный — он описал этот момент как такой, который навсегда изменит жизнь и привычные правила станут неприменимы. Рэй Курцвейл затем привнёс немного путаницы, описав сингулярность, как время, когда Закон ускоряющейся отдачи достигнет такого экстремального темпа, что технологический прогресс станет беспрерывным.

Итак, поскольку существует множество форм ИИ, который является широким понятием, есть критические категории, которые базируются на масштабах ИИ. Существуют три основных масштаба:

Узкий Искусственный Интеллект (УИИ): иногда ему дают определение «слабый», область ИИ, которая специализируется на одной сфере. Существует ИИ, который способен победить чемпиона по шахматам, но это единственное, что он умеет. Попросите его придумать лучший способ хранения данных на жёстком диске и он посмотрит на вас безучастно.

Общий Искусственный Интеллект (ОИИ): иногда ему дают определение «сильный» или «ИИ уровня человека», это компьютер, который умён в равной степени с человеком и может решить любую интеллектуальную задачу, доступную для человеческого мозга. Создание ОИИ — задача куда сложнее, чем создание УИИ, и нам только предстоит это сделать. Профессор Линда Готтфредсон описывает интеллект, как «очень общую умственную способность, которая, среди прочего, даёт возможность рассуждать, планировать, решить проблемы, мыслить абстрактно, придумывать сложные идеи, быстро обучаться и пользоваться опытом». ОИИ сможет делать все эти вещи так же просто, как и вы.

Искусственный Суперинтеллект (ИСИ): оксфордский философ и лидирующий ИИ-мыслитель Ник Бостром объясняет суперинтеллект, как «интеллект, который значительно умнее лучшего человеческого мозга практически во всех сферах, включая научную креативность, общую разумность и социальные навыки». Искусственный Суперинтеллект может варьироваться от компьютера, который всего лишь чуть-чуть умнее человека, до такого, который разумнее в триллионы раз. ИСИ — это причина, по которой тема ИИ не уходит из голов учёных и по которой слова «бессмертие» и «вымирание» никогда не покинут текстов на эту тему.

Пока что людям удалось покорить низший масштаб — УИИ — он окружает нас повсюду. ИИ-революция — это дорога от УИИ, через ОИИ, к ИСИ — дорога, которую мы можем пережить или нет, но, в любом случае, в корне всё изменим.

Давайте узнаем, что думают лучшие умы в этой области о том, как выглядит эта дорога и почему эта революция случится раньше, чем вы думаете.

Что происходит сейчас — Мир, который живёт на УИИ

Узкий Искусственный Интеллект — это машинный интеллект, который равняется или превышает человеческий интеллект или способности в определённой области. Несколько примеров:

  • Машины напичканы УИИ-системами: от компьютера, который знает, когда включить антиблокировочную систему, до компьютера, который замеряет параметры системы управления впрыском топлива. Самоуправляемая машина Google, которая проходит сейчас тестирование, будет управляться именно УИИ-системами: они дадут им возможность воспринимать и реагировать на окружающий мир.
  • Ваш телефон — это маленькая УИИ-фабрика. Когда вы используете приложение карты, получаете персонализированные рекомендации от музыкального приложения, проверяете погоду, общаетесь с Siri или делаете сотню других ежедневных активностей, вы используете именно УИИ.
  • Спам-фильтр в электронной почте — это классический тип УИИ — он начинает работать с предустановленным интеллектом, чтобы определить, что является спамом, а затем он обучается, персонализируется под вас, согласно вашим ежедневным действиям.
  • Есть ещё такая жуткая штука, которая случается, когда вы ищете вещь на Amazon и затем на другом сайтевстречаете её в разделе «рекомендованное вам», или когда Фейсбук каким-то образом знает, кого вам стоит добавить в друзья. Это сеть УИИ-систем, которые работают вместе, информируют друг друга о том, кто вы и что вам нравится, а потом, используя эту информацию, решают, что вам показывать.
  • Google Переводчик — это ещё одна классическая УИИ-система, которая невероятно хороша в одной конкретной задаче. А вот распознавание голоса — это целая куча разных приложений, которые используют две УИИ-системы и позволяют вам говорить предложение на одном языке, а телефону — выдавать его же на другом.
  • Когда приземляется ваш самолёт, не человек решает, на какой полосе ему это сделать. Также, как и не человек решает, сколько будет стоить ваш билет.
  • Лучшие игроки мира в шашки, шахматы, Скраббл, нарды — всё это УИИ-системы.
  • Поиск Google — это один большой УИИ-мозг с доведёнными до совершенства методами ранжирования страниц и определения, что показывать в каждом конкретном случае. То же самое происходит в новостной ленте Фейсбука.
  • Так же идут дела в мире потребителей. Совершенные УИИ-системы широко используются в различных рыночных секторах и отраслях: в военном, производственном, финансовом (на долю алгоритмических высокочастотных ИИ-трейдеров приходится больше половины ценных бумаг, которые находятся в обороте на рынке США). Используются и в профессиональных системах, как те, которые помогают докторам ставить диагнозы, и, самый известный, суперкомпьютер IBM Watson, который знал достаточно фактов, чтобы разгромно победить чемпионов интеллектуальной игры Jeopardy.

УИИ-системы в современном виде не представляют опасности. В худшем случае, «глюкнутый» или плохо запрограммированный УИИ может привести к глобальной катастрофе, например, отключение энергосистемы, в результате чего могут взорваться АЭС, или вызвать финансовые катастрофы (как «2010 Flash Crash», когда программа неправильно отреагировала на неожиданную ситуацию и стала причиной резкого пике фондового рынка, что привело к потере триллиона долларов, вернуть из которых удалось только часть, когда ошибка была исправлена).

Но, пока у ИИ нет возможности причинить вред существованию, мы увидим быстрорастущую и сложную экосистему относительно безвредных УИИ, которые станут признаком надвигающегося урагана изменения мира. Каждая УИИ-инновация добавляет ещё один кирпичик в дорогу к Суперинтеллекту. Или, как это видит Аарон Саенз (автор журнала «Хаб Сингулярности»), наш мир УИИ-систем «подобен первым аминокислотам в первобытном иле начала мира».

Продолжение: https://goo.gl/JoerG8

Источник: http://kolokol.od.ua/ai-revolyutsiya-put-k-superintellektu-chast-1/