«Человек станет частью некоего глобального алгоритма. Часть 2»
https://telegram.me/TRONnewsОб экономическом росте
Современный мир убеждён, что экономический рост не только возможен, но и жизненно необходим. Пока население продолжает увеличиваться, экономический рост нужен хотя бы для того, чтобы поддерживать имеющийся уровень жизни. В ином случае безработица будет расти, зарплаты — падать, а социальное напряжение — нарастать.
Идея экономического роста объединяет все религии, идеологии и политические движения. И коммунисты, и капиталисты верили в создание рая на земле за счёт экономического роста, только расходились во мнении, какими методами его достичь. И если социальные структуры, природная среда обитания или традиционные ценности встают на пути роста экономики, то их сметают с дороги, не задумываясь.
Но может ли экономика расти бесконечно? Харари считает, что может, поскольку с помощью науки люди постоянно открывают новые виды энергии и материалов. В современном мире существует три вида ресурсов — сырьё, энергия и знания. Знания — ресурс неисчерпаемый. Чем больше знания используются, тем больше их становится. Благодаря знаниям человечество сможет преодолеть проблему исчерпания ресурсов.
Человечество стоит перед другой страшной угрозой — экологической катастрофой. Когда возникает тема изменения климата, то оказывается, что приверженцы экономического роста в лице президентов, министров и директоров верят, что произойдёт чудо и учёные придумают, как спасти планету. А если и не придумают, то инженеры всё равно смогут построить высокотехнологичный «ковчег», который спасёт жизнь элиты. Легкомысленная вера в спасительный «ковчег» представляет собой одну из самых больших угроз для будущего человечества и всей экосистемы.
О гуманизме
На протяжении веков люди разных культур верили, что они играют роль в некоем великом проекте, задуманном всемогущими богами или естественными законами природы. Это придавало смысл человеческой жизни и создавало психологическую защиту от несчастий. Какие бы беды ни выпадали на долю человека, он верил, что всё происходит согласно божественному плану, и если не в этой жизни, то уж после смерти человек точно обретёт счастье.
В современном мире принято считать, что жизнь не имеет сценария, директора или продюсера — и не имеет смысла. Вселенная слепа и бесцельна, события просто происходят одно за другим, и никакая высшая сила не придаёт смысла нашим страданиям. Однако человечество сумело вернуть смысл бесконечной пустоте космоса.
В последние несколько столетий распространились идеи гуманизма, согласно которым человек обладает уникальной и священной сущностью, являющейся источником смысла и значения жизни во вселенной. Гуманизм предполагает, что человек черпает смысл жизни и окружающего мира из своего опыта, из своего внутреннего «я».
Если в средневековье бог решал, что есть добро или зло, то с развитием гуманизма человек с его свободной волей стал высшим авторитетом, а человеческие чувства — критерием морали. Убийство и воровство является злом не потому, что бог велел «Не убий, не укради», а потому, что это доставляет страдания жертве и её близким.
Гуманизм видит жизнь как постепенный процесс внутреннего роста, перехода от невежества к знанию через накопление интеллектуального, эмоционального и физического опыта. Гуманистический взгляд на жизнь лёг в основу многих современных индустрий. Туристические агентства, рестораны и художественные галереи продают нам не отели, обеды или картины — они продают новый опыт.
Три течения гуманизма
Гуманизм, как любая успешная религия, постепенно разделился на конфликтующие «секты». Ортодоксальное течение делает упор на индивидуальной свободе. Чем больше свободы, тем богаче, многограннее и красивее мир вокруг нас. Выражение индивидуальной воли важнее интересов государства. Это течение получило название «либерализм».
Критики либерализма задаются вопросом: в мире много индивидов, и каждый имеет право на выражение своих чувств, и как совместить все конфликтующие чувства и желания, например, чувства несчастных беженцев в Германии и чувства немцев, беспокоящихся за сохранение своей национальной идентичности?
Другим направлением гуманизма стал социалистический гуманизм, фокусом которого является коллектив. Социалисты предлагали прекратить «погружение в себя» и задуматься: «Что чувствуют другие люди, как мои действия влияют на их опыт?»
Социалисты призывали создавать партии и профсоюзы. Если либералы считают, что избиратель на выборах или покупатель в супермаркете всегда прав, то социалисты уверены, что партия и профсоюз всегда «знают лучше», чем конкретный человек.
Третьим разветвлением гуманизма стал гуманизм эволюционный, опирающийся в своём видении мира на теорию эволюции Дарвина. С точки зрения эволюционных гуманистов, конфликты служат питательной средой для естественного отбора, который двигает развитие вперёд. Путём естественного отбора человечество будет становиться всё сильнее и здоровее, и рано или поздно родится «сверхчеловек».
А если во имя социального равенства и прав человека людям позволено «расслабиться», то это может привести к деградации и даже уничтожению человеческой расы. Харари отмечает, что отнюдь не все эволюционные гуманисты становятся нацистами — как и идеи социализма не сводятся к сталинским лагерям. Автор полагает, что идеи эволюционного гуманизма будут играть значительную роль в формировании культуры 21 века.
О либерализме
В начале 21 века либерализм с присущими ему демократией и свободным рынком преобладает во всех развитых странах и во многих развивающихся. Однако либерализм не может почивать на лаврах, так как в основании его успеха заложены предпосылки для разрушения этой идеологии.
Когда генная инженерия и искусственный интеллект полностью раскроют свой потенциал, ценности либерализма, демократии и свободного рынка могут оказаться такими же ненужными, как ножи из кремния, магнитофонные кассеты и коммунизм.
Что произойдёт, когда мы поймем, что у избирателей на выборах и покупателей в супермаркетах нет свободы выбора, когда появятся технологии, способные обмануть их чувства, и человеческий опыт станет ещё одним дизайнерским продуктом, не отличающимся от другого товара в магазине?
Обращаясь к истории, многие, наверное, думают, что падение царства фараонов и отказ от идеи о божественном происхождении мира являются событиями позитивными. Возможно, что исчезновение гуманизма тоже окажется полезным. Люди обычно боятся перемен, потому что они боятся неизвестности. Но единственное постоянство, известное истории — это то, что всё всегда меняется.
О свободе выбора
Либералы так ценят индивидуальную свободу, потому что верят, что человек обладает свободой выбора. Однако современная наука доказала, что любой поступок человека предопределён цепной реакцией биохимических процессов в организме, а вовсе не является выражением свободной воли.
Аргумент о том, что человек чувствует себя свободным и действует в соответствии со своими желаниями, тоже не выдерживает критики. Согласно научным данным, человек не свободен в выборе своих желаний — они предопределены биохимическими процессами в мозгу, которые, в свою очередь, предопределены его генетическим кодом, сформировавшимся в результате длительного эволюционного развития и случайных мутаций.
Наблюдения за активностью головного мозга показали, что выбор решения происходит на несколько секунд раньше, чем человек осознаёт сделанный им выбор.
Вывод об отсутствии свободы воли имеет не только философский смысл, но и вполне практическое применение. Если у человека нет свободы воли, значит, можно управлять его желаниями, используя наркотики, генную инженерию или прямую стимуляцию мозга. Например, учёные работают с крысами, которым имплантировали электроды в область мозга, отвечающую за чувственное восприятие.
Это позволяет учёным командовать крысами с помощью удалённого пульта управления. После некоторой тренировки исследователи научились не только заставлять крыс поворачивать направо или налево и забираться по лестнице, но и прыгать с высоты — занятие, которое «обычные» крысы терпеть не могут. Интересно, что крысы ничего не делают против воли, а наоборот, как показывают эксперименты, они чувствуют желание подниматься по лестнице и прыгать с высоты.
Харари, ссылаясь на научные эксперименты, утверждает, что, воздействуя на нужные участки мозга, можно манипулировать человеком и «избавить» его от таких чувств, как страх, гнев, любовь, от депрессии. Когда подобное воздействие станет рутиной, можно будет, например, избавиться от такой проблемы, как лень. Ты хочешь стать пианистом, но вместо занятий предпочитаешь смотреть телевизор? Ничего страшного. Надень специальный шлем, загрузи программное обеспечение — и вот ты уже сидишь за пианино.
В 21 веке мы столкнёмся с потоком «умных» устройств, которые полностью игнорируют понятие свободной воли человека. Смогут ли демократия, свободный рынок и права человека пережить этот поток?
О роли человека в будущем мире
Харари предполагает, что в будущем люди перестанут рассматриваться в качестве рабочей и военной силы, соответственно, они потеряют свою ценность в будущей политике и экономике. Войны буду вестись дронами и роботами, управляемыми «умным» алгоритмом, а кибератака на инфраструктуру «врага» причинит больше вреда, чем любая армия старого образца.
Люди потеряют свою экономическую ценность, потому что интеллект «отделится» от сознания. До недавнего времени было принято считать, что только сознательные существа способны выполнять высокоинтеллектуальные задачи. Однако развитие кибернетики и компьютерных технологий говорит об обратном: выполнение сложных заданий точно требует высокого интеллекта, а наличия сознания — необязательно.
Харари на разнообразных и остроумных примерах объясняет, почему со временем целый ряд профессий (шоферы, транспортные диспетчеры, финансовые брокеры, фармацевты, юристы, преподаватели и врачи) окажется ненужным.
Например, первостепенная задача врача — поставить правильный диагноз и назначить лечение. «Живой» врач способен обработать ограниченный объём информации, он устаёт, и у него мало времени на общение с больным. В отличие от врача, искусственный интеллект никогда не устаёт, может работать 24 часа в сутки и способен быстро обработать полную информацию об истории болезни больного и его генотипе, истории болезней его родственников, проанализировать всю имеющуюся в мире и ежедневно обновляемую информацию о болезнях и способах их лечения.
В результате компьютер быстро поставит точный диагноз и назначит самое оптимальное лечение. Более того, такой искусственный интеллект, наблюдая за давлением, активностью мозга и другими биометрическими данными своего пациента, сможет гораздо лучше доктора, прочувствовать настроение и состояние пациента и разговаривать с ним как раз таким тоном и голосом, который лучше всего отвечает эмоциональному настрою пациента.
Об алгоритмах
По мнению Харари, человек представляет собой совокупность органических алгоритмов, отшлифованных естественным отбором на протяжении миллионов лет. Алгоритмические вычисления не зависят от материала, из которого сделан калькулятор. Поэтому, считает Харари, нет оснований думать, что неорганический алгоритм не сумеет достичь или превзойти уровень задач, выполняемых органическим алгоритмом.
Благодаря мощным вычислительным возможностям компьютеров очень небольшое число сотрудников Uber управляют миллионами водителей. А в 2014 году искусственный интеллект по имени Vital стал членом совета директоров гонконгского фонда венчурного капитала, инвестирующего в фирмы, занимающиеся регенеративной медициной. Как и остальные пять членов совета директоров, Vital участвует в голосовании по всем инвестиционным решениям.
Но откуда берутся эти мощные алгоритмы? Если изначально алгоритм являлся продуктом коллективных усилий команды программистов, то постепенно, считает Харари, с появлением самообучающихся машин и искусственных нейронных сетей алгоритмы будут развиваться независимо от человека, обучаясь на своих ошибках и совершенствуя свои способности. Они достигнут таких высот, что человеческий разум уже не сможет их постичь.
По мере того, как алгоритмы будут «выдавливать» людей из рынка труда, богатство и власть сосредоточатся в руках крохотной элиты, владеющей этими всемогущими алгоритмами, создавая неслыханное социальное и политическое неравенство. Более того, алгоритмы смогут сами стать собственниками.
Мы давно свыклись с такими абстрактными понятиями, как корпорация или государство, нас не удивляет, что Toyota или Аргентина, не имея ни физического тела, ни разума, является субъектом права, владеет землёй и деньгами. Почему тогда не представить себе, что аналогичный статус будет предоставлен алгоритму?
Об утрате индивидуальности
Угрозу либерализму Харари видит в том, что человек в будущем утратит свою индивидуальность, поскольку «всемирная сеть» будет знать и понимать людей лучше, чем они понимают себя сами, и, соответственно, принимать за них все важные решения.
Если мы предоставим Google свободный доступ к информации, считываемой с наших биометрических устройств, к нашим историям болезни, тестам ДНК; если компания будет знать, что происходит с нашими банковскими счетами, какой у нас уровень сахара в крови и как часто мы занимаемся сексом, то он будет знать о нас больше, чем знаем мы сами. И мы будем доверчиво советоваться с Google, какой фильм посмотреть, какую профессию выбрать, чьё предложение о работе принять и за кого выйти замуж или жениться.
В обмен на такие всеобъемлющие консультации мы «всего-навсего» должны будем отказаться от идеи, что каждый человек индивидуален и свободен принимать собственные решения. Нам нужно будет свыкнуться с мыслью, что человек более не является автономной сущностью, а представляет собой частичку огромной глобальной сети.
Уже сейчас исследование показало, что алгоритм Facebook лучше разбирается в особенностях личности и характера пользователей, чем их друзья, супруги и родители.
На заре европейского империализма купцы и колонизаторы приобретали острова и страны в обмен на разноцветные бусы. В 21 веке личная информация является, пожалуй, самым дорогим ресурсом, который ещё остался у человечества, а мы её добровольно отдаём гигантам интернета в обмен на видео с котиками.
О «сверхчеловеке»
Харари предполагает, что человечество может оказаться разделённым на биологические касты. К элитной касте будут принадлежать «сверхлюди», обладающие неслыханным здоровьем, долголетием, умом и творческими способностями, которые позволят им принимать все важнейшие решения в мире.
И будет низшая каста, состоящая из всего остального человечества, находящегося в подчинении у алгоритмов и элит. Поскольку «народные массы» потеряют свою экономическую и политическую значимость, то элиты могут, например, решить, что не стоит тратить время и средства на медицинское обслуживание бедных и ненужных людей, а лучше продолжать заниматься усовершенствованием элит.
Элиты расстанутся со своими либеральными корнями и будут обращаться с обычными смертными не лучше, чем мы обращаемся с животными.
О новой религии
На смену либерализму придёт новая религия, которая объявит, что вселенная состоит из потока данных, и ценность любого явления или сущности определяется вкладом в обработку данных. Харари называет её «датаизм» (dataism). Датаизм прочнее всего связан с двумя дисциплинами — кибернетикой и биологией.
Датаисты уверены, что любой организм, будь то жираф, помидор или человек, является инструментом обработки информации. И экономисты теперь воспринимают экономику как систему обработки данных. Политологи тоже всё чаще смотрят на демократии и диктатуры как на конкурирующие механизмы сбора и анализа информации.
Харари считает, что современные демократические структуры не в состоянии быстро собирать и обрабатывать информацию, поэтому они теряют контроль над ситуацией и не могут предложить осмысленную картину будущего. То же самое происходит и с авторитарными режимами.
Однако вакуум власти, как правило, заполняется быстро. Вопрос в том, какие структуры придут на смену привычным демократическим или авторитарным политическим институтам и кто будет их контролировать?
Если рассматривать человечество как единую систему обработки информации, то результатом работы этой системы будет ещё более эффективная система под названием «Интернет всех вещей». Основная заповедь датаизма — всё должно быть связано со всем. Человеческие организмы и автомобили на улице, и куры в курятнике, и деревья в джунглях — все должны быть подсоединены к «Интернету всех вещей».
Со времён французской революции датаизм — первое движение, провозгласившее истинно новую ценность — свободу информации. Почему американцы здоровее, богаче и счастливее иранцев или нигерийцев? Потому что в Америке больше свободы информации, считают датаисты. Свободный обмен информацией может, например, сократить вредные выбросы в атмосферу путём рационализации транспортной системы.
Зачем человеку собственный автомобиль, когда, как правило, он им пользуется пару часов в сутки? Гораздо разумнее создать пул «умных» машин, управляемых алгоритмом, которые будут подаваться в точно заданное время и место и отвозить, куда нужно.
В этом случае пул из 50 млн машин сможет заменить миллиард частных автомобилей, соответственно, сократится потребность в дорогах, мостах, туннелях и парковочных местах. При этом, правда, придётся отказаться от права на частную жизнь и постоянно сообщать алгоритму о своём местонахождении.
Людям нравится быть частью потока информации, потому что тогда человек чувствует принадлежность к чему-то великому. Датаизм проповедует, что каждое твоё слово и действие являются частью глобального потока информации, а алгоритмы за тобой наблюдают и заботятся о тебе. Какой смысл совершать поступки или приобретать новый опыт, если об этом никто не знает?
Если гуманизм призывал находить смысл жизни внутри нас, то датаизм верит, что наш опыт ничего не значит, если им не поделиться с «друзьями» в онлайне. Помещая комментарии, блоги и фотографии в интернет, мы обогащаем глобальную систему обработки информации, и в этом главная ценность человека.
Так же, как гуманизм в своё время развенчал идею бога, заявив, что бог — плод воображения человека, датаизм положит конец идее о ценности человека. Новая философия перевернёт представление о бытие человека: расскажет, что воображение — не что иное, как биохимический поток алгоритмов.
Что произойдёт с человеком, когда датаизм и «Интернет всех вещей» охватят весь мир? Харари полагает, что роль человека будет сначала сведена до микросхемы, потом до бита информации, и в конце концов мы «растворимся в потоке информации, как комок земли в бушующем речном потоке». Иными словами, человек может исчезнуть, как исчезали до него другие животные, не выдержавшие естественного отбора.
Заключение
Прочитав Homo Deus, мы успешно расширили свои представления о религии, душе, сознании и разуме, свободе выбора (или её отсутствии), гуманизме и либеральной демократии. Харари сумел логично и убедительно связать прошлое и настоящее человечества и подвести читателя к границе с будущим.
И вот здесь Харари позволил своему воображению разыграться, нарисовав разноплановые, нечёткие, иногда противоречивые и всегда нерадостные картинки недалёкого будущего. По мысли автора, человечество либо окажется во власти всемогущих алгоритмов, либо само «растворится» в потоке информации, став её частицей, либо превратится в «лишних» людей, подталкиваемых к вымиранию узкой элитой, состоящей из «сверхлюдей».
При любом сценарии развития нашего будущего Харари убеждён, что генетики, биологи и кибернетики научатся со временем переписывать наши генетические коды, перенастраивать схему работы мозга, изменять биохимический баланс в организме, создавать искусственные органы и неорганический искусственный интеллект.
На протяжении веков, несмотря на многочисленные революционные изменения в науке и технологиях, человеческая природа оставалась неизменной. Поэтому мы до сих пор учимся у Конфуция, сопереживаем героям Софокла, Еврипида и Шекспира.
Однако как только наука научится перестраивать человеческий разум и психику, знакомый нам человек разумный исчезнет, и начнётся новое бытие, понять и предугадать которое пока никому не дано. По мнению Харари, наши потомки будут отличаться от нас настолько же, насколько человек разумный отличается от неандертальца.
Если читатель обеспокоен такими перспективами, Харари спешит успокоить. Он обращает наше внимание на парадоксальный факт: накопление и обработка информации происходят всё быстрее, однако наше понимание общей картины мира и способность делать прогнозы только уменьшаются.
Поэтому Харари не пытается предсказать наше будущее, а приглашает читателя подумать над сегодняшними тенденциями и обсудить, пока не поздно, варианты выбора, стоящего перед человечеством.