Как роботы (не) сделают нас бесполезными: часть 1

Как роботы (не) сделают нас бесполезными: часть 1

V.

Два основных источника, на которых основан этот рассказ - замечательная обзорная статья Ростислава Капелюшникова "Технологический прогресс - пожиратель рабочих мест?" (опубликовано в "Вопросах экономики" в № 11 за 2017 год) и на обзоре литературы в статье "The Race Between Machine and Man: Implications of Technology for Growth, Factor Shares and Employment" Дэйрона Аджемоглу и Паскуаля Растрепо (http://www.nber.org/papers/w22252). Впрочем, наш рассказ не сводится к пересказу двух этих блестящих работ: используется немало других материалов.


1. Пару лет назад Хал Вэриан (кое-кто из читающих эти строки наверняка сталкивался с его знаменитым учебником микроэкономики), главный экономист корпорации Гугл, сформулировал своё знаменитое Varian Rule. Правило гласит: "простой способ предсказать будущее - взглянуть на богатых людей сегодня; средний класс будет иметь примерно то же, что имеют они, через 10 лет, а бедные - ещё через десятилетие". 

И действительно, десять лет назад смартфон был практически предметом роскоши; сегодня он превратился в обычный телефон, который найдётся в кармане у каждого первого пассажира московского метро. Двадцать лет назад высокоскоростной интернет могли позволить себе только очень богатые люди; сегодня он доступен людям среднего достатка. Наверное, вы и сами сможете найти немало подобных примеров в окружающей нас жизни. 

С другой стороны, даже в США, оплоте технического прогресса, бедные сегодня не живут в таких же домах, в которых богатые жили 20 лет назад. Напротив, бедные живут примерно там же, где они жили в 1998 году, и то же справедливо для богатых и среднего класса. Бедняки в США сегодня питаются примерно так же, как и в 1998, почти так же редко летают на самолётах, пользуются всё теми же отвратительными по качеству услугами Амтрака (государственная железнодорожная компания). Бедные жители США не всегда (а точнее сказать - редко) могут воспользоваться теми последними достижениями медицинской науки, которые открыты для людей обеспеченных. 

Но прогресс не только делает нашу жизнь лучше - он заставляет нас бояться. Что если новые технологии - роботы, нейросети и прочие - сделают нас самих бесполезными, уничтожат наши рабочие места и обрекут нас на вечную безработицу? 

Вот что пишет израильский историк Юваль Ной Харари в своей нашумевшей книге "Sapiens: краткая история человечества": "Искусственный интеллект приведёт "к возникновению массивного нового неработающего класса... бесполезного класса, который будет не просто незанятым, но который будет и неспособен быть занятым". Ему вторит американский IT-специалист Мартин Форд в своём нашумевшем бестселлере "Rise of the robots": "В прошлом машины всегда были орудиями в руках людей, но сейчас они начинают вытеснять и замещать всё больше работников".

Если верить исследованию, проведённому на базе Оксфордского университета Карлом Фреем и Майклом Осборном, в стране-лидере технического прогресса - в США - к 2033 году могло исчезнуть 47 % рабочих мест могли исчезнуть под натиском автоматизации. Мировой банк подсчитал, что для Китая такая пропорция составляет целых 77 %. Международная организация труда считает, что даже в таких странах, как Камбоджа, Индонезия, Филиппины, Вьетнам и Таиланд 56 % работников находятся под риском автоматизации. Отношение числа занятых к общему числу жителей в работоспособном возрасте в США и Западной Европе за последние десять лет резко упала, и доля труда в национальном доходе упала (см., например, "The Global Decline in Labor Share", 2014, Karabarbounis, Neiman).

Компания МакКинси в своём докладе утверждает: "согласно нашему исследованию, 45 % всей оплачиваемой деятельности США может быть автоматизирована с использованием уже существующих технологий. В США эта деятельность оплачивается двумя триллионами долларов в год. Хотя часто думают, что автоматизация в основном влияет на низкоквалифицированных малооплачиваемых работников, мы показываем, что даже самые высокооплачиваемые профессии, такие как профессии финансистов, докторов и даже генеральных директоров, могут быть частично автоматизированы".

Машины заменяют кассиров в магазинах, курьеров на улицах, рабочих у станков, шофёров за рулём и так далее. Новости приходят со всех сторон. В Швеции создан робот-доильщик, позволяющий коровам самим выбирать время дойки. В Австралии разработан робот, способный укладывать 1000 кирпичей в час. IBM пытается создать машину, способную определять злокачественные опухоли на снимках лучше професиональных онкологов. Международное энергетическое агентство рапортует, что автоматизация грузовых автомобильных перевозок уничтожит 3,5 млн рабочих мест только в США. Foxconn обещает уволить в ближайшее время пол-миллиона сборщиков электроники. Киоски с сенсорными экранами заменяют живых работников в Макдональдсе. Большинство американцев, если верить опросам, согласны, что в скором времени машины займут две трети ныне существующих рабочих мест (при этом, что забавно, 80 % уверены, что их самих автоматизация не коснётся).

Новые технологии начинают завоёвывать области, где их, кажется, никто не ожидал. Выдающийся математик русского происхождения Владимир Воеводский создаёт формальный язык, позволяющий проверять верность математических доказательств. Самообучающиееся нейросети начинают понемногу вытеснять программистов - революция вычислительных технологий грозит, как и положено приличной революции, начать пожирать собственных детей.

Неужели нас действительно заменят роботы, нейросети, 3D - принтеры и прочие новинки так называемой "Четвёртой промышленной революции"? Что нам останется делать в прекрасном новом мире, если потребность в нас с вами исчезнет?

Мы попытаемся понять, какое будущее ожидает человечество. Правда ли, что нас ожидает невиданный технологический бум, который сделает сотни миллионов людей ненужными для экономики? Или всё это страшилки и мы живём накануне многолетней стагнации? Что делают новые технологии в первую очередь - создают или уничтожают рабочие места? Почему и как? 

Будем разбираться вместе. 


2. Разговоры о том, что новые технологии убьют все рабочие места и навсегда оставят сотни миллионов безработными, среди специалистов обычно воспринимаются с большой долей скепсиса. И это неудивительно - подобные разговоры идут уже много лет, но предсказания пока отказываются сбываться. 

Если верить Светонию, ещё император Веспасиан запретил новый механизм, способный частично механизировать перевозку грузов, со словами "вы должны позволить моим бедным перевозчикам зарабатывать свой хлеб". Английский пастор Уильям Ли в XVI веке ходатайствовал у королевы Елизаветы Великой выдать ему патент на новую прялку, позволяющую повысить производительность труда пряхи в несколько раз; королева отказалась, заявив, что не готова обрекать на голодную смерть тысячи своих подданных. (Через два века практически идентичная конструкция прялки под именем "Дженни" стала одним из главных изобретений Промышленной революции). Нельзя не вспомнить о знаменитых "луддитах" - последователях полумифического рабочего Лудда, разбивавших машины в Англии начала XIX века - дело заключалось не в простом хулиганстве, а в том, что машины отнимали у них работу. Одно время британское правительство было вынуждено задействовать против луддитов больше войск, чем против Наполеона на Пиренейском полуострове. 

Бей - не жалей!

О том, что технический прогресс ведёт к обнищанию рабочих и замене "хороших" рабочих мест на "плохие", писал не только Карл Маркс (сделав тезис об "абсолютном и относительном обнищании пролетариата" по мере развёртывания технического прогресса краеугольным камнем своей теории), но и Дэвид Рикардо, один из основателей классической экономической теории. (Удивляться не стоит: сам Маркс считал себя наследником идей Смита и Рикардо). 

Новая волна разговоров о "вечной" технологической безработице развернулась в начале 1930-х гг. С одной стороны, в 1920-е гг. в развитых странах мира (в первую очередь в лидерах - США и Великобритании) имел место быстрый технический прогресс. Массовая перестройка фабрик, замена паровой энергии на электрическую; массовая автомобилизация; теплоходы, радио, железобетон, синтетические материалы - производительность труда быстро росла. Неудивительно, что 1920-е гг. известны как "ревущие двадцатые". Вслед за "рёвом" пришла Великая депрессия, а с ней - массовая безработица. Многие поверили, что мир движется к вечной безработице для львиной части населения. Джон Мейнард Кейнс, безусловно, самый знаменитый экономист XX века, писал в 1930 году: "Мы поражены новой болезнью, название которой многие читатели могли ни разу не слышать, но с которой нам придётся иметь дело в грядущие годы - я говорю о технологической безработице"(Keynes, 1930). Реальность опровергла прогнозы: в годы Второй мировой войны и последовавшего за ней бума развитые страны страдали скорее не от избытка, а от нехватки рабочей силы. 

Новая волна рассуждений о грядущей всеобщей безработице началась в 1960-е. Одним из первых волноваться начал Василий Леонтьев (американский экономист, нобелевский лауреат, сын эмигрировавшего из России петербургского профессора экономики). Ещё в 1952 году он писал: "Труд становится всё менее и менее важным... Всё больше и больше работников будут вытесняться машинами. Я не понимаю, как новые отрасли смогут занять всех, кто захочет работать". В 1960-е c ним соглашались многие светила тогдашней экономической науки. В 1965 историк экономики Роберт Хейлбронер писал: "По мере того, как машины продолжают проникать в наше общество, начиная выполнять всё больше и больше функций в этом обществе, бесполезным оказывается сам человеческий труд". Предсказания оказались неверными: люди вновь смогли найти себе место в меняющемся технологическом укладе.

Третья волна нахлынула в 1990-е гг. На этот раз выкинуть сотни миллионов человек с рынка труда должны были не элекричество, не бензин и не автоматизация, а компьютеры. В книге "The end of work" американский экономист Джереми Риффкин писал в 1995 году: "Мы вступаем в новую фазу мировой истории, в которой всё меньше работников будет необходимо для производства товаров и услуг для глобального населения" (Riffkin, 1995). И вновь мрачные (или оптимистичные? не всё так просто) прогнозы не оправдались. 

Разговоры о "вечной" безработице продолжаются постоянно. Например, в 2011 году два профессора чрезвычайно уважаемой Школы менеджмента MIT (Sloan School) опубликовали книжку с ярким и длинным названием "Race Against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy" (Brynjolfsson, McAfee, 2011). Они утверждали, что медленное восстановление занятости после мирового финансового кризиса 2007-2009 гг. объясняется не макроэкономикой, а технологическими сдвигами: безработица в Соединённых Штатах теперь будет высокой всегда, это "новая нормальность". Сегодня, когда уровень безработицы находится недалеко от исторического минимума, этот прогноз может показаться забавным. 


3. Значит ли это, что нас стоит забыть о подобных страшилках и заняться своими делами? 

Давайте вспомним об одной интересной категории американских работников. Ещё в начале XX века численность этих работников в США составляла несколько десятков миллионов, и с каждым годом их становилось всё больше и больше. Но затем появилась одна-единственная технология, и в течении считанных лет эти работники становятся бесполезными. Они исчезают, а во многом случах оказываются физически уничтожены (пошли на мясо).

Речь идёт о лошадях. 

Обычно пример с лошадями, впервые предложенный тем самым Василием Леонтьевым в 1983 году, приводят в качестве исторического анекдота. На самом деле за ним стоит значительно более глубокий смысл. Долгое время бум развития технологий, начавшийся на рубеже XVIII - XIX вв., не снижал, а повышал спрос на лошадей. Позволим у читателя извинения и углубимся в историю. 

С одной стороны, замена лошадей на железные дороги позволила снизить стоимость перевозок на некоторых направлениях в десятки, а порой и в сотни раз. Но результатом такого падения издержек стал огромный скачок объёмов самих перевозок. Груз, перевозимый по железной дороге, нужно было доставить до железнодорожной станции, а сделать это могла только лошадь. В результате дополнительный спрос на лошадей превысил снижение спроса, вызванного заменой живых лошадок на лошадок с паровыми котлами. 

С другой стороны, в XIX веке, используя железные дороги, пароходы, скорострельные винтовки и новые аграрные технологии, европейцы смогли освоить гигантские новые территории. Ещё в начале столетия колонисты в Северной и Южной Америке не решались селиться вдалеке от океанских берегов. Но в течении ста лет девятнадцатого века площадь освоенных земель, принадлежащих Соединённым Штатам, выросла даже не в разы, а в десятки раз. Быстрое освоение новых земель происходило в Аргентине, в дельте Амазонки, в Южной Африке, в Алжире, в Австралии, в Бирме, на Северном Кавказе, в Новороссии, в Сибири, Нижнем Поволжье, в Канаде и так далее. Европейский крестьянин, пересекая Атлантику, оказывался владельцем участка земли, в разы, а то и в десятки раз превышавшего по площади его старый надел. Понятно, что для обработки новых земель требовалось больше лошадиных сил в расчёте на одного крестьянина. 

Даже урбанизация вела к росту количества лошадей. В большом городе, таком как Нью-Йорк, Чикаго, Лондон, Париж, Санкт-Петербург, Москва, Вена или Берлин, миллионам людей нужно было каждый день передвигаться на многие мили, а то и десятки миль - хотя бы для того, чтобы попасть на рабочее место. Помочь горожанам могли только лошади, способные тащить омнибусы ("конки") или кэбы. 

В 1894 году в Лондоне разразился Великий кризис конского навоза

И вот, в начале 1910-х гг., распространение одной-единственной технологии делает лошадей бесполезными. Речь идёт о двигателе внутреннего сгорания. Трактор оказывется эффективнее лошади. Грузовик и легковушка оказываются эффективнее кэба или гужевой повозки. Танк, бронеавтомобиль, истребитель, бомбардировщик оказываются эффективнее кавалерии. Даже автомобильные гонки оказываются популярнее скачек. 

Если бы у лошадей были свои, лошадиные, экономисты, на протяжении всего XIX века они бы повторяли, что новые технологии не приведут к исчезновению спроса на парнокопытных. И долгое время их прогнозы были бы верны. Но одна-единственная новая технология - детище Отто, Даймлера, Майбаха, Дизеля и других сумрачных немецких гениев - смогла убить "лошадиную" экономику. 

Что если в двадцать первом веке с людьми случится то же, что случилось с лошадями в веке двадцатом? 


4. Если вы внимательно следите за новыми технологиями, у вас просто не может быть сомнений, что человечество вступает в эру новой промышленной революции. О Четвёртой промышленной революции рассуждают и пишут как модные хипстерские издания, так и участники Давосского форума. Но не всё так просто. 

Первая промышленная революция начинается ещё в XVIII веке. Паровой двигатель, новые станки, доменные печи навсегда изменили привычный уклад аграрного общества, не слишком радикально изменившийся со времён Древней Мессопотамии (по крайней мере, если речь идёт об уровне жизни - как бы удивительно это ни выглядело, но английский крестьнин времён Шекспира жил ненамного лучше египтянина времён Аменхотепа: оба они не столько жили, сколько выживали). Великобритания становится первой в истории страной, вступившей на путь "современного экономического роста" (термин нобелевского лауреата Саймона Кузнеца) - устойчивого роста подушевого выпуска. 

Между появлением новых технологий и существенным повышением уровня жизни прошло примерно сто лет. Паровой двигатель Ньюкомена появляется в 1712, усовершенствованная машина Уатта - в 1778. Абрахам Дарби смог выплавить чугун с использованием каменного угля в 1735 году. Прялка Дженни была создана в 1767 году. На рубеже веков изобретения начинают сыпаться как из рога изобилия. 

Но при всём при этом уровень жизни английского рабочего остаётся почти неизменным вплоть до середины XIX века. На фоне быстрого технического прогресса английский рабочий класс остаётся всё таким же бедным, каким он был и раньше (об этом явлении принято говорить как о "паузе Энгельса"; "пауза" позволила Марксу и Энгельсу сделать свои мрачные предсказания об обнищании рабочих по мере экономического развития). Понадобилась сотня лет, чтобы технические новинки оказали (к 1860-м годам) влияние на уровень жизни! 

Вслед за Первой промышленной революцией приходит Вторая. Начало её обычно принято относить к 1860-1870 гг., хотя в полный рост она развернулась уже в самом конце XIX века.

(Хотя впервые концепцию Второй промышленной революции предложил Патрик Геддес в 1915 году, популяризовал этот термин американец Дэви Лэндис уже в 1970-е гг. - через сто лет после начала самой революции. Само словосочетание "промышленная революция" стало общеупотребимым только в 1840-е гг. - до этого современники не до конца понимали, что новые технологии неизбежно влекут за собой глубокие изменения во всех сферах жизни общества).

И снова технологиям требовались десятилетия, чтобы изменить жизнь людей. Первый автомобиль был создан Отто Даймлером в 1882 году (за двадцать лет до него француз Этьен Ленуар начал устанавливать двигатели внутреннего сгорания собственной конструкции на лодки). Но массовая автомобилизация в США - передовой стране того времени - произошла только в 1920-е гг. То же самое касается электричества: Томас Эддисон построил на Манхэттене первую подстанцию в 1882 году, но для начала массовой электрификации потребовались долгие четыре десятка лет. Массовое распространение телефонов, мартеновских печей, подъём химической промышленности и прочих "плодов" второй революции заняло долгие десятилетия. 

Наконец, о том, что мир переживает Третью промышленную революцию (она же Цифровая революция), экономисты перестали спорить только к концу 1990-х гг., когда невозможно было игнорировать массовое распространение компьютеров, интернет-бум, взрыв электронной торговли и прочие плоды двух изобретений - транзистора в 1947 году и микропроцессора в 1971. Вновь потребовалось много лет, чтобы массовое внедрение новых технологий смогло кардинально изменить жизни людей.


5. Итак, во всех трёх случаях инновациям требовались долгие десятилетия, чтобы всерьёз изменить жизнь людей. Во всех трёх случаях научный мир признавал сам факт промышленной революции только тогда, когда его невозможно было игнорировать. Но что мы видим сегодня? 

На графике вы можете видеть оценку количества роботов в расчёте на десять тысяч занятых в промышленности в ведущих странах мира, сделанную Международной федерацией робототехники. Даже в Южной Корее на одного робота приходится девятнадцать живых работников. В США, стране-лидере мирового технического прогресса, отношение один к шестидесяти. 


Внимательный читатель, посмотрев на график, заметит удивительное: число роботов на десять тысяч рабочих практически одинаковое в Швейцарии и в Словении, в то время как разница в подушевом ВВП у двух затерявшихся в Альпах стран двукратная. В чём тут дело? А всё просто: 10 % ВВП Словении формируется за счёт автомобилестроения - это самый высокий показатель на планете. Оказывается, что единственная по-настоящему значимая отрасль в мировой экономике, где роботы смогли завоевать себе место под солнцем и вытеснить сотни тысяч живых рабочих - это автомобилестроение, где занято 39 % подобных машин (хотя и здесь число живых людей пока во много раз превосходит число роботов). Пока что не тянет на революцию! 

Каждый месяц, если не каждую неделю, вы можете услышать о печати новой детали, машины или даже здания на 3D-принтере. К сожалению, подобные новости появляются уже много-много лет, но до сих трёхмерные принтеры не принесли кардинальных изменений в промышленность планеты. Разговоры о нанотехнологиях настолько распространены, что один крупный химик предложил в шутку называть любое достижение в химии "нанотехнологическим прорывом"; к сожалению, реальные нанотехнологии пока остаются столь же экзотичными, как и промышленные 3D-принтеры. 

Как отмечает выдающийся американский историк экономики Роберт Гордон в своей нашумевшей статье "Is U.S. Economy Growth Over?" (Gordon, 2012), увеличение производительности труда за счёт информационных технологий реализовывалось вплоть до середины 2000-х гг., после чего IT-сектор сконцентрировались на развлечениях. Возможно, сегодня аргументы Гордона выглядят не столь убедительно - в конце-концов, такой гигант, как Амазон, занимается не развлечениями, а транспортировкой грузов - и всё же сложно спорить с тем, что развитие IT в последние годы не слишком заметно влияло на глобальную производительность труда. 

Неудивительно, что многие исследователи считают нынешнюю волну инноваций всего лишь охвостьем Третьей промышленной революции, а разговоры о Четвёртой называют либо преждевременными, либо попросту вздорными.

(Читателям можно посоветовать замечательную книжку Гордона "The Rise and Fall of American Growth". В ней предложен взгляд на экономическое развитие во всей его сложности, взгляд, позволяющий проникнуть за сухие цифры ВВП и понять, как на деле это развитие влияет на жизни людей).

Значит ли всё вышесказанное, что нам не стоит ожидать технологических прорывов в будущем? Предсказывать темпы и направления научно-технического прогресса невозможно. Если бы мы могли предсказать научные открытия в будущем, мы смогли бы совершить их уже сегодня.

Возможно, мы действительно стоим на пороге новой эпохи. Первая промышленная революция была революцией угля и железа, вторая - нефти и стали, третья - революцией электроники и химии. Что если основой четвёртой революции станет, например, графен? Что если металлы, легированные графеном и ставшие в десятки раз прочнее лучших марок стали, графеновые аккумуляторы, двумерная графеновая электроника, даже антираковые лекарства на основе оксида графена - экспериментальные образцы всего вышеперечисленного уже существуют - смогут изменить наши жизнь?

По оценкам исследователей из Нью-Йоркского университета, два слоя графена способны остановить пулю (а на картинке - фантазия художника)

А может быть, будущее за "парой" квантового компьютера и нейросети? Что если принципиально новые вычислительные машины позволят "тренировать" нейросети выполнять даже самые сложные задачи, заменяя человека везде и повсюду?

В мире насчитывается всего два миллиона промышленных роботов; но можем ли мы утверждать, что уже через двадцать-тридцать лет их число не достигнет миллиарда? В конце-концов, в Америке ещё в 1900 году автомобиль был игрушкой для сверхбогатых, а к 1930 превратился в обычный транспорт для фермеров и рабочих; за тридцать лет число машин на душу выросло во много тысяч раз. А может, "философский камень" кроется в логистике, которую смогут полностью изменить корпорации, подобные тому же Amazon? Или в нейроинтерфейсах, геймификации и дополненной реальности? Кто знает - быть может, жизнь нашу изменят те самые нанотехнологии, генная и микробиомная медицина или ожидаемое уже больше полувека создание термоядерного реактора? Список можно ещё долго продолжать.

Дать точный прогноз развития технологий не может даже самый крутой специалист. Нам остаётся только ждать и надеяться на лучшее.



6. Но давайте вместо рассуждений посмотрим на цифры. В макроэкономическом анализе используется такой показатель, как TFP - total factor productivity (совокупная факторная производительность). Не будем вдаваться в подробности и рассказывать о том, как этот показатель рассчитывается; скажем лишь, что можно, с некоторыми оговорками, сказать, что темпы роста TFP отражают темпы технического прогресса. 

И что же мы видим? В ведущей экономике планеты темпы роста TFP в 1913-1950 гг. составляли 2,5 % в год; в 1950-1975 - 1,8 %; в 1975-1995 - 1,1 %; в 1995-2005 - 1,8 %. А вот в 2005-2015 гг. темпы роста опускаются до 0,6 %. 

Возможно, всё дело в Великой рецессии, в мировом финансовом кризисе? Вряд ли. Во-первых, рост TFP значительно снизился ещё в 2005 году. Во-вторых, в годы Великой депрессии, продолжавшейся десять лет, TFP хоть и медленно, но рос; на десятилетие 2005-2015 гг. пришлась всего пара лет экономического кризиса, а прогресс при этом практически остановился. 

Посмотрим на Великобританию. В 1913-2005 гг. годовые темпы роста TFP в основном находятся в коридоре от 1% до 2 %. В 2005-2015 гг. годовые темпы составляют... минус 0,1 %! То же самое видно на примере Японии. Вместо революции - стагнация и застой! (Все данные из "Total Factor Productivity in Advanced Countries: A Long-term Perspective", Bergeaud, Gette, Lecat, 2017). 

Что ещё печальнее - крупные американские экономисты не верят, что темпы роста TFP могут значительно ускориться в будущем. Одним из немногих исключений оказывается упоминавшийся выше Бринйолфcсон из MIT: он считает, что новым технологиям нужно время, чтобы начать оказывать серьёзное влияние на производительность труда.

Такой взгляд не лишён смысла. Первая промышленная революция разворачивалась на фоне Наполеоновских войн - не самого благоприятного времени для экономического бума. Вторая промышленная революция начиналась в 1870-е гг., когда планету поразила глобальная депрессия. Наконец, внедрение микропроцессора, персонального компьютера и предшественника интернета ARPANET происходило в 1970-е гг., на фоне кризисов и стагфляции в развитых странах. Возможно, нынешние низкие темпы роста производительности труда как раз и являются свидетельством наступления новой эпохи развития?

Так кто же окажется прав? В конечно счёте, судьёй может выступать только время. 

На этом закончим с глобальными рассуждениями. Давайте попытаемся понять, как влияет - и может повлиять в будущем - технический прогресс на нашу с вами горемычную жизнь.


Report Page