Прогресс, общество и личность

В начале 2019 года Марк Цукерберг поставил цель каждые несколько недель проводить публичные дискуссии о будущем технологий в обществе. С экспертами в разных областях он обсуждает возможности, вызовы, надежды и опасения, связанные с технологическим прогрессом.

Недавно Цукерберг встретился с Ювалем Ной Харари — историком и автором бестселлера «Sapiens: Краткая история человечества». Рассказываем, о чем они говорили полтора часа.

Технологии и общество: объединение или дистанцирование людей?

Первый вопрос, который Марк Цукерберг задал Ювали Ною Харари — как прогресс влияет на общество. Способствует ли он интеграции или фрагментации мира?

Юваль Ной уверен, что человечество становится более единым. Тысячи лет назад Земля была вселенной, состоящей из множества не связанных между собой миров.

Постепенно развивались связи между государствами, и сегодня Земля — единая историческая, экономическая и культурная единица.

Но единство не означает гармонию. Близость порождает конфликты — чаще всего мы ссоримся с близкими, друзьями и соседями. Вопрос в том, говорим мы о сокращении дистанции или гармоничном сосуществовании.

Несмотря на объединение мира современными технологиями (интернет, социальные сети, виртуальная реальность), политики строят бетонные стены. Возвращаются «технологии» каменного века. В этом заключается дуализм современного мира.

Цукерберг обратил внимание на то, что еще недавно мы были географически ограничены в коммуникации. Он рассказал, что уже в подростковом возрасте интересовался программированием, но не мог найти единомышленников в родном городе. Чтобы общаться со сверстниками, играл в бейсбол.

Сегодня можно жить в маленьком городке или на уединенной ферме и находить людей с теми же интересами и взглядами на жизнь по всему миру. Физическое местоположение больше не имеет значения.

Обратная сторона медали — пропадает потребность в живой коммуникации с людьми поблизости. Пока одни находят сообщества по интересам в сети, другие стремятся к коммуникации с соседями, пусть даже их увлечения не совпадают.

Но эти соседи уже нашли своих онлайн, у них нет потребности в живом общении.

Харари отмечает, что онлайн не может на 100% заменить общение в физическом мире. Когда у человека есть лишь виртуальные друзья, ему не с кем сходить в бар. Просмотр тысяч видео о странах не заменит путешествия.

Еще одна особенность онлайн-коммуникации — создание идеального мира из единомышленников. Мы способны оградить себя от неприятной информации и людей. Если возникает конфликт, можно просто отфрендить пользователя.

Реальный мир устроен иначе — невозможно заблокировать шумного соседа или надоедливого коллегу. Жизнь онлайн не позволяет развивать важные социальные навыки.

Юваль Ной задает провокационный вопрос: Какова реальная цель платформ типа Facebook?

Сделать так, чтобы люди начали общаться онлайн, а затем перешли к совместным действиям офлайн? Или чтобы они как можно дольше оставались у экранов?

В чем задача — объединить людей или разбить на виртуальные изолированные группы?

Он считает, что алгоритм сортировки новостной ленты в FB формирует ограниченную картину мира. Пользователь видит лишь то, что соответствует его взглядам, а реальную картину общества игнорирует.

Хочется возвращаться на платформу снова и снова, чтобы оказаться в кругу единомышленников.

В защиту Facebook Цукерберг говорит, что алгоритмы основаны не только на действиях самообучающихся машин, но и на реальном общении. Пользователи рассказывают, какой хотят видеть платформу.

Также компания находит способы увеличить вдумчивую коммуникацию между людьми. Цукерберг утверждает, что цель Facebook — соединить онлайн и офлайн-общение, сблизить людей и обогатить социальную жизнь.

Искусственный интеллект и человечество

По мнению Харари, есть две основные проблемы, связанные с искусственным интеллектом (ИИ). Первая — усугубление неравенства между странами. Разработки в области ИИ создают пропасть между государствами с разным уровнем развития технологий. Последствия будут гораздо серьезнее, чем после промышленной революции.

Вторая проблема — изменяющаяся роль личности. Искусственный интеллект будет знать о нас больше, чем мы сами. Он сможет принимать за нас решения и предсказывать поведение. Приоритет властей сместится с работы с людьми на работу с алгоритмами.

Сегодня мы выбираем книги и фильмы на основании собранных о нас данных. Завтра мы начнем прислушиваться к рекомендациям ИИ о том, с кем подружиться, к какому сообществу присоединиться и с кем вступить в брак.

Цукерберг отметил, что обе проблемы можно свести к одному вопросу — ценностям и тому, кто их формирует. Он обратил внимание на то, что не стоит рассматривать искусственный интеллект как замену человека и ждать восстания машин.

ИИ — прогрессивная технология, которая улучшает работу сервисов и продуктов. Это не общий вселенский разум, а инструмент, использующийся в разработках. Развитие ИИ связано с фундаментальными вопросами о безопасности данных и защите частной жизни.

Информация и государство

У технически развитых стран есть существенное культурное и экономическое преимущество. Цукерберг обратил внимание, что в США хранятся данные многих крупных платформ — информация в их руках. Кроме того, Америка влияет на формирование глобальных ценностей.

Харари поддержал эту мысль и добавил, что менее развитые государства уже проиграли соревнование. Неизвестно что с ними станет через 20 или 50 лет. И можно ли доверять США как передовой стране?

Если 5-10-40 лет назад Штаты были борцом за свободу и человеческие права во всем мире, теперь эти ценности исчезли из государственной повестки.

Марк не разделяет пессимизма Ювали Ноя. Он уверен, что ценности свободы, обмена информацией и открытого рынка — не американское изобретение. Это глобальный философский концепт справедливого устройства мира.

При благоприятном развитии событий, эти ценности будут развивать и поддерживать отдельные государства независимо от влияния США. При худшем сценарии фрагментация мира приведет к росту авторитаризма.

Цукерберг считает, что одно из его важнейших решений как руководителя Facebook — где размещать дата-центры и хранить информацию. Нельзя хранить данные там, где:

• нет юридической базы для защиты личной информации,
• есть цензура,
• государство может использовать данные во вред.

ИИ и человеческие свободы

Возможно ли предотвратить превращение искусственного интеллекта в инструмент манипуляции и контроля?

С точки зрения Цукерберга, вопрос не в технологиях, а в их использовании. Facebook находит агрессию в записях и комментариях и распознает лица, чтобы пользователь знал, что кто-то разместил фото с ним.

Но те же инструменты используют в Китае для тотального контроля населения. Ограничения в применении технологий — вопрос законодательства.

«Но как понять, что эти законы — правильные?» — спрашивает Харари. Сегодня людьми легко манипулировать, контролировать и формировать нужное мнение. Дело не в том, что есть «хорошие демократические страны» и «плохие авторитарные страны», которые по-разному используют технологии.

Сами по себе технологии могут изменить баланс между демократической и тоталитарной системами.

Тоталитарные государства быстро укрепляют позиции за счет доступа к личным данным. Кроме того, изменилась модель передачи информации. Экономическая и политическая система СССР была неэффективна, поскольку все решения принимали в Москве.

Информация из регионов и обратно поступала с задержкой. Сегодня централизованные решения принимают и реализуют быстро. Местная власть не нужна. Преимущество централизованного накопления информации — чем больше данных, тем эффективнее работа алгоритмов.

И здесь могут выиграть тоталитарные режимы.

Искусственный интеллект и свобода воли

Харари беспокоит вопрос, в какой степени можно манипулировать людьми при помощи ИИ. Как скоро мы перестанем замечать, что нам навязывают мнение? Наши мысли и суждения — действительно наши или мозг уже «взломали»?

Люди получили голос — но до какой степени мы можем верить ему и своим мыслям? Чем настойчивее голоса вокруг, тем сложнее услышать себя.

Возможно, наши суждения — результат действий мощного алгоритма, который знает, на какие кнопки нажать, чтобы мы пришли к «правильным» выводам и верили, что это наш выбор? Чем больше мы об этом думаем, тем меньше доверяем себе.

Цукерберг защищает технологии. Facebook ранжирует контент и выбирает то, что будет наиболее интересным пользователю. Но вряд ли есть монолитная система, которая анализирует все особенности личности и знает о человеке больше, чем он сам.

Как показывает практика FB, люди игнорируют контент, не соответствующий их взглядам, а не меняют точку зрения. Они способны отстаивать свои права на защиту личной информации, свободу слова и противостоят манипуляциям.

Харари настроен не так оптимистично. Во-первых, в тоталитарных странах контроль над людьми может стать нормой. Слежка и манипуляция не будут вызывать сопротивления, других вариантов не будет. Постепенно население поверит, что это ради их блага.

Другая опасность — замена свободы выбора на действия алгоритма. Скоро алгоритм сможет выбирать, куда пойти учиться, с кем жениться, в какую компанию устроиться, какую религию принять. Люди будут прислушиваться к рекомендациям — это освобождает от принятия решений.

Есть иллюзия, что машина непредвзято оценивает информацию о человеке, чтобы предложить лучший вариант.

Но так можно манипулировать целыми странами. Даже если система будет работать без вмешательств — что станет с понятиями «смысл жизни» и «свобода воли»? Жизнь всегда была чередой больших и маленьких решений, но внешние алгоритмы могут все изменить.

Чтобы не потеряться среди роботов-конкурентов, советуем подойти к карьере ответственно. С 29 мая разбираем построение карьеры по полочкам вместе с Евгением Несиным на курсе «Построение карьеры». Вы узнаете, как разработать собственный план профессионального развития, оценить себя, выбрать ментора и поделится опытом, как попал в EY, Mars и Google.