Новая прозрачность граждан

Интернет сделал мир 21 века в разы более прозрачным, чем за всю предыдущую историю человечества. Мы получили возможность связываться и работать с людьми из разных концов света, находить будущих супругов в дейтинговых приложениях и совершать покупки не выходя из дома, однако за это технологии стали взимать с нас дополнительную плату, на которую мало кто обратил внимание: чтобы пользоваться интернетом нам пришлось все больше и больше рассказывать о себе и передавать личные данные сотням незнакомых людей и компаний. 

Хотя интернет в 1990х начинался как пространство анонимности и свободы, в начале 2000x корпорация Google решила, что деанонимизация пользователей сети может стать золотой жилой. Инженеры компании научились делать пользователей интернета прозрачными для Google, даже если они этого не хотят – и на основе точного знания, кто в данный момент находится за компьютером просматривает определенный сайт, разработали рекламный сервис AdWords, ставшую одной из самых прибыльных бизнес-моделей в истории человечества. В 2009 году тогдашний CEO Google Эрик Шмидт говорил, что если вам нужна приватность, лучше вам не искать ее в интернете. «Если вы делаете что-то и не хотите, чтобы об этом кто-то узнал, может не надо было это делать изначально?» 

Затем эстафету по деанонимизации пользователей интернета у Google подхватила социальная сеть Facebook, чей CEO Марк Цукерберг называл себя сторонником концепции радикальной прозрачности. Социальная сеть номер один не только знала, как и Google, кто находится перед экраном, но заставила пользователей регистрироваться под настоящим именем и стала рассказывать всему свету о том, с кем человек дружит и общается, где работает и на что тратит деньги, с кем встречается и чего боится. Все эти знания стали оседать в цифровых профилях пользователей, которые Facebook научился беспрецедентно монетизировать. Свое понимание новой прозрачности в 2010 Цукерберг выразил почти дзенским коаном: “У человека есть только одна личность. Времена, когда для друзей вы были одним, а для коллег – другим, подходят к концу. Если у вас две личности – вы непорядочны”.

Почти 15 лет спустя можно продолжить мысль Шмидта и сказать, что современные города, а вскоре и вообще вся планета Земля – больше не место, где имеет смысл искать приватность. А чтобы представить новую прозрачность в наступающую эпоху ИИ достаточно посмотреть на магазины Amazon без человеческого персонала. На входе в такой магазин нейросеть распознает пользователя и получает доступ к его банковскому счету, затем следит за каждым его действием внутри магазина, фиксирует какие продукты он выбирает и затем списывает их стоимость на выходе из магазина. Цифровой город и общество новой прозрачности – это макромодель такого умного магазина: ИИ система будет распознавать пользователя/гражданина в любой точке городской среды, создавать для пользователей варианты действий, фиксировать его выборы и взаимодействие со средой и затем засчитывать или списывать очки/баллы/деньги за определенные виды интеракций. Все действия и высказывания, интересы и симпатии, страхи и антипатии – все это будет привязано к вашей конкретной личности, а затем оценено и взвешенно алгоритмами. Это и будет новой прозрачностью граждан.

Новая прозрачность и приватность

В конце нулевых, когда вопросы приватности приобрели новую актуальность из-за появления смартфонов – идеальных устройств для слежки за миллиардами пользователей по всему миру – в среде законодателей вокруг слежки за пользователями разворачивались горячие дебаты. В ходе этих дебатов светоч американской юриспруденции Судья Скалиа назвал идею о праве людей на информационную приватность глупостью. В ответ на это профессор Фордемского университета Джоель Райденберг дал своим студентам задание собрать как можно более подробное досье о судье Скалиа из открытых источников в интернете. Результатом стало 15-страничное досье, включавшее домашний адрес судьи, телефон и почта его и его жены, а также их любимые телешоу и пищевые предпочтения. Ошарашенный Скалиа возмутился на досье и изрек: «Часто легальные действия могут быть довольно безответственными. Упражнение Райденберга – пример абсолютно легального, но ужасно недальновидного суждения». Однако ни Скалиа, ни кто-либо другой, не сделали ничего, чтобы “абсолютно легальные, но ужасно недальновидные” практики надзорного капитализма со стороны технокорпораций и “большого братства” со стороны государств остановились.

В отличие от новой прозрачности государства и бизнеса, о которых я писал в предыдущих статьях, новая прозрачность граждан – гораздо более реализованный с технической точки зрения концепт. Вокруг прозрачности пользователей выстроилась целая экономическая система – надзорный капитализм, в рамках которого персональные данные пользователей считаются “новой нефтью”, для добычи которой все способы хороши. Бизнесы зарабатывают на прозрачных гражданах, ходячих скважинах с новой нефтью, большие деньги, а политические режимы беспрецедентно контролируют прозрачных граждан.

Если раньше естественным считался расклад в котором гражданину гарантируют приватность в его доме, но не в общественных местах, то с развитием интернета эти грани полностью размылись: о какой приватности можно говорить, если любой желающий может взломать личные девайсы человека и нарушить даже приватность его домашней уборной. Технокорпорации давно присутствуют в домах людей и не скрывают, что следят за пользователями нон-стоп, сглаживая такой расклад хитрыми схемами на тему анонимизации данных, призванными подсластить для пользователя пилюлю прозрачности, но никоим образом не решить проблему. Правительства пользуются услугами частных компаний, которые без проблемы могут взломать смартфоны частных лиц вплоть до Джеффа Безоса, а их спецслужбы прослушивают разговоры и читают документы правительств других стран. 

Корпорациям, спецслужбам, хакерам, дата брокерам и другим современным сталкерам известны мельчайшие подробности и паттерны наших частных жизней. Большинство владельцев такой информации о нас хранят ее в тайне и используют эти данные в коммерческих целях, однако кейс Cambridge Analytica и выборов президента США в 2016 году показали, что собранные серым образом данные могут использоваться и для достижения политических целей через массовые психологические манипуляции, невозможные в обществах с непрозрачными гражданами. Легально, полулегально или нелегально, сегодня каждый желающий может собрать о себе или другом подробное досье а-ля досье Скалиа, но теперь оно гораздо более подробное, интерактивное и обновляется в реальном времени, а анализировать его могут не только студенты, маркетологи и политологи, но и продвинутые нейросети, не существовавшие еще полтора года назад.

ИИ и прозрачные граждане

Новая прозрачность – вовсе не новая концепция, если вспомнить религиозный дискурс о всевидящих божествах, которым тысячелетиями поклонялись люди. Можно было обмануть людей, прислуживающих богам – священников или жрецов: утаить свои грехи и приписать себе чужие заслуги. Но невозможно было обмануть богов – они видели всё, что можно увидеть глазом, да еще и внутри людей им все было понятно. Божества знали прошлое человека и его будущее. Искусственный интеллект уже сегодня во многом неотличим от всезнающих божеств прошлого, и с каждым часом эта разница между богами прошлого и нейросетями будущего испаряется.

В предыдущих статьях я описывал, как будет работать прозрачность государства и бизнеса, а также как уже сейчас работает система социального рейтинга в КНР и западных странах. Искусственный интеллект занимает центральное место в наступающей новой прозрачности, так как только ИИ способен обрабатывать гигантское количество информации о прозрачных гражданах и выносить суждения о желательности или нежелательности их поведения.

В ближайшем будущем силы, контролирующие настройки нейросетей, смогут в разы эффективнее контролировать культурные, социальные и религиозные нормы. Напрмер, в Иране недавно заработали нейросети, распознающие неприкрытых хиджабом женщин в общественных местах, которых за это ждет наказание. В результате мы получаем религиозные правила, придуманные столетия назад, которые навязывает прозрачным перед ИИ гражданам авторитарное правительство. Нарушения закона в обществе новой прозрачности невозможно будет скрыть, поэтому пока нейросети все еще подчиняются правительствам, главным вопросом становится определение норм и законов, нарушение которых считается преступлением. Эти нормы могут определять либо правительства, либо корпорации, либо сами граждане, в зависимости от типа общества, о котором мы говорим.

Прозрачность граждан в свободном обществе может помочь усовершенствовать законодательство: если ИИ будет видеть, что какой-то закон нарушает 80% граждан, то, возможно, у нас появится стимул изменить закон, или же правительства стран должны будут как-то обосновывать, зачем существуют правила, которые все нарушают. Прозрачность в авторитарном обществе, наоборот, поможет навязать гражданам даже самые неудобные и абсурдные правила, несоблюдение которых будет всегда фиксироваться и наказываться. 

Сегодня и в ближайшем будущем граждане будут знать о власть имущих гораздо меньше, чем власть имущие о гражданах. Такое неравенство называется эпистемным и уже сейчас позволяет владельцам корпораций и чиновникам понимать граждан/пользователей лучше, чем они понимают сами себя. Однако чем дольше власть имущие будут пользоваться нейросетями для “чтения” и управления гражданами, тем сильнее будут становится эти нейросети, и тем легче им будет наблюдать и за власть имущими. В конечном итоге разделение прозрачности на правительство, бизнес и граждан отойдет на задний план, так как все мы — просто люди, все станем прозрачны для машин.

В 2017 года Джек Ма, CEO китайской технокорпорации Alibaba, говорил, что через 30 лет на обложке Forbes будут роботы, получающие награды за роль лучших CEO. Ма, кажется, ошибся только с датой: появления нейросетевых CEO случится уже в этом десятилетии, а еще через 10 лет ИИ, вполне вероятно, сможет начать управлять целыми странами. 

В любом случае, значение автономных ИИ-систем будет расти с каждым годом и из помощника человеческих наблюдателей они превратятся в самостоятельного наблюдателя с правом принимать решения, касающиеся людей. ИИ будет развиваться и усложняться, все глубже проникая во все сферы общественной жизни: от управления корпорациями и государствами до модерации личных отношений людей и курирования их психологического состояния на автоматической основе. 

Прозрачность граждан даже в большей степени, чем прозрачность государства и бизнеса, толкает человечество в принципиально новое состояние: тотальная прозрачность человека перед машиной с одной стороны, и полная непроницаемость машины перед человеком – с другой. 

Это будет напоминать отношения людей прошлого с их богами, но в этот раз боги будут настоящими.