«Общество черного ящика»: как интернет из оплота свободы превращается в инструмент цензуры

В ближайшем будущем интернет может окончательно превратиться из освободителя в угнетателя. Вера в мечту об открытом интернете и в хакерскую этику с ее стремлением к информационной свободе постепенно угасает из-за вмешательств государств и международных корпораций. T&P публикуют мнение американского адвоката и преподавателя права Дженнифер Грэник о том, что происходит с интернетом последние 20 лет и как нам его спасти.

Дженнифер Грэник

адвокат, директор центра «Интернет и общество» при Стэнфордском университете

Двадцать лет назад я хотела быть одним из тех, кто претворит мечту о свободном интернете в реальность. Как юрист я хотела защитить хакеров и кодеров от хищничества закона, чтобы они могли выполнять эту важную миссию. Но сегодня эта мечта умирает. Если не произойдут какие-нибудь драматические изменения, через 20 лет:

— вы не будете знать о решениях, влияющих на ваши права: все будет решаться компьютерными алгоритмами;

— интернет станет куда больше похож на ТВ и куда меньше — на глобальный разговор, который мы представляли себе 20 лет назад;

— существующие силовые структуры никуда не денутся: напротив, они обретут вторую жизнь и получат дополнительную поддержку, и разумеется, все это — во имя безопасности;

— дизайн технологий будет все больше способствовать цензуре и контролю.

Так не должно быть, но чтобы сменить курс, мы должны задать себе несколько жестких вопросов и принять ряд сложных решений.

Первые ограничения

Для меня мечта о свободном интернете началась в 1984 году с книги Стивена Леви «Хакеры: Герои компьютерной революции». Леви рассказывал историю о кодерах старой школы и инженерах, которые верили в то, что вся информация должна быть в бесплатном доступе. Они представляли, что компьютеры дадут возможность людям самим решать, что правильно, а что нет, и, отталкиваясь от этого, разрабатывали принцип децентрализации. Децентрализация была встроена в саму ДНК раннего интернета: «умные» конечные точки, но глухие каналы передачи данных, по которым любые творения человеческого разума и чувств добираются до тех, кто хочет их услышать.

В 1986 году я поступила в New College, университет гуманитарных наук в Сарасоте, Флорида. Его девиз — «Каждый студент ответственен за последнее исследование, которое он проводит в рамках своего образования». В том же году я прочитала «Манифест хакера», написанный Наставником (хакер Ллойд Блэнкеншип. — Прим. T&P) и опубликованный в журнале Phrack. Стало ясно, что хакеры, как и мои однокурсники-ботаники из New College, не хотели, чтобы их кормили с ложечки интеллектуальной кашкой. Они хотели свободного доступа к информации, подозрительно относились к власти и хотели изменить мир — сделать его местом, где люди могут бесконечно исследовать, где любопытство вознаграждается. Я начала пользоваться общественным интернетом в 1991 году. Помню, как отправляла запрос о помощи в чат системному оператору, а потом смотрела, как сообщения, которые он печатал, возникают у меня на экране в режиме реального времени. Вот тогда-то я в действительности начала верить в то, что мечта о свободном интернете в один прекрасный день может осуществиться.

© Clifton Anthony

В том же году парень по имени Марти Римм написал «исследование», в котором говорилось, что распространение порнографии в интернете достигло ужасающих масштабов. Юридический журнал опубликовал статью, которую затем разрекламировала Times, и этого было достаточно, чтобы ко всеобщему воплю присоединился Конгресс. Результатом этой киберпорно-истерии стал Акт благопристойности в телекоммуникациях (Communications Decency Act, CDA), который Конгресс провел в 1996 году, — попытка регулировать онлайн-порнографию. Для любителей порно это стало, наверное, большим разочарованием, но относительно CDA было кое-что похуже. Чтобы остановить распространение порнографии, правительство решило, что интернет не целиком защищается Первой поправкой. И это значило, что оно может блокировать все что угодно.

Но оказалось, что Марти Римм и CDA не убили свободу интернета. Вместо этого случился странный поворот судьбы: в 1997 году в результате дела «Американский союз защиты гражданских свобод против Рино» Верховный суд США отменил CDA. Было сказано, что свобода самовыражения, предоставляемая Первой поправкой, полностью относится к интернету. В единственной части, оставшейся от CDA, говорится, что интернет-провайдеры не обязаны охранять свои сети от порно или другого нежелательного контента и не могут попасть в неприятности, если им не удастся этого сделать. Это условие CDA — причина, по которой интернет стал платформой для такого количества контента, сгенерированного пользователями: видео, комментариев, постов в социальных сетях и так далее.

Freedom to Tinker

Но несмотря на «Этику хакеров», «Манифест хакеров», Декларацию независимости киберпространства и дела против Рино 20 лет спустя я вынуждена сказать, что мечтам о свободном интернете не суждено сбыться. Расизм и сексизм оказались достаточно стойкими, чтобы процветать и в цифровом мире. Например, по статистике, женщины составляют 30% трудовых ресурсов компании Google, но занимают лишь 17% рабочих мест, связанных с технологиями. В Facebook 15% технических должностей заняты женщинами. В Twitter — 10%. Я нахожу это весьма странным. Сообщество специалистов по безопасности исторически поощряло поиск и поддержку талантливых нетипичных кандидатов. Большая часть самых успешных специалистов в IT-области никогда не учились в колледже или даже не оканчивали школу. Если говорить о статистике, то число айтишников с расстройствами аутистического спектра значительно выше среднего. В том, чтобы быть геем или трансгендером, нет ничего особенного, так и было на протяжении многих лет. Инклюзивность — в самом сердце этики хакеров, так что IT-сфера должна быть катализатором развития общества, открытого с точки зрения рас, возрастов и религий, но до сих пор ей это не удалось.

Понятие «Свободу ремесленнику» (Freedom to Tinker), может, выглядит любительски, но оно довольно важно. Оно означает свободу изучать, понимать и модифицировать технологию, которой мы пользуемся, что, в свою очередь, определяет и структурирует нашу жизнь. Сегодня же так называемый Hands-On Imperative (хакерская этика) умирает по двум причинам: мы ограничены законом и нашей способностью понимать сложные системы. Корпорации говорят: это наш софт, а не твой, это наш роутер, а ты только лицензиат, и мы рассказываем, что тебе можно, в пользовательском соглашении. Тебе нужно наше разрешение, чтобы действовать. Если ты переступаешь линию, прочерченную нами, если ты скачиваешь слишком быстро, печатаешь что-то странное в адресной строке браузера и нам это не нравится (или нам не нравишься ты), то мы тебя схватим.

© Clifton Anthony

Сможем ли мы в будущем вернуть безопасность принципу Freedom to Tinker? Пользователи, которые владеют ПО, могут его и изменять, вне зависимости от лицензии и DMCA (Закон об авторском праве в цифровую эпоху. — Прим. T&P). Важность этого будет расти, поскольку в течение следующих 20 лет софт будет встроен во все — от холодильников до медицинских приборов. Без Freedom to Tinker, права, позволяющего перепроектировать эти продукты, мы будем жить в мире непрозрачных черных ящиков. Мы не знаем, что они делают, и вы будете наказаны за попытку заглянуть внутрь.

«Общество черного ящика»

Сегодня технология собирает о нас больше информации, чем когда-либо раньше, и эта тенденция будет развиваться: информация будет складываться в карту нашего поведения, меняя баланс сил между нами, бизнесом и правительствами. В течение следующих 20 лет мы будем наблюдать удивительные прорывы в разработке искусственного интеллекта и обучении машин. В конце концов программы будут решать, переедет ли машина человека или же вместо этого съедет с моста. Алгоритмы будут определять, кто получит кредит или работу. Если закон об интеллектуальной собственности будет защищать эти программы от серьезного изучения, то общество ничего не будет знать о том, как принимаются такие решения.

Профессор Франк Паскаль назвал это явление «Общество черного ящика» (Black Box Society). Компании, которые разрабатывают программы подобного рода, совершенно не обязательно в курсе того, как работают их продукты. Как мы можем без наличия адекватной информации демократично влиять на подобные решения, следить за процессом их принятия? Нам также предстоит выяснить, кто будет нести ответственность, если программа совершит ошибку. Распространение устройств, подключающихся к сети (интернет вещей), означает, что все производители традиционной техники также станут и поставщиками оборудования. Если самоуправляющаяся машина попадет в аварию или загорится сетевой тостер, можете быть уверены, что речь непременно пойдет об ответственности производителя за качество продукции. Chrysler только что отозвала 1,4 миллиона автомобилей из-за их уязвимости. От того, чтобы подать в суд на Tesla, недалеко и до того, чтобы засудить Oracle за ненадежное программное обеспечение со всеми хорошими и плохими последствиями. Ответственность за программное обеспечение неизбежна. Я думаю, что, во-первых, это необходимо, а во-вторых, что это сделает кодинг дороже и консервативнее и что на долгое время это станет дрянной работой. А это сразу же скажется на инноваторах.

От открытой системы к закрытой

Сегодня подход к проектированию коммуникационных сетей (в том числе с точки зрения бизнеса), которыми мы пользуемся, изменился так, что они скорее усиливают, чем снижают уровень цензуры и контроля. Ранний интернет не просто позволял коммуницировать, но делал это по-настоящему децентрализованно, радикально демократично. Власть принадлежала народу, а не правительствам или компаниям, которые управляли этими каналами передачи. Интернет развивался вместе с технологиями. Сегодня провайдеры широкополосного интернета хотят построить «умные» каналы передачи данных, которые отличаются качеством обслуживания, ценой и бизнес-моделью.

Что это развитие значит для общественности? В книге «Главный рубильник» профессор Тим Ву присматривается к телефонам, радио, телевидению, кино и видит то, что он называет «циклами». История показывает типичные пути протекания прогресса в информационных технологиях: от чьего-то хобби до чьей-то индустрии; от подстраивающихся под запросы публики хитроумных изобретений до технологичной массовой продукции; от бесплатных каналов до одного-единственного, контролируемого одной корпорацией или картелем. Иными словами, от открытой до закрытой системы. В конце концов, новаторы и те, кто их регулирует, разбивают системы на куски, и цикл повторяется заново. В книге Ву задается вопросом: интернет — такой же субъект этого цикла? Будет ли он централизован и станет ли контролироваться корпорацией? Будет ли он беспрепятственно доступен, будет ли он закрытой системой или чем-то средним?

© Clifton Anthony

Если мы не будем действовать иначе, интернет в конце концов превратится в ТВ. Во-первых, мы пренебрегли открытостью и свободой ради других интересов вроде интеллектуальной собственности. К тому же многие люди больше не разделяют мечту о свободном интернете, если вообще когда-то разделяли. Мерзкие комментарии, 4chan (англоязычный имиджборд и анонимный веб-форум. — Прим. T&P), битарды (частые посетители раздела /b/ имиджбордов. — Прим. T&P), порноместь (выкладывание в сеть порноматериалов без согласия изображенного на них человека. — Прим. T&P), джихадисты, нацисты. Все чаще я слышу голоса профессоров юриспруденции, экспертов по Первой поправке и доктрине «широкого толкования», которые говорят о том, как узаконить все то, что они так не любят за сам факт его существования.

Во-вторых, интернет сегодня определяют три тренда: централизация, регуляция и глобализация. Централизация есть дешевый и простой способ для контроля и наблюдения. Регуляция значит осуществление государственной власти в пользу внутренних, национальных интересов и частных предприятий, обладающих экономическим влиянием на законодателей. Наступление глобализации означает, что все больше правительств попадает в число регулирующих интернет. Они хотят одновременно защищать и регулировать поведение своих граждан. И давайте помнить, что следующий миллиард интернет-пользователей будет из стран, где не действует Первая поправка, Билль о правах, где может даже не быть надлежащих правовых процедур или главенства закона. Так что эти ограничения необязательно будут учитывать то, что мы в США полагаем основными гражданскими свободами. Поэтому когда я говорю, что интернет движется к корпоративному контролю, это может звучать так, будто я обвиняю корпорации или полицию. Но я также обвиняю себя и вас. Потому что то, чего хотят люди, помогает повышать централизацию, регуляцию и глобализацию.

Олигополия вместо «облака»

Помните, что стало с блогами? У меня был блог, но теперь вместо этого я пишу только в Facebook. У многих участников Black Hat есть свои email-серверы, но почти все остальные пользуются Gmail. Нам нравится, что спам отфильтровывается, а вредоносные программы отслеживаются. Когда у меня был iPhone, я не стала его разблокировать, я доверяла безопасности приложений в Apple Store, нажимала «да» на их запросы. Я обожаю, когда мой телефон знает, что я в магазине, и напоминает мне купить молоко. Это происходит в немалой степени потому, что мы хотим, чтобы множество классных продуктов работали на «облаке». Но «облако» — не аморфная масса из миллиардов водных капель. «Облако» — это вообще-то конечное и известное число больших компаний с доступом к или контролем над большими областями интернета. Facebook — со своей рекламной сетью, Google — с Android и поисковой машиной. Это все больше олигополия, чем «облако». И, намеренно или нет, эти продукты сейчас — точки контроля, надзора и регулирования. Так что это значит для приватности, безопасности и свободы выражения?

Приватность

Приватность стала первой жертвой централизации. И поскольку приватность для свободы существенна, будущее будет менее свободным. Сейчас золотой век наблюдения и контроля. Правительство построило технологическую инфраструктуру и систему юридической поддержки для массового наблюдения, которые практически полностью секретны. Что общего у имейлов, списка друзей, постов в социальных сетях, истории вашего браузера, медицинских данных, записей о ваших банковских операциях, вашей фотографии, записи вашего голоса и вашей ДНК? Ответ: департамент юстиции США (DOJ), который не думает, что что-либо из вышеперечисленного — личная информация. Раз эти данные технически доступны сервис-провайдерам и/или видны на публике, то и следователям и шпионам они тоже должны быть доступны беспрепятственно. Но они могут сообщать о ваших контактах «с психиатром, пластическим хирургом, клиникой абортов, центром лечения ВИЧ, стрип-клубом, адвокатом по уголовным делам, почасовым отелем, мечетью, синагогой, церковью или гей-баром». Так что технология преумножает данные, а закон совершенно не в силах защитить их.

Централизация означает, что ваша информация доступна из «облака» — удобного места, чтобы добывать данные не только о вас, но и обо всех остальных. Это дает правительству законный аргумент обходить требование в ордере, фактически выдвигаемое Четвертой поправкой. Регуляция не защищает ваши данные и в худшем случае гарантирует, что правительство может легко получить к ним доступ. Департамент юстиции напирает на:

— провайдеров, требуя, чтобы те помогали шпионить;

— корпоративную неприкосновенность, требуя, чтобы данные были доступны правительству. Например, давая неприкосновенность AT&T в обмен на содействие Агентству национальной безопасности в незаконной слежке и преследованию по CISPA (Cyber Intellegence Sharing and Protection Act. — Прим. T&P), CISA (Cybersecurity Information Sharing Act. — Прим. T&P) и другим законопроектам, якобы необходимым для безопасности информации, но по сути служащим для надзора и контроля;

— обязанность хранить данные, которая, по существу, заставляет компании шпионить за пользователями для правительства. Правда, это пока в меньшей степени касается США и в большей — других стран.

Глобализация демонстрирует, как США могут шпионить за американцами, шпионя за иностранцами, с которыми мы общаемся. Наше правительство использует тот факт, что сеть глобально настроена против нас. Национальное агентство безопасности проводит массовую слежку за рубежом, и данные об американцах попадают в Сеть. Кажется, что ситуация с наблюдением не может стать хуже, но в следующие 20 лет произойдет именно это. Сейчас у нас есть устройства, подключаемые к Сети, так называемый интернет вещей, который будет следить за обогревом вашего дома, сколько еды вы берете из холодильника, за тем, как много вы упражняетесь, спите, за вашим сердцебиением и так далее. Эти вещи фактически берут нашу офлайновую физическую жизнь и превращают ее в цифровую, сетевую — иными словами, в доступную для наблюдения и контроля.

Чтобы получить хоть какую-то надежду на достижение мечты о свободном интернете, мы должны осуществить правовые реформы, которые остановят безосновательную слежку. Мы должны защитить электронную почту и наше физическое местопребывание от несанкционированного обыска. Мы должны резко выступить против тайных законов о наблюдении хотя бы потому, что тайный закон — отвратительное явление для демократии. Сделаем ли мы что-нибудь из этого?

Безопасность

Несмотря на то что многие думают иначе, безопасность не противоположна приватности. Можно повысить уровень безопасности, не посягая на приватность. Далеко не все вторжения в частную жизнь положительно сказываются на безопасности. На самом деле, благодаря приватности уровень безопасности повышается. Защитнику прав человека в Сирии или гомосексуалу в Индии нужна приватность, в противном случае они могут быть убиты. Вместо этого мы должны думать о безопасности с большим количеством нюансов. «Онлайн-угрозы» значат разное, в зависимости от того, чьи интересы на карте: правительства, корпораций, политической ассоциации или отдельных личностей.

В будущем борьба будет разворачиваться на том основании, что люди, наделенные властью, захотят больше безопасности для себя за счет других. Правительство США говорит о «кибербезопасности». Когда я слышу слово «кибер», я слышу сокращение для военного доминирования в интернете — как сказал генерал Майкл Хэйден, бывший глава Национального агентства безопасности и ЦРУ, — «обеспечивающего доступ США и лишая доступа наших врагов». Между тем государство поддерживает тайные законы, удерживает документы по открытым запросам, охотится на разоблачителей и шпионит за журналистами. Белый дом хочет, чтобы министерство внутренней безопасности было центром информации об угрозах. Это значит, что министерство будет решать, кто получает информацию об уязвимостях, а кто нет. Я вижу, что правительства и элиты принимают решения обо всех «иметь» или «не иметь» в вопросах безопасности.

Иными словами, говоря о безопасности, мы говорим о людях, наделенных властью и пытающихся добиться еще большей власти. Но это не разговор о безопасности мировой Сети. Под угрозой — благополучие уязвимых сообществ и меньшинств, которым больше всего нужна защищенность. Под угрозой — сама возможность граждан предъявлять претензии правительству, возможность религиозных меньшинств исповедовать свою веру без страха репрессий, гомосексуалов — обрести возлюбленного. Это положение дел должно взволновать кого угодно, кто не вписывается в мейнстрим, неважно, отдельный ли это человек, политическая/религиозная группа или же стартап без позиции на рынке.

Свобода выражения

В США авторское право было первой причиной для введения цензуры, но сейчас мы добавили в этот список еще и политику. Правительства выступают с предложением, чтобы social media компании уведомляли федеральные власти, когда видят, что на их сайтах появляется контент, имеющий отношение к терроризму. Все с радостью приветствуют инициативу Google исключать из результатов поиска ссылки на порноместь, удалять с YouTube пропагандистские ролики ИГИЛ (организация запрещена в России. — Прим. T&P) и принять в Twitter более жесткие правила относительно выражения ненависти. Конечным результатом становится цензура: оказывая давление на платформы и посредников, правительства могут непрямо контролировать, что мы говорим и что переживаем.

Это значит, что правительства и корпорации (или и те и другие разом) решают, что мы увидим. Неправда, что каждый может высказаться на любую тему и всюду быть услышанным. Куда правдоподобнее то, что ваши фотографии, демонстрирующие кормление грудью, не приветствуются и что ваши неортодоксальные взгляды на радикализм приведут к тому, что вы окажетесь под присмотром. Без всякого сомнения, эта цензура по самой своей сути дискриминационная. «Экстремистские» речи мусульман — причина забить тревогу и удалить соответствующий контент. Но никто не говорил о том, чтобы запретить Google вернуть результаты поиска по запросу «флаг Конфедерации».

Наступление глобализации значит, что все больше правительств регулируют интернет. Я говорю не только о странах вроде России или Китая. Есть еще и Евросоюз с законами против выражений ненависти, отрицания холокоста и набирающим силу «Правом на забвение». Каждая страна хочет исполнения собственных законов и охраняет своих граждан кажущимся ей целесообразным образом. А это значит, что опыт пользования интернетом будет разным в разных странах или регионах. В Европе точная информация удаляется из поисковых машин, чтобы затруднить или сделать невозможным ее поиск. Что еще хуже, правительства начинают осуществлять свои законы вне границ своих стран, блокируя запросы к главным игрокам на рынке — Google и ISP. Франция просит Google: не показывай результаты, которые нарушают наши законы, никому, даже тому, кто защищен правом на свободу слова, которое действует у нас в США. Если вы продолжите размышлять в том же духе, то придете к очевидному выводу: каждая страна будет осуществлять цензуру повсюду.

Следующие 20 лет

Будущее свободы и открытости оказывается гораздо мрачнее, чем мы надеялись 20 лет назад. Но так не должно быть. Позвольте мне описать другое будущее, в котором мечта о свободном интернете жива и процветает.

— Мы начали думать глобально. Нам нужно не допустить еще одной террористической атаки в Нью-Йорке, но мы не можем игнорировать влияния, которое наши решения оказывают на журналистов и защитников прав человека по всему миру. Мы очень ценим и тех и других.

— Мы, как можем, прибегаем к децентрализации: власть — людям. И хорошее end-to-end-шифрование может начать выправлять баланс между технологиями, законом и правами человека.

— Мы осознаем, что правительство не играет никакой роли в том, как будет устроена технология коммуникации.

— Мы перестаем руководствоваться иррациональными страхами. Мы реформируем CFAA, DMCA, Патриотический акт (Акт «О сплочении и укреплении Америки путем обеспечения надлежащими средствами, требуемыми для пресечения и воспрепятствования терроризму») и Акт «О наблюдении за иностранной разведкой». Мы перестаем быть такими чувствительными к речам и позволяем выветриться вредной ерунде.

Сегодня мы достигли точки перегиба. Если мы поменяем свои траектории, возможно, мечту о свободном интернете по-прежнему реально осуществить. Но если останемся на прежних позициях, то нет. Интернет продолжит превращаться в гладкую, одеревеневшую, контролируемую и закрытую систему. И моя мечта — и мечта многих из вас — умрет. Если так, то мы должны подумать о создании новой технологии: в следующие 20 лет нам нужно приготовиться разнести интернет на куски и построить на его месте что-то получше.

Иконки: 1) Vicons Design, 2) John Caserta, 3) Gregor Črešnar — from the Noun Project.

‏Source theoryandpractice.ru