ИИ-цензура: почему кризис демократии толкает США на путь Китая

Развитие технологий и соцсетей приводит к глубинным переменам личной и общественной жизни. В том числе пошатнулось привычное мнение о том, что демократия — лучший из возможных государственных режимов. В США, традиционном ее флагмане, все больше людей ею недовольны. Философ технологий и ведущий канал «Чорт ногу сломит» Сергей Жданов — о том, как демократия вынуждена меняться, ставя под сомнение свои собственные основания: свободу слова и распространения информации.

Опросы американского центра Pew Research Center показывают, что в 2018 году демократы и республиканцы примерно одинаково оценивали необходимость контроля за распространением ложной информации в сети. 60% демократов и почти 50% республиканцев считали, что ограничивать ложную информацию должны технокорпорации, и около 40% из обеих партий заявляли, что фильтровать информацию должно государство.

К середине 2021 года их мнения кардинально разошлись: в стане демократов появилось ощутимо больше сторонников цензуры — и государственной, и корпоративной, а среди республиканцев их число, наоборот, ощутимо уменьшилось.

Защита личных данных

Чтобы понять, как американские демократы пришли к идее цензуры и к пересмотру идеи свободы слова, нужно начать издалека — с громкой истории вокруг Facebook и Дональда Трампа.

Запрос на цензуру среди демократов вырос из-за информационной войны против Facebook, начавшейся в 2018 году скандалом вокруг Cambridge Analytica (CA). Тогда корпорацию Цукерберга обвиняли в утечке данных 87 миллионов американских пользователей. Информация о них попала к британской фирме CA, и на их основе она создала политическую рекламную кампанию Дональду Трампу, который выиграл президентские выборы в 2016 году.

На самом деле это сложно было назвать утечкой: Facebook не «терял» никаких пользовательских данных, а вполне открыто на протяжении многих лет позволял их скачивать почти всем желающим.

На выборах 2016 года мир впервые увидел, как можно эффективно использовать соцсетевые данные и с их помощью привести совсем невероятного кандидата к власти. Так получилось, что впервые силу этих данных использовал именно республиканский кандидат — так что тогда скандал вокруг этого раздули проигравшие демократы.

Из-за шумихи вокруг CA весь мир задумался о пользовательских данных, которые технокорпорации собирают без ведома, а затем продают третьим сторонам, превращая тем самым своих клиентов в продукт. В академической среде заговорили о надзорном капитализме, а до широкой аудитории концепцию «пользователь = товар» донес популярный фильм «Социальная дилемма» 2020 года.

Всё это время главными злодеями считали Facebook и лично Марка Цукерберга. Правда, это не помешало ему (а вместе с ним и сотням других технокомпаний) продолжить собирать пользовательские данные и монетизировать их на все лады. Волны возмущения надзорным капитализмом и борьбы за права на личные данные так ни к чему и не привели — ни к новым законам, ни к новым правилам.

Но в 2020 году возмущение общества технокорпорациями перенаправилось в новое русло: вместо защиты данных люди стали требовать защиты пользователей от этих данных.

Защита от данных

Личные данные используют для составления психологического портрета пользователя — это позволяет сформировать точно попадающее в него рекламное сообщение. Например, одну и ту же книгу можно прорекламировать несколькими способами: сказав, что эта книга бестселлер, или что она заканчивается на складах, или что сейчас на нее скидка. Психологический микротаргетинг позволяет опознать психотип каждого конкретного пользователя и показать ему ту рекламу, которая эффективно убедит именно его купить книгу.

Со временем академики, политики и активисты, громче всех наезжавшие на Facebook, поменяли свою основную претензию к социальной сети и другим представителям надзорного капитализма.

Теперь речь шла уже не о том, что данные нельзя собирать — а о том, что соцсети (и другие платформы) должны контролировать месседжи, сформированные на основе этих данных и направленные на прозрачных и потому уязвимых для рекламодателей людей.

Поэтому накануне выборов президента США в 2020 году главным требованием к соцсетям стала именно модерация контента. Политическая агитация перестала считаться «просто рекламой»: она превратилась в пробивающий все слои критического разума инструмент управления людьми. Поэтому цензурирование определенных «разрушительных» голосов и посланий стало насущным вопросом безопасности.

По мнению демократов, требовавших от платформ цензуры, опаснее всего для общества склонные к насилию сторонники Трампа. Facebook, Twitter и другие платформы под давлением общественного мнения вынуждены были удалять популярных пользователей и группы, которые публиковали вызывающие возмущение посты.

Таким образом, под знаменами борьбы с экстремизмом одна политическая сила (демократы) требовала запретить агитацию другой политической силы (республиканцев).

Требования цензуры достигли пика уже после выборов 2020 года: тогда Facebook и Twitter заблокировали аккаунты действующего президента США Трампа за то, что он высказывал непопулярное и опасное мнение — несогласие с результатом выборов, на которых он проиграл. Бану предшествовал печально известный штурм Капитолия сторонниками Трампа, поэтому в глазах части американцев такая мера была вполне оправдана. Бан президента мог бы стать всемирным скандалом, но не стал: эту цензуру поддержали даже однопартийцы президента.

Но еще до блокировки, почти сразу после заявлений Трампа о том, что он не согласен с результатами выборов, под его постами появились специальные отметки. Пользователей предупреждали, что твиты президента могут обмануть и сбить с толку. Другой тип отметок советовал обратиться за достоверными данными о выборах к авторитетным источникам, а не к президенту — причем авторитетность источников устанавливалась самими соцсетями.

Смертельный вирус

Требования фильтровать информацию и делать пометки к постам появились еще до ситуации с выборами и вовсе не на арене политической борьбы, а с началом пандемии коронавируса.

Facebook, Google и другие интернет-компании стали снабжать все разговоры о ковиде на своих площадках ссылками на Всемирную организацию здравоохранения как на главный источник правды о вирусе. Со временем YouTube начал анализировать и блокировать видео и аккаунты пользователей, несогласных с возовским пониманием природы коронавируса и методов борьбы с ним.

Пандемия в целом повысила градус дискуссии о цензуре и свободе слова.

Сторонники официальной линии борьбы с вирусом от ВОЗ стали обвинять оппонентов из лагеря ковид-скептиков не просто в дезинформации, а в убийствах — так как ложная информация в таком серьезном вопросе ведет к неправильной защите от вируса, неправильному лечению и, в итоге, к смерти «подхватившего неправду» человека. Президент Байден прямым текстом заявил, что Цукерберг и Facebook «убивают людей», позволяя им обсуждать «дезинформацию» насчет ковида на просторах соцсетей.

Высказанные публично сомнения в эффективности средств борьбы с болезнью, признанных «авторитетными» источниками, стали считаться посягательствами на жизнь.

И чем популярнее сомневающийся, тем большему количеству людей он угрожает.

Деплатформинг «ковид-диссидентов», в том числе именитых, стал обычным делом — а на фоне всех остальных методов борьбы с пандемией на удаление сообщений и аккаунтов просто перестали обращать внимание.

Казус Рогана

Джо Роган — ведущий самого популярного подкаста в мире The Joe Rogan Experience (JRE). Роган выпускает свой подкаст 14 лет, а каждый выпуск JRE собирает, по разным оценкам, от 11 до 16 млн прослушиваний. И хотя Роган всегда считался близким к республиканцам спикером, его поклонников можно найти в любой партии и стране. Последние годы шоу выходит на музыкальном стриминговом сервисе Spotify.

Однако с началом пандемии из всеобщего любимчика Роган превратился в поляризующую фигуру из-за альтернативного освещения пандемии: он публично сомневался в эффективности масок, советовал не всем прививаться, продвигал альтернативные лекарства и так далее.

В конце января 2022 года рок-музыкант Нил Янг потребовал от Spotify удалить с платформы подкасты Джо Рогана, так как они распространяют вредоносные мнения о ковиде. В противном случае он грозился убрать свою музыку со стримингового сервиса и призывал других артистов и подкастеров делать то же самое, пока Рогана не удалят. Spotify оставил на месте The Joe Rogan Experience и отказался от музыки Янга, но скандал продолжился. В дискуссию даже вступила пресс-секретарь Белого дома, посоветовавшая платформам активнее бороться с дезинформацией по ковиду — то есть сильнее надавить на подкастера.

Отвечая на критику в своем инстаграме, Роган обратил внимание, что дезинформация, в распространении которой его обвиняют, в наше время стала крайне расплывчатым понятием:

«Например, если 8 месяцев назад вы бы сказали, что вакцинированные люди всё равно могут заразиться ковидом и заражать других людей, вас бы удалили из соцсетей и забанили на определенных платформах. Теперь такое мнение считается фактом. Если бы вы сказали, что тканевые маски не работают, вас бы забанили в соцсетях, а теперь об этом открыто и часто говорят на CNN. Если бы вы сказали, что COVID-19 создали в лаборатории, вас бы забанили в соцсетях. Теперь об этом пишет Newsweek».

Уровень доверия людей ученым и науке в целом вырос за время пандемии, но в научном лагере тоже начались разногласия. Сомнению начали подвергать и другие меры, которые раньше считались научно доказанными, вроде эффективности локдаунов. Консенсус научного мейнстрима меняется, да и сам состав круга авторитетных ученых тоже.

Например, Джо Рогана ругают за то, что он позвал на подкаст двух ученых, которых выгнали с других платформ за опасные взгляды по ковиду. Один из них — Питер Маккалоу, кардиолог с самым большим количеством опубликованных научных работ в его сфере. Другой — Робер Мэлоун, один из создателей мРНК вакцин.

В обычные времена эти люди считались бы «настоящими учеными», но из-за несоответствия официальной линии ВОЗ сейчас они стали изгоями. Впрочем, и это со временем тоже может измениться.

Новая цензура

Сейчас стало особенно сложно определить политические убеждения и принадлежность к тем или иным философским течениям — всё стало очень расплывчато и неопределенно. Но со всеми оговорками можно сказать, что чаще других цензуру от платформ и правительства в США требуют сторонники социальной демократии и прогрессивной идеологии. Объектами цензуры — и ее противниками — почти всегда становятся сторонники консервативной идеологии и либертарианцы. Или, по крайней мере, такое впечатление поддерживают сами консерваторы, которым выгодно оседлать тему свободы слова и информации, чтобы отвечать на увеличившийся спрос своего электората.

Вопрос цензуры в демократических обществах стал актуальным как никогда.

Ничего нового в самом явлении цензуры нет, она существует тысячи лет. Контроль над мировоззрением людей, модерирование народных настроений через фильтрацию информации, запрет на «неправильные» мысли и промотирование «правильных» — понятные любой власти инструменты.

Но ирония в том, что американские демократы и представители прогрессивной повестки хотят применить в США модель, успешно воплощаемую в Китае, который они сами так страстно ругают.

КНР далеко продвинулась как в ручном, так и в автоматическом модерировании информационного потока своих граждан. И в объяснениях Партии, зачем нужна такая модерация, нет ничего о «подавлении инакомыслящих» и других ярлыках, которые приписывают китайцам их политические оппоненты. По словам правителей КНР, они модерируют информацию ради безопасности и благополучия своих граждан.

Перечисленные выше случаи всё же пока что крутятся вокруг людей: одни говорят, другие возмущаются и требуют от третьих перекрыть первым возможность высказываться. Но в этих человеческих разборках уже участвуют роботы. Например, Facebook сделал ставку именно на тренировку нейросетей для отслеживания «неправильной» информации и выслеживания баламутов. Компания Цукерберга предоставляет площадку для высказывания нескольким миллиардам людей: на такое количество мнений не напасешься живых цензоров — по крайней мере, ни у каких политических режимов прошлого это не получалось и цензура не могла охватить всех.

Но теперь мы входим в эпоху, когда робоцензоры будут безжалостно эффективно выполнять заданные им формулы: «запретить мнение А» или «удалить пользователя вида Б».

Интересно то, что даже в тех обществах, где робоцензуры (пока) нет, люди зачем-то сами требуют ее ввести. Мне это кажется тревожным и печальным, а вам?

‏Source knife.media