Иллюминаты и вирусы

Пока мы рассуждаем в категориях «хорошие люди говорят правду, плохие распространяют ложь», мы довольно плохо понимаем, как на самом деле работают пропаганда, массовая паника и информационные операции. 

Поэтому начнем с максимально примитивной модели и попробуем некоторые из этих иллюзий развенчать.

Представим группу хитроумных заговорщиков — Иллюминатов, — которые хотят распространить по Землям Добра некую Идею Зла. В их распоряжении есть ресурсы и сознательные агенты, такие нехорошие люди, которые либо искренне верят в эту Идею, либо получают от ее распространения материальную выгоду.

Сознательных агентов по определению не должно быть много. Если вы строите тайный заговор, было бы странно вербовать каждого кузнеца и каждую торговку репой. Да это и не нужно. Их задача — заразить относительно небольшую часть общества и тем самым породить куда более многочисленную категорию агентов бессознательных.

Вот это уже настоящая паства. Обманутые Силы Добра. Им не платят, им не выдают инструкций, и они вполне могут искренне ненавидеть Иллюминатов. Но если Идея Зла точно попадает в их страхи, привычки и картину мира, они понесут ее дальше сами: расскажут жене за ужином, снимут ролик, поругаются с коллегой и обязательно отправят сообщение в семейный чат со словами: «Не знаю, правда или нет, но почитайте».

На этом этапе Иллюминаты могут спокойно идти пить вино. 

Идеальная пропаганда — та, которую другие начинают разносить бесплатно.

А теперь отложим Иллюминатов и посмотрим на реальное исследование.

The Straits Times выпустил интерактивный проект о распространении недостоверной информации на основе работ группы Джуна Чжуана из University at Buffalo. Идея здесь довольно простая —  движение слухов по социальной сети можно моделировать теми же средствами, которыми моделируют эпидемии.

В модели есть несколько состояний: 

Unexposed — еще ничего не слышал, Spreader — понес дальше, Stifler — увидел и остановил цепочку, Debunker — распространяет опровержение.

Симуляции получаются весьма наглядными. Если опровержения нет, с сообщением сталкивается 99,5% модельного сообщества. Если опровержение появляется через неделю, слух уже проходит через значительную часть сети. Если через сутки — на пике его видят около 2%. Важна и геометрия распространения, распределенный запуск из множества аккаунтов сокращает время захвата сети с одиннадцати дней до пяти.

Конечно, модель сознательно упрощает действительность и не тестировалась на живой аудитории. Для информационной эпидемии недостаточно существования самого сообщения, нужны переносчики.

Но в вирусной аналогии есть важная логическая ловушка. Она незаметно лишает распространителя субъектности.

Вирус ничего не хочет. У него нет Telegram-канала, заказчика, донатов, рекламного кабинета и KPI по вовлеченности. А у человека все это бывает. Когда мы произносим слово «завирусилось», процесс начинает выглядеть почти как природное явление. Но слух-то сам никуда не идет! Его кто-то несет. И несут его по очень разным причинам.

Задача операторов подобных кампаний в том, чтобы настоящие журналисты и инфлюенсеры — вольно или невольно — начали усиливать нужные нарративы. 

Это вполне рационально, не правда ли? Пять тысяч ботов, пишущих «все скрывают», выглядят как пять тысяч ботов. А известная психологиня, внезапно сообщающая аудитории: «Я обычно о политике не пишу, но сейчас не могу молчать», — выглядит как человек, который пришел к этому выводу сам.

Это и есть слепой усилитель. Живой человек с лицом и многолетним доверием подписчиков, который разносит чужой нарратив, не понимая — или не особенно задумываясь, — чьим интересам в итоге служит. Политическое содержание при этом маскируется под привычный жанр. Чаще всего это подкаст или интервью, иногда история из жизни, а в наиболее совершенной форме — плачущий кружочек из дорогой машины.

Оператору вовсе не обязательно вербовать блогера и даже платить ему. Достаточно создать среду, в которой он сам захочет взять материал. Затем нужно запустить эмоциональный сюжет, придать ему видимость популярности, соорудить несколько «независимых» источников. Это своего рода прачечная для фейков — сообщение проходит через цепочку посредников и постепенно теряет связь с первоначальным источником.

На выходе пользователь видит десять разных людей, будто бы независимо говорящих одно и то же. И мозг делает естественный вывод, ну раз об этом говорят все, значит, что-то действительно происходит.

С этого момента операцию уже трудно отличить от естественной реакции, потому что дальше ее действительно несут обычные люди, они ругаются, боятся, пересылают.

Но мы не зря несколько раз упоминали деньги. Потому что кроме эпидемиологии информации существует еще и ее политэкономия.

В 2024 году Nature опубликовал исследование экономики сайтов с недостоверным контентом. Из 5 485 изученных ресурсов 74,5% монетизировались рекламой. Иными словами, существует вполне устойчивая экономика производства недостоверности. Почему? Потому что производство внимания приносит деньги.

Причем для этого не нужен злодей, который с утра садится за ноутбук со словами: «Ну все, сегодня я буду врать». Все, как это часто бывает, гораздо банальнее.

Представьте двух блогеров. Первый пишет: «Ситуация сложная, данных недостаточно, выводы делать рано». Второй пишет: «ВСЕ СКРЫВАЮТ! ВОТ ЧТО СЛУЧИТСЯ В БЛИЖАЙШИЕ 48 ЧАСОВ!»

Кто получит больше пересылок, комментариев и подписчиков, а значит, и более дорогую рекламу? Ответ, кажется, очевиден. Ложь и паника могут возникать не как сознательная цель пропагандиста, а как побочный продукт экономики внимания.

Это подтверждается и экспериментально. В исследовании Scientific Reports от 2023 года участникам платили не за ложь, а за engagement — за реакцию на их публикации. Одного этого оказалось достаточно, чтобы готовность делиться недостоверными новостями выросла на девять процентных пунктов.

Паника монетизируется. Хаос монетизируется. Возмущение монетизируется. Недоверие монетизируется.

И здесь сознательный пропагандист и аполитичный инфоцыган неожиданно становятся функциональными союзниками. Первому нужен нарратив, второму — охваты. Знать друг друга им совершенно не обязательно.

Разумеется, миллион просмотров сам по себе еще не признак работы спецслужб, одинаковое мнение десяти блогеров — не доказательство единого заказчика, а вирусная тема иногда действительно просто вирусная. Люди вообще достаточно ленивы, чтобы создавать уникальные идеи, если можно взять чужие. Особенно когда ты большой блогер, а какой-нибудь маленький уже все разложил за тебя.

Но высший пилотаж информационной операции состоит не в том, чтобы завербовать всех, а в том, чтобы создать импульс, который затем воспроизведут люди с совершенно разными мотивами. Отсюда и интерес военных структур, включая НАТО с их концепцией Cognitive Warfare, к когнитивной среде в целом, а не к отдельным сообщениям. Задача воздействия не обязательно в том, чтобы заставить человека поверить в конкретную фразу. Иногда куда полезнее создать у него ощущение, что «все вокруг уже понимают», что «официальным источникам верить нельзя по определению», что «ситуация катастрофическая». А дальше человек принимает решения уже сам.

Поэтому при очередной информационной панике вопрос «правда это или ложь?» — только первый этаж. Дальше следуют другие вопросы:

1. Кто это распространяет?
2. Откуда они это получили?
3. Почему им выгодно или приятно это нести?
4. Что получит распространитель, если вы нажмете «переслать»?

Самое грустное, что очень часто человек действительно уверен, будто спасает вас от страшной опасности.

Из взаимодействия сознательных операторов, идеологических попутчиков, коммерческих распространителей и миллионов бесплатных слепых усилителей складывается явление, которое мы так удобно называем природным словом — «завирусилось».

Хотя само оно никуда не распространялось. Кто-то все-таки нажал переслать. 

Отсюда, кстати, и проблема идеи о множественных «точках инъекции» собственного нарратива. Как тактический ответ она вполне рациональна. Чем больше независимых голосов повторяют одну версию, тем быстрее она распространяется. Но если все участники информационной войны начинают действовать одинаково, человек просто оказывается под непрерывным дождем взаимоисключающих сообщений. Результатом может стать не убеждение, а информационная усталость и простая установка в духе доктора Хауса — «все врут».

Поэтому в долгую куда важнее не только создавать собственные контрнарративы, но и выращивать в гражданах информационный иммунитет. Учить распознавать искусственную срочность, эмоциональную накачку, псевдонезависимые источники, подмену факта интерпретацией и главное — привычку сначала испытывать сильную эмоцию, а уже потом проверять, почему именно ее сейчас пытаются вызвать.

Если уж пользоваться эпидемиологической метафорой, то бесконечно производить лекарство под каждый новый вирус — стратегия необходимая, но дорогая и запаздывающая. 

Гораздо устойчивее общество, у которого работает информационная иммунная система. А чтобы ее развивать, нужно и самим отказаться от соблазна использовать «полезные» вирусы.