Работа модерации Pornhub изнутри

CW: статья (кликабельно) написана нж; упоминание проституции;(некоторые части текста статьи были вырезаны).

TW: упоминание жестоких сексуальных практик; упоминание изнасилования.

Летом 2010, я был на мели и нуждался в работе. Мне повезло, друг рассказал мне, что “порно компания” нанимает сотрудников поддержки: “Они платят 15 долларов в час, и работа очень легкая”.

Задолго до того как эту компанию назвали MindGeek, она называлась Manwin Canada. Название, которое в то время не было на слуху. До этого я работал только на низких должностях в сфере обслуживания.

Через пару дней работы мне поступил звонок с предложением вакансии на более высокой позиции медиабайера. Мне сказали, что моя работа будет состоять в покупке комедийных видео для непорнографического вебсайта, которым владела компания. После второго интервью меня наняли на должность за 35к$ - больше, чем я когда-либо получал в своей жизни.

Через пару недель сайт был запущен, и мне сказали, что моя работа окончена. Но мне предложили должность по работе с соцсетями в порнографической части бизнеса компании.

В скором времени я уже вел Твиттер-аккаунты для Tube8, Keezmovies, и Spankwire - 3 сайта, позволявших людям загружать и смотреть порнографический контент бесплатно. Я не мог поверить тому, насколько мне повезло: я запостил несколько пошлых шуток и получил хорошую реакцию от аудитории. Все начиналось хорошо.

Кроме работы с социальными сетями, моя работа включала в себя необходимость отвечать на письма от пользователей сайта и разбираться с просьбами об удалении контента, которые воспринимались компанией всего лишь как раздражающая мелочь. Если приходил запрос на удаление видео, было указано частично его просматривать, прежде чем удалять, чтобы убедиться, что оно действительно нарушало правила платформы (которые я ни разу не читал, но мне они были кратко изложены как запрет на контент с несовершеннолетними/настоящим насилием/в алкогольном опьянении/животными). Я сразу подумал о последствиях такой работы: мне придется просматривать шокирующий или противозаконный контент - и я решил, что я буду просто удалять любые видео, на которые отправляют жалобы, без утруждения себя просмотром этих видео.

TW  ---

Через пару месяцев, я был пойман на бездумном удалении контента: я получил выговор за удаление популярного видео с миллионами просмотров. Впоследствии мне было сказано быть внимательнее с удалением и проверкой контента, а также было поручено советоваться с руководством перед удалением популярных видео. Я начал смотреть их более внимательно. Однажды я получил множество жалоб на порно-видео, включавшее в себя грубый сексуальный контент с бутылкой, но руководство сказало, что я не могу его удалить, потому что оно не нарушало правила платформы.

Это был первый раз, когда я почувствовал тревогу из-за своей работы. Я задумался, проверяет ли кто-то видео перед их выгрузкой на сайт. Это было маловероятно. Но я напоминал себе, как же мне повезло делать хорошую прибыль, просто рассказывая пошлые шутки, и успокаивал себя тем, что я все еще могу помогать людям, удаляя видео с их участием. Я вел себя молча и продолжал вести Твиттер.

Читая сотни писем, которые я получал каждый день, я начал видеть реальные последствия воздействия порно-индустрии на мир за их глянцевой обложкой.

Я получал гневные письма с просьбой удаления видео от мужчин, которые добавляли на сайт собственные видео с мастурбацией, только чтобы обнаружить, что они были расположены в разделе для геев.

Сложнее было разобраться с видео, загруженными лицензированными партнерами Manwin и получившими жалобы от пользователей из-за участия в них девушек, которые выглядели слишком молодо. “Лицензированные” значило, что продюсеры порнографических видео подтвердили законный возраст актрис, и Manwin не несли ответственности за проверку контента. Насколько я помню, я не имел права удалять порнографические видео партнеров (хотя будет справедливо спросить, насколько тщательно порно-продюсеры проверяют удостоверения личности актрис*, участвующих в видео, но также будет справедливо подметить, что многие порно-актрисы совершеннолетнего возраста делали все, чтоб выглядеть моложе своих лет).

(*от переводчицы: проблема скорее в секс-траффикинге, чем в проверке возраста актрис)

Один клип, который меня действительно обеспокоил, описывался как «проституированная женщина, занимающаяся сексом со своим сутенером». Женщина на видео была среднего возраста, предполагаемый сутенер — молодой мужчина. Сам по себе акт не был особенно непристойным, но он возмутил меня из-за того, как мужчина разговаривал с женщиной: властно и неуважительно. Это не было основанием для удаления: тонна порнографии - полностью легальной и популярной среди многих - показывает, как актеры говорят друг другу вещи, от которых волосы встают дыбом, и занимаются садомазохизмом. По сравнению с этим это видео было безобидным. Но оно поднимало так много вопросов: может ли секс-работница согласиться на секс со своим эксплуатирующим сутенером*? Действительно ли они были сутенером и проституированной женщиной, как было сказано в описании? Может быть, они были парой, играющей в ролевые игры? Не было никакого способа узнать.

(*от переводчицы: «секс-работа» в целом не может быть добровольной)

Но то, что я увидел и услышал в этом видео, мне было ужасно противно. Я удалил его и почувствовал себя морально лучше. Я понял, что даже стараясь держаться подальше от порно, я по сути каждый день действовал по собственному усмотрению, и что невозможно выполнять свою работу, не принимая решений, основанных на том, что я считал уместным.

Я часто сталкивался с видео, которые загружались снова и снова, независимо от того, сколько раз я их удалял. Однажды мне написала женщина, спокойно объяснив, что её бывший парень выложил видео, где они занимаются сексом, и попросила удалить его. Я удалил клип. Позже на той же неделе он был загружен снова. Женщина написала снова, я удалил его, и так продолжалось месяцами; я, наверное, удалил одно и то же видео раз десять. Это было ещё до того, как я услышал термин «порноместь».

Подобные запросы были не редкостью. Однажды одна женщина написала, что на Tube8 появилось видео, где она подвергается сексуальному насилию после того, как кто-то подсыпал ей что-то в напиток на вечеринке. Видео набрало десятки тысяч просмотров, поэтому мне пришлось пересмотреть его, прежде чем принять решение об удалении. В этом ролике женщина явно под наркотиками, в окружении полностью одетых людей с напитками в руках. Я удалил ролик, но в последующие месяцы он неоднократно появлялся снова. Каждый раз расстроенная женщина жаловалась на него, и каждый раз я удалял его; мы оба понимали, что никак не можем предотвратить его загрузку на платформу снова.

У Manwin была целая команда сотрудников, которым платили исключительно за комментирование и оценку видео на порно-сайтах. Это «сообщество» создавало неиссякаемый мираж вовлеченности, привлекая реальных пользователей в обсуждения веток комментариев. В реальной жизни набор сотрудников Manwin был довольно разнообразным: женщины занимали руководящие должности, и на всех уровнях компании были представители разных национальностей и рас. Однако высшее руководство состояло почти исключительно из мужчин — замкнутой группы, которая создавала видимость власти, богатства и самодовольства.

Помню день, когда прибыли инвесторы. Нам велели не смотреть на них, не разговаривать с ними и, самое главное, выключать экраны, когда они будут проходить мимо нас. Мне это показалось странным: инвесторы, очевидно, знали, во что вкладывают деньги, но явно не хотели пачкать руки этими деталями.

На работе, общаясь со всеми, от разработчиков до руководителей, я впитывал всё, что мог узнать о компании. Я зачитывался статьями о владельце Manwin, Фабиане Тильманне. Мы никогда не разговаривали, но издалека он казался занудой и уверенным в себе, человеком, вылепленным из другого теста, чем те, кого он нанимал. Я узнал, что Тильманн считал, что мир порнографии готов к переменам с помощью технологий. Собрав небольшое состояние на разработке программного обеспечения для отслеживания доходов от рекламы для порносайтов, он приобрёл компании, которые впоследствии стали Manwin, включая Pornhub и Brazzers (компанию, производящую порноматериалы). 

Но несмотря на все улучшения, что сделал Тильманн по технической части веб-сайтов, все равно требовался огромный бюджет, чтобы вывести компанию на новый уровень.

Вскоре после визита инвесторов, компания получила более чем 360млн$ в виде инвестиционных заёмов. (Позже выяснилось, что среди инвесторов были JPMorgan и Корнельский университет (который, как сообщается, впоследствии отказался от своих инвестиций)).

Они начали скупать множество сайтов, захватывая как большие сайты, такие как YouPorn, так и десятки малых.

Эти активы, высоко ценимые за трафик и доход, были проанализированы, отшлифованы и внедрены в Manwin Borg, что экспоненциально увеличивало влияние компании в индустрии. Manwin взяла под свой контроль цифровую составляющую Playboy, стремясь лучше закрепиться в этом бизнесе, одновременно купив Fuck.com и Men.com. Это был беспощадный захват территории.

Перед командой по работе в социальных сетях Pornhub была поставлена задача проникнуть в поп-культуру, и мы зашли с козырей. Мы троллили знаменитостей и музыкантов ради ретвитов и внимания — и пару раз это вышло успешно.

Тогда я думал, что это делается лишь ради рекламы, но на самом деле у Тильманна была стратегия создать мейнстрим-образ, чтобы заинтересовать финансовые рынки.

С самого начала, Manwin делился на два конкурирующих направления: платные сайты, производящие действительно порнографию, и сайты, которые заваливают интернет бесплатной, чаще всего пиратской, порнографией, загруженной пользователями. Владея значимыми бизнесами обоих направлений, Manwin строили уникальную бизнес-модель. 

Со временем приоритеты компании сместились на Pornhub, ставший «дойной коровой», а платные сайты теряли значение, несмотря на рост бесплатных tube-сайтов.

По мере того, как Manwin переключались на tube-сайты, контроль контента на Pornhub становился всё сложнее. Пользователи обходили правила платформы, а менеджмент MindGeek был слишком занят ростом Pornhub, чтобы заняться этой проблемой.

Позже Pornhub превратился из tube-сайта, направленного на пользовательский контент и рекламу, в полноценного производителя контента с помощью сотрудничества со студиями и запуска Pornhub Premium.

Раньше платные сайты все еще управляли производством порнографии, но сегодня именно Pornhub контролирует большую часть рынка. После этой перемены произошел скандал с контент-партнером.

В 2019 партнер Pornhub – Girls Do Porn был обвинен в сексуальном траффикинге в США. Вследствие этого, еще 50 женщин подали коллективный иск против MindGeek (Manwin) в 2020, утверждая, что MindGeek знали, что их работники Girls Do Porn принуждали их, а также врали участницам видео о том, как снятые видео будут использованы. Но несмотря на это, MindGeek продолжили сотрудничать с студией, разрешая размещение их видео на своих площадках. Pornhub якобы удалил видеоролики Girls Do Porn после ареста операторов, но клипы остались доступны на сайте.

В октябре 2021 года MindGeek достиг соглашения по иску. Но, как я узнал много лет назад, если видео однажды появилось на tube-сайте, избавиться от него уже невозможно. По мере роста компании росла и её скандальная репутация. Актрисы порно жаловались на массовое пиратство на Pornhub, но внутри компании этим, похоже, особо не занимались - менеджмент был сосредоточен только на росте сайта.

<…>

После того, как я уволился, компания Manwin продолжила расти в привычном для себя темпе, они приобрели RedTune и другие крупные порно-сайты. Спустя годы я узнал, что Тильманн продал компанию после обвинения в уклонении от налогов в Германии. Со стороны я наблюдал, как Pornhub проникает глубже в массовую поп-культуру, воплощая в жизнь амбициозную цель - сделать порнографию частью мейнстрима.

Я читал с интересом, как MindGeek использовали данные миллионов пользователей для создания статистики, которую затем подхватывали крупнейшие СМИ, о том, какое порно смотрят люди. Pornhub стали чаще упоминать в ночных ток-шоу. Я узнал, что к 2018 году MindGeek стали более эффективными в сборе данных пользователей, чем Netflix или Spotify, и потребляла больше трафика, чем Amazon. Я был поражён, читая восторженные статьи о «звёздах» соцсетей Manwin в ведущих технологических изданиях. Я задавался вопросом, модерируют ли контент новые сотрудники по-прежнему, как когда-то делал я.

Но даже когда Pornhub был на пике своего влияния на поп-культуру, меня заинтриговало появление странной новой проблемы в виде дипфейков, которая напрямую указывала на слабости компании - модерацию контента, пиратство и согласие. В 2018 году компания запретила фейковое порно со знаменитостями, созданное искусственным интеллектом. Но дипфейки оказались лишь первым ударом по компании.

В ноябре 2020 года 20 членов парламента, включая Арнольда Фирсена, консервативного политика из Альберты, написали министру юстиции Дэвиду Ламетти письмо с требованием провести расследование в отношении MindGeek за размещение запрещённого контента. (Возможно, неслучайно, что примерно в то же время Pornhub начал добровольно сообщать о видеороликах со сценами насилия над детьми организациям по защите детей и федеральной полиции.)

В следующем месяце газета The New York Times опубликовала статью «Дети Pornhub» – душераздирающее разоблачение, в котором несколько молодых женщин описали разрушительные последствия, которые они пережили - наркозависимость, селфхарм, попытки самоубийства - после того, как порнографические видеоролики с ними, будучи несовершеннолетними, были опубликованы на сайте. Журналисты начали спрашивать премьер-министра Джастина Трюдо о MindGeek во время пресс-конференций.

Было интересно наблюдать, как проблемы, которые я заметил на порносайтах еще десять лет назад, внезапно стали заголовками новостей. Я задался вопросом, как руководители MindGeek справятся с таким давлением, а потом усмехнулся про себя, вспомнив их пренебрежение к критике во время моей работы там. Сомневаюсь, что они вообще задумывались об этом, находясь в изоляции в своём мерцающем голубом кубе в Монреале, в своих роскошных автомобилях, в своих загородных особняках.

Но затем наступили еще более серьезные последствия: после публикации статьи в Times Visa и Mastercard приостановили обработку платежей в сети MindGeek. Их дойная корова рухнула, и компания MindGeek немедленно удалила около 10 миллионов видео, загруженных пользователями с Pornhub, и ввела новые правила, чтобы не допустить загрузки контента непроверенными пользователями. Но эти меры оказались слишком незначительными и слишком запоздалыми для людинь, чья жизнь была разрушена, когда они стали невольными участницами порно видео без своего согласия.

Представляю себе истеричные совещания руководства, которые закончились массовым удалением непроверенного контента, — тот самый ужас, который они испытали, прежде чем пойти на отказ от главной функции Pornhub: свободной загрузке и сохранению любых роликов.

В феврале 2021 года топ-менеджеров MindGeek - Фераса Антуна, Дэвида Тассилло и моего бывшего начальника Кори Урмана - вызвали в парламент, чтобы они дали показания о деятельности компании и ответили на обвинения, опубликованные в The Times. Ответы руководителей мало впечатлили парламентариев, особенно после страшных историй тех людинь, кто пережил это, чьи нелегально снятые видео оказались на Pornhub.

Несколько недель спустя Вирсен вместе с более чем 70 коллегами направил письмо в Королевскую канадскую полицию (RCMP) - федеральное полицейское агентство Канады, потребовав начать полноценное уголовное расследование в отношении MindGeek. С тех пор давление на компанию только усилилось и другими способами: законопроект, поддержанный Вирсеном, который обязывает порносайты проверять возраст всех пользователей, сейчас проходит через парламент. По меньшей мере одна акция протеста уже состоялась у офиса MindGeek. 

Я связался с Вирсеном, чтобы узнать о его попытках контроля деятельности MindGeek. Он сказал, что чувствует ответственность за то, чтобы компания ответила за свои действия. «Они у нас под боком, — отметил он. — Весь мир смотрит на Канаду и спрашивает: “Что вы собираетесь делать?”»

Надо отдать должное: во время моей работы в Manwin мои руководители на tube-сайтах действительно хотели удалять любой явно нелегальный контент. Но, как объяснили анонимные модераторы tube-сайтов в недавнем расследовании о MindGeek, проверка пользовательских порнографических видео — это постоянное нахождение в серой зоне: сложно определить, достигли ли актрисы совершеннолетия, употребляли ли они алкоголь и были ли принуждены к съемке.

Я связался с MindGeek, надеясь получить ответы на мучавшие меня вопросы о том, как проходила модерация контента, когда я там работал. В частности, я спросил: проверяли ли сотрудники Manwin загруженные пользователями видео до их публикации на сайте?

«Весь контент в то время проверялся модераторами вручную», — ответил пресс-секретарь, добавив, что это касалось всех tube-сайтов.

Но, по моему мнению, это как-то не сходилось. Тогда ежедневно на tube-сайты загружались сотни, если не тысячи видео, и я не знал никого, кто бы действительно проверял каждую загрузку. Было ли это действительно правдой, что каждое видео перед публикацией кто-то просматривал и одобрял для публикации? И если это правда, как тогда на сайтах мог появляться незаконный или пиратский контент?

Я продолжил задавать вопросы, пытаясь прояснить, как работал процесс модерации: пока я там работал, существовала ли команда, которая круглосуточно проверяла видео до публикации, включая выходные? Или мы, модераторы задним числом, были единственными, кто отвечал за проверку контента?

Компания не ответила на мои последующие запросы, но на волнующие меня вопросы ответили модераторы Pornhub, высказавшиеся в декабре 2020 года. Они рассказали, как им передавали списки из тысяч видео на сайте для проверки и, при необходимости, удаления. Это говорит о том, что только после того, как видео появлялись на сайте, резко увеличивая контентное предложение Pornhub, их постепенно проверяли, что открывало широкие возможности для распространения любого типа видео, по крайней мере, на какое-то время.

Поскольку Pornhub раньше позволял пользователям скачивать видео, любой пользователь мог перезагружать клип бесконечное множество раз на любые порносайты, независимо от того, сколько раз его удаляли.

Эта функция позволяла любому видео, независимо от его содержания, фактически вечно существовать в интернете - это именно тот кошмар, который описывают жертвы порномести, и именно то, чему я стал свидетелем во время работы в Manwin.

Эта политика, возможно, стала крупнейшей тактической ошибкой компании. Если бы они проверяли видео перед публикацией, компания в теории могла бы удалить с сайтов весь контент, нарушающий правила, или, по крайней мере, минимизировать количество таких видео, которые прошли мимо контроля. Вместо этого, сеть Pornhub годами была зоной беззакония, где видео сексуального насилия, сцены зоофилии и бесконечный поток пиратского контента могли спокойно существовать, пока медлительная команда модераторов компании не нажимала кнопку «Удалить».

Мэгги Макдональд, аспирантка и исследовательница из Университета Торонто, которая изучает порноплатформы, рассказала мне, что, по её мнению, решение MindGeek удалить 10 миллионов непроверенных видео с Pornhub и усилить контроль за загрузками было, по сути, формальной игрой на публику для компаний платёжных систем.

 «MindGeek могла бы встроить модерацию контента в процесс добавления видео, поручив реальному человеку просматривать каждое загруженное видео перед публикацией», — сказала она, добавив, что её не удивляет, что компания так долго предпочитала прибыль безопасности пользователей.

«С исследовательской точки зрения, они просто капиталисты», — сказала Макдональд. «Без законодательства они продолжат делать то, что у них получается лучше всего: максимизировать прибыль и расширять свое влияние».

В мире компьютерного хакинга слово «эксплуатация» имеет иное значение, чем в реальном мире, где мы слышим о «эксплуататорских условиях труда» или «эксплуатации детей». В сфере технологий это слово лишилось негативного оттенка: хакеры и предприниматели, увлеченные технологиями, используют уязвимости систем для получения непредвиденных результатов и создания ценности. Обнаружить уязвимость в мире технологий - значит найти золотую жилу.

Компания Manwin решила воспользоваться слабостями порно-индустрии, которые она обнаружила. Воспользовавшись этими слабостями — раздробленностью, недостатком технических знаний, маргинализацией, - Manwin ловко доминировала в огромной части индустрии и зарабатывала миллионы прибыли. Пользователи порносайтов, в свою очередь, выявляли слабые стороны в концепции tube-сайтов - слабый контроль, приоритет роста над строгой политикой в ​​отношении контента - и тем самым разрушали жизни.

Оглядываясь назад, я вижу, как я также сыграл свою маленькую роль в продвижении порнографии в массовую культуру. Хотя вслух я и высказывал свои переживания о проникновении порнографии в поп-культуру, мои глупые твиты [как менеджера по соцсетям] помогали создать впечатление о порносайтах, как непочтительных и развлекательных,  и замалчивали тот вред, который они могли причинить.

Когда работаешь в компании, которая преуспевает, которая осыпает сотрудников щедрой зарплатой и чувством принадлежности, тебя переполняет чувство правильности того, что ты делаешь.

Даже когда участницы порно-видео кричали на каждом углу, что мы лишаем их средств к существованию, а людини умоляли нас удалить видео, где они показаны в самые интимные моменты без их согласия, тех, кто пострадал от действий Manwin, считали лишь второстепенным, досадным побочным эффектом против «великого начинания».

<…>

С самого начала работы в Pornhub мне было ясно, что мои твиты для компании важнее, чем качество модерации контента: если бы я написал что-то не соответствующее имиджу компании, об этом быстро узнали бы. Но такой уровень контроля не распространялся на удаление видео -это становилось приоритетом только в том случае, если я удалял что-то популярное.

Когда я работал в Pornhub, к модерации контента относились как к выносу мусора: неприятной, но необходимой части ведения бизнеса. Её поручали тем, кто занимал нижние ступени корпоративной лестницы, потому что никто не хотел пачкать руки. Оглядываясь назад, я понимаю, что роль модерации контента заключалась в первую очередь в защите компании, а не жертв ее деятельности. Удаление этих видео было для меня всего лишь чем-то, чем я занимался между публикацией шуток в Твиттер.

<…>