Интервью Фрэнсис Хоген о разжигании ненависти в мире Фейсбуком, для максимизации прибыли
"Массовые сбои в Facebook начались через час после того, как в эфире передачи „60 минут“ на канале CBS News бывшая сотрудница компании, Фрэнсис Хоген, подавшая жалобы на Facebook в федеральные правоохранительные органы, раскрыла свою личность и рассказала о сути обвинений. Завтра она должна дать показания Конгрессу. Она также обратилась в Федеральную комиссию по ценным бумагам и биржам с просьбой о предоставлении ей защиты как информатору.
Фрэнсис Хоген 37 лет. Она специалист по анализу данных с дипломом компьютерного инженера и степенью магистра бизнеса в Гарварде. В течение 15 лет она работала в таких компаниях, как Google и Pinterest. С 2019 по апрель 2021 Фрэнсис работала в Facebook. Ее наняли в отдел „гражданской этики“ — специальную команду по защите от вмешательства в выборы в США.
У Фрэнсис Хоген есть многочисленные материалы собственных внутренних исследований Facebook, которые показывают, что их социальная сеть усиливает ненависть, дезинформацию и политические волнения. Из нескольких десятков тысяч страниц следует, что компания систематически лжет общественности о значительном прогрессе в борьбе с ненавистью, насилием и дезинформацией. В найденном ею исследовании, проведенном в этом году, сказано следующее: „По нашим оценкам, мы можем бороться с 3–5% случаев ненависти и примерно 0.6% случаев насилия и подстрекательства в Facebook, несмотря на то, что являемся лучшей в мире компанией в этой области“.
Вот что сказала сама Фрэнсис Хоген в интервью ведущему программы „60 минут“ Скотту Пелли.
Фрэнсис Хоген: Я видела множество социальных сетей, и в Facebook это было значительно хуже, чем во всех остальных.
Скотт Пелли: Знаете, кто–то другой мог просто уволиться и двигаться дальше. И мне интересно, почему Вы занимаете такую позицию.
Фрэнсис Хоген: Представьте, что Вы знаете, что происходит внутри Facebook, и Вы знаете, что никто из посторонних об этом не знает. Я знала, каким будет мое будущее, если я продолжу оставаться внутри Facebook, и люди, один за другим, сталкивались с этим внутри Facebook и зарывали голову в песок.
Скотт Пелли: Когда и как Вам пришло в голову забрать все эти документы из компании?
Фрэнсис Хоген: В какой–то момент в 2021 году я поняла: „Хорошо, я должна сделать это системно, и я должна вынести достаточно, чтобы никто не мог усомниться в том, что это реально“.
Скотт Пелли: Процитирую еще один из документов, которые Вы привели: „У нас есть доказательства из различных источников, что хейтспич, политические высказывания, направленные на разжигание розни, и дезинформация в Facebook и других приложениях влияют на состояние общества во всем мире“.
Фрэнсис Хоген: Когда мы живем в информационной среде, полной злобного, ненавистного, поляризующего контента, это подрывает наше гражданское доверие, это подрывает нашу веру друг в друга, это подрывает нашу способность хотеть заботиться друг о друге. Та версия Facebook, которая существует сегодня, разрывает наши общества и вызывает этническое насилие по всему миру.
После выборов они сказали нам: „Мы распускаем отдел гражданской этики“. По сути, они сказали: „Отлично, мы справились с выборами. Не было беспорядков. Теперь мы можем избавиться от „гражданской этики“. Прошла пара месяцев, и мы получили захват Капитолия. И когда они избавились от „гражданской этики“, это был момент, когда я сказала: „Я не верю в то, что они готовы действительно сделать все необходимое, чтобы Facebook стал менее опасным пространством“.
Корень проблемы Facebook лежит в изменении, которое компания внесла в 2018 году в свои алгоритмы, которые решают, что вы видите в своей новостной ленте. На своем телефоне вы можете увидеть только 100 единиц контента, если Вы сидите и прокручиваете его в течение, ну, знаете, пяти минут. Но у Facebook есть тысячи вариантов контента, которые он может вам показать. Алгоритм выбирает из этих вариантов, основываясь на том, с каким контентом вы больше всего взаимодействовали в прошлом.
И одним из последствий того, как Facebook отбирает этот контент сегодня, является то, что он оптимизируется для контента, который вызывает вовлечение или реакцию. Но собственные исследования Facebook показывают, что контент, вызывающий ненависть, раскол, поляризацию, легче побуждает людей к гневу, чем к другим эмоциям.
Скотт Пелли: Дезинформация, гневный контент привлекает людей и удерживает…
Фрэнсис Хоген: Да. Заманивает.
Скотт Пелли: И удерживает их на платформе.
Фрэнсис Хоген: Да. И в Facebook поняли, что, если они изменят алгоритм на более безопасный, люди будут проводить меньше времени на сайте, они будут меньше кликать на рекламу, и компания будет меньше зарабатывать. Они понимали опасность такого алгоритма для выборов 2020 года. Поэтому они включили системы безопасности, чтобы уменьшить количество дезинформации — но многие из этих изменений были лишь временными. И как только выборы закончились, они снова отключили системы безопасности или вернули настройки к прежним, чтобы отдать предпочтение росту, а не безопасности. И это действительно похоже на предательство демократии.
Facebook утверждает, что некоторые системы безопасности остались. Но после выборов Facebook был использован для организации восстания 6 января. Прокуроры приводят в качестве доказательств сообщения в Facebook — фотографии вооруженных партизан и текст, в том числе „Пулей или бюллетенями мы восстановим республику!“
После нападения на Капитолий сотрудники Facebook негодовали во внутренней системе, сообщения из которой скопировала Хоген. „…Разве у нас не было достаточно времени, чтобы понять, как управлять дискуссией, не допуская насилия?“ Мы искали позитивные комментарии и нашли вот это: „Я не думаю, что наша команда руководителей игнорирует данные, игнорирует инакомыслие, игнорирует правду…“, но это вызвало такой ответ: „Добро пожаловать в Facebook! Я вижу, вы только что присоединились в ноябре 2020 года… мы наблюдаем за… бессмысленными действиями руководства компании уже много лет“. „…Коллеги… не могут добросовестно работать в компании, которая не предпринимает больше усилий для смягчения негативного воздействия своей платформы“.
Скотт Пелли: Facebook, по сути, усиливает худшие проявления человеческой натуры.
Фрэнсис Хоген: Это одно из тех печальных последствий, верно? Никто в Facebook не является злоумышленником, но мотивации не совпадают, верно? Например, Facebook зарабатывает больше денег, когда вы потребляете больше контента. Людям нравится заниматься тем, что вызывает эмоциональную реакцию. И чем больше злости они испытывают, тем больше они взаимодействуют и тем больше потребляют.
Эта динамика привела к тому, что основные политические партии по всей Европе подали жалобу в Facebook. Во внутреннем отчете за 2019 год, полученном Хоген, говорится, что партии „…считают, что изменение алгоритма вынудило их к негативному характеру общения в Facebook… что привело их к более экстремальным политическим позициям“.
Скотт Пелли: Европейские политические партии, по сути, сказали Facebook, что то, как вы написали свой алгоритм, меняет то, как мы руководим нашими странами.
Фрэнсис Хоген: Да. Вы фактически заставляете нас занимать позиции, которые нам не нравятся, которые, как мы знаем, вредны для общества. Мы знаем, что если мы не будем занимать такие позиции, мы не выиграем на поле социальных сетей.
Доказательства вреда, по ее словам, распространяются на приложение Instagram от Facebook.
Скотт Пелли: В одном из внутренних исследований Facebook, которое вы нашли, говорится о том, как Instagram вредит девочкам–подросткам. В одном из исследований сказано, что 13,5% девочек–подростков говорят, что Instagram усиливает мысли о самоубийстве; 17% девочек–подростков говорят, что Instagram усиливает расстройства пищевого поведения.
Фрэнсис Хоген: И что самое трагичное, собственные исследования Facebook говорят, что по мере того, как эти молодые женщины начинают потреблять этот контент о расстройствах пищевого поведения, они становятся все более и более подавленными. И это заставляет их чаще пользоваться приложением.
И таким образом, они попадают в этот цикл обратной связи, где они ненавидят свое тело все больше и больше. Собственные исследования Facebook говорят не только о том, что Instagram опасен для подростков, что он вредит им, но и о том, что он явно хуже, чем другие формы социальных медиа.
В прошлом месяце адвокаты Хоген подали не менее 8 жалоб в Комиссию по ценным бумагам и биржам, которая следит за соблюдением закона на финансовых рынках. В жалобах внутренние исследования сравниваются с публичным лицом компании, особенно с высказываниями и заявлениями Марка Цукерберга, который в марте прошлого года дал показания Конгрессу.
Скотт Пелли: Какова юридическая теория обращения в Комиссию по ценным бумагам и биржам США? Какие законы, по вашему мнению, были нарушены?
Джон Тай (адвокат Хоген): Как публично торгуемая компания, Facebook обязана не лгать своим инвесторам и даже не скрывать существенную информацию. Поэтому SEC регулярно подает иски в суд, утверждая, что такие компании, как Facebook и другие, допускают существенные искажения и умалчивания, которые негативно влияют на инвесторов.
Скотт Пелли: Facebook может обвинить Хоген в краже документов компании.
Джон Тай: Закон Додда–Франка, принятый более десяти лет назад, создал в SEC Управление по работе с осведомителями. И одно из положений этого закона гласит, что ни одна компания не может запретить своим сотрудникам общаться с SEC и делиться с SEC внутренними корпоративными документами.
Фрэнсис Хоген: В Facebook я неоднократно наблюдала конфликт интересов между тем, что было хорошо для общества, и тем, что было хорошо для Facebook. И Facebook, снова и снова, выбирал оптимизацию в своих собственных интересах, чтобы заработать больше денег".
P.S. Кроме того, прямо сейчас на популярном хакерском форуме продается личная информация более 1,5 миллиардов пользователей Facebook. Данные содержат имя, электронную почту, номер телефона, местоположение, пол и ID пользователя. Это самая крупная и значительная утечка данных Facebook на сегодняшний день.
Оригинал видео
(с) deer00hunter