На чём корпорации вертели вашу приватность (?) Часть 3

Как можно определить надёжность VPN?

З: – Вы когда говорили, что зашли бы в кафе, не идентифицируясь там под своим номером телефона. А под каким?

АХ: – Нельзя говорить – под чужим, потому что это призыв к нарушению регламенту идентификации. Нет-нет-нет. Я шучу. Сейчас практически все кафе идентифицируют всё подряд – там не только номер телефона, там есть куча пикселей, там идентификация устройства, мак-адрес и чего там только нет, для того чтобы потом это использовать – от рекламных целей до оперативно-розыскных мероприятий. Поэтому с такими штуками нужно быть очень осторожными. Вы не только можете что-то написать, а с вашего устройства могут написать, а потом что-то произойдёт.

Вы, может, видели историю о том, что сейчас делают расследование, как (в Белоруссии, кстати, тоже) сдают аккаунты «Фейсбука» в аренду, типа для реклам казино. А по факту неизвестно для чего, ещё и доступ к компьютеру дают. Вот таких штук нужно максимально опасаться. Если вы решите откуда-то что-то анонимно написать… Я пришёл бы в кафе и врубил бы VPN какой-нибудь крутой. Но на самом деле (опять же, ни на кого не показываю пальцем), когда будете аккаунт создавать в VPN’е, вы проверьте, кому принадлежит этот VPN, какой компании, кому эта компания принадлежит и так далее. Потому что большинство игроков рынка VPN не совсем хорошие ребята.

Ну ладно, в Белоруссии это неважно. В России хороший VPN проверяют по тому, заблокирован ли там azino777, или нет. Потому что, если нет, то велика вероятность, что в течение недели этот VPN-сервис закроют. В общем, проверяйте всё.

Об автоудалении сообщений

З: – Вы так много говорили про личные сообщения, что их социальные сети читают… А вот, например, у «Фейсбука» есть секретные личные сообщения, которые можно поставить (кроме того, что они ещё и шифруются) на уничтожение. Как вы это можете прокомментировать?

АХ: – Никак. Я, во-первых, не суперпрофессионал в криптографии, а во-вторых, проблема здесь в том, что сервера «Фейсбука» никто не видел, никто не знает, как это там всё работает. Условно, в какой-нибудь спецификации написано, что это end-to-end шифрование, а оно может не такое быть, или оно end-to-end, но с какими-то там погрешностями или ещё с чем-нибудь. Такой штукой есть смысл воспользоваться, если вы боитесь, что тот человек, которому вы это отправили, в какой-то момент попытается что-то сделать.

В «Телеграме» есть удобная функция для отправки интимных фотографий, которые самоудаляются: когда ты пытаешься сделать скриншот, она автоматически удаляется. В «Айфоне» же появилась функция записи видео с экрана, и записать видео с экрана можно и так далее… Мне просто очень часто присылают материалы с этой функцией (автоудаление) – я никогда не понимаю зачем. Я же могу сразу скачать! Это всё на ваше усмотрение.

Социальный рейтинг в Китае: мифы, реальность, перспективы

В: – Я на самом деле немножко злоупотребляю, хотя мне VPN не нужен (кстати, VPN у нас проверенный). А вопрос про этику. У нас есть прекрасный друг из Казахастана, мы его тоже привозили с лекцией. Как-то с ним сидели на какой-то конференции, где рассказывали про разные вещи, и он говорит (а он занимается кибербезопасностью, то есть в чистом виде инженерной безопасностью, человек, которому интересны технические решения): «Вот, вернулся из Китая. Они там такую классную штуку делают – социальный рейтинг». Ты, кстати, что-нибудь исследовал по этому вопросу, как это работает у них?

АХ: – Мы в России скоринг продаём, я много про это знаю.

В: – Вот у меня и вопрос, что бы ты об этом побольше рассказал – о том, что нас, возможно, всех ждёт в будущем. Но ещё вопрос про этику. Он так радостно говорил: «Интересное инженерное решение!» У тебя есть свой кодекс этики?

АХ: – Да, кстати, есть. Два года назад мы его ввели – как раз после истории с Милоновым мы решили как-то ранжировать эти проекты. Возвращаясь к рейтингу: это один из суперпопулярных вопросов, потому что СМИ очень сильно демонизируют всю эту историю – что людей за границу не выпускают, убивают лазером с Луны. Я вам привожу, опять же, инженерные штуки…

Если вы начнёте копать эту историю, посмотрите, что за параметры входят в этот социальный рейтинг, вы поймёте: в него входят закрытые алименты, судимости, кредитная история, то есть штука с инженерной точки зрения реально офигенная. Ты живёшь, не нарушая закон, живёшь хорошо – тебе дают низкую ставку по кредиту. У тебя важная социальная работа (например, учитель) – тебе дают годное жильё. Всех сначала это смутило, потому что просочились сначала историю, что если ты будешь плохо писать про президента, то тебе этот рейтинг снизят. Хотя доказательств не было. В защиту рейтинга скажу, против рейтинга скажу, что и алгоритма никто не видел, какие параметры там по факту используются.

Потом появилась история, что более миллиона человек не выпустили за границу, запретили выезд. На самом деле это не совсем точная формулировка. Вы когда визу получаете (например, в Европу), вам виза даётся из расчёта «70 евро в день» (что-то такое); если вы справку о доходах не дадите, то вам визу не дадут. В Китае местный МИД решил пойти чуть дальше: он просто сразу предупредил людей, у которых недостаточно денег, о том, что, если вы захотите поехать за рубеж, денег у вас не хватит. Соответственно, это всё потом направили в концепцию, что бедных не выпускают за рубеж. Это сложная этическая штука, она граничит на некой презумпции виновности-невиновности, но по факту я не могу дать оценку.

Убивают люди, а не оружие

Главное, что нужно понимать: все эти алгоритмы, которые осуждает общество – проблема не в алгоритмах. Алгоритмы просто позволили очень быстро анализировать большой «объём» людей, и эту проблему социальную подняли наверх. То есть бот «Майкрософта», который обучился на твитах и стал расистом – это же не бот виноват, а твиты, которые он читал. Или компания, которая решает построить модель идеального сотрудника, проанализировав текущих, и оказывается, что это белый, гендерно – мужчина с высшим образованием.

Это же не модель – расист, сексист или ещё что-то; это – люди, которые наняли этих людей (правы, не правы были – неважно). Всё просто граничит с тем, что искусственный интеллект – злой, плохой, и он мир уничтожит, но на самом деле… Если условно сейчас, например, российское правительство примет закон о том, что оппозиционерам не давать бесплатное образование, и там напишут софт, который идентифицирует и лишит их этого образования бесплатного – это ж не алгоритм будет виноват. Хотя никто эту мою концепцию не поддерживает, потому что, – когда я говорю, что не оружие убивает людей, а люди, – «ты фашист» и так далее.

В общем, это реально очень крутое инженерное решение. Нужно понимать, почему этого, например, в России не будет. У вас [в Белоруссии] этого не будет, потому что вы – европейское государство, у вас всё хорошо. В России этого не будет по многим причинам: во-первых, у нас не такой уровень доверия к правоохранительной системе, как в Китае; у нас далеко не такой уровень цифровизации. В Китае почему всё получилось? Потому что правительство: у них – цифровая медицина, цифровое страхование, цифровая полиция. И кто-то умный додумался: давайте это всё сложим и сделаем – по сути это программа лояльности. Там больше плюшек, нежели «не плюшек».

Поэтому да – я думаю, что в России это не введут. Нужно сначала отцифровать весь Минздрав (а это задача на 50 лет) – кто-то должен жизнь положить, чтобы это сделать, а никто, естественно, делать этого не будет. С другой стороны, банки российские – передовые в мире по скорингу людей, они чего только не делают: «Ага, мужик? Девушек молодых лайкаешь? Вот тебе карта кредитная на любовницу». Там очень всё продвинуто. Например, в Америке практически везде скоринг подобный запрещён, потому что там есть законы, по которым банк тебе обязан объяснить, почему: «Ага! Потому что компания Social Data Hub за 10 лет хранит историю, и вот – то-то и то-то выдало о тебе»! И давай-ка ты засудишь и одних, и других! А у нас подобных историй нет.

Почему замалчивают статистику?

Я в принципе поддерживаю скоринг, если это не какая-то «тоталитарная» история. Но весь вопрос в том, что его невозможно предугадать, оценить. Это самая сложная история в этике больших данных – предугадать социальный эффект, который будет там через 15 лет. Вот я, например, очень долго умоляю прокуратуру открыть информацию о преступности. Данные криминальной статистики – это один из краеугольных камней любой статистики; все этого очень хотят. Но, например, в России криминальную статистику не открывают по очень простой причине: боятся нарушить демографию внутри городов. Считают, что люди перестанут жить в каких-то городах, даже внутри города всё как-то перераспределится. По этой же причине не раскрывают статистику ЕГЭ – сами понимаете, что в какие-то школы люди пойдут, в какие-то не пойдут.

Возможно, это правильно, возможно, и нет, но было много проектов… Например, «Яндекс» одно время (опять же, по «жёлтым» слухам, не видел, не знаю) решил в модель прогнозирования «недвижки» добавить количество атак на таксистов, то есть некий такой подход к уровню криминала, посчитав количество жалоб таксистов на то что их кто-то домогался, угрожал и так далее. Быстро свернули внутри компании, чтобы подобные вещи не делать.

З: – Вы общаетесь со студентами, общаетесь с аудиторией в своей стране, у нас в стране. Вы заметили по числу вопросов из зала, что мы ещё на той стадии развития, когда мы думаем, что нам нужна конфиденциальность, что мы можем спрятаться от кого-то, свои данные защитить, не предоставив их, спрятав, зашифровав. Если Европейский союз уже перешёл к следующей стадии, стадии приватности, которая подразумевает контроль над данными – заставить всех, кто твои данные собирает, предоставить тебе действенный контроль над ними… По выборкам по регионам, по социальным слоям – какая из категорий граждан, людей, больше уже перешла на второй этап, либо кто ещё сидит на первом в основном?

Кто больше всего озабочен безопасностью персональных данных?

АХ: – Тотальное большинство… Я бы сказал: всем насрать! Это волнует сейчас топ-менеджеров. По городам в России – это Москва и Санкт-Петербург. Активный центр – это айтишники, дизайнеры, креативные профессии, все, кто умеет фильтровать контент, получать новые знания, с высоким уровнем интереса к международным проблемам. В основном это топ-менеджеры; да, айтишники (не считая специалистов по безопасности); банкиры – то есть все люди, на которых утечка данных может как-то повлиять.

Если, например, украдут данные какого-нибудь домохозяина из какой-нибудь Калуги: вряд ли у него в жизни что-то серьёзно поменяется, если у него кто-то украдёт, например, доступ к gmail’у, где он доступ к сериалам хранит. Вопрос в том, что закон всех равно защищает, и это правильно, потому что… с точки зрения закона все равны – ха-ха… но самое главное, что невозможно понять, чьи данные сколько будут стоить, пока эти данные не пропадут – к сожалению, очень сложно спрогнозировать. Но в основном такая категория граждан.

Телефон – в фольгу!

Я единственный раз в жизни видел поголовное хранение всего и вся в двух компаниях. Одна – это крупнейший интегратор по информационной безопасности: там всё, вплоть до USB, клеем заклеено внутри офиса; и люди там такие же ходят – я там встретил человека, у которого телефон в мешочке из фольги. Я узнал, что есть компании, которые торгуют специальными такими мешочками. А второй раз я увидел подобную историю в «Блумберге» у сотрудников: мы стояли в курилке, и кто-то где-то фотографировался, и один из них – «Так, чтобы нас там видно не было на заднем фоне!» Я такой думаю: «О, ничего себе»!

«Лучше мы, чем ФСБ»

Не хотелось бы говорить, что это менее одного процента населения, но, к сожалению, в общей массе практически всем всё равно. Но с другой стороны, у меня есть скандальный сервис по контролю действий несовершеннолетних (давно мы его запускали под слоганом «Лучше мы, чем ФСБ»), чтобы предупредить родителя о том, что несовершеннолетний творит трэш, перед тем как наш же алгоритм, установленный где-то там, к нему кого-то отправит.

При верификации ребёнка нужно присылать скан паспорта (это в принципе нормальная практика), но мы написали, что вы можете обрезать номер паспорта, потому что нас он не интересует; нас интересует только ваша фотка, голограммка и имя-фамилия. И практически 100 % людей – ну, где-то 95 паспортов из 100 – люди в «Фотошопе» аккуратно вырезали эти номера и отправляли только нужную часть. То есть они поняли – ага, раз им не нужно, то не нужно это и присылать. На мой взгляд, это прям какая-то реальная подвижка, на которую их подтолкнуло недоверие к нам.

З: – Выборка такая – определённая. Там же люди, которые обращаются, они уже продвинутые.

Люди не хотят, чтобы за ними следили, но не читают соглашения

АХ: – Да. А вторая такая же штука: мы в тест в конце того года запускали приложение для знакомств (скоро его перезапустим). Там была контрольная группа в 100 тысяч человек. И там по подходам GDPR в личном кабинете было 15 галочек – я даю разрешение на анализ взаимодействия с интерфейсом, на доступ к моей демографии, на доступ к трёхмерной реконструкции лица, на доступ к моим личным сообщениям и так далее. Мы максимально расписали всевозможные доступы. Даже где-то есть статистика, кто на что ставил галочки. 98 % оставили по умолчанию проставленными все галочки (притом что они заходили на эту страничку и видели это всё, но им наплевать было), а вот эти 2 % интересно было проанализировать на то, что для людей было приоритетно.

Все убрали разрешение на доступ к личным сообщениям и практически все убрали разрешение доступ к данным сексуального теста (что им там нравится, что они там заполняли, свои извращения – шучу). Но это людей пнули в эту, ткнули: им интерфейс говорит – внимательно прочитай это, даёт возможность проскролить это соглашение до конца. Но это было сделано исключительно потому, что это был исследовательский проект, и все были предупреждены. Ни одна компания, включая нас, когда выпустят это приложение в открытый доступ, не будет заставлять человека читать это сообщение до конца, потому что… ну, извините, так это всё работает.

При условии того, что они зашли к нам, зная, чем занимается компания, зная, что они зашли в сервис, который будет тебе предлагать кандидатов на основании того, какое ты порно лайкаешь – даже на основании этого только 2 % прочитали эти галочки и вообще что-то сделали. И то практически никто из них не снял галочку «Доступ к трафику и данным о посещении других веб-страниц». В основном всех волновали личные сообщения.

Обнажёнка и посадки за лайки – интересные законы братских республик

З: – У меня вопрос по защите данных. Можно носить телефон в фольге, делать вид, что их нет… Потом оказывается, что ты вроде как сохраняешь, сохраняешь, но потом ты должен свои данные отдать государству, потому что оно с тебя требует, и ты никак не можешь… И тут получается, что господрядчики все насквозь дырявые. А в Белоруссии ещё такая норма есть: если я проверю безопасность своих личных данных (кое-что подправлю и получу доступ к ним), то я сразу уголовник. Та же самая статья использовалась, чтобы журналистов по «делу БелТа» обвинить в том, что они получили несанкционированный доступ к данным (можете сами почитать). Вот, собственной, и вопрос: является ли эффективной мерой для приватности, вообще для безопасности частных данных такие ограничения?

АХ: – Я понял. В Белоруссии есть много очень интересных законов. Я буквально недавно узнал… Я вот всё шучу про передачу обнажёнки, а у вас это, оказывается, запрещено.

З: – Демонстрация запрещена!

АХ: – Это вообще как-то странно.

З: – Смотреть можно, передавать нельзя, лайкать нельзя. Смотреть вместе нельзя!

АХ: – Я на ваш вопрос отвечу. Вернусь к теме «сидят за лайки» в Москве. В России это тема номер один. Не знаю, как в Белоруссии, но, честно говоря, государство… Если статистику анализировать, в Москве 95 посадок за лайки из 100 – это когда люди нажаловались на людей, кто-то пишет на прокуратуру на другого человека. Государство очень редко возбуждает подобные дела. Мне кажется, что этот закон – абсолютно абсурдный. Не знаю ни одного реального преступника, которого за этого посадили. Но эту меру используют, чтобы хоть что-то человеку вменить. Мне кажется, что это максимально странно. Думаю, что когда-нибудь это отменят.

З: – Это называется под колпаком держать.

АХ: – Ну-у-у, окей… Не могу сказать. Я не совсем прям прогосударственное чудовище, но моё восприятие немного изменено, знаете, людьми, которые приходят к нам и говорят: «У меня ребёнок пропал, помогите найти». Я говорю: «Я не могу ничего сделать без разрешения суда». Ты смотришь на этих родителей, которые всё в своей жизни отдали бы, любой доступ к любым данным дали – только чтобы решили их проблему. Поэтому мне очень сложно подобную дискуссию вести: с одной стороны, я считаю, что и государство правильные вещи делает, когда реальных каких-то людей ловит, а с другой стороны, давать бесконтрольный доступ – это вообще жуткая история.

Возвращаюсь к вашей штуке, «сори», что отвлёкся. Я в пакетики из фольги не верю вообще. Иметь мобильный телефон и оборачивать его в фольгу – это какая-то глупость. Ради чего это делать? Ради того, чтобы телефон к «вай-фаю» не подключался? Проще его выключить. Чтобы мобильный оператор тебя не идентифицировал? Они итак всё равно могут сигнал триангулировать, как-то посчитать это. Для меня единственные эффективные меры безопасности – это хранилище, защищённое, типа локальной сети – может, в квартире, где можно что-то хранить.

З: – Тут вопрос по законодательству. Является ли законодательство репрессивным по отношению к человеку, которые хочет проверить свои данные?

АХ: – Я понял, да. Я даже не знал про эту штуку, поэтому не могу вам точно сказать. В России такого нет, хотя там всё очень сложно. Наверное, можно проконсультироваться с квалифицированными юристами и, возможно, есть какая-то лазейка – может, в какой-то Европейский суд подать… Нет? Не могу вам про это сказать. Мои знания в праве поверхностны, на уровне руководителя компании. Я знаю, чего делать нельзя, чтобы тебе никто ничего не сказал. Это, конечно, очень печально.

З: – Я к тому, что в других странах (например, в Штатах) нормальная практика, что ты можешь протестировать какую-то уязвимость, а потом о ней заявить, но не разглашать.

АХ: – Да, «баг-баунти». Я понял, есть такое.

З: – И у компаний нет механизма, чтобы тебя убрать, потому что это дешевле.

АХ: – Эта штука тоже граничит на уровне закона. Смотря как вы эту уязвимость найдёте. Мне кажется, что большое количество денег, выплаченных за эту уязвимость, в Америке были выплачены под соглашение о неразглашении и под угрозами засудить этого человека. Тоже как бы свечку не держал. Мы всегда рискуем такой штукой. У меня сотрудники пару раз находили подобные уязвимости во всяких госприложениях – я всегда говорю: «Отправьте анонимное письмо лучше, чем вы им скажете, что дырка там». А потом какой-нибудь НИИ придёт, который этот сервис поставил… В общем, дальше продолжать не буду.

Проверить бизнес на честность не получится: не нравится – не пользуйся

З: – Такой вопрос. Вы сказали, что провели опыт – 15 галочек надо было поставить… Допустим, пользователь отменяет все галочки. Кто и как проконтролирует это? Как это проверить вообще?

АХ: – Честно вам скажу: никто и никак. Серьёзно. То, что вы у «Гугла» поставили-сняли галочку «Запрет рекламного отслеживания», вообще это ничего не значит. К сожалению, даже когда вы во «Вконтакте» ставите запрет индексации поисковиков, поисковики всё равно это индексируют, а потом просто не выдают эти результаты определённым людям. Это всё на уровне отсутствия компетентных органов, которые не могут это проверить. Плюс, компании, которые это делают, – частные. У «Фейсбука» правильная или неправильная позиция, она у них одна: не нравится – не пользуйся.

О регулировании

З: – У меня только один простой вопрос. А как вы относитесь к вопросу регулирования в обработке данных, саморегуляции?

АХ: – Я, как представитель компании, считаю, что рынку, бизнесу нужно саморегулирование. Я верю в то, что ассоциация больших данных может сама всё зарегулировать сама, без государства. Я очень не доверяю государственному регулированию и очень не доверяю всем историям, когда государство что-то хочет хранить у себя, потому что каждый кейс показывал, что это очень плохо. Обязательно кто-нибудь приклеит логин и пароль на жёлтый стикер на монитор и так далее.

В общем, я верю в саморегуляцию. Плюс ко всему верю, что в ближайшие 5 лет мы придём к некой открытости. Даже сейчас вы это уже видите по новостным инфоповодам, что государству очень сложно врать пользователям, пользователям очень сложно врать системе. И это, в принципе, наверное, хорошо. Раз уж у нас сотрудников разведок по фоткам публичным вычисляют

Всё это ведёт к снижению, наверное, уровня преступности. Ну, чисто математически. Если кому-то интересно будет проговорить о снижении уровня преступности – там очень много есть всевозможных выводов, которые можно сделать. В общем, я за саморегуляцию рынка. Спасибо!

Источник: habr.com

привет, я Марк - мой личный блог, будни злого кардера-алкоголика. Спасибо за внимание!