Deepfake

В настоящее время DeepFake стали достаточно широко использоваться, как в политической борьбе, так и в интернет-мошенничестве, такая биометрическая атака вышла на новый уровень, если быть технически точным, при ее реализации используется уязвимость «man in the middle», когда идет подмена драйверов устройства и перенаправление видеопотока . При этом программный лайвнесс (определение, что перед камерой живой человек) не срабатывает (речь в данном случае идет про подмену изображения в онлайн-режиме, при "зуме" например). Кроме этого, по сети гуляют множество дипфейковых фото и видео, при помощи которых так же совершаются нелегитимные "вещи".

Кратко постараемся узнать, какие есть средства борьбы с такими явлениями:

1. Изобличение дипфейков, лица которых были созданы при помощи  GAN.  Вот полный мануал, если кто хочет разобраться детально. Если, кратко, то выявить дипфейк можно увеличив и рассмотрев зрачок глаза на изображении, у дипфейка в данном случае он будет не правильной формы, у не подменного же изображения, он будет более круглый, как показано ниже на фото слева. (К слову данная инструкция чуть более полугода назад уже была представлена на обозрение в некоторых телеграмм-каналах).

Показательный пример для данной темы, это "дипфейковая» регистрация в 2019 году Илона Маска в качестве самозанятого на сервисе ФНС России.

2. А теперь остановимся на видео.  Тут можно привести в качестве примера, как не так давно на YouTube появилось мошенническое видео, сделанное якобы от имени музыканта Моргенштерна. В ролике предлагается получить денежную выплату, однако в результате у зрителей, оставляющих свои данные, начали красть деньги.

Либо, как 6 сентября 2021 в сети появилось рекламное видео, на котором миллиардер и основатель Тинькофф Банка Олег Тиньков обещал подарить деньги. На данном видео (которое до сих пор по каким-то причинам существует на интернет-ресурсах) и попробуем поэкспериментировать и применить специальный сервис выявления дипфейков.

Deepware.ai (находится в бета-тесте) - сканер обнаружения дипфейковых видео, состоящий из 5 самостоятельных модулей.

В данном случае три опенсорсных модуля из пяти выявили deepfake!

Таким образом, с ростом технологий, наблюдается и рост высокотехнологичных мошеннических действий, но с ними можно и нужно бороться, в том числе посредствам вышеописанных способов и имеющего инструментария, с которым мы сегодня ознакомились, а так же путем применения критического мышления, которое не лишне развивать в сегодняшние дни.

Всем добра!

P.S.: Если заметили на последней картинке, один из модулей, выявивший фейковое видео имеет название Seferbekov, вот ссылка на инструмент

Указанный инструмент принадлежит нашему соотечественнику Селиму Сефербекову, который к слову в 2020 выиграл при его помощи международный конкурс по выявлению поддельных фотографий и видео записей – Deep Fake Detection Challenge, который устраивали Facebook, Google и ряд других компаний. И казалось бы, технологии изобличения фейков и дипфейков в сети, предложенные, в том числе Селимом, на данном конкурсе должны были встать на вооружение на площадках его организаторов, в том числе в Facebook (иначе зачем они его вообще проводили), ну хотя бы в отношение определенных категорий, но похоже что-то пошло не так, и мы видим, в связи с последними событиями, что фейки и дипфейки распространяются довольно не плохо, в том числе и в заблокированном сегодня Facebook...