Слежка на экспорт. Как Китай стал экспортером новейших технологий социального контроля

Дроны и технологии вычисления лиц из Поднебесной пользуются спросом у правительств от Эквадора до Зимбабве

В прошлом году весь мир с замиранием сердца читал о страшных цифровых экспериментах в КНР – тестируемой системе социального кредита, которая может оставить человека без билета на поезд за плохое поведение, проекте тотальной слежки в уйгурской провинции Синьцзян. Китайская экономика и технологии достигли уровня, позволяющего создавать и тестировать все более эффективные инструменты «цифрового авторитаризма». Наивно полагать, что эти инструменты пригодятся только Коммунистической партии.

В июле 2017 года правительство КНР представило амбициозную стратегию по развитию технологий на основе ИИ, согласно которой страна к 2030 году в несколько этапов должна создать 150-миллиардную индустрию и стать мировым лидером в этой области. В свете торгового бодания Пекина с администрацией Дональда Трампа медиа заговорили о «новой холодной войне» на поле искусственного интеллекта, в которой по одну сторону оказываются американские технологические гиганты и производители компьютерного оборудования, а по другую – китайские IT-компании, тесно сотрудничающие с Коммунистической партией Китая. Холодная война не обходится без сфер влияния, и КНР стремительно выходит со своими технологиями на новые рынки – от Эквадора до Зимбабве.

Эквадор

Китайские технологии и финансы стали ⁠основой ECU 911 – системы видеонаблюдения и предупреждения катастроф, которая родилась из ⁠240-миллионного займа правительства бывшего президента ⁠Рафаэля Корреа в 2012 году. Созданная при посредничестве китайского госпредприятия ⁠CEIEC, сегодня ECU 911 включает в себя ⁠4,5 тысячи камер ⁠наблюдения (часть – с технологией распознавания лиц), 16 центров реагирования, дроны с функцией ночного видения и автоматизированную систему отправки видео в суды.

Большинство камер – производства компании Huawei, которая также поставляет роутеры, контроллеры беспроводной сети и другие устройства. Часть устройств была подарена китайской стороной, которая также обеспечивает обучение персонала. По официальным данным, система распознавания лиц позволила уменьшить число преступлений на 24%, что, правда, вряд ли сильно успокоит тех, кого встревожили новости о работающих на местное правительство фабриках троллей.

Венесуэла

В ноябре агентство Reuters опубликовало большое расследование о том, как китайский IT-гигант ZTE по заказу президента Николаса Мадуро создал в Венесуэле систему идентификационных карт, работающих по принципу, схожему с социальным кредитом в самом Китае. Так называемые карты отечества – carnet de la patria – это «умные» карты с QR-кодом, которые необходимо использовать, например, для получения государственных пайков с продовольствием, услуг здравоохранения и других сервисов в стране, которая в настоящий момент переживает экономическую и гуманитарную катастрофу.

И хотя официально карта создавалась для идентификации и электронных платежей, в связанной с ней базе данных (система использует серверы ZTE) хранится информация о рабочем месте, заработке, медицинской истории, активности в социальных медиа, партийной принадлежности и участии в выборах. Сейчас подобные карты есть у 18 млн жителей страны – почти половины населения, однако в ситуации экономического коллапса карта с высокой долей вероятности будет использоваться для распределения дефицитных благ среди лояльного населения.

Зимбабве

В прошлом году был заключен договор о сотрудничестве между правительством Зимбабве и китайским стартапом CloudWalk, согласно которому компания снабдит страну системой камер с технологией распознавания лиц. Как пишет Foreign Affairs, частью проекта также станет внедрение «умных» финансовых систем, технологий безопасности на транспорте и национальная база данных лиц. В стране, которой до недавнего времени управлял одиозный диктатор Роберт Мугабе и где власть сегодня находится в руках его бывшего соратника Эммерсона Мнангагвы, использование подобных технологий позволит наладить еще более широкий и глубокий контроль над населением.

Для китайской стороны появляется возможность натренировать свой ИИ на чернокожих лицах и прическах, что позволит ему с большей точностью определять лица в дальнейшем. Ирония в том, что в США алгоритмы систем искусственного интеллекта часто становятся объектами критики за свою «расовую слепоту» вследствие использования данных в основном о белом населении. CloudWalk потенциально может устранить этот недостаток, однако вряд ли это хорошая новость для борцов за гражданские права и свободы.

Монголия

В 2018-м самым дорогим стартапом в мире ИИ стала китайская компания SenseTime – ее рыночную стоимость оценили в $4,5 млрд, а среди инвесторов значится ритейл-гигант Alibaba. Один из проектов компании – оснащение системой искусственного интеллекта тюрьмы строгого режима в соседней с Китаем Монголии. Речь вновь идет о технологии распознавания лиц, которая должна оптимизировать управление монгольскими тюрьмами.

Малайзия

Шанхайский стартап Yitu поставляет нательные камеры малайзийской полиции. Эти камеры также оснащены функцией распознавания лиц, чтобы хайтек-полицейский мог при досмотре отсканировать лицо гражданина и сопоставить с базами данных. Среди других клиентов компании в Малайзии – банки и пограничная служба, которой технология распознавания лиц потенциально может помочь при поимке нелегалов и контрабандистов. Yitu планирует помочь малайзийским правоохранителям и с армией дронов, также умеющих распознавать лица.

«Просто развиваем рынок»

Выше приведен далеко не полный список государств, которым китайские технологические компании поставляют новейшие технологии слежки, безопасности и социального контроля – желающие нашлись также, например, в Сингапуре, Анголе, Эфиопиии Перу. В большинстве случаев критика торговли подобными технологиями звучит из уст правозащитников; для самого Китая и его клиентов цель – общественный порядок и безопасность – оправдывает средства. Одновременно с этим экспорт контроля на основе ИИ – часть стратегического плана экономического развития «Один пояс – один путь», в орбите которого находятся упомянутые выше страны. В таком случае бизнес в какой-то степени стоит выше политики: как заявили Reuters представители ZTE по поводу своей работы в Венесуэле, «мы не поддерживаем правительство, а просто развиваем рынок».

После разоблачений Сноудена и последних скандалов с Facebook критиковать китайский экспорт инструментов полицейского государства стало не так просто. Как иронично замечает критик цифрового общества Евгений Морозов, система социального кредита в Китае на основе контроля через ИИ кажется нам элементом тоталитаризма, но западные технологии управления на основе аналогичных практик сбора и анализа данных считаются почти нормой. Впрочем, на примере общеевропейского закона о защите данных, постоянных войн ЕС с Google и даже распекания Марка Цукерберга на слушаниях в Конгрессе мы видим постепенную проблематизацию вопроса о данных и приватности, в то время как счастливые покупатели китайского технологичного экспорта из развивающихся стран вряд ли задумываются слишком сильно о том, в чьих руках могут оказаться подобные инновации.

Дмитрий Лебедев

Журналист

https://republic.ru/posts/92871