ИИ не только поедает ваше настоящее для обучения, он уже видит ваше будущее

В NY TIMES вышла огромная статья о том, как китайский ИИ предсказывает будущее, а полиция просто находится в нужное время и в нужном месте этого будущего.

Когда я распинаюсь о том, что по статистике ваших перемещений в такси можно предсказать где вы будете в нужный день и час, вы снисходительно хихикаете.

Ну штош, почитайте о том, как Minority Report уже больше не фильм, а реальность.

Я настолько впечатлен, что перевел статью, выкусив некоторые куски. Ссылка на оригинал ниже. 

И не стоит успокаивать себя мыслью, что это только в Китае такое безобразие. Поднимите голову на улице - как правило вы увидите как минимум одну камеру. 

ИИ не только поедает ваше настоящее для обучения, он уже видит ваше будущее. А если расширить довольно узкую проблему предсказания преступлений из статьи до предсказания чего угодно, включая не только событийный уровень: развод, переезд, смена работы, но и оценочный - способности, перспективы, экономическую целесообразность тратить средства и время на конкретных индивидуумов, то мы получим новую теорию искуственного отбора. Не зря в статье упоминаются "цифровые предрассудки".

Приятного (хотя скорее неприятного) чтения.

========================

Последнее поколение китайских ИИ-технологий копается в огромных массивах данных о повседневной деятельности, чтобы найти закономерности и отклонения, обещая предсказать преступления или протесты до того, как они произойдут. Они нацелены на потенциальных нарушителей спокойствия в глазах китайского правительства - не только на тех, кто имеет криминальное прошлое, но и на уязвимые группы, включая этнические меньшинства, рабочих-мигрантов и тех, кто страдает психическими заболеваниями.

Они могут предупредить полицию, если жертва мошенничества пытается отправиться в Пекин, чтобы обратиться к правительству за выплатой, или если потребитель наркотиков делает слишком много звонков на один и тот же номер. Они могут подавать сигнал полицейским каждый раз, когда человек с психическими заболеваниями приближается к школе.

Для того чтобы избежать цифровых проволочек, приходится прибегать к сложным маневрам. В прошлом Чжан Юцяо, 74-летний мужчина, который подает петиции в правительство на протяжении большей части своей взрослой жизни, мог просто держаться подальше от главных магистралей, чтобы уклониться от властей и добраться до Пекина, чтобы добиться компенсации за пытки его родителей во время Культурной революции. Теперь он отключает свои телефоны, платит наличными и покупает несколько билетов на поезд в ложных направлениях.

В 2020 году власти южного Китая отказали женщине в просьбе переехать в Гонконг к мужу после того, как программное обеспечение предупредило их о подозрительности брака, сообщила местная полиция. Последующее расследование показало, что супруги не часто бывали в одном и том же месте в одно и то же время и не проводили вместе праздник Весеннего фестиваля. Полиция пришла к выводу, что брак был фиктивным, чтобы получить разрешение на миграцию.

В том же году на севере Китая автоматическое оповещение о том, что мужчина часто заходит в жилой комплекс с разными спутниками, заставило полицию провести расследование. По данным государственных СМИ, они обнаружили, что он был участником финансовой пирамиды.

Новый подход к наблюдению частично основан на программном обеспечении для полицейских, основанном на данных, используемых в США и Европе, например, какие районы наиболее интенсивно охраняются и какие заключенные получают условно-досрочное освобождение. Китай доводит это до крайности, используя общенациональные базы данных.

В самом интересном варианте это поднимает извечные проблемы научной фантастики: Как можно узнать, что будущее было точно предсказано, если полиция вмешивается до того, как оно наступит?

Даже когда программное обеспечение не может вычислить поведение человека, его можно считать успешным, поскольку само наблюдение препятствует беспорядкам и преступлениям, говорят эксперты.

В 2017 году один из самых известных китайских предпринимателей предложил смелое видение будущего: компьютерную систему, способную предсказывать преступления.

Предприниматель Инь Ци, который основал компанию Megvii, занимающуюся разработкой искусственного интеллекта, рассказал китайским государственным СМИ, что система наблюдения может дать полиции поисковую систему по преступлениям, анализируя огромное количество видеоматериалов, чтобы понять закономерности и предупредить власти о подозрительном поведении. Он объяснил, что если камеры обнаружат человека, проводящего слишком много времени на вокзале, система сможет вычислить возможного карманника.

"Это было бы страшно, если бы за камерой действительно стояли люди, но за ней стоит система", - сказал г-н Инь. "Она похожа на поисковую систему, которую мы используем каждый день для работы в Интернете - она очень нейтральна. Предполагается, что это доброжелательная вещь".

Он добавил, что при таком наблюдении "плохим парням негде спрятаться".

Пять лет спустя его видение постепенно становится реальностью. Внутренние презентации Megvii, показывают, как продукты компании собирают полное цифровое досье для полиции.

"Создайте многомерную базу данных, в которой хранятся лица, фотографии, автомобили, дела и записи о происшествиях", - говорится в описании одного из продуктов под названием "интеллектуальный поиск". Программное обеспечение анализирует данные, чтобы "выкопать обычных людей, которые кажутся невинными", чтобы "пресечь незаконные действия в колыбели".

Представитель Megvii в заявлении по электронной почте сказал, что компания привержена ответственному развитию искусственного интеллекта, и что она заботится о том, чтобы сделать жизнь более безопасной и удобной, а "не о наблюдении за какой-либо конкретной группой или личностью".

В 2022 году полиция Тяньцзиня приобрела программное обеспечение, разработанное конкурентом Megvii, компанией Hikvision, которое предназначено для прогнозирования протестов. Система собирает данные о легионах китайских петиционеров - общий термин в Китае, описывающий людей, которые пытаются подать жалобы на местных чиновников в вышестоящие инстанции.

Затем он оценивает просителей по вероятности их поездки в Пекин. В будущем эти данные будут использоваться для обучения моделей машинного обучения, говорится в документе о закупках.

Цзэкунь Ван, 32-летний член группы, которая в течение многих лет добивалась возмещения ущерба в связи с мошенничеством с недвижимостью, рассказал, что в 2017 году власти перехватили его товарищей в Шанхае еще до того, как они смогли купить билеты в Пекин. Он подозревает, что власти следили за их перепиской в социальной сети WeChat.

Согласно документу о закупках, платформа анализирует вероятность подачи петиций отдельными лицами на основе их социальных и семейных отношений, прошлых поездок и личных ситуаций. Она помогает полиции составить профиль каждого из них с полями для описания темперамента протестующего, включая "параноик", "дотошный" и "вспыльчивый".

Когда полиция Чжоунина, сельского уезда провинции Фуцзянь, закупала в 2018 году новый комплект из 439 камер, они указали координаты, где каждая из них будет установлена. Согласно документу о закупках, одни висят над перекрестками, другие - возле школ.

Девять из них были установлены у домов людей, страдающих одним общим заболеванием - психическим.

Эти люди, согласно некоторым документам о закупках, включали психически больных, осужденных преступников, беглецов, потребителей наркотиков, петиционеров, подозреваемых в терроризме, политических агитаторов и угрозу социальной стабильности. Другие системы были нацелены на рабочих-мигрантов, неработающую молодежь (подростки без школы и работы), этнические меньшинства, иностранцев и инфицированных вирусом гепатита В.

Власти решают, кто попадет в эти списки, и часто отсутствует процедура уведомления людей об этом. После того, как человек попадает в базу данных, его редко удаляют.

Во многих случаях программное обеспечение идет дальше, чем просто нацеливание на население, позволяя властям устанавливать цифровые триггеры, указывающие на возможную угрозу. В одной из презентаций Megvii, посвященной конкурирующему продукту компании Yitu, интерфейс системы позволял полиции разрабатывать собственные предупреждения.

Полиция может основывать сигналы тревоги на конкретных параметрах, включая место появления человека, занесенного в черный список, время его передвижения, встречи с другими людьми, занесенными в черный список, и частоту определенных действий. Полиция может настроить систему на отправку предупреждения каждый раз, когда два человека с историей употребления наркотиков заселяются в один и тот же отель или когда четыре человека с историей протеста заходят в один и тот же парк.

В 2020 году в городе Наньнин полиция закупила программное обеспечение, способное обнаружить "более трех ключевых людей, заселяющихся в один и тот же или соседние отели" и "наркопотребителя, часто звонящего на новый иногородний номер", говорится в тендерном документе. В Яншуо, туристическом городе, известном своими карстовыми горами, власти приобрели систему, предупреждающую их, если иностранец без разрешения на работу проводит слишком много времени возле школ иностранных языков или баров, что является очевидной попыткой поймать людей, просрочивших визы или работающих нелегально.

В Шанхае власти используют программное обеспечение для выявления тех, кто превышает норму потребления воды и электричества. При обнаружении подозрительных моделей потребления система подавала "цифровой сигнал" в полицию.

Эта тактика, вероятно, была разработана для выявления рабочих-мигрантов, которые часто живут вместе в тесных помещениях, чтобы сэкономить деньги. В некоторых местах полиция считает их неуловимой и часто бедной группой, которая может принести преступность в общины.

Иногда полиция открыто заявляет о необходимости составления профиля людей. "Благодаря применению больших данных мы составляем портрет людей и навешиваем на них ярлыки с различными атрибутами", - сказал Ли Вэй, научный сотрудник Национального университета полиции Китая, выступая в 2016 году. "По тем, кто получил один или несколько типов ярлыков, мы делаем вывод об их личности и поведении, а затем проводим целенаправленные упреждающие меры безопасности".

==================

Готовы выбросить свои телефоны? Нет? Тогда примите как факт, что ваше будущее уже известно.

Свобода воли? Ну-ну. 

https://www.nytimes.com/2022/06/25/technology/china-surveillance-police.html

Больше ада и киберпанка на t.me/cgevent