ПОСЛЕЗАВТРА
В Китае создали защиту от распознавания лиц
Сегодня системы распознавания лиц, способные вычислять личность человека на фотографиях и видеоматериалах, широко используются во всем мире. Однако по мере роста популярности таких систем все большую актуальность приобретают технологии защиты от несанкционированного распознавания личности (так называемые anti-facial recognition, далее просто AFR). Одним из вариантов такой защиты стала недавно разработанная специалистами Чжэцзянского университета (Китай) технология CamPro, эффективно скрывающая личность человека еще на этапе формирования изображения.
«Быстрое развитие искусственного интеллекта способствовало появлению различных приложений компьютерного зрения, распознающих человеческую активность. Однако при этом происходит и сбор персональных данных, особенно лиц на изображениях, и их закачка на ненадежные сторонние серверы. По этой причине мы предлагаем технологию защиты приватности данных CamPro, работающую на уровне сенсоров камеры, способную переформатировать серийную камеру в защищенную камеру, неспособную производить захват черт лица для идентификации», — рассказывает разработчик Веньцзюнь Чжу.
В отличие от предыдущих технологий AFR, производящих постобработку полученных изображений, CamPro начинает работать еще на этапе формирования изображения, что значительно снижает вероятность хакерского взлома такой системы. Так, CamPro способна изменять настраиваемые параметры процессора обработки изображений (ISP), ликвидируя тем самым возможность распознать лица на снимке. При этом CamPro не мешает работе таких не компрометирующих приватность сервисов, как обнаружение присутствия человека в кадре, определение позы человека и т.д.. Получаемое с помощью CamPro изображение дополнительно оптимизируется с помощью ИИ для получения приемлемого качества картинки. Поскольку CamPro лишь настраивает параметры работы камеры, такая система способна работать на любом серийно выпускаемом устройстве.
Первоначальные тесты CamPro показали, что технология эффективно снижает точность распознавания лиц в системах с закрытым исходным кодом до всего 0,3%. Кроме того, CamPro оказалась хорошо защищена от white-box кибератак, при которых происходит переобучение системы распознавания лиц для обхода AFR-защиты.