Военизированные нейросети

Война в Украине окончательно склонила чашу весов в дебатах о том, стоит ли военизировать ИИ. Ответ: однозначное да! Так было не всегда.

Как культурная экосистема, Кремниевая долина много лет сопротивлялась союзу технокорпораций со спецслужбами и военными – хоть демократических, хоть авторитарных стран. Техногики долгое время отказывались снабжать людей в военной и полицейской формах инструментарием, которым способны наделить хорошо обученные нейросети или продвинутые гаджеты.

Один из самых показательных кейсов – корпорация Google, отказавшаяся от работы с правительством Китая, потому что режим требовал ввести в поисковик цензуру. Позже из-за протестов сотрудников компания отказалась и от работы с Пентагоном, остановив Проект Maven — производство нейросетей, способных распознавать военную технику по видеоматериалам с дронов так же, как ИИ распознает лица людей по материалу с видеокамер. 

Та же история у Амазон, от которой публика требовала перестать помогать миграционной полиции системами распознавания лиц для отлова нелегальных мигрантов. Примерно в то же время работники Microsoft протестовали против использования AR-шлемов HoloLens военными, говоря, что «не хотят наживаться на войне» и «участвовать в убийстве людей» (впрочем, как и для чего военные собирались использовать шлемы неизвестно). В конце 2022 года Amazon и Google опять столкнулись с протестами сотрудников из-за участия в проекте Nimbus, в рамках которого корпорации обеспечивали израильские спецслужбы и военных облачными вычислениями и ИИ, позволяющими отслеживать движущиеся объекты, а также распознавать лица и микромимику людей (последнее помогло бы аналитикам вычислять террористов перед терактом по напряженной мимике, потовыделению и тд.). «Никаких технологий для апартеида», — резюмировали протестующие, имея ввиду палестинцев.

Подобные протесты имеют низовую природу: протестуют обычные инженеры, специалисты по этике технологий и другие работники интеллектуального цеха, — но не топ-менеджмент. Руководство технокорпораций вынуждено сотрудничать со спецслужбами — неважно, идет ли речь об автократиях типа РФ и КНР или о демократиях вроде США: рано или поздно в техно-кампусы приходят силовики и требуют “одолжить” технологии для поимки преступников или обезвреживания ячейки террористов. Все знают о таком сотрудничестве, но предпочитают лишний раз не вспоминать об этом публично. 

Во взаимодействии с военными история несколько отличается: руководство американских технокорпораций, с одной стороны, пытается получить контракты в оборонной сфере, а с другой — раз за разом от них отказывается, как бы откликаясь на возмущение своих сотрудников.  Возможно, дело в том, что помощь военным воспринимается сотрудниками технокомпаний (да и широкой публикой) как помощь в массовом убийстве, а в случае со спецслужбами технологии вроде как помогают, наоборот, предотвращать акты терроризма, военные конфликты или промышленный и кибер-шпионаж.

Однако, везде есть исключения. В (относительно) пацифистской среде  Кремниевой долины особое место занимала созданная в 2003 году ИИ-компания Palantir: они с ходу открыто сотрудничали и со спецслужбами, и с американскими военными, и публично презирали пацифизм технокомьюнити. Главная рекламная афиша Palantir — выслеживание с помощью ИИ «террориста номер 1» Усаму бен Ладена, ответственного за атаки 11 сентября 2001 года. Или когда с помощью нейросетей Palantir, собиравших данные о передвижении боевиков и анализировавших поверхность дорог, американские военные научились обнаруживать и обезвреживать самодельные бомбы, закопанные иракскими военными на дорогах.

20 лет спустя Palantir стала помогать украинской армии в войне против РФ. Сложные нейросети Palantir работают по довольно простой схеме: собирают как можно большее количество данных о поле боя и воюющих сторонах, собирают их в одном месте, облекают все это в удобный интерфейс и помогают извлекать из данных полезные инсайты. В результате нейросети как бы “подсказывают” украинским военным, куда выгоднее направить дефицитный снаряд, чтобы нанести максимальный ущерб противнику. Решения о том, куда бить, принимают сами военные — нейросети Palantir работают как их brain extenders (как бы придаток мозга), увеличивая когнитивные возможности через ИИ-анализ и удобную подачу максимально обширной информации.

CEO Palantir Алекс Карп, оценивая, как нейросети его компании проявили себя на поле боя в Украине, сказал: «Силу систем продвинутых военных алгоритмов, работающих на одну сторону конфликта, можно сравнить с ситуацией, когда у одной стороны есть тактическое ядерное оружие, а у другой — только конвенциональное. Другими словами, Украине удалось добиться паритета в борьбе против вооруженного ядерным оружием противника за счет силы алгоритмов».

Украинская война доказывает, что алгоритмы — одно из самых мощных вооружений в распоряжении военных, а в ближайшие 10 лет военное значение нейросетей кратно увеличиться. Так мы оказываемся в ситуации, где военизированным ИИ, который Генри Киссинджер и Эрик Шмидт считают чем-то вроде «цифрового ядерного оружия», торгуют частные компании — сдерживаемые, но не полностью подконтрольные правительствам своих стран и военным. Моральные дилеммы сотрудничества с властью Palantir решает работой с “хорошими” странами – то есть с демократиями, дружественными США. Одной из таких демократий оказалась и Украина, а Алекс Карп стал первым крупным западным CEO, приехавшим в военный Киев налаживать мосты. 

Эффективность нейросетей Palantir в руках украинцев (в том числе их использование в операциях по деоккупации Херсонской и Харьковской областей) доказывает тезис о том, что качеством можно побеждать количество. У Украины было в разы меньше военной техники, чем у противника, однако за счет алгоритмов, помогающих использовать эту технику максимально эффективно, силы противоборствующих сторон выравниваются, а количественное преимущество теряет актуальность. 

Вероятно, вы слышали о насадках, которые поставляют ЗСУ союзники, которые делают старые ракеты и снаряды более точными и дальнобойными: так немного старой военной техники с небольшой современной надстройкой побеждает большое количество старой военной техники без такой модернизации. То же можно и сказать про армии в целом: меньшая армия, вооруженная ультра-современным ИИ, стабильно будет побеждать более многочисленную армию с отставшими нейросетями. По крайней мере, на это делают ставку в цифровизующимся Пентагоне, одна из основных задач которого – подготовка к возможной войне с Китаем, в 4 раза превышающим США по населению и, соответственно, по мобилизационному потенциалу. 

Война Украины против России, оказавшаяся убедительной демонстрацией превосходства демократических технологий, сняла моральную дилемму Кремниевой долины по поводу того, стоит ли сотрудничать с военными. Дело не только в том, что в ближайшие годы, если не десятилетия, военные бюджеты будут увеличиваться, и в сотрудничестве с военными техно-компании смогут заработать десятки, а то и сотни миллиардов долларов. Геноцидальная война, начатая Россией нарисовала в воображении западного мира убедительную картинку зла, против которого нужно бороться, отбросив сомнения и моральные дилеммы. А непосредственно столкнувшаяся с этим злом Украина показала всему миру, что стремительная цифровизация, в том числе использование спорных технологий вроде военизированного ИИ и дронов-убийц, – эффективный и относительно безопасный метод победить. 

Сегодня путинский персоналистский режим убивает людей и угрожает демократии, завтра это же может начать делать уже китайская, более  технологически продвинутая автократия, и технологии – единственный способ побороть ее. Военные, кажется, обрели уверенность в том, что сотрудничество с техно-корпорациями может быть крайне эффективным и безопасным для них самих. Частные военизированные нейросети компании Palantir работают благодаря частным спутникам Starlink Илона Маска — и все они помогают украинским военным и их западным партнерам. 

Компания Маска, кстати, пытается прочертить какую-то красную линию в таком сотрудничестве, угрожая отключить Starlink в Украине в случае нашего контрнаступления – мол, его спутники можно использовать для защиты, но не для нападения. Но это дебаты, скорее, о пределах влияния самого Маска и о том, имеет ли он право влиять на политику правительств, которым продает свою технологию. Вопрос о том, можно ли использовать спутниковый интернет для управления дронами-камикадзе или пользоваться ИИ для вычисления и уничтожения максимального сосредоточения людей — уже закрыт.

Согласившиеся на сотрудничество с военными создатели ИИ полностью осознают, какой потенциал этой технологии будет реализован в ближайшем будущем и как это скажется на власти и компетенции военных, спецслужб и самих корпораций. Нейросети, подобные Palantir, пока что остаются в рамках концепции «ИИ-кентавра» – гибрида человека и ИИ, в котором нейросети как бы расширяют возможности человека, оставляя его полностью ответственным за все, что происходит на поле боя. Но когда самолеты, танки, БТР, дроны и сами системы типа Palantir станут достаточно автономными, военные-люди перейдут в роль ИИ-пастухов: будут присматривать за убийственным балетом автономных машин.

Почему же на самом деле возмущались работники ИИ-корпораций, не желавшие сотрудничества их компаний с военным сектором? Ответ простой: они понимали всю силу и потенциал искусственного интеллекта и им было до тошноты страшно, когда они представляли, к чему приведет эта сила в руках людей, убивающих друг друга. С помощью ИИ возможно построить идеальные диктатуры, устроить тотальную аннигиляцию города или провести зачистки целых областей. Уже сегодня ясно, что появление современных военизированных нейросетей у порочных людей с авторитарными принципами — дело времени, причем самого ближайшего. 

Техногики, создающие передовой ИИ – такие же люди, как мы с вами: они тоже росли на «Матрице» и «Терминаторе». Поэтому такие концепции, как бунт машин, восстание роботов и рободемон Мистер Смит — для них тоже родные. Они шли заниматься ИИ именно с таким представлением о том, на что эта технология способна и от чего нам нужно себя уберечь. 

Но в разгаре гибридной Третьей мировой войны стало ясно, что самая большая опасность всё ещё исходит не от технологий, а от людей, которые всё ещё справляются с диктатурами, геноцидами и массовыми убийствами без ИИ — а в случае победы использует его по вполне предсказуемо мрачному сценарию. Мы всё ещё находимся на том этапе, когда нам нужны технологии, чтобы уберечь человечество от самых поехавших его представителей. И этические дилеммы технологий снова откладываются на послезавтра, когда наверняка будет уже поздно.