Арсенал ИИ, способный остановить Третью мировую войну

Палмер Лаки:

Представьте себе такую картину. В ранние часы внезапного и массированного вторжения на Тайвань Китай задействует весь свой арсенал. Баллистические ракеты обрушиваются на ключевые военные объекты, нейтрализуя авиабазы и командные центры, прежде чем Тайвань успевает сделать хоть один выстрел. Военно-морской флот Народно-освободительной армии действует с подавляющей силой, развёртывая десантные корабли и авианосцы, в то время как кибератаки разрушают инфраструктуру Тайваня и препятствуют экстренному реагированию.

Ракеты дальнего радиуса действия китайских ракетных войск пробивают нашу оборону. Корабли, командные пункты и узлы управления, а также критически важные активы уничтожаются ещё до того, как они успевают вступить в бой. Соединённые Штаты пытаются принять ответные меры, но быстро становится очевидно: этого недостаточно. Не хватает оружия, не хватает платформ для его перемещения. Американские военные корабли, слишком медленные и немногочисленные, отправляются ко дну Тихого океана под шквалом противокорабельных ракет. Наши истребители, под управлением отважных, но уступающих по численности пилотов, сбивают один за другим. Соединённые Штаты исчерпывают свой небольшой арсенал высокоточных боеприпасов всего за восемь дней. Тайвань падает в течение нескольких недель, и мир просыпается в новой реальности. Там, где доминирующей державой мира больше не является демократия.

Именно этой войны больше всего боятся американские военные аналитики. Не только из-за устаревших технологий или медленного принятия решений, но и из-за отсутствия потенциала, нехватки инструментов и платформ, из-за чего мы даже не можем вступить в борьбу. Когда Китай вторгнется на Тайвань, последствия почувствует весь мир. Тайвань является бесспорным эпицентром мирового производства микросхем, производя более 90 % самых современных полупроводников, высокопроизводительных чипов, которые обеспечивают работу современных систем искусственного интеллекта, GPU и робототехники. Именно эти микросхемы питают ваши телефоны, компьютеры, автомобили и медицинские приборы. Если эти заводы будут захвачены или уничтожены, мировая экономика в одночасье рухнет. Десятки триллионов долларов убытков, хаос в цепочках поставок, худшая экономическая депрессия за последнее столетие.

И опасность не только экономическая, но и идеологическая. Китай — это автократия, а мир, в котором Китай диктует условия международного порядка, — это мир, где ослабевают личные свободы, где распространяется авторитаризм, а малые государства вынуждены подчиняться. И прежде чем кто-то сочтёт это сюжетом последнего фильма Майкла Бэя, мы уже видели этот фильм раньше. Спросите у Украины.

В этот момент вы, возможно, задаётесь вопросом, почему парень в гавайской рубашке и шлёпанцах рассуждает о потенциальной третьей мировой войне. Меня зовут Палмер Лаки. Я изобретатель и предприниматель. Когда мне было 19 лет, я основал компанию Oculus VR, живя в трейлере, и затем принёс виртуальную реальность в массы. Спустя годы меня уволили из Facebook после того, как я пожертвовал девять тысяч долларов не тому политическому кандидату, и это поставило меня перед выбором. Либо угаснуть и исчезнуть где-нибудь на островах, либо построить что-то, что действительно имело бы значение. Я хотел решить проблему, которую игнорировали; проблему, которая определит будущее этой страны и всего мира.

Несмотря на окружающий нас невероятный технологический прогресс, наш оборонный сектор застрял в прошлом. Крупнейшие оборонные подрядчики перестали внедрять инновации так быстро, как раньше, отдавая предпочтение дивидендам акционеров, а не передовым возможностям. Ставя бюрократию выше прорывов. Кремниевая долина, в которой живут многие наши лучшие инженеры и учёные, отвернулась от обороны и вооружённых сил в целом, сделав ставку на Китай как на единственную экономику или правительство, к которым стоит прислушиваться. Технологические компании, которые когда-то сотрудничали с военными, решили, что национальная безопасность — это чужая проблема.

И что в итоге? У вашей Tesla искусственный интеллект лучше, чем у любого американского самолёта. У вашей Roomba автономность выше, чем у большинства оружейных систем Пентагона. А ваши фильтры в Snapchat? Они полагаются на более совершенное компьютерное зрение, чем наши самые передовые военные сенсоры. И я знал, что если и самые умные умы в сфере технологий, и крупнейшие игроки в оборонном секторе лишат инновации приоритета, Соединённые Штаты навсегда потеряют способность защищать наш образ жизни. И поскольку желающих решить эту проблему так мало, я решил, что постараюсь изо всех сил.

Поэтому я основал компанию Anduril — не оборонного подрядчика, а компанию по производству оборонной продукции. Мы тратим собственные деньги на создание оборонных продуктов, которые работают, а не просим налогоплательщиков оплачивать счета. В результате мы работаем гораздо быстрее и с меньшими затратами, чем большинство традиционных подрядчиков. В нашем первом питч-деке для инвесторов, которые с нами весьма солидарны, было сказано прямо: «Мы будем экономить налогоплательщикам сотни миллиардов долларов в год, зарабатывая при этом десятки миллиардов».

И хотя мы производим множество различных аппаратных продуктов, наша основная система — это программное обеспечение, платформа искусственного интеллекта под названием Lattice, которая позволяет нам развёртывать миллионы единиц оружия, не рискуя миллионами жизней. Это также позволяет обновлять оружие так быстро, как только позволяет код, тем самым гарантируя, что мы всегда будем на шаг впереди возникающих и требующих реакции угроз. Ещё одно существенное отличие заключается в том, что мы разрабатываем оборудование для массового производства с использованием существующей инфраструктуры и промышленной базы. В отличие от традиционных подрядчиков, мы создаём, тестируем и внедряем наши продукты за месяцы, а не за годы. Такой подход позволил нам менее чем за восемь лет создать автономные истребители для ВВС США, автономные подводные лодки размером со школьный автобус для ВМС Австралии и гарнитуры дополненной реальности, которые наделяют каждого из наших супергероев сверхспособностями — и это лишь некоторые из них. Мы также создали технологию противодействия беспилотным летательным аппаратам, например Roadrunner, который представляет собой двухместный многоразовый перехватчик с турбореактивной силовой установкой, которого мы довели от набросков на бумаге до реальных боевых возможностей менее чем за 24 месяца, причём сделали это на собственные деньги.

От лица человека, который зарабатывает на жизнь созданием оружия, то, что я скажу дальше, может показаться нелогичным. В основе нашей деятельности — укрепление мира. Мы сдерживаем конфликты, давая понять нашим противникам, что они не смогут с нами сравниться. Путин вторгся на Украину, потому что верил, что сможет победить. Страны вступают в войну только тогда, когда они не согласны с тем, кто выйдет из неё победителем. В этом и заключается сдерживание. Не в бряцании оружием, а в том, чтобы возможная агрессия обходилась так дорого, что противники не решатся на неё.

Как же нам это сделать? На протяжении веков военная мощь определялась масштабами. Больше войск, больше танков, больше огневой мощи. Но за последние несколько десятилетий оборонная промышленность потратила слишком много времени на ручную работу над изысканным оружием, которое практически невозможно производить. Тем временем Китай изучил, как мы воюем, и инвестировал в технологии и массу средств, которые противостоят нашим конкретным стратегиям. Сегодня Китай обладает крупнейшим в мире военно-морским флотом, в 232 раза превосходящим по объёму судостроения Соединённые Штаты. У них крупнейшая в мире береговая охрана, крупнейшие в мире постоянные сухопутные войска и крупнейший в мире ракетный арсенал, производственные мощности которого растут с каждым днём.

Мы никогда не сравнимся с Китаем по численности с помощью традиционных средств, да и не должны пытаться. Нам не нужно больше таких же систем. Нам нужны принципиально иные возможности. Нам нужны автономные системы, способные дополнить существующий пилотируемый флот. Нам нужны интеллектуальные платформы, способные работать в сложных условиях, где управляемые человеком системы просто не справятся. Нам нужно оружие, которое можно производить в больших масштабах, быстро развёртывать и постоянно обновлять. Важно массовое производство. В условиях конфликта, когда наш потенциал является нашей самой большой уязвимостью, нам прежде всего нужна модель производства, которая лучше всего отразит главные достижения нашего коммерческого сектора — быстрая, масштабируемая и устойчивая.

Мы знаем, как таким образом побеждать. Во время Второй мировой войны мы объединили нашу промышленную базу для массового производства оружия в беспрецедентных масштабах, и именно благодаря этому мы победили. Например, Ford Motor Company производила один бомбардировщик B-24 каждые 63 минуты. Но чтобы получить все преимущества этих массовых систем, нам нужно, чтобы они были умнее. Именно здесь на помощь нам приходит искусственный интеллект. ИИ — это единственный возможный способ компенсировать численное превосходство Китая. Мы не хотим бросать в бой миллионы людей, как это делают они. Мы не можем и не должны этого делать. Программное обеспечение с искусственным интеллектом позволяет нам создать другой вид вооружённых сил, который не ограничен ни стоимостью, ни сложностью, ни численностью населения, ни рабочей силой, а адаптивностью, масштабом и скоростью производства.

Этические последствия для использования ИИ в военном деле очень серьёзны, но вот что нужно учитывать. Если Соединённые Штаты не будут лидировать в этом пространстве, это сделают авторитарные режимы, и их не будут волновать наши этические нормы. ИИ улучшает процесс принятия решений, повышает точность, снижает побочный ущерб. Надеюсь, это позволит полностью исключить некоторые конфликты.

Хорошая новость заключается в том, что у США и наших союзников есть технологии, человеческий капитал и опыт для массового производства этих новых видов автономных систем и начала нового золотого века оборонного производства. Учитывая всю эту информацию, давайте вернёмся на Тайвань, но представим себе другой сценарий. Атака может начаться так же, как и раньше: китайские ракеты устремятся к Тайваню, но на этот раз ответ будет мгновенным. Флот автономных беспилотников, управляемых искусственным интеллектом, уже размещённых в регионе союзниками, запускается в считанные секунды. Сплотившись в координированные атаки, они перехватывают прибывающие китайские бомбардировщики и крылатые ракеты ещё до того, как они достигнут Тайваня. В Тихом океане равномерно расположенные силы из беспилотных подводных лодок, военных кораблей под прикрытием стелс-технологий и автономных самолётов, функционирующих одновременно с пилотируемыми системами, наносят непредсказуемые удары. Наши истребители, управляемые искусственным интеллектом, вступают в воздушные бои с китайскими самолётами, реагируя быстрее, чем это мог бы сделать любой человек. На земле роботы-дозорные и дальнобойные огневые средства с поддержкой ИИ останавливают десант Китая ещё до того, как нога китайского военнослужащего ступит на берега Тайваня.

Развёртывая масштабные автономные системы такого типа, мы показываем нашим противникам, что мы способны победить. Именно так мы снова сможем сдерживать. Для этого мы должны быть вместе с нашими союзниками по всему миру, объединёнными общими ценностями и общей решимостью, которые мы разделяем уже большую часть столетия. Наши защитники, мужчины и женщины, которые добровольно рискуют нашими жизнями, заслуживают технологий, которые обеспечили бы им большую силу, скорость и защиту. Любые компромиссы здесь — это предательство, потому что соответствующая технология доступна уже сегодня. Так мы предотвратим повторение Перл-Харбора. Мы можем стать вторым величайшим поколением, если переосмыслим подход к ведению войны. Спасибо.

Бивал Сидху:

Спасибо, Палмер. Вы нарисовали очень яркую картину будущего войны и сдерживания. Позвольте задать пару вопросов. Думаю, многие думают об автономности в военной цепи убийств. С появлением искусственного интеллекта мы столкнулись с принципиально новым набором вопросов? Ведь некоторые выступают за то, чтобы вообще не создавать автономные системы или роботов-убийц. Что вы думаете по этому поводу?

Палмер Лаки:

Я люблю роботов-убийц. Необходимо помнить, что идея о том, что люди создают инструменты, разделяя дизайн инструмента с моментом принятия решения о применении насилия, не является чем-то новым. Мы делаем это уже тысячи лет. Ямы-ловушки, ловушки с шипами, огромное разнообразие оружия даже в современную эпоху, вспомните, например, противокорабельные мины.

Бивал Сидху:

Точно.

Палмер Лаки:

Даже исключительно оборонительные инструменты, которые по своей сути являются автономными. Использовать искусственный интеллект или нет — это очень современная проблема. В эту ловушку попадают люди, которые обычно не изучали проблему. Есть и те, кто говорит вещи, которые звучат довольно хорошо, например: «Нельзя позволять роботу нажимать на курок, нельзя позволять искусственному интеллекту решать, кому жить, а кому умереть». Я смотрю на это по-другому. Я считаю, что этика ведения войны настолько хрупка, а решения настолько сложны, что искусственно загонять себя в рамки и отказываться от использования тех или иных технологий, которые могли бы привести к лучшим результатам, — это отказ от ответственности. Нет ничего высокоморального в том, чтобы сказать: «Я отказываюсь использовать ИИ, потому что я не хочу, чтобы мины могли отличить школьный автобус с детьми от бронетехники русских». И похожих проблем тысячи. Правильный способ взглянуть на это — рассматривать каждую отдельную проблему. Этично ли это? Берут ли люди на себя ответственность за такое применение силы? Не стоит списывать со счетов целую категорию технологий и при этом связывать себе руки за спиной, надеясь, что мы всё ещё можем победить. Я не могу с этим согласиться.

Бивал Сидху:

Вы правы. Если информация доступна, почему бы не создать системы, которые грамотно её используют?

Палмер Лаки:

Именно так.

Бивал Сидху:

Если закрыть на это глаза, то результат может оказаться гораздо более катастрофическим.

Палмер Лаки:

Именно так. И люди — обычно не из сферы технологий — говорят: «Почему бы просто не перевести всё под дистанционное управление?». И они не понимают, что масштабы конфликтов, о которых мы говорим, не поддаются соотношению людей и систем один к одному. Не говоря уже о том, что если речь о «дистанционно управляемой» системе, достаточно ударить по «дистанционной» части, и всё развалится. Нет ничего высокоморального в том, чтобы сказать: «Всё, что вам нужно сделать, это придумать, как нас заглушить, и вы победите».

Бивал Сидху:

И похоже, что многие современные системы обороны имеют именно такой автономный режим?

Палмер Лаки:

Это ещё один момент. Обычно я не выступаю по этому вопросу на сцене, но журналисты иногда спрашивают у меня: «О, ну, знаете, не нужно открывать ящик Пандоры». А я им отвечаю: «Ящик Пандоры был открыт давным-давно с помощью противорадиационных ракет, которые ищут пусковые установки ракет класса "земля-воздух"». Мы начали использовать их ещё до событий во Вьетнаме. Системы AEGIS на наших эсминцах способны наводиться на цель и вести огонь по ней абсолютно автономно. Почти все наши корабли защищены системами ближнего боя, которые сбивают снаряды, ракеты, беспилотники. Мы уже несколько десятилетий живём в мире систем, которые автономно выполняют нашу волю. И поэтому я хочу сказать людям: вы не просите не открывать ящик Пандоры. Вы просите засунуть всё обратно и снова закрыть. А весь смысл аллегории в том, что этого сделать нельзя. Вот как я на это смотрю.

Бивал Сидху:

И ещё один вопрос, отсылающий к вашим корням. Многие люди познакомились с VR благодаря Oculus, и, по стечению обстоятельств, компания Anduril недавно взяла на себя программу IVAS, по сути, создавая AR/VR-гарнитуры для армии США. Каково ваше видение этой программы и как вы в целом к ней относитесь?

Палмер Лаки:

Необходимо, чтобы все наши роботы и все наши люди получали нужную информацию в нужное время. Это означает, что им нужен общий взгляд на поле боя. То, как можно передать информацию человеку, сильно отличается от того, как её передают роботу. Роботы — это здорово. У них очень, очень высокая способность ввода-вывода и очень низкий уровень ошибок при подключении. Что касается людей, нам нужно понять, как прикрепить всё это к нашим частям — рукам, глазам, ушам — и представить информацию таким образом, чтобы мы могли совместно работать с этими инструментами. Другими словами, сверхчеловеческие системы улучшения зрения, такие как улучшенное ночное, тепловое, ультрафиолетовое, гиперспектральное зрение, — вот на что обращают внимание люди, когда смотрят на IVAS. Но здесь есть ещё одна грань, которая заключается в том, что если мы собираемся тесно сотрудничать с роботами в решении столь ответственных задач, нам нужно уметь видеть мир так же, как они.

Бивал Сидху:

Мне это нравится. Человеческий и машинный интеллект заодно.

Палмер Лаки:

Сверхчеловек.

Бивал Сидху:

Это был Палмер Лаки.

Источник –– https://www.youtube.com/watch?v=ooMXEwl7N8Y