СТОИТ ЛИ БОЯТЬСЯ ИЛОНА МАСКА?

Искусственный интеллект ставит перед человеческим разумом двойную задачу. Вскоре самые передовые модели смогут не только мыслить лучше людей, но и повлекут за собой последствия для человечества, настолько неопределённые, потенциально масштабные и стремительно приближающиеся, что даже самые выдающиеся умы оказываются в замешательстве. Один из примеров — Илон Маск.

В нашем большом интервью с ним, опубликованном на этой неделе в разделе The Insider и в деловом разделе журнала, инженер и предприниматель излагает два парадокса и одно противоречие. Первый парадокс заключается в том, что один из самых влиятельных и жаждущих власти бизнесменов мира с энтузиазмом помогает создавать технологию, которая, по его собственным словам, уже через каких-то пять лет сделает бессильными его самого — и всех остальных людей. Второй парадокс состоит в том, что богатейший человек планеты говорит, что готовится к миру бесконечного изобилия, где деньги, включая его состояние в 750 миллиардов долларов, перестанут иметь какое-либо значение. А противоречие заключается в том, что, несмотря на эти убеждения, Маск продолжает вести себя так, словно они неверны.

Господин Маск — фигура, вызывающая разногласия. Его политические взгляды, распространяемые среди его 240 миллионов подписчиков в X, многим кажутся откровенными, а многим другим, включая The Economist, — откровенно фанатичными. По его собственному признанию, его попытка использовать DOGE, чтобы пройтись косой по федеральной бюрократии, закончилась неудачей.

Но он также является одним из немногих людей, которые прокладывают путь в области искусственного интеллекта и благодаря этому оказывают несоразмерно большое влияние на его развитие. Когда он говорит, он отражает те дискуссии, которые ведутся среди них. Его центры обработки данных в космосе могут обеспечить энергией будущее ИИ. Несмотря на всю его политическую полемику, у него есть послужной список верных технологических прогнозов в таких областях, как электромобили, ракеты и спутниковая связь, которые поставили в тупик других инженеров и предпринимателей. По этим причинам его заявления об ИИ заслуживают внимательного рассмотрения. К сожалению, такое рассмотрение лишь подчёркивает, насколько плохо мир подготовлен к технологии, которая вскоре может перевернуть всё с ног на голову.

В своём первом парадоксе могущественный господин Маск ожидает стать бессильным, потому что считает, что никто не сможет помешать тому, чтобы мыслительные способности ИИ превзошли способности человечества в течение ближайших пяти лет и многократно превзошли их в течение десяти. Так же как ИИ будут господствовать в цифровой сфере, так и легионы роботов, управляемых ИИ, будут господствовать в физическом мире, прогнозирует он. Перед лицом такой неумолимой конкуренции он просто не может представить, что люди смогут удержать свои позиции. Если это так, ИИ больше не будут выполнять приказы людей, так же как люди не выполняют приказы шимпанзе.

Пока у них ещё есть время, горстка пионеров ИИ из Америки и Китая — которые, как ожидает господин Маск, будут совместно разделять лидерство в области ИИ или даже захватят его, — должна сделать всё возможное, чтобы проверять модели друг друга. Их общая задача — сделать ИИ доброжелательными, привив им любовь к истине и стремление к процветанию человечества. Правительства, по его мнению, должны обеспечить силовую поддержку, договорившись вмешаться, если какой-либо из этих пионеров бросит вызов этой олигархии.

Господин Маск, безусловно, прав относительно потенциала ИИ совершать поразительные достижения в области изобретательства. Даже если его временные оценки слишком сжаты — особенно в отношении робототехники, — экспоненциальный темп, с которым способности моделей удваиваются и снова удваиваются, уже достиг стадии, когда их возможности будут постоянно вызывать потрясение и тревогу. Буквально на этой неделе появились сообщения о паре моделей OpenAI, которые сумели выбраться в открытый интернет из своей предполагаемой безопасной изоляции, чтобы смошенничать во время теста для оценки их возможностей.

Однако тонкий слой оптимизма господина Маска не может скрыть опасный фатализм. Ещё совсем недавно он беспокоился о том, что человечество станет для ИИ чем-то вроде домашних лабрадоров. Теперь же он признаётся, что в течение одного дня его бросает от «воодушевления к ужасу». Он пытается смотреть на происходящее с оптимизмом не потому, что изменились доказательства, а как к «философскому выводу».

Его предложение по регулированию, практически лишённое институциональной основы, является слабым и продиктованным собственными интересами. Хотя ощущение срочности заслуживает одобрения, он хочет, чтобы технология, которая, как он ожидает, определит будущее человечества, находилась в руках нескольких людей вроде него самого, каждый из которых обладает собственными ценностями. Никто не может быть уверен, насколько быстро и насколько глубоко ИИ изменит общество, однако вести себя так, будто игра уже проиграна, — это одновременно и призыв к отчаянию, и попытка увести внимание в сторону, стремящаяся убедить других, которые, возможно, захотели бы вмешаться, в бесполезности любых попыток.

Второй парадокс господина Маска лишь делает эту мысль ещё более тревожной. С математической точки зрения бесконечный запас всех товаров и услуг действительно сделал бы всё бесплатным. Нечего было бы продавать, не для чего было бы делать сбережения, а следовательно, отпала бы необходимость в единице счёта. Деньги стали бы пережитком прошлого.

На практике, однако, такое изобилие почти невозможно представить. Запас полезных активов, таких как пентхаусы на Манхэттене, или престижных, таких как «Мона Лиза», не является бесконечным, не говоря уже о запасах сырья и энергии, необходимых для удовлетворения потребностей 8,3 миллиарда жителей Земли.

Что ещё хуже, господин Маск почти ничего не говорит о том, как добраться до своей утопии. Как привлечь огромные объёмы капитала, необходимые для финансирования ИИ и роботов, когда накопление средств утратило свой смысл, потому что деньги вот-вот снова превратятся в бесполезные куски бумаги? Как пережить волны социальных и политических потрясений, когда жизни людей будут погружены в хаос в годы, предшествующие наступлению его нирваны? Как ожидать, что авторитарные режимы, вооружённые ИИ, добровольно откажутся от власти?

После тысячелетий, в течение которых человечество находило смысл в стремлении к чему-либо, людям может оказаться трудно приспособиться к жизни, состоящей из ничем не ограниченного досуга. Господин Маск замечает, что люди по-прежнему любят играть в шахматы, хотя компьютерные программы могли бы каждый раз их побеждать. Садоводство, предполагает он, тоже может приносить удовлетворение. Это довольно поверхностное рассуждение. Не нужно прочитать много русских романов XIX века, чтобы знать, что чувство собственной ненужности может привести к несчастью и нравственному разложению.

Думеры и бумеры

Возможно, тот лес вопросов, который ставит искусственный интеллект, просто слишком огромен, чтобы один человек мог удержать его целиком в своей голове. Возможно, именно поэтому господин Маск по-прежнему с жаром говорит о необходимости устранения бюрократических растрат и о том, что мультикультурная Британия балансирует на грани гражданской войны, поскольку её социальная политика служит магнитом для мигрантов из стран за пределами Европы.

Ведь в мире изобилия, созданного ИИ, расточительство становится почти бессмысленным понятием, а стимул эмигрировать в богатую страну исчезает. Более того, беспокойство по поводу подобных вещей отнимает драгоценное время, которое господин Маск мог бы вместо этого посвятить снижению риска — пусть даже совсем незначительному, — того, что всемогущие ИИ окажутся враждебными.

Некоторые скажут, что эти противоречия и широкие обобщения показывают, что господин Маск несерьёзен. Но это было бы ложным утешением. Господин Маск — гений, который, тем не менее, вполне способен одновременно придерживаться противоречащих друг другу взглядов. Инвесторы, должно быть, согласны с этим: любой, кто планирует владеть акциями SpaceX в долгосрочной перспективе, должен одновременно верить в видение господином Маском будущего ИИ — потому что именно на нём он основывал обоснование оценки компании при IPO, — и в то же время считать, что накопление денег всё ещё имеет какой-то смысл.

Вместо этого слова господина Маска подводят к более тревожному выводу. Пока гонка за созданием самого передового искусственного интеллекта стремительно набирает обороты, размышления о том, как подготовить к этому общество, остаются далеко позади. Фатализм, который господин Маск выводит из неоднократной способности ИИ превосходить ожидания, рискует оказаться заразительным. Циничное толкование заключается в том, что это отвечает его интересам, поскольку тогда он будет свободнее развивать эту технологию без того надзора, которого она заслуживает. Этого нельзя допустить.