Переводы июль 2025
Ужасный человекСМОЖЕТ ЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ОБЕСПЕЧИТЬ БУМ ЭКОНОМИЧЕСКОГО РОСТА?
До 1700 года мировая экономика почти не росла - темпы роста глобального ВВП составляли примерно 0,1% в год (а подушевой продукт рос ещё медленнее). С 1700 по 1820 годы глобальный ВВП рос уже на 0,5% в год, а к концу XIX века, на фоне промышленной революции, вырос до 1,9%. В XX веке среднегодовые темпы составляли 2,8% в год - при таком темпе выпуск удваивается каждые 25 лет.
Если верить евангелистам Кремниевой долины, в ближайшие годы нас ждёт новый «большой взрыв» роста. Судя по их обещаниям, появление ИИ общего назначения (artificial general intelligence, AGI), способного заменить большинство офисных работников, обеспечит рост в 20-30% в год. Звучит нереалистично? Но на протяжении большей части истории человеческой цивилизации нереалистичной казалась мысль о том, что подушевой продукт вообще может расти в долгосроке.
Впрочем, не все разделяют этот оптимизм. Асемоглу, например, считает, что за следующее десятилетие ИИ добавит всего 1-2% к глобальному ВВП. Он полагает, что ИИ способен эффективно выполнять всего 5% задач, ныне выполняемых людьми. В этом он опирается на одно из исследований 2023 года, когда возможности ИИ ещё сильно уступали нынешним.
Филипп Траммелл из Оксфорда полагает, что даже полная автоматизация промышленного выпуска не приведёт к взрывному росту. Если ИИ не сможет научиться создавать новые технологии, а только будет уметь выполнять все функции рабочих и технологов на действующих производствах, темпы роста в итоге станут просто зависеть от доли выпуска, которая идёт на инвестиции, а не на потребление.
Для настоящего взрыва ИИ должен научиться создавать новые технологии. Именно такое будущее уже в 2027 году предсказывает исследовательская группа AI Futures Project. Примерно то же прогнозирует Сэм Альтман, босс OpenAI.
...
Модели эндогенного роста в экономической теории делают акцент на создании знаний, навыков и идей. Чтобы рост стал взрывным, идеи должны всё быстрее порождать новые идеи. Пока, утверждают многие, происходит прямо обратное: новые идеи всё сложнее находить. AGI, способный обрабатывать недостижимые для человека объёмы информации, может переломить ситуацию. И тогда на горизонте может замаячить та самая технологическая сингулярность, о которой так любят рассуждать гуру Долины.
Как посчитал Грегори Кларк, в 1800 году английский строительный рабочий зарабатывал примерно столько же, как и в 1230. За следующие пятьдесят лет жизненные стандарты, возможно, даже снизились (подробнее здесь). При этом владельцы нового промышленного капитала и немногочисленные инженеры тогда, в первой половине XIX века, быстро богатели; неравенство резко выросло.
AGI может сделать неравенство ещё более заметным, чем во времена Промышленной революции. Кто вообще будет нанимать работников, если все их функции выполняет ИИ?
Но, как замечает Тайлер Коуэн из Университета Джорджа Мейсона, изменения в экономике будут медленнее, чем позволяют технологии сами по себе. «Чем сильнее будет становиться ИИ, тем больше факторов будут его сдерживать… Это может быть энергия, человеческая тупость, ограничения на доступ к данным, наконец, обычная институциональная инертность».
С другой стороны, у суперинтеллекта могут просто… закончиться идеи. «ИИ может заменить рыбака, но не сможет наполнить пруд рыбой» - заметил Филипп Агийон из Лондонской школы экономики.
Рассмотрим вопрос с внешними ограничениями. Если, например, прогресс в робототехнике будет значительно отставать от прогресса в ИИ, людям останется огромное количество физического труда - например, работа водопроводчиков. В действие вступит так называемая «болезнь издержек Баумоля» - зарплаты будут быстро расти даже у тех рабочих, чья производительность не повышается (ведь общий уровень зарплат в экономике растёт, и если не платить водопроводчику больше, он перейдёт на работу, где уже выросли зарплаты). Разбогатев, люди могут тратить всё больше денег на услуги, которые сложнее всего автоматизировать. Уже сегодня богачи много платят няням и за ужины в ресторанах. Промышленные товары, выпущенные на автоматизированных фабриках, могут быть практически бесплатными - но люди просто найдут другие способы тратить деньги.
Так уже бывало, и не раз. В 1909 году средний американец потреблял 3400 калорий в день; на это уходило 43% его доходов. Сегодня потребление составляет 3900 калорий, при этом доля фруктов и мяса выросла, но на еду американцы тратят всего 11% доходов. «Рост может быть ограничен не тем, в чём мы хороши, а тем, что необходимо, но что нам с трудом удаётся улучшить» - пишет Агийон.
Оптимисты надеются, что AGI сам сможет справиться с проблемами, которые его ограничивают - например, ускорить развитие робототехники или создать дешёвые источники энергии.
...
Что нужно сделать, если вы верите во взрывной рост? Кажется, очевидно - владеть капиталом. Если рост действительно дойдёт до фантастических 20-30% в год, резко вырастет спрос не только на дата-центры и электростанции, но и на всю остальную промышленную инфраструктуру. В то же время сбережения людей, из которых формируются инвестиции (а значит, и капитал) могут снизиться. Люди стремятся сглаживать своё потребление на протяжении жизни: лучше потратить $100 сегодня и $100 завтра, а не $200 сегодня и ничего завтра. Если скоро на тебя обрушится денежный дождь, зачем скупиться? Спрос на инвестиции растет, а желание людей сберегать снижается - и чтобы их убедить откладывать деньги, приходится предлагать им проценты повыше. Это хорошо известный факт. Ещё в начале XX века Рамсей заметил, что ставки обычно растут во время быстрого роста.
И тут кроется парадокс. Стоимость акций снижается по мере роста ставок. Цена акции, в конечном счёте, есть оценка дисконтированной стоимости будущих дивидендов (части прибыли, которую получают акционеры). Что такое дисконтирование? Сто долларов, которые вы можете получить сейчас, стоят больше, чем сто долларов, которые вы можете через пять лет. Ну хотя бы потому, что сто долларов сейчас вы можете вложить под хорошие проценты и в будущем иметь уже значительно больше. Если бы это было не так - работники спокойно соглашались бы с тем, что их работа будет оплачена через пять или десять лет.
Возьмём магическую акцию, приносящую владельцу сто долларов каждый год - не больше и не меньше. Если ставка процента (считаем, что инфляции не существует) по депозитам или гособлигациям составляет 1%, стоимость этой акции эквивалентна $10.000 (столько придётся вложить в банк или в облигации, чтобы получать сто баксов в год). Если ставка растёт до 10%, цена акции падает до $1.000.
Таким образом, если ставки во время быстрого экономического роста растут, акции за счёт этого дешевеют. С другой стороны, во время быстрого роста растут и ожидания по поводу будущих прибылей корпораций. Получается тяни-толкай, исход которого неочевиден.
Выходит, очевидный совет «покупайте акции теха, если верите во взрывной рост», далеко не так очевиден, как может показаться.
Можно просто положить деньги на банковский депозит - и ждать будущего роста ставок. Но центробанки могут отреагировать на быстрый рост ставок расширением денежной массы: начнётся инфляция, и ваши деньги на депозите обесценятся.
Можно купить землю - и рассчитывать, что для суперинтеллекта понадобится заставить гигантские территории ветрогенераторами и солнечными панелями. Но цены на землю ведут себя так же, как и цены на акции - падают при росте ставок.
Обсуждать все эти опции интересно, но вот рынок во взрывной рост, кажется, не особо верит. Недавняя статья показала, что ставки процента не росли, а падали после выпуска прорывных ИИ-моделей, вроде моделей OpenAI или DeepSeek.
Кремниевой долине не получается убедить инвесторов. Но, с другой стороны, последние десять лет ИИ стабильно опережал в своём развитии прогнозы. Не обязательно оглядываться на 1700 год: просто покажите обычный DeepSeek человеку из 2015.
Как однажды заметил Роберт Лукас, нобелевский лауреат и один из крупнейших экономистов XX века, если однажды всерьёз начать думать об экономическом росте, потом уже сложно думать о чём-то другом. А ведь он даже не знал про AGI.
КРИПТО ПЕРЕВОРАЧИВАЕТ ФИНАНСЫ
Бывалые обитатели Уолл-стрит относятся к крипте с иронией. Они уже видели это не раз: «цифровые активы» приходят и уходят - вспомнить только недавние хайпы вокруг мемкойнов и NFT. Остаются разорившиеся простачки и уголовные дела.
Но нынешняя волна интереса к крипте отличается от предыдущих. 18 июля Трамп подписал закон GENIUS (Guiding and Establishing National Innovation for U.S. Stablecoins Act), который придал определённый юридический статус стейблкойнам - крипто-токенам, обеспеченным реальными активами (обычно долларами). Теперь даже ветераны финансовой индустрии стремятся зайти в новую отрасль. Вовсю идёт «токенизация» - теперь можно купить стейблкойн, обеспеченный акциями и другими финансовыми активами.
Влад Тенев, генеральный директор Robinhood, крупнейшего американского брокера (через него обычные американцы могут купить - и покупают - небольшие пакеты акций), считает, что крипто может превратиться в «становой хребет глобальных финансов». Напротив, Кристин Лагард, президент Европейского Центробанка, волнуется о «приватизации денежной системы». Но оба признают масштаб изменений. Эти изменения не похожи на предыдущие волны спекуляций. Если раньше внимание было сосредоточено на биткойнах - «цифровом золоте», то токены не имеют ценности сами по себе: они отражают стоимость активов, которыми они обеспечены.
Сегодня общая стоимость торгуемых стейблкойнов составляет $263 млрд - на 60% больше, чем год назад. Standard Chartered обещает $2 трлн через три года. В прошлом месяце о выпуске стейблкойна объявил JPMorgan, долгое время державшийся подальше от крипты. 30 июня Robinhood выпустил 200 новых токенов для европейских инвесторов, позволяющих круглосуточно торговать американскими акциями.
Стэйблкойны позволяют проводить транзакции быстро и дёшево: права собственности мгновенно регистрируются в цифровых «гроссбухах», в обход традиционных посредников. Это особенно ценно для межграничных переводов, которые на сегодня дороги и медленны. Сегодня стейблкойны используются всего в 1% финансовых транзакций в мире, но GENIUS должен поменять положение вещей. Согласно закону, стейблкойны являются не ценными бумагами, чьи цены могут меняться в зависимости от спроса и предложения; они должны быть полностью обеспечены надёжными и ликвидными (легко продать и купить) активами. О выпуске своих койнов размышляют Amazon и Walmart. Для потребителей эти койны будут чем-то вроде подарочной карты, позволяющей покупать товары, возможно, по сниженным ценам. Благодаря этому фирмам не надо будет платить Mastercard и Visa, которые берут себе примерно 2% от стоимости покупок.
Ещё один новый инструмент - токенизированный актив. Это цифровые копии прав собственности на акции, долю в паевом инвестфонде или биржевой товар (вроде нефти). Благодаря токенизации можно будет, например, продавать и покупать активы в любое время дня и года с минимальными издержками. Впрочем, издержки продажи и покупки акций в США и без того очень, очень низкие - в том числе благодаря таким новым участникам рынка, как Robinhood.
Зато во многих случаях токенизированные активы действительно могут расширить доступ к финансовым инструментам. Например, к биржевым инвестиционным фондам (ETF). Средний депозит в американском банке приносит всего 0,6% в год, в то время как многие ETF, покупающие максимально надёжные (ещё надёжнее банковского депозита) гособлигации приносят 4% и больше - примерно как сами облигации. Для мелких вкладчиков токенизация позволит резко повысить доступность способов вложения денег. В недавнем письме для инвесторов гендир BlackRock Ларри Финк выразил надежду на то, что в будущем токенизированные фонды станут столь же распространены, как ETF (сейчас самый большой такой фонд открыла как раз BlackRock, но в нём пока всего $2 млрд).
Банки понимают угрозу. Комбинация стейблкойнов и токенизированных ETF может со временем сделать депозиты менее привлекательными, если не вовсе ненужными. Как будет выглядеть мир без банков?
Другое важное изменение касается вопросов управления. Владелец токена, обеспеченного акцией, не владеет самой акцией, а значит, не имеет права голоса в совете акционеров. А если компания, выпустившая токен, обанкротится, владельцы токенов окажутся в сложной юридической ситуации: акции, которые они считали своими, могут достаться государству (в зачёт налоговых обязательств) или кредиторам. Пока эта ситуация остаётся в серой зоне - для неё ещё не сформировалась система прецедентов.
В конечном счёте всё упирается в регулирование. Токенизация может открыть доступ для многих миллионов небольших инвесторов с триллионами активов - доступ к активам вроде долей в частных компаниях (т.е. таких, чьи акции не обращаются на рынке) и многим другим. Но такие компании находятся вне зоны контроля традиционных регуляторов, вроде американской Комиссии по ценным бумагам (SEC).
Это беспокоит даже тех, кто позитивно настроен к крипте. Хестер Пирс, один из членов Комиссии, известная как «крипто-мама», в своём недавнем заявлении подчеркнула, что токены не должны использоваться для обхода законодательства, регулирующего торговлю ценными бумагами.
Вопросов остаётся много. Но одно кажется всё более определённым: разговоры о том, что крипта не принесла никаких полезных изменений в финансы, уходят в прошлое.
ПОЧЕМУ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ТАК МЕДЛЕННО ВНЕДРЯЕТСЯ?
Гендиректор любой крупной компании расскажет вам о множестве изумительных способов применения ИИ, которые уже внедрены под его мудрым руководством. В первом квартале нынешнего года 44% генеральных директоров компаний S&P 500 (500 крупнейших компаний, чьи акции торгуются на биржах) обсуждали ИИ на созвонах с инвесторами.
В реальности ИИ меняет бизнес гораздо медленнее, чем ожидалось. Опрос Американского бюро переписей показал, что всего 10% компаний используют ИИ в сколько-нибудь значимом масштабе. «Внедрение бизнесом разочаровывает» - гласит недавний отчёт UBS.
Goldman Sachs отслеживает компании, которые, по мнению банка, имеют «максимальный потенциал изменения выручки благодаря внедрению ИИ». В последние месяцы акции этих компаний растут медленнее рынка.
Казалось бы, ИИ - это буквально стодолларовые банкноты, лежащие посреди улицы. Почему бизнес не торопится их поднимать?
Возможно, здесь поможет экономика. Экономисты школы общественного выбора (public choice) делают акцент на личных мотивах политиков, создающих правила. Например, политики могут отказаться от оправданного сокращения госслужащих, если это сокращение затронет их друзей или клиентелу. Крупные корпорации со своей бюрократией сталкиваются с похожими проблемами. Филипп Агийон и Жан Тироль, два самых известных французских экономиста, предлагают различать формальную и реальную власть. Формально гендиректор может санкционировать масштабные организационные изменения в компании. На практике проводить такие изменения будет менеджмент среднего уровня, понимающий детали разнообразных бизнес-процессов, технологий, правил и так далее. Этот менеджмент часто может откладывать, переделывать или вовсе игнорировать указания, приходящие сверху.
Часто это и происходит с внедрением новых технологий.
Американские компании чрезвычайно забюрократизированы. Сейчас в США только корпоративных юристов насчитывается 430 тысяч (десять лет назад было 340 тысяч). Они в основном занимаются тем, что не позволяют другим работникам делать те или иные вещи. Американское право - прецедентное, и если для живых работников уже накоплен огромный корпус прецедентов, позволяющий понять, что можно делать, а что - нет, то ИИ остаётся областью юридической неопределённости.
В опросе UBS половина респондентов отметила «комплайенс и регуляторные риски» как важнейшие препятствия для внедрения ИИ. А ведь есть ещё проблемы защиты личных данных и дискриминации.
Эйчары (их число в США за десятилетие выросло на 40%) могут опасаться, что ИИ сделает их бесполезными - и тоже мешать его внедрению.
Со временем все эти ограничения будут преодолены - хотя бы потому, что слишком забюрократизированные компании, медленнее других внедряющие ИИ, проиграют конкуренцию и уйдут с рынка. Но мы не знаем, сколько времени на это уйдёт. А разработчикам ИИ прибыли нужны уже сейчас - например, чтобы оправдать огромные инвестиции в дата-центры.
ГОНКА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИНОСИТ БЕЗОПАСНОСТЬ В ЖЕРТВУ
В Викторианскую эпоху многие считали, что телеграф разрушит ткань общественных отношений, основанную на живом общении. Сократ считал, что письмо вредит силе ума. Технологии часто вызывают моральную панику. Но всё-таки нечасто застрельщиками паники выступают те, кто технологию и создают. Именно это происходит с разработчиками искусственного интеллекта общего назначения (AGI), который должен будет заменить всех или почти всех офисных работников, а в будущем достичь уровня суперинтеллекта, то есть превзойти уровень понимания любого человека.
Geoffrey Hinton и Yoshua Bengio, стоявшие у истоков ИИ, оценивают в 10-20% вероятность того, что ИИ приведёт к исчезновению человечества. В 2023 году двести человек, занятых в области ИИ (включая Илона Маска), подписали письмо с предупреждением об угрозах, которые несёт ИИ.
И тем не менее, разработки искусственного интеллекта в США и Китае идут ударными темпами. Логика проста: если вы прекратите заниматься этим, другие всё равно продолжат.
Маск запустил Grok всего через несколько месяцев после того, как сам же призвал к мораторию на подобные модели. Цукерберг предлагает ведущим ИИ-исследователям зарплаты в сотни миллионов долларов в год и строит Hyperion - дата-центр размером с Манхэттен, который будет потреблять в год электричества как Новая Зеландия. Сэм Альтман планирует потратить $500 млрд только в США на инфраструктуру для OpenAI. Инвестиции всех крупнейших западных тех-фирм быстро растут благодаря вложениям в ИИ.
Крупные авторитеты в отрасли предсказывают появление AGI уже в течение десяти и даже двух лет. В апреле авторитетная группа AI Futures Project предсказала, что уже в 2027 году лучшие ИИ-модели смогут заменить программистов, занятых разработкой ИИ. Развитие ИИ в первую очередь ускорит развитие ИИ - и потому так ценны топовые специалисты, способные выполнять не рутинную, а самую технически сложную и в то же время творческую работу, до которой ИИ пока далеко. Потому им и предлагают космические зарплаты.
Трамп недавно пообещал «сделать всё возможное», чтобы США лидировали в ИИ. Вэнс на саммите в Париже в феврале заявил: «будущее с искусственным интеллектом будет завоёвано не благодаря заламыванию рук по поводу безопасности».
Оптимизм Вэнса убеждает не всех. Больше всего рисков вызывают возможности ИИ создавать отравляющие вещества и вирусы. ИИ может составить для вас пошаговую инструкцию по созданию ядерной бомбы, но не сможет достать плутоний. Достать компоненты для химического или биологического оружия гораздо проще.
Легче всего запретить модели отвечать на прямые вопросы типа «как сделать гексоген в домашних условиях». Но лучшие специалисты по джейлбрейкингу - искусству задавать модели вопросы, позволяющие обойти ограничения - раз за пазом «взламывают» даже лучшие модели в течение считанных дней после релиза.
Поэтому разработчики ИИ добавляют дополнительный уровень контроля. Спросите у ChatGPT, как получить ДНК оспы - и на этом уровне разговор сразу будет отмечен, как несущий риски и даже, возможно, будет отправлен на проверку живому человеку. Но такой дополнительный контроль невозможен для открытых LLM-моделей, вроде DeepSeek или цукерберговской Llama. Эти модели можно просто скачать и модифицировать так, как захочется.
Но даже разработчики проприетарных моделей редко всерьёз заботятся о безопасности. Недавнее исследование FLI показало, что только три компании - Google DeepMind, OpenAI и Anthropic - предпринимают «существенные усилия для оценки рисков своих моделей». Напротив, DeepSeek и масковский xAI вообще ничего не говорят о подобных наработках.
Впрочем, с использованием ИИ в преступных целях компании всё же борются. А вот проблема контроля над самим ИИ заботит их гораздо меньше. Ник Бостром, философ, популяризовавший понятие суперинтеллекта в своей одноименной книге, привёл знаменитый пример «степлер-максимизатора», ИИ, которое из-за нарушения выданных инструкций стремится переработать весь мир в степлеры, и в процессе уничтожающего человечество.
Уже сегодня самые мощные модели умеют лгать, обманывать и воровать для достижения поставленных перед ними целей. Когда от них требуют аргументировать их ответы, они выдумывают правдоподобные истории вместо того, чтобы рассказать, как они на самом деле работают.
ИИ развивается гораздо быстрее, чем люди успевают понять, как он действуют. Уже сформировалась целая индустрия «переводчиков». Anthropic недавно праздновала победу - она смогла найти механизм обмана, к которому прибегает модель, когда не может найти ответ на запутанную арифметическую задачу.
Другой подход - заставлять модель объяснять пошагово свой ответ (reasoning). Кстати, похожую методику используют, чтобы заставлять модель «думать» на английском, а не на фантастической смеси всех языков на свете, которую уже прозвали «нейрализ» (neuralese).
Проблема в том, что системы защиты могут делать модели медленнее и слабее. И если ваша компания их создаёт, а ваши конкуренты - нет, то вы проиграете.
…
Прогресс в развитии ИИ может как продолжать ускоряться, так и замедлиться. Сегодня самолёты - и гражданские, и боевые - летают медленнее, чем полвека назад. У исследователей могут закончиться данные для обучения; у инвесторов может закончиться терпение; в индустрию может начать массово вмешиваться государственное регулирование. В любом случае даже сегодня ИИ уже достиг непредставимого всего десять лет назад уровня, но никаких катастроф это не вызвало.
И всё же разработчикам ИИ стоило бы подумать о будущих проблемах.