Inference поглотит мир

Расходы на inference растут экспоненциально, и деньги, которые раньше шли на софтверные продукты и услуги, всё больше перетекают в оплату токенов. Автор объясняет, почему inference станет крупнейшим рынком в мире компьютерной работы.

Это AI-перевод статьи, сделанный каналом Про AI: Лучшие Статьи и Исследования.

Inference поглотит мир

Inference will eat the world. Автор: David Ondrej Оригинальный текст:

Каждый месяц мы тратим всё больше и больше денег на inference (инференс, вывод модели) ИИ. Это верно для меня, для всех людей в моей команде, для всех знакомых мне людей в сфере ИИ — и, скорее всего, это верно и для вас.

Мы не платим за очередные SaaS-инструменты на основе ИИ, созданные через vibe coding (разработку в свободном стиле)... мы платим за tokens (токены).

И эта тенденция не собирается останавливаться в ближайшее время.

Конечно, будут оптимизации — например, open-source модели ИИ из Китая часто значительно превосходят закрытые модели из Америки, давая гораздо больше ценности за гораздо меньшие деньги. Подписки вроде OpenCode Go дают доступ к моделям почти фронтирного уровня за цену в 20 раз меньше, чем подписка Claude Max.

Но, несмотря на все эти оптимизации, количество сжигаемых токенов продолжает расти месяц за месяцем. Куда бы вы ни посмотрели — данные OpenRouter, данные AI-шлюза Vercel, оценки API OpenAI и Anthropic — количество генерируемых токенов продолжает расти. И оно растёт не медленно, не линейно — оно растёт экспоненциально.

Вот почему INFERENCE поглотит весь мир программного обеспечения.

Если подумать от первых принципов, это становится очевидным. Модели улучшаются каждые 1–2 месяца, и нет никаких признаков замедления этих улучшений (скорее, они ускоряются). Агентные фреймворки тоже развиваются стремительно — год назад у нас был, по сути, только Claude Code, а сейчас у нас есть Pi, Codex, Hermes, OMP, Droid, Prime Agent... и многие другие.

Это лишь два фактора, указывающие на один и тот же вывод: агенты становятся всё более и более мощными.

Если говорить простым языком: каждый месяц агенты способны выполнять всё больший процент от общего числа задач в разработке ПО. Это очевидно любому, кто способен видеть. Не нужно быть гением, чтобы понять, к чему это ведёт... к миру, в котором агенты выполняют подавляющее большинство взаимодействий со всем существующим программным обеспечением.

Люди выбирают банки по принципу «у какого есть API». Люди заказывают еду через CLI DoorDash. Почему? Потому что вместо того, чтобы пользоваться каким-то паршивым интерфейсом, они могут просто поговорить со своим персональным агентом, сказать ему, что им нужно, и агент сделает всё остальное.

И чем больше API появляется, чем лучше становится Computer Use, чем больше коннекторов создаётся — тем больше агенты смогут делать. Точка.

Так что не только каждый отдельный агент способен справляться с большим количеством задач, и более сложными задачами, — каждый человек (по крайней мере из тех, кто в теме) теперь запускает несколько агентов параллельно. Просто спросите себя: вы запускаете больше агентов сейчас, чем 6 или 12 месяцев назад? Мне не нужно вас знать, чтобы знать, что ответ — Да.

Из сказанного должно быть ясно: больше агентов = больше токенов, а больше токенов = больше денег, потраченных на inference.

Раньше, даже если у вас был простой юридический вопрос, приходилось платить живому юристу за ответ. Теперь вы просто спрашиваете ChatGPT Pro. Ещё несколько лет назад, если нужно было категоризировать тысячи бухгалтерских транзакций, вы платили бухгалтеру. Теперь вы просто говорите Claude Code написать вам Python-скрипт.

Начинаете видеть общую картину?

Деньги, которые иначе пошли бы на другую компьютерную работу, не связанную с inference — будь то продукты или услуги — теперь просто идут на INFERENCE.

Вы больше не платите за живых переводчиков — вы просто просите ИИ-чатбота перевести. Вы не платите кому-то за исследование — вы просто спрашиваете Perplexity. Вы не платите фронтенд-разработчику за полировку сайта — вы просто поручаете это Fable. Все эти расходы, вся эта покупательная способность, вся эта выручка — всё это идёт на INFERENCE.

Вот почему я считаю, что inference поглотит мир программного обеспечения — медленно, но верно. (Или, скорее, «быстро, но верно»...)

После многодневных размышлений над этой идеей мне всё же удалось найти некоторые вещи, которые нельзя заменить простым «забрасыванием токенами» — отрасли, области, задачи, с которыми агенты, какими бы умными они ни были, не смогут справиться. Но это тема для другой статьи.

А пока поймите одно: всё, что легко верифицируется, всё, что имеет чёткую целевую функцию, будет рано или поздно выполняться ИИ-агентами — нравится вам это или нет.

Inference станет одним из крупнейших рынков в мире и самым большим рынком во всей компьютерной работе. Что вы сделаете с этой информацией — решать вам.

Подпишитесь на канал и каждый день читайте лучшие материалы про AI переведенные на русский!

Нашли интересную статью для перевода? Пришлите нашему боту: @ailongreadsbot