Почему CPU важны для агентного ИИ

Агентные (*agentic*) системы ИИ непрерывно рассуждают и принимают решения в реальном времени — это фундаментальный сдвиг, требующий иной инфраструктуры, чем традиционное обучение моделей.

Это AI-перевод статьи, сделанный каналом Про AI: Лучшие Статьи и Исследования.

Почему CPU важны для агентного ИИ

Why CPUs matter for agentic AI Автор: Amazon News Оригинальный текст:

Ключевые выводы

• Агентный ИИ работает непрерывно, а не пакетами, и требует постоянных вычислительных мощностей с быстрой коммуникацией между ядрами процессора.
• Процессоры вроде AWS Graviton спроектированы для таких постоянно работающих нагрузок reasoning (рассуждения).
• Компании вроде Meta развёртывают десятки миллионов ядер Graviton для обеспечения работы агентного ИИ в глобальном масштабе.

Чем агентный ИИ отличается

На протяжении многих лет разговоры об инфраструктуре ИИ были сосредоточены на чипах, предназначенных для обучения больших языковых моделей. Ускорители вроде AWS Trainium и графические процессоры (GPU) отлично справляются с параллельной обработкой огромных объёмов данных, что делает их идеальными для ресурсоёмкой работы по обучению моделей ИИ.

Но агентный ИИ работает иначе. Чтобы понять, почему центральный процессор (CPU) вновь становится актуальным в контексте ИИ, нужно рассмотреть принципиальное различие между стандартной языковой моделью (SLM), большой языковой моделью (LLM) и ИИ-агентом. Языковая модель — это почти как калькулятор: вы даёте ей промпт, а она выполняет огромный объём параллельных математических операций для предсказания следующего набора токенов (tokens, единицы текста) — то есть выходных данных. Именно здесь блистают GPU — они выполняют тысячи вычислений одновременно на множестве ядер (отдельных вычислительных блоков внутри чипа).

ИИ-агент, однако, больше похож на менеджера. Агенты — это системы ИИ, способные действовать автономно для выполнения многоэтапных задач: они всегда включены и непрерывно обрабатывают информацию и предпринимают действия. Представьте цифрового помощника, который не просто отвечает на команды, а действительно выполняет задачи за вас — управляет расписанием, координирует работу между системами, принимает решения. Если вы попросите агента «изучить эту компанию и составить краткую справку», он не просто генерирует текст. Он должен разбить цель на последовательные шаги, открыть веб-браузер и перейти по ссылкам, разобрать файлы и данные, отфильтровать лишнее и запустить код для завершения черновика.

Хотя inference (инференс, вывод модели) долгое время был доменом GPU (при этом CPU теперь тоже берут на себя растущую долю этой нагрузки), каждый другой шаг в этой цепочке — от логики до управления файлами, сетевых вызовов и выполнения кода — является задачей, нативной для CPU. Это требует устойчивой вычислительной мощности с чрезвычайно быстрой коммуникацией между ядрами процессора.

Именно здесь становятся критически важными специализированные CPU вроде AWS Graviton. Процессоры Graviton спроектированы для непрерывных нагрузок с низкой задержкой, которые определяют эпоху агентного ИИ. Вот почему такие компании, как Meta, используют Graviton для своих последних агентных рабочих нагрузок — развёртывая десятки миллионов ядер Graviton для обеспечения работы систем ИИ, которые непрерывно рассуждают и обслуживают миллиарды пользователей.

Как Graviton решает эту задачу

Агентные системы работают в быстрых циклах выполнения — не просто рассуждая, а активно извлекая данные, вызывая инструменты и предпринимая действия, прежде чем вернуться к оценке следующих шагов. Каждый цикл требует, чтобы разные части процессора быстро обменивались данными.

Чипы Graviton спроектированы так, чтобы минимизировать время, которое разные компоненты тратят на коммуникацию друг с другом. Для систем ИИ, постоянно обменивающихся информацией в процессе reasoning, эта скорость имеет решающее значение.

Организации, запускающие агентный ИИ в глобальном масштабе, выбирают Graviton, потому что архитектура соответствует нагрузке. Обучение модели происходит интенсивными всплесками. Работа агентной системы требует устойчивой производительности и постоянной адаптации — для разной работы нужны разные инструменты.

Почему это важно для непрерывного интеллекта

Когда системы ИИ непрерывно обслуживают миллионы пользователей, производительность и энергоэффективность становятся одинаково важными. Graviton обеспечивает более высокую производительность и является самым энергоэффективным процессором в линейке. Для систем, работающих круглосуточно в глобальном масштабе, эта эффективность является одновременно экологически ответственной и экономически необходимой. Такое сочетание делает возможным непрерывную работу сложных агентных систем для больших пользовательских баз.

Создание инфраструктуры для систем, которые никогда не перестают думать

Рост агентного ИИ представляет собой фундаментальный сдвиг в инфраструктуре искусственного интеллекта. По мере того как системы ИИ становятся более автономными и более интегрированными в повседневный цифровой опыт, требования к инфраструктуре эволюционируют.

Процессоры вроде Graviton — спроектированные для устойчивых вычислений с низкой задержкой, а не для периодических всплесков обучения — становятся фундаментом этой новой эры. Вопрос не в том, изменит ли агентный ИИ то, как мы работаем и живём. Вопрос в том, существует ли инфраструктура для его поддержки в масштабе.

Всё чаще эта инфраструктура строится на технологиях, специально разработанных для систем, которые никогда не перестают думать.

Узнайте больше о том, как чипы Graviton делают облачные вычисления быстрее, дешевле и энергоэффективнее.

Подпишитесь на канал и каждый день читайте лучшие материалы про AI переведенные на русский!

Нашли интересную статью для перевода? Пришлите нашему боту: @ailongreadsbot