От транзистора до токена (часть 2)

Продолжение. Храповик, сдвиг узкого места и инференс-машина — как автономные экспериментальные циклы замыкают петлю от кремния до агентных систем.

Это AI-перевод статьи, сделанный каналом Про AI: Лучшие Статьи и Исследования.

От транзистора до токена (часть 2)

From Transistor to Token Автор: thbrdy Оригинальный текст:

Храповик

Оборудование и модели определяют, что может работать на ноутбуке. Следующий вопрос — что происходит, когда вы замыкаете цикл, когда машина не просто выполняет инференс, а проводит эксперименты.

Autoresearch Андрея Карпати — это 630 строк мутабельного Python-кода для обучения, неизменяемый оценочный стенд и Markdown-файл program.md. Человек пишет спецификацию программы. Агент делает всё остальное. Механизм — храповик на основе git: ветвление от main, модификация train.py, коммит изменения, обучение в рамках фиксированного 5-минутного бюджета, оценка по val_bpb (validation bits-per-byte — биты на байт на валидации), и решение. Если метрика улучшилась — слияние с main. Если нет — git reset HEAD~1 и новая попытка.

Философия дизайна (один GPU, один файл, одна метрика) намеренна и поучительна. Сравните с «AI Scientist» от Sakana AI, который пытается автоматизировать полный исследовательский цикл от генерации гипотез до написания статьи. Подход Sakana даёт 42% частоту провалов экспериментов и результаты, включающие галлюцинированные данные — система генерирует правдоподобно звучащие результаты, которые никогда не были измерены. Autoresearch не может галлюцинировать, потому что val_bpb измеряется на held-out валидационном наборе, а не генерируется моделью. Различие архитектурное: autoresearch разделяет мутабельную часть (обучающий код, который агент модифицирует) от иммутабельной части (оценочный стенд, который агент не может трогать). Храповик движется только вперёд, и он движется вперёд только на основе доказательств.

Ограничение объёма не менее важно. Autoresearch не пытается писать статьи, генерировать гипотезы о более широкой области или заявлять о значимости своих результатов. Он оптимизирует одну метрику на одном наборе данных, модифицируя один файл. Амбиция агента механически ограничена дизайном системы — свойство, которое Карпати выбрал намеренно и которого не хватает большинству автономных исследовательских систем.

На H100 цикл выполняет 12 экспериментов в час. На Apple Silicon через MLX — 8–9. Разница в пропускной способности менее важна, чем доступность: autoresearch на H100 требует облачного доступа к GPU за $2–3 в час. На MacBook Pro он требует электричества.

Аппаратно-специфичные оптимумы

MLX-порт autoresearch обнаружил, что модели глубины 4 драматически превосходят модели глубины 8 в рамках фиксированного 5-минутного окна обучения на Apple Silicon.

Причина структурная, а не случайная. Более низкая пропускная способность означает меньше прямых проходов в минуту. Каждый проход, следовательно, должен быть более полезным. Меньше, но более широкие слои с большим количеством шагов оптимизатора побеждают глубокие сети, которые не могут завершить достаточно итераций обучения за отведённое время. Ландшафт оптимизации формируется характеристиками пропускной способности оборудования — цикл не знал этого заранее. Он обнаружил это, работая на данном субстрате.

Смените субстрат — изменится оптимум. Один и тот же алгоритм, при одной и той же цели, находит фундаментально разные решения в зависимости от того, на каком оборудовании он работает. Это не ограничение — это открытие. Цикл адаптируется к тому, что кремний реально делает, а не к тому, что написано в спецификации.

При запуске форка autoresearch-ANE на ANE вместо GPU оптимальная глубина смещается к шести слоям при длине последовательности 512 — отличается от глубины 4 на GPU и глубины 8 на H100. Профиль производительности ANE (33% вычисления, 30% ввод-вывод, 37% накладные расходы CPU) выявляет иной профиль узких мест, чем путь через GPU: доминируют накладные расходы CPU от диспетчеризации приватного API, а не пропускная способность вычислений. При длине последовательности 1024 обрыв SRAM из первого акта возвращается — та же граница в 32 МБ, которая ограничивает пропускную способность инференса ANE, ограничивает и рабочий набор для обучения. Три вычислительные цели на одном чипе. Три разных оптимума. Алгоритм адаптируется к кремнию; кремний определяет, что алгоритм может найти.

Проект Tiny-Lab от trevin-creator развивает паттерн дальше: специализированный запускатель экспериментов для Apple Silicon с очередью гипотез на базе Claude, структурированным экспериментальным дизайном с одной переменной и JSONL-журналом, отслеживающим исходы WIN/LOSS/INVALID. Если autoresearch — это скрипт, который вы форкаете, то Tiny-Lab — инфраструктура: полосы, CLI surface, двойные оценщики (NumPy + MLX перекрёстная проверка), скоринг по held-out срезу TinyStories. Паттерн взрослеет от ad-hoc порта к целенаправленно построенной экспериментальной среде, что само по себе является примером сдвига узкого места, описанного далее.

Храповик на уровне ядер

AutoKernel применяет тот же цикл «предложить-протестировать-верифицировать-слить» к оптимизации ядер GPU вместо поиска архитектуры моделей. Система профилирует PyTorch-модель, определяет узкие ядра с помощью приоритизации по закону Амдала — 1,5-кратное ускорение на 60%-ном ядре побеждает 3-кратное ускорение на 5%-ном ядре, — изолирует каждое как самостоятельное Triton-ядро, затем запускает ИИ-агента через циклы «редактировать-тестировать-верифицировать». Каждый эксперимент занимает 90 секунд: 40 итераций в час, 320 за ночь на нескольких ядрах. Конвейер верификации состоит из пяти стадий: smoke-тесты, перебор форм, проверки числовой стабильности, валидация детерминизма и проверка граничных случаев по эталонам PyTorch. Хорошо настроенные Triton-ядра регулярно достигают 80–95% производительности cuBLAS.

Структурная параллель с autoresearch Карпати точная: один мутабельный файл (kernel.py), один иммутабельный оценочный стенд (bench.py), автоматический коммит-или-откат на основе измеренного улучшения. Храповик движется только вперёд, и он движется вперёд только на основе доказательств. Но уровень абстракции другой: реализация ядра, а не архитектура модели. И оборудование другое: NVIDIA H100, A100, RTX 4090 вместо Apple Silicon. Один и тот же паттерн, другой субстрат, другие оптимумы. Поддерживаемые типы ядер — matmul, flash attention, fused MLP, rotary embedding и пять других — покрывают операции, на которых реально образуются узкие места инференса современных трансформеров.

Храповик — это структура, а не техника. Он работает везде, где можно отделить то, что агент модифицирует, от того, как вы измеряете улучшение.

Храповик при разных ограничениях

Форк autoresearch-sample-efficiency от Параса Чопры изменяет одну переменную в оригинальном дизайне Карпати: условие остановки. Вместо фиксированного 5-минутного бюджета реального времени он накладывает фиксированный бюджет в 10 миллионов токенов. Обучение останавливается, когда total_tokens >= TOKEN_BUDGET, а не training_time >= TIME_BUDGET.

Запуски с бюджетом по времени вознаграждают архитектуры, обрабатывающие данные быстрее всего — рычаг в пропускной способности. Запуски с бюджетом по токенам вознаграждают архитектуры, извлекающие максимум обучения из каждого примера — рычаг в эффективности обучения на примерах. Агент исследует стратегии регуляризации, размер модели и планирование батчей вместо оптимизаций скорости. Около 50 экспериментов выполняются за ночь. Заявленный результат: 14% снижение потерь на валидации по сравнению с базовым уровнем.

Это тезис «смени субстрат — изменится оптимум», применённый к самому фрейму ограничений. Субстрат — не кремний, а бюджет. Зафиксируйте вычисления, измените измерение бюджета — и ландшафт оптимизации перестраивается. Бюджеты по времени на Apple Silicon обнаружили, что глубина 4 оптимальна. Бюджеты по токенам на том же оборудовании обнаружили бы совершенно другую архитектуру, потому что давление отбора другое.

Форк также делает эксперименты сравнимыми между аппаратными платформами: бюджет в 10M токенов обеспечивает одинаковое количество данных на M4 и на H100, изолируя архитектурное качество от преимущества в пропускной способности. Это методологический вклад, а не только технический.

Персистентные агенты на локальном оборудовании

Hermes Agent от Nous Research — это не «запусти модель и получи ответ». Это персистентный агент, который накапливает знания в виде переиспользуемых документов-навыков, становясь более способным со временем. Работая через llama.cpp на Apple Silicon с моделью Qwen, весь стек — кремний, фреймворк, модель, агент — помещается на одну машину без зависимости от облака.

Цикл документов-навыков зеркалит храповик autoresearch. Оба накапливают структурированные знания. Оба движутся вперёд монотонно. Разница — в объёме: autoresearch оптимизирует один скрипт обучения; Hermes оптимизирует собственную поверхность возможностей по произвольным задачам. И оба разделяют свойство, которого не могут достичь облачно-зависимые агенты: детерминированная доступность. Агент запускается, когда вы открываете ноутбук. Он не зависит от лимитов API, сетевого подключения или ценовых решений провайдера. Весь стек инференса, от транзистора до персистентного агента, работает на оборудовании, которое можно унести в рюкзаке.

Где это ломается

У храповика есть режимы отказа, которые его элегантность может скрывать.

Задокументированный провал: «улучшение» агента состояло в смене seed 42 на 137, что дало более низкие потери на валидации через переобучение (переобучение) на оценочном наборе. Метрический шлюз хорош ровно настолько, насколько хороша метрика. Высокая частота отказов — 26 из 35 экспериментов упали на одном запуске M4 Mini. Пятиминутный бюджет ограничивает полезный масштаб 10 миллионами параметров. И GitHub Issue #22, озаглавленный «Low creativity», фиксирует более глубокое ограничение: агент в основном подстраивает гиперпараметры (гиперпараметры), а не исследует новые архитектуры. Как выразился Карпати: «LLM кажется не желающей креативно преследовать исследовательское направление».

Возможности Hermes полностью зависят от качества модели, которая его приводит в действие — что возвращает аргумент к началу, к стеку под ним. Агентный уровень не может обогнать модельный уровень, который не может обогнать фреймворковый уровень, который не может обогнать кремний. Каждый уровень наследует ограничения всего, что под ним. Блестящий program.md, запущенный на модели, которая галлюцинирует оценки, не даёт ничего. Сложная архитектура документов-навыков, запущенная на модели, слишком маленькой для многошагового рассуждения, порождает шум, который накапливается, а не знания, которые приумножаются.

Сдвиг узкого места

Роль человека смещается от проведения экспериментов к проектированию экспериментальных сред.

Вычисления раньше были ограничением. На протяжении десятилетий вопрос «как быстро мы можем обучать?» доминировал в исследованиях машинного обучения, и ответ всегда был «получить больше FLOPS». Потом пропускная способность стала ограничением. По мере масштабирования инференсных нагрузок узкое место сместилось с вычислений на пропускную способность памяти: скорость чтения весов модели определяет скорость генерации токенов, и никакое количество дополнительных FLOPS этого не изменит.

Теперь ограничение снова смещается — вверх по стеку. Архитектура моделей решает проблему пропускной способности: слои линейного внимания Qwen 3.5 снижают чтение из памяти на токен на порядки. Дизайн агентов — следующее узкое место: program.md autoresearch и документы-навыки Hermes — это уровень спецификации, определяющий, что стек оборудование-модель-фреймворк на самом деле делает. А выше — экспериментальный дизайн человека: какие метрики важны, какие ограничения наложить, что система оптимизирует.

Каждый сдвиг вверх не устраняет уровень ниже. Кремний по-прежнему важен. Фреймворк по-прежнему важен. Архитектура модели по-прежнему важна. Но каждый становится необходимым условием, а не дифференциатором. 614 ГБ/с M5 Max необходимы для инференса 70B, но недостаточны для полезного инференса 70B — также нужна правильная квантизация, правильный фреймворк и промпт, достойный вычисления.

Полный стек инференса имеет пять уровней: кремний, фреймворк, система, модель, приложение. На каждой границе между уровнями что-то теряется или искажается. CoreML накладывает 2–4-кратные расходы между кремнием и фреймворком. Различие prefill/decode сжимается в одно «в 4 раза быстрее» между фреймворком и системой. «Конвергентная оптимизация» подаётся как «спроектировано для работы на устройстве» между системой и моделью. И разрыв между возможностями модели и полезным приложением (program.md, документы-навыки, экспериментальный дизайн человека) — это то, где узкое место сейчас находится.

Инференс-машина

Кремний ведёт. Форм-фактор следует. M1 был выпущен в старом корпусе в 2020 году. Редизайн пришёл годом позже. M2 до M4 Pro и Max использовали тот корпус 2021 года четыре поколения. M5 выпускает оптимизированный для ИИ кремний в том же корпусе. M6, ожидаемый в конце 2026, по прогнозам принесёт OLED, тачскрин и новый промышленный дизайн. Apple рассматривает каденцию кремния и каденцию корпуса как отдельные треки — терпение, которое большинство аппаратных компаний не могут себе позволить, и которого большинство потребителей не замечает.

Вопрос ANE, переосмысленный как ограничение фреймворка, а не оборудования, может получить разрешение в конкретные сроки. Оборудование ANE выдающееся: 6,6 TFLOPS/Вт, в 50–80 раз эффективнее на FLOP, чем GPU дата-центров. ANE M5 на самом деле стал быстрее: 19,9 TFLOPS против 15,8 TFLOPS у M4, по данным Вейнбаха из Creative Strategies. Но CoreML растрачивает большую часть этого. 2–4-кратные накладные расходы, планировщик-чёрный ящик, 20 задокументированных ограничений — всё это фреймворк, а не кремний.

Характеристика Вейнбаха точно отражает несоответствие: ANE — это «блочный ускоритель», лучше всего подходящий для плотных matmul-тяжёлых форм с высокой загрузкой, а не «движок с низкой задержкой для крохотных, нерегулярных шагов инференса», таких как пошаговое декодирование токенов. Пресс-релиз M5 подтверждает организационный сигнал. 16-ядерный Neural Engine получает одно предложение, привязанное к потребительским функциям Apple Intelligence. Neural Accelerators в ядрах GPU получают заявления о производительности и упоминание LM Studio. Apple полностью отказалась от метрики TOPS, заменив её на «более чем 4-кратный пиковый GPU-вычислительный потенциал для ИИ». Измерение сменилось, потому что сменилась аппаратная цель.

Apple, возможно, подходит к проблеме фреймворка с двух сторон. Тензорные API Metal 4 дают разработчикам прозрачный доступ к нейронным вычислениям через GPU уже сейчас — публичная, программируемая поверхность, которой раньше не существовало. Слухи о фреймворке CoreAI, о котором сообщил Марк Гурман из Bloomberg в марте 2026, могут унифицировать диспетчеризацию между ANE и GPU Neural Accelerators на WWDC. Но это единственный источник без какого-либо технического подтверждения: нет бинарника фреймворка, нет документации для разработчиков, нет заголовков Xcode, нет вакансий. Широко разошедшийся твит разработчика Рональда Маннака, связывающий находки о накладных расходах CoreML со слухами об обновлении CoreAI, отражает настроение сообщества: техническое давление реально, и сроки (WWDC, июнь 2026) конкретны. Реакция проекта ANEMLL более осторожна: «Что нам действительно нужно — это низкоуровневый доступ к ANE и прозрачная диагностика ANECompiler… компиляторный путь в стиле XLA/HLO для ANE был бы гораздо более прочным фундаментом, чем высокоуровневый унифицированный API».

M5 Ultra поднимает вопрос, который архитектура M5 Max делает по-новому интересным. Каждый предыдущий Ultra соединял два кристалла Max через UltraFusion. Но M5 Max уже является двухкристальным чиплетом: тайл CPU и тайл GPU, соединённые через SoIC-MH. Если Ultra соединяет два корпуса Max, результат — четыре кристалла на интерпозере, беспрецедентный случай для Apple Silicon. Патенты Apple описывают межкристальные соединения со сшитыми интерпозерами, поддерживающими несколько слоёв металлизации, а упаковка CoWoS-S5 от TSMC поддерживает необходимую площадь. Альтернативная теория — что модульный тайловый дизайн Fusion Architecture позволяет Apple собирать Ultra из отдельных тайлов CPU и GPU без буквального удвоения Max — объяснила бы, почему Apple пропустила M4 Ultra полностью, выпустив Mac Studio с M3 Ultra. Будь то четыре кристалла или новая модульная сборка, ответ определит термический запас, экономику выхода годных и то, сможет ли Apple превысить 2-кратное удвоение ядер GPU, определявшее каждый предыдущий Ultra. Окно презентации — то же, что и для фреймворка CoreAI: WWDC, июнь 2026.

Окно презентации — через три месяца. Вопрос не в том, способно ли оборудование ANE — 6,6 TFLOPS/Вт доказывает, что способно. Вопрос в том, даст ли Apple разработчикам фреймворк, который перестанет тратить половину этого впустую. 16-ядерный Neural Engine продолжит делать то, для чего он был создан: Face ID, Live Text, вычислительная фотография при нулевом потреблении в простое. Будущее вычислений машинного обучения (машинное обучение) общего назначения на устройстве, по всей видимости — интеграция в GPU, публичная программируемость и масштабирование с количеством ядер — если только WWDC не перепишет эту траекторию.

M5 Max не лучший ни по одной отдельной метрике. Это единственное устройство, объединяющее 128 ГБ единой памяти, 614 ГБ/с пропускной способности, 40 Neural Accelerators, портативность ноутбука и 50-ваттное энергопотребление. Для моделей свыше 30 миллиардов параметров эта комбинация не имеет эквивалента ни при какой цене.

Преимущество M5 Max опирается на два условия. Во-первых, станут ли крупные локальные модели основным рабочим процессом, а не диковинкой — сократится ли разрыв между облачным инференсом и локальным инференсом настолько, что практики выберут машину на столе, а не API в браузере. Аргумент конфиденциальности реален, но недостаточен сам по себе; что склоняет чашу весов — паритет возможностей на размерах моделей, помещающихся в 128 ГБ. Qwen 3.5 27B с контекстом 128K, работающая на 20+ ток/с через MLX, приближается к порогу, где локальный инференс не просто приватен, а конкурентоспособен.

Во-вторых, успеет ли программная экосистема (MLX, llama.cpp, Metal 4 и то, что Apple анонсирует в июне) созреть достаточно быстро, чтобы закрыть разрыв между измеренной и теоретической производительностью. Сегодня разрыв между тем, что оборудование может делать, и тем, к чему разработчики могут получить доступ через публичные API — единственный крупнейший источник растраченных возможностей в стеке. 6,6 TFLOPS/Вт ANE скрыты за 2–4-кратными накладными расходами CoreML. GPU Neural Accelerators программируемы через Metal 4, но инструментарий в зачаточном состоянии. MLX достигает на 20–30% больше пропускной способности, чем llama.cpp на том же оборудовании, что указывает: даже на пути через GPU оптимизация далека от насыщения.

Паттерн храповика распространяется за пределы одной машины. Если цикл на одной машине работает — предложить, оценить, слить если улучшилось — естественный вопрос: как выглядит распределённая версия. Два ранних проекта набрасывают ответ. Spore предоставляет peer-to-peer протокол для ML-экспериментов, где узлы-верификаторы перезапускают совместимые утверждения, несовпадения запускают подписанные оспаривания, а публикаторы не могут верифицировать собственную работу — «иммутабельный оценочный стенд» храповика, реализованный как gossip-сеть с аппаратно-осведомлённой верификацией. Hyperspace идёт дальше: peer-to-peer сеть агентов, где агенты обучают модели, критикуют выходы друг друга и делят вычисления с криптографической верификацией заявленных ресурсов. Оба на ранней стадии. Ни у одного нет такого уровня измеренных данных о производительности, который требует остальная часть этого эссе. Но они сигнализируют, что координационный уровень для распределённого автономного экспериментирования строится.

Стек от транзистора до токена теперь достаточно прозрачен, чтобы рассуждать о нём. Это предпосылка для построения чего-либо полезного поверх него — и для понимания, когда это невозможно.

Оценка как среда

Всё вышесказанное прошло по стеку сверху вниз — от маркетинговых заявлений до кремниевой реальности — а затем снизу вверх через паттерн храповика по мере его распространения по оборудованию, ядрам и фреймингу ограничений. Один вопрос остался открытым. Храповик оптимизирует архитектуры моделей и реализации ядер. Что происходит, когда вы направляете его на агентные системы, построенные поверх стека инференса?

Фреймворк оценки агентных обвязок от @neural_avb делает методологию эксплицитной. Рассматривайте каждый модуль агента как изолированный чёрный ящик. Контролируйте независимые переменные: выбор модели, системный промпт, доступность инструментов. Запускайте на тестовых кейсах из продакшн-логов с детерминированными метриками (IOU, прецизионность (прецизионность), полнота (полнота)) вместо вероятностных (LLM-as-judge) везде, где возможно, потому что детерминированные метрики дешевле, быстрее и воспроизводимы. Фиксируйте стоимость, задержку (задержка), токены завершения и частоту ошибок наряду с точностью (точность) — затем стройте графики результатов и ищите паттерны, которые скрывают числа сами по себе.

Структура зеркалит autoresearch: мутабельный компонент (конфигурация агента), иммутабельный оценочный стенд (продакшн тестовые кейсы с эталонными выходами) и метрический шлюз, определяющий, сливаются ли изменения. Цикл пока не автоматизирован — эксперименты запускаются вручную, с подстановкой имён моделей и сравнением IOU-очков по гистограммам и диаграммам рассеяния. Но архитектура идентична храповику. Разница в том, что человек всё ещё в цикле как предлагающий, и оценочный стенд ещё не передан агенту.

Фрейминг Prime RL («среды и оценки — две стороны одной монеты») переосмысляет, что такое оценочный стенд на самом деле. Оценочный стенд — это экспериментальная среда: тестовые кейсы как наблюдения, метрики как сигнал вознаграждения, конфигурация агента как пространство действий. Отображение настолько прямое, что уже сегодня можно запускать методы оптимизации промптов или сквозное обучение с подкреплением на этой структуре. Переход от ручной оценки к автоматическому храповику — не концептуальный скачок, а инженерная задача.

Конкретная находка, оправдывающая место этого постскриптума: замена gpt-5-mini на gemini-3-flash-lite для субагента поиска выявила, что меньшая модель Gemini спонтанно выполняет вспомогательное кэширование для нижестоящих агентов — поведение, которое более крупная модель демонстрировала редко. Параллель с обнаружением глубины 4 на Apple Silicon структурная, а не аналогическая. Измените одну переменную (модель), удержите среду оценки постоянной — и возникает неожиданный оптимум, который спецификация не даёт оснований предсказать. Оценочный стенд сделал невидимое видимым.

Открытый вопрос — что произойдёт, когда храповик будет оптимизировать не только веса модели или реализации ядер, а саму агентную обвязку, включая её собственные критерии оценки. В этой точке среда и агент коэволюционируют — и роль человека смещается от проектирования экспериментов к проектированию критериев, по которым эксперименты оцениваются. Узкое место перемещается ещё на один уровень вверх.

Подпишитесь на канал и каждый день читайте лучшие материалы про AI переведенные на русский!

Нашли интересную статью для перевода? Пришлите нашему боту: @ailongreadsbot