Trending OSS — embedded, mobile, networks, web, AI · 2026-08-11 09:02

Trending OSS — embedded, mobile, networks, web, AI

OpenCost 1.121.0: учёт стоимости LLM-инференса в Kubernetes — CNCF-инкубационный проект OpenCost получил метрики и API для cost-per-model и cost-per-million-tokens на базе llm-d/vLLM, с разделением allocation- и usage-based стоимости и учётом попаданий в KV cache. PoC проверен на кластере из 109 GPU и 30 моделей.

vLLM 0.27.0: day-0 для Kimi K3, Qwen3.5 и апгрейд на PyTorch 2.13 — релиз собрал 561 коммит: полный стек для Kimi K3, поддержка Qwen3.5 и K-EXAONE-2.0-750B, углубление FlashAttention 4 на SM100, расширенный Model Runner V2 для embedding/classification и gRPC control plane в Rust-фронтенде. GitHub · cmso977x854b98845f42b483a

Zephyr v4.4.2: багфикс с десятками CVE, включая WireGuard и Bluetooth — финальный maintenance-релиз после 4.4.1 закрывает CVE по HTTP static FS, WireGuard RX, Bluetooth Classic/LE Audio, ESP32 PSRAM/Wi-Fi heap и сетевому стеку. GitHub · cmso977x937b5bdcd01075e6d

Qdrant 1.19.0: TurboQuant 4-bit как основной тип хранения векторов — векторная БД позволяет хранить только 4-bit квантованные векторы без полной копии, унифицирует memory tiers (cold/cached/pinned), добавляет prefix match в фильтрах, global quota API и slice filtering. GitHub · cmso977xa697d7dcf48a9a895

Envoy Gateway 1.9.0-rc.1: CEL Authorization и Gateway API 1.6.1 — pre-release поднимает Gateway API до v1.6.1, вводит CEL-based Authorization policy, SNI-based dynamic forward proxy для TLSRoute, HTTPFilter для GRPCRoute и ужесточает securityContext control-plane. GitHub · cmso977xb2c702e9daa40a1e0

llama.cpp b10342: архитектура Granite-Switch с per-token LoRA — в бэкенд добавлена dense-модель Granite-Switch с встроенными LoRA-адаптерами, переключаемыми control-токенами через in-graph router attention; конверсия GGUF и загрузка работают end-to-end. GitHub · cmso977xbe9c7baae903a8b0b

React Native 0.87.0-rc.4: Strict TypeScript API и SwiftPM на финишной прямой — очередной RC линии 0.87 (stable намечен на 10 августа) ужесточает extensionless-импорты scripts, чинит SwiftPM autolinking и prebuilt Headers; ранее в серии — Strict TypeScript API по умолчанию, Metro 0.87 и SwiftPM для iOS. GitHub · cmso977xce09619ac2c8dd37c

CNCF: OpenCost × llm-d для FinOps вокруг GPU-инференса — в блоге CNCF подробно разобраны метрики llm_total_hourly_cost и llm_cost_per_million_tokens, роль Inference Scheduler/gateway/KV cache в allocation-cost и ловушка сравнения usage-based self-host vs SaaS. CNCF · cmso977x7c76586a31c679e00