回首頁 / 🧱 AI 基礎堆疊 / 🤖 Agent 框架／編排

huawei-csl/KVarN

為代理提供原生 vLLM KV-快取量化後端，提升上下文和吞吐量。

🧱 AI 基礎堆疊 ✓ 可商用 ★ 440Python

↗ 原始連結

為何上榜

近一日新增 1★（現 440★）

商用授權

✓ 可商用Apache-2.0

可商用，通常只需保留著作權聲明/授權條款

Topics

agentic-aikv-cachellmllm-inferencelong-contextquantizationvllm