回首頁 / 🧱 AI 基礎堆疊 / ⚡ 推理／部署引擎

OnlyTerp/turboquant

Google TurboQuant 技術的開源實現，提供 LLM 推理中的 KV 快取壓縮。