回首頁 / 🧱 AI 基礎堆疊 / ⚡ 推理／部署引擎

quantumaikr/quant.cpp

純C語言的LLM推論庫，支援長上下文和KV快取壓縮。