# quantumaikr/quant.cpp

純C語言的LLM推論庫，支援長上下文和KV快取壓縮。

**為何上榜**：394★ · 近期活躍

**商用授權**：可商用 — 可商用，通常只需保留著作權聲明/授權條款

**Stars**：394
**原始連結**：https://github.com/quantumaikr/quant.cpp