# unixsysdev/llama-turboquant

為 llama.cpp 提供 3-bit KV-cache 壓縮以加速推理。

**為何上榜**：53★ · 近期活躍

**商用授權**：可商用 — 可商用，通常只需保留著作權聲明/授權條款

**Stars**：53
**原始連結**：https://github.com/unixsysdev/llama-turboquant