回首頁 / 🧱 AI 基礎堆疊 / ⚡ 推理/部署引擎

Dynamis-Labs/spectralquant

基於特徵向量旋轉和位元分配的 KV-Cache 壓縮技術。

🧱 AI 基礎堆疊 ✓ 可商用 ★ 197Python

為何上榜

197★ · 近期活躍

商用授權

✓ 可商用MIT

可商用,通常只需保留著作權聲明/授權條款

Topics

compressionkv-cachelarge-language-modelsllm-inferencemachine-learningpytorchquantizationresearch-paperspectral-analysistransformer
廣告