Dynamis-Labs/spectralquant
基於特徵向量旋轉和位元分配的 KV-Cache 壓縮技術。
為何上榜
197★ · 近期活躍
商用授權
✓ 可商用MIT
可商用,通常只需保留著作權聲明/授權條款
Topics
compressionkv-cachelarge-language-modelsllm-inferencemachine-learningpytorchquantizationresearch-paperspectral-analysistransformer
廣告