Don't be so Stief! Learning KV Cache low-rank approximation over the Stiefel manifold
Luca Benfena
·
2026-06-01
·
via cs.LG updates on arXiv.org
arXiv:2601.21686v2 Announce Type: replace Abstract: Key-value (KV) caching enables fast autoregressive decodi…
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。