从Attention讲到如何计算你家的显卡能塞下多大的大模型 – A/B's Blog
B分之A 这家伙很懒，什么都没写 返回
·
2026-05-28
·
via A/B's Blog
「我这张显卡能跑多大的模型?」要回答这个问题,得先搞懂显存被什么占用。本文从零讲起注意力机制——把 Query 理解成"提问"、Key 理解成每个词的"回答能力"、Value 理解成"词的特性",再延伸到多头注意力(M…
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。
