本文介绍了估算大语言模型显存占用的系统方法，核心公式包括：权重显存（基于Hugging Face文件索引的total_size）、KV Cache显存（取决于层数、KV heads、head dim和上下文长度）和运行时开销。文章强调模型体量（如7B、32B）不等于文件大小或显存占用，量化后文件大小需查具体仓库。通过Qwen3-8B、Qwen3-32B等实例演示了单卡和多卡（包括昇腾910B4）的显存计算，指出上下文越长KV Cache越大，且“支持128K”不等于显卡能跑满。文章还提供了按显卡显存反推上下文的方法、MoE模型注意事项和实战选型建议，帮助用户判断模型能否加载及运行多长上下文。