4090 因為有 48GB 的魔改, 保值能力十分好
如果不算魔改, 5090 的 32GB 會讓 SLM Finetunine 舒服不少, 3090/4090 的 24GB 勉強能 qLoRA rank=8/context len=1024/batch=1 的話, 32GB 起碼可以 qLoRA rank=64/context len=4096/batch=2 安穩渡過
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。
