





















20 stimw 2024 年 2 月 27 日还有一张也出掉了。 有预算就买咯,现在显卡从来就没有什么好时机了。真要说好时机,那现在是买 750ti 的好时机。 跑 AI 也看跑什么,推理还是微调还是训练?需要多大显存建议先了解清楚。如果啥都不知道,那开局玩一玩 4090 24g 也够了,足够 stable diffusion 、whisper 还有 kaggle 上打个比赛玩了。至于大模型本地推理,对于大部分人来说没有意义,简单的就是双 3090 足够跑 70b llama 推理。楼上说 4090 慢,那是因为显存小去跑 cpu 和内存了,中间还要经过 pcie ,当然慢了。 不要听他们说多张 4060ti ,整个 40 系列都不支持 NVLINK 互联,带宽就寄了,为什么不去买两张 3090 组 nvlink 呢,即使是阉割过的 nvlink 。当然多卡对主板有很高的要求,你要兼顾家用游戏,那就不要折腾这个。 综上,有预算就买 4090 ,没预算就在 40 系往下推。不要去折腾多卡。 |
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。