这是一个创建于 38 天前的主题，其中的信息可能已经有所发展或是发生改变。
五一节假日期间，有一个同事想本地部署大模型，在群里询问，我们都给他推荐了 Nvidia 的卡，结果他去刷 B 站，选择了 AMD AI MAX+ 395 。
难道小白真的就这样被割韭菜吗？
 |
1 selca 5 月 6 日详述具体差异是什么呢，为啥觉得 nvidia 更适合 |
 |
3 Gemini4422335 5 月 6 日 2
因为同价位下 AMD AI MAX+ 395 可以用更大的显存，回血出内存也方便，最高 128G |
 |
5 afkool 5 月 6 日 via Android推理来讲 395 便宜啊 128g 能跑大多数模型了 |
 |
6 xiaomushen 5 月 6 日你觉得人家没这个智商对比么？ |
 |
8 zhuoi 5 月 6 日安装个 rocm 你就明白 A 卡的坑了 |
 |
10 andlp 5 月 6 日本地个人用,部署这些模型差别不大.nvidia 贵,我还推荐你买最新的 nvidia 显卡,部署 deepseek v4 pro 呢 |
 |
13 ntedshen 5 月 6 日> 我们都给他推荐了 Nvidia 的卡，结果他去刷 B 站，选择了 AMD AI MAX+ 395 你不妨说说你们都给他推了什么。。。 |
 |
14 twofox 5 月 6 日说说什么预算下，推荐了什么？ |
 |
16 padeoe 5 月 6 日本地部署大模型务必买 NVIDIA Spark 呀，和 AMD 395 对标的产品，这俩我都买了，AMD AI MAX+ 395 预售阶段我就下单了，相比来说，比 AMD 395 贵几千块，但生态和性能强的不是一点。 |
 |
17 babymonster 5 月 6 日@ntedshen Nvidia Jetson Orin 64GB 、Nvidia Jetson Thor T5000 、Nvidia DGX spark 这些？有啥问题吗？ |
|
18 babymonster 5 月 6 日@twofox 三四万左右，给他推荐了 Nvidia Jetson Orin 64GB 、Nvidia Jetson Thor T5000 、Nvidia DGX spark 这些等等 |
 |
20 kiwatokk 5 月 6 日 via iPhone主要还是 n 卡有 cuda 吧 |
|
21 padeoe 5 月 6 日# 19 我是指 nvidia spark 和 amd 395 是同类型产品。推荐 Jetson 太业余了，我就问你推荐的这些你买过吗 |
 |
23 ikaros 5 月 6 日 1
如果只是跑 LLM 的话我之前的 AMD 显卡都是直接装 lmstudio 就可以用了，不知道有啥区别。 |
|
24 ikaros 5 月 6 日 2
395 去年买 128G 只要 1W 出头(现在估计不到 2W)，Nvidia 那个要 3W 多, 而且 395 可以装 Windows 玩游戏, nvidia 那个我记 CPU 用的是 ARM 的, 要我也选 AMD |
 |
25 Bluecoda 5 月 6 日就像苹果部署本地 LLM 一样，肯定也比不过 nv 吧？但是别人内存大啊，你 128GB 的 n 卡多少钱？苹果的多少钱？ |
 |
28 CS50 5 月 6 日不要对别人怎么花的钱有执念 |
 |
29 mooyo 5 月 6 日rocm 真的是死了🐎了，还有 AMD AI CPU 的 NPU 在 Linux 下没有驱动也是死了🐎了。驱动还得填表发邮箱申请。 |
 |
30 xocus 5 月 6 日统一内存 128G ，只有 amd 的是 Windows 系统，其他 nvida 是 ubuntu ，mac 是苹果系统，是我，我也选 amd 的 |
 |
31 smlcgx 5 月 6 日这场景太经典了，又想本地推理，又想着性价比，最后选这个不意外 不过话说回来，谁没交过学费啊 |
 |
34 jackqian 5 月 6 日只适用于本地推理，又不需要自己训练，感觉区别不大吧 |
 |
35 jpyl0423 5 月 6 日rocm 哪里有问题么，最近跑了个去码的任务还行 |
 |
37 zhanying 5 月 6 日显存大，虽然速度慢好歹能跑，用 vulkan 后端就行了,rocm 纯坑 |
 |
38 knva 5 月 6 日跑 llm amd 有什么问题吗？ 一万多能买的 128G 的 nvidia 设备了？ |
 |
39 94 5 月 6 日一直不能理解个人跑本地模型的目的是什么。是搞开发？还是纯好奇想玩一玩。花两三万玩一下也太奢侈了吧。 |
|
40 afkool 5 月 6 日@padeoe 对了大佬，多余问下，Mac 有啥好处？我看 395 ，哪怕屏幕素质高的笔记本 128G （比如玩家国度的幻）才 2 万。。Mac Studio 128G 都本着 4 万去了 |
 |
41 fredweili 5 月 6 日没事别爱操心，别人买啥关你啥事？有钱自己去买自己玩 |
 |
42 meteora0tkvo 5 月 6 日早几年前，训练 ai 只能用 nVidia 卡，现在才逐渐支持 amd 的卡而已 |
|
44 afkool 5 月 6 日@emberzhang 说错了。是 Mac Studio 。 |
|
47 babymonster 5 月 6 日@94 本地部署如果有 CUDA 的生态的话，这个可以做成无限 token 调用呀，生图生视频 |
|
49 94 5 月 6 日@babymonster #47 ，算力差太大了吧…… 速度能看到交付的产物差，交付结果能看的就速度慢。 |
 |
50 fcten 5 月 6 日395 1w2 能买到的时候是真划算，应该是本地部署性价比最高的选择了，现在的价格嘛也就那样。 想要用 N 卡的，我只推荐两个：4090 48G （双卡） 或 RTX PRO 6000 ，但是这两个均没有保修。小白慎重考虑。 |
 |
55 zoozobib 5 月 6 日turboquant 、dflash 后的 395 更没优势了 , 吃的多和跑得快完全不是一个维度 |
 |
56 Daitabashi 5 月 6 日英伟达的卡 显存是和算力绑定的 为了大显存买 5090 不合算 |
 |
57 diudiuu 5 月 6 日买 dgx spark 的也是韭菜啊 |
 |
60 MCVector 5 月 6 日我买了两个 AMD AI Pro R9700 卡，感觉还行？ Vulkan backend 性能有时比 ROCm 略好一点。 |
 |
62 geekvcn 5 月 6 日 1
英伟达水军是真的多，AI 小白不懂装懂的也真是多。 |
 |
64 Curtion 5 月 6 日我就买了 395 ，1.2w 的价格，128G 显存的还有哪个机器可以做到? 而且推理不一定要用 CUDA 啊，我连 ROCm 都没用，我用的是 vulkan 缺点就是用不了 DFlash, 跑 27B 稠密模型瓶颈在算力上, 但是可以相同速度跑 122B-A10B 的 MOE 模型 |
 |
65 neptuno 5 月 6 日他可能也就想想，买回来更多是打游戏 |
 |
66 zycode 5 月 6 日主要是硬件性价比高，不过 rocm 确实是容易各种不兼容 |
 |
67 catazshadow 5 月 6 日 via AndroidRocm 最大的坑是明年就不支持老卡了 |
|
68 babymonster 5 月 6 日@94 你用过 z-image 吗？我感觉他这个配合 ComfyUI 来生图还是挺好的呀，不光是生图像，什么 TTS 、ASR 都还好呀 |
|
69 babymonster 5 月 6 日@fcten 专业级显卡跟消费级显卡需要有打游戏的这个对比吗？那 H100 和 H20 难道这种显卡也要去打游戏吗？ |
 |
75 565656 5 月 6 日AMD 的东西一生黑 我打游戏都买的 285K 没买 x3d ，之前就发现 AMD 待机的风扇就叫不停好讨厌 |
 |
76 adoal 5 月 6 日因为 Jetson 和 DGX 真的是只能“部署大模型”，除此之外对个人用户没啥用…… |
 |
77 jjx 5 月 6 日哎,一直想入手创 13pro 联名版 128g+1t, 看着它从 2 万涨到 3 万 |
 |
78 sherg98 5 月 6 日很简单，大模型对显存的需求是刚性的，普通人也不可能去买很多张算力卡去组 gpu 服务器，AI MAX+ 395 虽然吐词速度不行但确实能跑，价格也相对来说比较友好 |
|
79 sherg98 5 月 6 日真相同显存不得上两张 4090 48g 或者保修的话 rtx pro 6000 ，这个价格差的就多了 |
 |
80 NiceKlaus 5 月 6 日本地部署 1w 左右能行吗，单显卡预算 |
|
81 94 5 月 6 日@babymonster #68 ，可能还是你们有钱吧，几万花着不心疼。 |
 |
84 nrtEBH 5 月 6 日为什么觉得 AMD AI MAX+ 395 是割韭菜 逻辑在哪里？？ |
|
85 Curtion 5 月 6 日@babymonster #70 GPT-OSS-120B 是一个激活参数只有 5.1B 的 MOE 模型，可以跑，但是实际上这个模型不如 Qwen 3.6 27B ，不过 GPT-OSS-120B 速度确实会更快, 395 更适合 MOE 模型 |
|
86 94 5 月 6 日 1
@babymonster #68 ，接#81 ，所以如果现在非要找一个在本地跑的需求，可能就是跑一个 7b 左右的小模型来做 AI 翻译以减少开销？ 如果是作为开发用途的，很明显能在本地跑的模型和线上的参数量级差太多了，是不会考虑的在本地跑的。所以非常不理解花大价钱买显卡、计算模块在本地跑模型的目的到底是为什么。 |
|
87 babymonster 5 月 6 日就这么说吧，如果你们去买的话，是会买 AMD max 395 还是英伟达的？ |
 |
88 Maybez007 5 月 6 日目前来看 AMD 、mac 确实比 NVIDIA 的方案便宜很多。所以选 NVIDIA 方案的原因是？ |
 |
89 lithiumii 5 月 6 日 via Android 1
看内存带宽，DGX spark 跟 395 半斤八两（英伟达稍强一点点，但都远不如一个正经显卡）。跑 llm 推理的话反正都是 llama cpp 搞定，不像训练你还要自己折腾 ROCm 。所以哪个便宜买哪个。但买 amd 的好处是你还能获得一个标准的 x86 电脑当服务器用 |
 |
90 cheng6563 5 月 6 日道理都懂，问题是，5090 才几个 VRAM ？难道你还想买 H100 ？ |
 |
91 Miary 5 月 6 日又不搞训练，买 395 有什么问题？抛开预算谈方案都是扯淡。 |
 |
95 SakuraYuki 5 月 6 日买东西不看价格还行，黄狗的黄金显存是普通消费者能承受的？还是说 op 的 5070ti 有足够显存跑 128b ，普通人谁吃多了没事干买 DGX 专门就为了跑个 ai |
 |
99 wclebb 5 月 6 日主要还是看个人的预算方案吧。 |
 |
100 laminux29 5 月 6 日各有各的优势。 AMD 、MAC 主打一个性价比。如果你已经确定，你需要用的某款模型，能在这种平台上面稳定跑，那么选这些非 N 卡平台，性价比更高。 但如果你经常换模型，或者自己搞各种与 AI 相关的开发，追求灵活性、兼容性、可调试性，那么必然要买 N 卡了。 |
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。
