

























macbook pro 跑本地模型,64g 内存够用吗? 64g 可以跑哪些模型呢? 等 9 月新品还是现在呢? 不懂 mac 的商品啊
1 NASK 2 天前macbook Pro 跑本地模型没有意义,如果真想本地跑的话,可以用 mac mini 来跑. |
2 ssack9 2 天前MacMini 需要什么样的配置来跑本地模型 |
4 et5494 2 天前25 年购入了一台 MAC MINI M4 PRO 64G 版 |
6 mbooyn 2 天前一般推荐显存几百 G 的才跑本地模型,否则一律走云端 api |
7 YanSeven 2 天前 via Android就算能顺利跑了,堆到顶级了。那个智力可能都不如现在有些厂商发善心给你免费用的 API ,都不必花钱。 |
9 ntedshen 2 天前9 月不涨价就不错了。。。618 的货还是年初的价 |
11 foxio2 2 天前 via Android这个好办。选内存带宽超过 800G/s 的。 |
12 foxio2 2 天前 via Android4 万以下根本不用看。4 万以上的那种。本地跑的,主要是是为了保护宝贵的私有数据。所以。这点钱也值得。 |
13 409164 2 天前你能跑的都是弱智模型 |
14 Mandelo 2 天前本地模型要好用,卖 token plan 的早倒闭了 |
15 onetown 2 天前我现在很多代码是用 m5 max + 128g 内存跑的 qwen3.6 35b 的模型跑的。65k 上下文, 模型本身支持 128k , 但是我为了可以并发, 限制到 65k 。 |
18 coefu 1 天前mac 系列只有 ultra 能用,别的都不用试了。 |
20 coefu 1 天前推理第一要素,gmem/umem 的带宽,越大越好。 mac 系列只有 ultra 的带宽>= 800GB/s ,这是第一个要素。 至于 apple metal gpu 的 core 数量,讲真,再多一倍也无济于事。算力对于 mac 系列来说,聊胜于无。 |
21 felixcode 1 天前建议拔网线,关网卡,再也不联网,然后再跑本地模型。 |
22 wsbqdyhm 1 天前 via iPhone目前 m1max64g ,能跑 qwen3.6-27b ,10 多 token/s 吧,仅供参考。架构 omlx 。没有什么实际意义。 |
23 CakeJu 1 天前有什么本地模型的需求吗,不如把买笔记本的钱拿来订阅 |
24 decemberpei 1 天前投入大几万,跑个垃圾模型,在 token 比自来水还便宜的时代,意义在哪里? |
25 RW233 1 天前本地 LLM 本身就不是一件有性价比的事情 |
26 cnrting 1 天前 via iPhone你直接问 ai 吧 |
28 sn0wdr1am 1 天前我感觉,就目前来说,消费端本地部署大模型,毫无性价比。 属于: 花大价钱,部署弱智模型 |
29 homonym 1 天前现在感觉本地跑一个不大的模型除了折腾的乐趣,没有太大的意义了 |
30 kergee 1 天前看着多多每天降 100 来诱惑我,现在 64G+1T 的都 21000 多了 |
31 onetown 1 天前 |
32 EvanQu 1 天前买 m5 ultra 除了 ultra 基本其他的都不行。内存大没用带宽太小了 参考 5090 1970gb/s |
33 songco 1 天前 via Android见过的都是 mbp 基础款加 mac studio |
35 CoderLife 1 天前刚用 m5 pro 64G 在 comfyui 跑了一下, 卡到爆, 还报错 |
36 walkon 2 小时 11 分钟前m4max 64G 可以跑 qwen3.6 35b a3b 4bit 模型,做做日常批量任务没问题( 30k tokens ) |
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。