
























下半年打算入个 mac mini ,用来跑本地模型+hermes 。
大概需要什么配置? (模型-对应-配置)
另:大家觉得年底,mac mini 二手价格能下来吗?
1 urlk 8 天前用线上的万亿级别的大模型一年才几个钱 , 自己部署一些弱智的几十亿参数的模型能干啥, 只能做些特定简单任务, 别折腾了 给你个简单的内存计算方法, 电脑系统留 8G 不干别的活的话, 剩下内存的去模型网站看模型大小 例如 qwen3.5:9b 6488c96fa5fa 6.6 GB |
2 FawkesV 8 天前用来做啥? 我 mac 36G , 装的:gemma-4-26b-a4b-it-4bit 也就感觉只能用来聊聊天, 做不了开发 |
3 Yi 8 天前如果本月或下半年发布 mac mini m5 的话,二手会对应下降,不管怎么紧张渠道手里还是有一定量的 Mac mini M4 ,这些全新 M4 会降价出货,影响到后市场价格。 一个不靠谱的猜测,丐版的 Mac mini M4 16+512 受影响最大,16+256 真丐版可能反而受影响较小 LOL |
5 ntdll 8 天前用 5 刀 OpenCodeGo 里的 DeepSeek V4 Pro 、GLM-5.1 这些,本地的 macmini 就是跑冒烟也比不上这些一丁点。 一个 macmini 的价格,能订阅十多年。本地部署在 99%的情况下,都是伪需求,能跑起来的弱智模型,你也看不上。 而且也不用讨论订阅 API 限额的问题,本身 mac 跑起来 token 速度也不快,就是 24 小时跑,也没多少,更何况弱智模型跑出来再多 token ,也没有实际意义。 当然,你要是就是单纯找个借口想买 mac ,那就是另一说了。 |
9 lete 8 天前上 64G ,跑个 qwen 27b ,M 芯片能上 Pro 就上,模型速度跟内存带宽挂钩,Pro 内存带宽比基础款 M 芯片大 |
10 jimrok 8 天前等等吧,端侧模型现在还不行,云端模型刚刚迈过可用的线,等两年云端成熟了,会下移到端侧小模型,到时候再买会比较合适。另外自己搭环境,可能成本比云端一点不便宜。 |
11 phoenix380 8 天前 via Android除非要跑什么容易触发 大模型厂商的安全边界的,我买了 24g m4 最后也卖掉了 |
12 coefu 8 天前mac mini 的内存带宽,会慢的让你怀疑人生。 |
13 bxtx999 8 天前32G 内存 + 2050 4G 的笔记本 用来跑跑 Gemma4-26B-A4B Qwen3.6-35B-A3B 用起来还可以。 |
14 ifwww 8 天前为啥要跑本地弱智 |
15 unusualcat 8 天前你自己用了就知道了,本机的模型弱智的要死,上下文长度有短的要死。给人的感觉就是你说了这一句,等一下他就忘了前面那一句。拿来教少儿编程,我觉得还行,干活的话你会被气死的。 |
16 gigishy 7 天前 via iPhone因为内存和存储涨价,所以 m4 芯片的 Mac mini 哪怕年底也不会降什么价。 |
17 yiranw09 7 天前什么都用不了,deepseekv4p 都那么便宜了,再不济用 flash ,又快又便宜 |
18 kennylam777 4 天前暫時單機能跑智力過關的只有 Gemma 4 31B 或 Qwen 3.6 27B, 能做輕量開發, 我用 RTX 5090 跑這兩個 ctx 能達到 1024000 才算可以, 起碼跑 Claude Code 或 Github Copilot 還不算太易滿 context, MTP 能 90tps Hermes Agent 的話, 以上兩個都未必能達到滿意水準, 還要用 Mac 跑 10B 以上的 Dense 速度感人。 Gemma 4 26B/Qwen3.6 35B MoE 就不用想了, 太弱, 處理簡單 coding 任務時還好, 但 MoE 的小 expert 才 3B/4B, Q4 後會更高機會 tool call 錯, 對 agentic operations 是大傷 |
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。