2

2

？？？但凡你了解一下硬件市场，就该知道现在内存开始跳水了

3

都用本地模型了，那企业高价买的那些内存显卡谁来使啊

4

内存前几天都开始降了😓

5

硬件提升，模型也在提升，最好的模型会越来越大
更何况云端部署能 Batch, 本地模型性价比会远差于供应商

6

如果 2 年后的本地大模型能达到今天的 opus 4.6 或者 gpt 5.4 的水平，我觉得已经足够了

7

1

@dmanbu 16G 的从 1000 到 700 ，不算跳水吧，并且还叠加季度末回款的影响
----
存储芯片/CPU 这东西，产能固定，扩产周期长，现在 AI 对算力的需求可以说是指数级增加的，一年前大家用 ai 编程用了多少，现在又用了多少。等 agent 落地其他行业的时候算力需求更离谱
我记得一年前看到 vibe coding 的时候，我觉得这东西傻逼才会用
现在我只会觉得谁不用谁是傻逼
预计 3 年内都会维持高位了，哪怕 AI 模型再也不进步就保持目前的水平，需求都不会减少

8

预言一波：其实和手机一样的发展路线，尽管每年都出新款，但是消费者已经无感了。

10

苹果底端 8G 内存机是十几年前了吧，现在还是 8G,说明内存基本不会涨
甚至硬盘也不怎么涨，内存和存储不再象 20 几年前的定期翻倍涨了，我不觉得再过 5 年会变

11

云端的模型比本地模型更聪明，如果是省事，省时间，还是云端模型好吧

13

15

除非本地部署的成本，低于云服务的成本很多，不然为什么我不用云服务呢，
大部分人都懒得自己折腾，如果价格差不多的话。

16

chatGPT3.5 的时候，我就在想，如果以后开源的大模型能够有 3.5 的智力就好了。结果没想到现在 14B 的大模型已经超过 3.5 了😂😂

17

18

端到端的小模型感觉是未来趋势，有基础智商配合 agent 作为私人助手完全够了。如果后期 memory 层能作用小模型进行微调就更是没必要全知大模型。

19

24

@workbest #9 怎么可能 256G 起步，不是人人都必须跑模型，基本上 32G 或 64G ，未来模型只会越来越小

25

你这个“非常不错的 coding 模型”最多相当于现在的顶级闭源模型（其实本地能跑 opus4.6 我也挺满足的😁👍），但那时会出现更加顶尖的闭源模型。
目前的大模型进步速度，我看不到放缓的迹象，模型能力的上升也看不出边际效应。
所以，大厂的闭源大模型始终会遥遥领先同期可本地部署的开源模型。

27

@jackqian #26 GPT-3.5 在 2023 年的 MMLU （综合知识）得分大约在 70% 左右，而 Qwen3.5-14B 即使在量化后，在 MMLU 、GSM8K （数学）和 HumanEval （代码）上的得分依然高出一大截