
























ds4更新,本地调优,接上次ds4 m5 max 128g实战 上次我已经把 **DeepSeek V4 Flash q2 GGUF** 在 M5 Max 128G 上跑起来了,并且接入了 Claude Code,最近看到ds4项目又更新了不少内容,打算继续折腾一下 我的机器配置还是: CPU: M5 Max Memory: 128GB memory Backend: Apple Metal Project: https://github.com/antirez/ds4 翻了一下ds4的模型仓库,发现有了一个比较有意思的新模型: “DeepSeek V4 Flash mixed 2+4 bit GGUF”,看一下官方的文档,这个模型也还是q2量化,但是在推理时最后6层用的是q4量化,文档说代码质量会比q2提高,那就来折腾一下,看看这个模型效果如何 话不多说下面开始折腾 更新版本 ## 更新仓库代码 git pull --ff-only origin main ## 重新编译 make clean make -j"$(sysctl -n hw.ncpu)...
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。