CPU是8272CL*2 内存是768G的2666DDR4
yqyan (Grogu) 2026 年5 月 9 日 06:44 2
只要你能忍受慢,跑是不难的,vllm-cpu 就能跑一些模型,一些专门为 CPU 优化的推理引擎能提供更好一点的性能
可以看看 @Cimix 佬友的一些帖子
这一点加速没有,得跑到猴年马月去啊
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。