@Foxkeh #14
@lneoi #15

感谢建议。不过我们需要测试和调试底层驱动的东西，所以云服务不行。

另外，我发现大部分回复者都挺搞笑，属于一班只懂个皮毛就尾巴翘上天的：

第一阅读能力不行：我已经写的很清楚了，“主要是测试”，而不是跑生产应用；“大模型也会试试”，而不是专跑大模型。

第二对 AI 的理解极为偏执：以为 AI==LLM ，以为 AI==上层的应用。实际上 AI 的应用类型极多，涉及到的也是整个系统——硬件+OS+驱动+系统库+应用库+AI 框架+应用...，训练和推理场景也有很大差别。不是所有 AI 人的工作都是搞个上层应用包装个 LLM 来对话。在你们心里面，底层的那些东西都是货架上刷新出来的么？

第三以为所有东西都要靠堆钱来解决。实际上 2000 以内 N 卡 3060 12G 可跑 DS-R1 14b(9GB)，用来测试绰绰有余。我们还要测 Intel Arc A770 （一样 2000 以内），同样也是为了了解不同方案的表现和性价比。更不用说清华最近那个新的突破了（虽然还是要 24G 显存，但谁说未来不能更小？）