Unsloth 团队为 Qwen3.6 发布了 MTP （ Multi Token Prediction ） GGUF 量化版本，可 Qwen3.6 的本地推理速度提升 1.4-2.2 倍，精度无任何损失。
除 Qwen3.6 外，Unsloth 这次还回溯发布了 Qwen3.5 系列的 MTP GGUF ，覆盖 0.8B 、2B 、4B 、9B 、27B 、35B-A3B 、122B-A10B 、397B-A17B 全家族。这意味着已经在用 Qwen3.5 系列做本地推理的开发者可以直接迁到 MTP 版本而不换模型。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。