话接上文： 后面seed-2.1-pro发布后，其拉胯表现让我觉得这个路由的模型不应该是字节新模 那么是什么模型？怎么测呢？ 我们有一个大杀器———— 灰度模型的token计数不一样 从token入手！ 先思考一下原理和边缘情况 我们只知道的是，如果是官方模型，比如都是glm，那么火山coding plan（以下简称火山cp）和官方渠道，token计数是一致的，那么大概率是不带提示词的 但是，万一带了提示词怎么办？可以考虑使用增量法 简单说就是用两段文本： aaa aaabbb 先统计第一次的token数，然后再统计第二次的token数，然后作差。因为不同模型分词器不一样，所以这个差值肯定也不一样，即便你有系统提示词，也可以通过作差的方法排除，以此确定路由的是哪个模型，确定完模型后，就能进而反过来确定火山路由到第三方模型时，有没有加系统提示词了 开做！ 先统计glm版本作为基础对比 初始输入token均为15 火山cp： 官cp： 增量token也均为64 火山cp： 官cp： 所以可以确定，这里测试账户的火山cp模型就是glm-5.2 继续测试另一个灰...
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。