为啥都喜欢说token1个亿2个亿啥的,这并不能代表什么,应该看实际$消耗才对,因为缓存命中率会导致这个波动能到几倍。
neoneoneo
·
2026-06-15
·
via LINUX DO - 最新话题
看到大家讨论比如glm、opencode go之类的套餐的时候都喜欢说“我这个套餐可以用多少亿的token”: 缓存命中率1%,跟缓存命中率99% 之间价格相差很大的,能达到几倍甚至几十倍(特别ds mimo这种模型)…
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。