 |
22 zsh2517 1 天前可以，详见文章《“词元”这么火，该注意点啥？》，只要把 token 转换成“令牌”，就可以保存到文件了；如果转换成“权益”，你甚至可以发行实体卡 /doge --- 正经回复：如果你想找的是“蓄电/蓄能”类比意义下的蓄 token ，那么不能，因为 token 本身就是一个虚拟的概念，并且产生和消耗是在一个过程中完成的（显卡推理下文的时候，每产出一个新的词元，对于显卡来说，它产生了一个 token ，而对于你来说，消耗了一个 token ）。不像比如电力等，有物理存在形式，生产和消耗是分离的，能传输能保存 但是，如果广义的说，有很多不同方面的“保存”，比如说，大语言模型提供商的缓存能力、夜间批量推理享受谷价、修改政策涨价之前买了订阅、借别人的额度再还、甚至动用一些经济手段从上下游干预进而相同费用获得更多 token ，都可以算是屯了 token |
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。