198plus
(AIWAN)
1
缓存命中机制不出错的情况下。
缓存命中率就是“重复的上下文”总和占比 ,
占比越低说明使用了更少的对话次数完成。
一个会话一次过,命中率就0.(codex有固定开头的不为0)
一个会话不断地调用工具,提交几十次,命中率90%。
为什么很多人都想让命中率高?
V_Arrow
2
感觉还是用产出的质量和货币花费来评估吧,单看一个命中率说明不了什么
Brantfang
(Brantfang)
3
不能这样说。没有这种关系,两次对话就完成任务,而第二次命中的部分很高,剩下的部分和答复内容又不多。这种占比也是很高的。