如标题所说,codex在对话差不多结束的时候,每次远程压缩基本只有很少的缓存输入,大部分输入都是没有缓存的。请问是因为压缩的调用破坏了上下文导致的吗?以及有没有办法优化?
每次调用压缩请求就非常耗钱。如果输入写满压缩一次就要1$了。感觉很大一部分费用消耗都是在压缩上。
问AI似乎没办法解决,论坛佬友们有什么建议?
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。