惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

C
Check Point Blog
GbyAI
GbyAI
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
U
Unit 42
美团技术团队
NISL@THU
NISL@THU
C
Cisco Blogs
SecWiki News
SecWiki News
N
Netflix TechBlog - Medium
Forbes - Security
Forbes - Security
Cloudbric
Cloudbric
雷峰网
雷峰网
T
Tailwind CSS Blog
博客园 - 司徒正美
The Register - Security
The Register - Security
L
LangChain Blog
S
Security Affairs
Hacker News - Newest:
Hacker News - Newest: "LLM"
B
Blog
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
T
Threat Research - Cisco Blogs
I
InfoQ
S
Schneier on Security
L
Lohrmann on Cybersecurity
量子位
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Martin Fowler
Martin Fowler
Schneier on Security
Schneier on Security
F
Fortinet All Blogs
TaoSecurity Blog
TaoSecurity Blog
K
Kaspersky official blog
Google DeepMind News
Google DeepMind News
Cisco Talos Blog
Cisco Talos Blog
PCI Perspectives
PCI Perspectives
Attack and Defense Labs
Attack and Defense Labs
WordPress大学
WordPress大学
Microsoft Azure Blog
Microsoft Azure Blog
H
Help Net Security
Project Zero
Project Zero
The GitHub Blog
The GitHub Blog
D
Docker
N
News | PayPal Newsroom
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
H
Hacker News: Front Page
云风的 BLOG
云风的 BLOG
Microsoft Security Blog
Microsoft Security Blog
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
博客园 - 聂微东
Webroot Blog
Webroot Blog
MongoDB | Blog
MongoDB | Blog

LINUX DO - 最新话题

谷歌云盘下载700g数据集,求方法 OpenAI推出了100美元的Pro订阅后,plus的Codex 5小时限额大幅缩水 之前买的super grok居然还没掉 关于CPA认证文件周限 佬们,默认CDK的要求是什么等级啊? 最新版本的微信群聊机器人方案 有没有人知道如何free号没有封,那么是否可以循环使用,因为我看主要是周限 L站改版了?吓我一跳,我以为我浏览器崩了 淘宝这种宽带可信吗,500兆移动宽带月费8元到2099年 docker内部应用访问宿主机mysql和redis时被拒绝connection refuse Erp全栈想转行做Ai有什么推荐的吗 boost有bug 佬们,有没有靠谱点的 Plus 购买渠道 大妈,狗妈用的 lg 服务有源头开源项目吗? 有人有能过验证码打码的嘛 上次帖里好像发过通过大模型来打码的 gpt plus 封号似乎也太快了点,一天就给封号了 按流量/token收费的国产官方AI推荐 我算是知道了为什么Oracle总是ABC了 佬友们帮我分析一下 ChatGPT Team账号只有一个人使用和4个席位邀请满了使用的总额度是一样的吗? gpt-free 10个带rt CPA反代claude是默认1m吗? 我终于敢说我做出来windows上tmux的替代了,目标windows/全平台最强的终端Ai编程工具 claude pro升级max,除了原来的$20,好像还能再领一次$100 关于AI agent的知识框架 独乐乐不如众乐乐,分享一下我的的AI对话程序 佬们自建网站支付问题是怎么解决的 怎么能让gpt模仿claude风格输出 codex free已经死了,下一个会是plus或者team吗 请问chatgpt pro里的fast模式,速度快了,降智吗 天才程序员想要复活,还有可用的codex公益站么 里斯本丸沉没照进现代了 [富可敌国] [一叶知秋API]友仔们 我们换域名了~~ 记得更新一下哦 有点莫名其妙,被阿里云警告了 从道观回家之前,我和师兄问道 【picpi 皮皮公益站】为了防止有人拿去卖,邀请码发放规则更新。 美国 FAA: 我们需要你,游戏玩家,来当空管吧 vibe时用文言省tok吗? 有没有用? 会降表现吗? Codex CLI 官方这个 imagegen 的 Skill 到底是干啥的?哪有对应工具啊? 求问关于尼区和美区开通Claude 换设备登录telegram国内号码老账号 需要收费咋办? 发现hotmail的额度特别耐用 最近还有能正常用的claude中转站吗? 避雷闲鱼上面的CC中转站 现在cursor的优势是什么呢? OpenAI 回应马斯克要求罢免奥尔特曼:搞法律突袭,扰乱诉讼 谁在吹opencode go套餐啊,又慢量又少 【SamAltman】奥特曼被燃烧瓶袭击后的回应 咸鱼上359买的claude MAX 5x ,美国假家宽,看看能活几天 想问问跳蚤市场开的Pro和Plus 虚拟卡链接求助 [开源插件] 做了一个适合科研佬的GPT插件 【AI小说】拿AI跑了一部小说,佬们看看质量怎么样 总是能在首页看到opus4.6鞭尸推送 这个别名邮箱可以注册gpt 一个人在外地的话,佬们周末都做什么 你们ddg还能行不 获取不到新的邮箱 了····· claude code修复codex windows升级0.120.0 无法打开问题 我现在Zeabur上搭建了CPA服务,怎么再接入new api来做分发 杭州有么有佬友在搞AI应用这块的,四年前端转AI开发 汇丰、渣打两家银行获得香港稳定币牌照 【开源推广】 AIUsage:聚合多个 AI 平台配额与用量的 高颜值 macOS端 CPA看板 APP Newapi吃服务器内存多吗 中行跨境通疑限制无卡连续交易 或为应对盗刷 突然不能用表情回应话题了 codex是不是降额度了 反馈关于 “快问快答”标签的乱象 opencode版本1.4.3 无法上传图片问题 想问一下怎么解决这个问题,就是终端太多? codex更新到0.120.0之后无法加载以前的会话 sub2api怎么部署? 分享一个自用的南京继续教育平台视频自动播放下一集的油猴脚本 zotero9出来了 Claude正在向我推销付费项目,那能让你轻易得逞嘛 甲骨文用脚本开出来4个2+12咋办啊佬们,我还是免费号 各个厂的coding plan lite都绝版了? claude code 20美金账户问题 联通元景套餐续费问题 ai时代下的一些思考(诚邀大家讨论) 出境易GPT订阅pro求助 今年到目前股市的操作。 刚收到短信之前跑路的那家可以兑换了 佬们都用境外服务器做什么呢? 甲骨文4+24 求助领pro时候报错-付款页面出错。请重试。如果问题依然存在,请访问help.openai.com。 cloudflare 浏览器渲染增加了 CDP与mcp支持 SUB2API 导入 rt 时报错显示 Request failed with status code 502 如何解决 讨论一下怎么整理笔记 codex0.120.0更新后无法启动,回退 0.119.0正常使用 冰佬的公益站也不行了吗 三角洲直接给我封了10年 有佬友知道怎么起诉么 88VIP邀请 经过排查大概确定反重力代理报错问题了 【求助】openrouter 今年4月用国内visa卡充值后导致封禁,无法使用外国模型 奥特曼家被炸 自用,高信息量回复收集 求助sub2api分组问题 【新人报道】注册成功了 分享100个codex free账号 招聘 深圳客户端开发(flutter) 20k+
对于 gpt 模型和 claude code 上缓存的思考 / auto prefix cache vs. cache control
brilliantrou · 2026-05-01 · via LINUX DO - 最新话题
关于之前的帖子,我有过关于 claude code 缓存的疑问,我后面更新了一下,决定再开一篇帖子,转述一遍,从评论区转述我自己哈哈 OpenAI Response 缓存字段分析,OpenCode,Codex,CC-Switch,中转厂商,New API 开发调优 经过我的一些调研,OpenAI Response 接口可以使用 prompt_cache_key 的字段来路由启用缓存,提供命中率。 目前 OpenCode 中已经可以通过 setCacheKey 的字段来设置了,然后 codex cli 是默认带这个功能的,并且不知道什么原因 codex cli 的支持貌似是最好的。当然他是原生支持,肯定最好。 举个例子就是我用 rightcodes 家的 … 原来的帖子如上,考虑到内容一样不太行,决定不在原来的帖子上发评论了 目前已确认,是 claude code 本身的问题,只能命中少数缓存是因为 claude code 的缓存是 anthropic 他们自定义的一套,他们采用了分段分块缓存的策略,就是 cache control 这种断点。 因为 claude code 的设计模式里面,并 不是 保证已经存在的文本成为历史消息后不再变动,他们会在一些文本节点处 注入一些动态的信息 ,每次请求都不一样,比如时间戳之类的。 而正是因为 anthropic 他们后端推理引擎实现的这套缓存策略,可以完美和自家的这个契合,基本都能缓存上。至于 具体原理我不懂 。但是因为他们是自己实现了一套缓存的策略和 openai 这边的 prefix cache 不一致,导致 gpt 模型,转成 anthropic 协议后接入到 claude code,这里的动态注入的行为,导致 prefix cache 无法整体命中。 在这种模式下只能命中到在动态注入节点之前的文本缓存,所以在 claude code 中使用 prefix cache 推理引擎的模型,基本只能 命中一些系统提示,工具列表定义,skill 描述文本 之类的。所以就出现了在 claude code 中 gpt 模型大几十万的输入token, 只命中了 1 万 token 的缓存 。 所以,如果你用一些其他的 Coding Agent,比如 kilo code,trae,opencode 之类的,在里面自定义协议的地方,使用 anthropic 协议,然后接入 cc-switch 之后的 gpt 模型,其实是可以完美命中缓存的。 因为这些的 Coding Agent,或者我敢说,市面上 除了 claude code 之外的所有的 Coding Agent,他们的设计模式,都是符合 prefix cache 策略的 预定义行为标准 的。就是 已经存在出现过的文本,成为了历史消息,将不再进行任何变动 ,目前我所知道的也就 claude code 这一家是在背后这么干的,他们的这种设计,配合他们专有的缓存策略能够生效,但是和主流的 prefix cache 这种模式相悖。 但是话又说回来,claude code 作为 Coding Agent 这方面的龙头,无可争议的 No.1 产品,不知道他们这些特立独行的设计,是否有真正的道理在里面,还是说只是为了抬高使用门槛,抑或是不让其他的模型进入自己的生态,再者难道是这么做真的对于生产活动真正有效。但是 gpt-5.5 也是目前最优秀的模型之一,显然他就不这么干。 当然,这里还得表扬一下 国产模型 kimi ,他们家的模型接入到 claude code 后可以完美的命中缓存,我在小红书以及站内一些地方看过一些帖子,说是他们对于 claude code 这种设计模式,也做了专门的优化,在后端的推理引擎,会做各种各样的过滤,使得 claude code 中注入的这些 artifacts 不会影响到缓存的命中率, 只能说,上有政策,下有对策。方法真的总比困难多 。(当然,此处应该还有其他的国产模型,glm,minimax,qwen ,但是我懒得挨个去测试了,我估摸着,他们大概率也这么做了,因为他的 coding plan/token plan 出来就说要接入到 claude code 当中,要是不做这个,那就很宰割用户了) 但是显然 gpt 家的模型以及 infra 部门不屑于这么干,在 claude code 中用 gpt 模型实在是有些吃力不讨好了,这种情况下还是拥抱 codex 好一点。 写在最后,这些东西和想法肯定不属于我的原创了。但我也不知道要参考哪里了,找不到来源了,看了一堆乱七八糟的东西和做了一堆七七八八的实验才得到的一个结论,只能说感谢整个互联网了 所以还有一个小疑惑就是,anthropic/claude code 为什么要如此设计,这种小设计是不是使得他成为行业龙头的又一个因素… 1 个帖子 - 1 位参与者 阅读完整话题