惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Engineering at Meta
Engineering at Meta
雷峰网
雷峰网
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
B
Blog
Y
Y Combinator Blog
WordPress大学
WordPress大学
Microsoft Azure Blog
Microsoft Azure Blog
小众软件
小众软件
G
Google Developers Blog
云风的 BLOG
云风的 BLOG
罗磊的独立博客
博客园 - 三生石上(FineUI控件)
博客园 - 叶小钗
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
量子位
The Cloudflare Blog
T
The Blog of Author Tim Ferriss
博客园_首页
B
Blog RSS Feed
Hugging Face - Blog
Hugging Face - Blog
IT之家
IT之家
阮一峰的网络日志
阮一峰的网络日志
L
LangChain Blog
宝玉的分享
宝玉的分享

蓝点网

小米开源发布MiMo Code编码工具 基于OpenCode构建 限时免费使用MiMo V2.5模型 - 蓝点网 华尔街日报称OpenAI考虑大幅度降低Token价格与A社打价格战 抢夺企业客户 - 蓝点网 ChatGPT更新对话模型选择器 让用户根据任务选择难度更快还是更努力的模型 - 蓝点网 真是个小机灵鬼!有黑客在恶意代码顶部增加核武器设计提示词 用来对抗AI分析 - 蓝点网 [RegionSpoof] 这个开源项目可在国行设备macOS 27预览版中启用完整苹果AI - 蓝点网 鉴于数据要被A社保留 微软已经限制员工使用Claude Fable 5模型 - 蓝点网 iOS 27 WiFi新增类型说明 用于帮助用户识别WiFi 5/6/7等不同的协议 - 蓝点网 咦?苹果在watchOS 27里删除对讲机应用 可能是很少有用户使用这个功能? - 蓝点网 [解决方案] 微软承认Windows 11 24H2/25H2累积更新存在安装失败问题 - 蓝点网 应对供应链蠕虫攻击 GitHub宣布NPM v12将不再自动执行依赖项安装脚本 - 蓝点网 因礼品卡诈骗日益严重 Steam实体礼品卡将在2026年底售罄后不再发行 - 蓝点网 免费证书颁发机构Let’s Encrypt宣布迈向后量子时代 将采用MTC后量子认证方案 - 蓝点网 美满电子将为谷歌TPU单元定制开发高效网络芯片并使用英特尔18A制程生产 - 蓝点网 抵制基于网络的垃圾应用!微软鼓励开发者基于WinUI为Windows 11开发原生应用 - 蓝点网 微软将改进Windows 11右键菜单 有可能会让用户自定义并隐藏不常用选项 - 蓝点网 知识库应用Notion通过股权交易买下Notion.com域名 后续将不再使用.so域名 - 蓝点网 全球规模最大的加密货币交易所币安宣布停止支持NFT 不再提供任何交易 - 蓝点网 谷歌发布并开源Gemma 4 12B版多模态模型 可在16GB内存/显存上运行 - 蓝点网 现代版掩耳盗铃:Instagram AI漏洞并未被修复 只是从前端隐藏界面且被黑客继续利用 - 蓝点网 谷歌宣布网站/发布商可以主动退出谷歌搜索AI概览 不允许AI概览调用内容 - 蓝点网 摩根士丹利称搭载英伟达RTX SPARK N1X芯片的PC售价将达到2,900美元 - 蓝点网 真重置!Codex因昨日连续发生的多次故障重置本周额度 继续向后顺延7天 - 蓝点网 豆包将降低基础功能体验推动用户购买专业版?字节发布公告称相关说法不实 - 蓝点网 研究人员不满微软安全团队的做法 公开爆出VS Code漏洞可窃取私有凭证 - 蓝点网 [折扣代码] ChatGPT商业版向8个国家用户提供买1送1优惠 至少开通2个席位 - 蓝点网 Codex大部分账号已经无需绑定或验证手机号 但仍有部分账号还需验证 - 蓝点网 [指南] Codex账号需要绑定手机号码的临时绕过方案 (不是已绑账号跳过验证码) - 蓝点网 Codex已重置本周使用限额 原因似乎与部分模型出现的故障有关 - 蓝点网 群联展示新款PCIe 6.0 16通道X3控制器 速度可达28,000MB/秒 最高可做到单盘2PB - 蓝点网 微软发布Surface RTX SPARK开发工作站 利用英伟达芯片提供本地AI算力 - 蓝点网
阿里云百炼平台Qwen3.7-Max默认开启隐式缓存 命中缓存后成本...
山外的鸭子哥 · 2026-05-27 · via 蓝点网

#人工智能 阿里云百炼平台为 Qwen3.7-Max 模型默认开启隐式缓存,在不增加额外创建成本的情况下,命中缓存后成本为 20%。默认开启隐式缓存有助于降低开发者的实际调用成本,但隐式缓存命中率是完全不确定的,因此其效果不如显式缓存,开发者可以根据实际场景进行调整。查看详情:https://ourl.co/113115

阿里云通义千问团队日前宣布在百炼模型调用平台为阿里云旗舰模型 Qwen3.7-Max 默认开启隐式缓存,隐式缓存功能在默认开启后无法关闭,在实际使用时可以降低模型调用成本,命中隐式缓存的情况下模型实际调用价格为输入单价的 20%。按照当前 Qwen3.7-Max 输入价 12 元计算,在命中隐式缓存的情况下实际价格为 2.4 元。

阿里云百炼平台Qwen3.7-Max默认开启隐式缓存 命中缓存后成本约为20%

什么是隐式缓存:

隐式缓存主要用于追求便捷的通用场景,系统会自动识别请求内容的公共前缀并进行缓存,当系统收到请求后会基于前缀匹配原则检查缓存中是否存在请求中消息数组内容的公共前缀,若命中缓存则系统直接使用缓存结果进行后续部分的推理,若未命中缓存则系统按照常规流程进行处理,同时将本次提示词的前缀存入缓存以备后续请求使用。

在隐式缓存中系统无法确定缓存命中率、缓存命中概率并非 100%,有时候即便请求内容完全相同可能也无法命中缓存,具体请求内容能否命中缓存完全由系统判定,同时系统也会定期清理长期未使用的缓存数据,缓存清理时间同样不确定。

与隐式缓存互斥的是显式缓存,显式缓存首次创建缓存的成本要比正常输入高 25%,但显式缓存在 5 分钟有效期内的命中率可以做到 100%,而命中缓存后的调用成本为输入单价的 10%,因此开发者需要仔细分析自己的使用场景和数据来判断使用哪种缓存方式的成本更低。

隐式缓存与显式缓存的价格对比:

  • 创建缓存成本:隐式缓存创建价格与标准输入价相同,显式缓存创建价格是标准输入价的 125%
  • 命中缓存成本:隐式缓存命中后价格是标准输入价的 20%,显式缓存命中后价格是标准输入价的 10%
  • 最小缓存数量:隐式缓存最小缓存数量为 256Tokens,显式缓存最小缓存数量为 1024Tokens
  • 缓存生存时间:隐式缓存生存时间不确定完全由系统判断并清理,显式缓存生存时间为 5 分钟 (命中后会自动续期)
  • 缓存类型互斥:隐式缓存与显式缓存互斥,如未主动开启显式缓存的情况下,则系统默认使用隐式缓存

隐式缓存实践与计费:

隐式缓存的命中逻辑是判断不同请求的前缀是否存在重复内容,如果存在重复内容则可能可以命中缓存,因此为提高缓存命中率请将重复内容放在提示词的开头,将任何差异内容放在提示词的结尾部分,这样有助于提高隐式缓存的整体命中率并降低实际调用成本。

此次阿里云百炼平台为 Qwen3.7-Max 模型默认开启隐式缓存,但阿里云提供的其他模型 (包括其他 AI 公司的模型) 也陆续支持隐式缓存,具体价格以模型类型和提供方不同存在差异,开发者需要前往百炼控制台切换不同的模型查看价格。

活动推荐:腾讯云618活动上线:99元/年版境外CN2服务器补货 另有3年超低价服务器

版权声明:
感谢您的阅读,本文由 @山外的鸭子哥 转载或编译,如您需要继续转载此内容请务必以超链接(而非纯文本链接)标注原始来源。原始内容来源:阿里云