惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

U
Unit 42
Vercel News
Vercel News
博客园 - 叶小钗
大猫的无限游戏
大猫的无限游戏
MyScale Blog
MyScale Blog
P
Proofpoint News Feed
量子位
Engineering at Meta
Engineering at Meta
B
Blog RSS Feed
博客园 - 【当耐特】
Recent Announcements
Recent Announcements
Google DeepMind News
Google DeepMind News
D
DataBreaches.Net
Stack Overflow Blog
Stack Overflow Blog
博客园 - 聂微东
小众软件
小众软件
Hugging Face - Blog
Hugging Face - Blog
人人都是产品经理
人人都是产品经理
IT之家
IT之家
T
The Blog of Author Tim Ferriss
Last Week in AI
Last Week in AI
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Jina AI
Jina AI
博客园 - 三生石上(FineUI控件)

问与答

智谱的 code plan 和 api 有什么区别么 你每天用的最多的 app 是啥? 有人做过 AI 标书吗? 星巴克用的什么牌子微波炉?加热好均匀 codex 中的 gpt5.5 出来了吗? 你们都用 coding plan 做什么? chatgpt 忽然间打不开了 想问下哪个 AI 可以生成网站? 我做了一个叫「订阅斩」的 iOS App,专门对付那些悄悄扣钱的订阅 求分享 SDD 相关实践经验 Grok 不充会员是不是会显示系统繁忙嘞 想要多人拼车开 gpt pro 100 刀 MiniMax 和 Kimi 便宜的 coding plan 真的恶心啊 国内的校友关系的网站为什么都没了? 请分享你的 clash 规则配置,开了 tun 模式,实在太卡了。 目前国产哪个模型 chat 最强? 现在做工具类小程序还能挣钱吗 老婆第一个母亲节,送点什么礼物呢 选哪种模型? vscode 插件 codex,一写代码 mac 风扇转个不停怎么解? 大家对于软件部门领导不参与代码工作有什么看法 为什么有那么多 V 友通过阴阳各种国货来质疑主流价值观? 好用的果蔬清洗机推荐 某网站的 HTTP API 和 WSS 都套了 CF,有什么办法找到真实服务器部署位置吗? 是我的幻觉吗,我为什么感觉国产模型现在真的很强, glm5.1 我斥巨资买了一个域名,准备做一个面向全球用户的校友社区,大家帮忙看看域名是否合适? 安卓淘宝每次启动进入淘宝精选,有办法不这样吗? 动态 JSON 序列化对强类型语言很难吗? 怎么做到说话简洁有条理且让人容易理解? 有没有在线实时语音识别的羊毛呢?
token 省钱有哪些点子?毕竟天下苦 3 大厂久矣。
ota · 2026-05-06 · via 问与答

我暂时考虑自建或租用一个 gemma 模型 ,跑一些简单任务如 cron 定时查阅邮件这种。 毕竟 gemma 4B 性价比最高,然后将 agent 分层,智能敏感的大厂,中低端的给 gemma 。

不准备本地搭建,对延迟不敏感。 顺便跑不可信 agent 准备用 smolvm ,相当于本地 serverless ,这样类似做了一层 sandbox ,强隔离。 当然,lxc 也可以,但对于不可信 agent ,最好短期内跑在 smolvm 里,后面再移到 lxc 中。

服务器费用增加一点,维护成本增加一点。但我觉得至少能让 token 减少 1/3 的无效请求。

其他还有什么优化方案?