惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Google DeepMind News
Google DeepMind News
爱范儿
爱范儿
J
Java Code Geeks
L
LangChain Blog
V
V2EX
大猫的无限游戏
大猫的无限游戏
S
SegmentFault 最新的问题
博客园 - Franky
Microsoft Azure Blog
Microsoft Azure Blog
Jina AI
Jina AI
Blog — PlanetScale
Blog — PlanetScale
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
The Cloudflare Blog
博客园 - 司徒正美
B
Blog
G
Google Developers Blog
Stack Overflow Blog
Stack Overflow Blog
罗磊的独立博客
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Apple Machine Learning Research
Apple Machine Learning Research
Engineering at Meta
Engineering at Meta
MyScale Blog
MyScale Blog
有赞技术团队
有赞技术团队
Hugging Face - Blog
Hugging Face - Blog

问与答

智谱的 code plan 和 api 有什么区别么 你每天用的最多的 app 是啥? 有人做过 AI 标书吗? 星巴克用的什么牌子微波炉?加热好均匀 codex 中的 gpt5.5 出来了吗? 你们都用 coding plan 做什么? chatgpt 忽然间打不开了 想问下哪个 AI 可以生成网站? 我做了一个叫「订阅斩」的 iOS App,专门对付那些悄悄扣钱的订阅 求分享 SDD 相关实践经验 Grok 不充会员是不是会显示系统繁忙嘞 想要多人拼车开 gpt pro 100 刀 MiniMax 和 Kimi 便宜的 coding plan 真的恶心啊 国内的校友关系的网站为什么都没了? 请分享你的 clash 规则配置,开了 tun 模式,实在太卡了。 目前国产哪个模型 chat 最强? 现在做工具类小程序还能挣钱吗 老婆第一个母亲节,送点什么礼物呢 选哪种模型? vscode 插件 codex,一写代码 mac 风扇转个不停怎么解? 大家对于软件部门领导不参与代码工作有什么看法 为什么有那么多 V 友通过阴阳各种国货来质疑主流价值观? 好用的果蔬清洗机推荐 某网站的 HTTP API 和 WSS 都套了 CF,有什么办法找到真实服务器部署位置吗? 是我的幻觉吗,我为什么感觉国产模型现在真的很强, glm5.1 我斥巨资买了一个域名,准备做一个面向全球用户的校友社区,大家帮忙看看域名是否合适? 安卓淘宝每次启动进入淘宝精选,有办法不这样吗? 动态 JSON 序列化对强类型语言很难吗? 怎么做到说话简洁有条理且让人容易理解? 有没有在线实时语音识别的羊毛呢?
做了个开源工具,想请 V2EX 老哥看看这个需求到底是不是伪需求
v2reach · 2026-05-15 · via 问与答

事情是这样的——我们团队每月 OpenAI API 账单大概 $10K-$15K ,但每次被问到「钱花哪了」,所有人都答不上来。哪个 prompt 最烧钱?哪个模型被滥用了?哪个项目的 AI 成本最高?统统黑箱。

月底 CTO 拿着 OpenAI 的 CSV 账单问工程师,工程师也只能说「大概…可能…」。

于是我萌生了一个想法:做一个专门给 LLM API 做成本归因的开源工具。

核心逻辑很简单:

  1. Python SDK 拦截 OpenAI / 兼容 API 的调用(一行 cost_co_pilot.init() 接入)
  2. 自动识别:哪个项目?哪个功能模块?哪个 Prompt ?哪个模型?哪个环境?
  3. 数据发到自部署的 Docker Dashboard 上,实时看成本总览、归因下钻、趋势图

关键设计原则:

  • 开源 MIT ,数据不出自己服务器
  • SDK 只上报 Token 数量和模型元数据,不碰 API Key 和业务内容
  • 接入不影响业务,异步非阻塞,异常降级不报错
  • Docker Compose 一键部署,无需外部依赖

现在 MVP 还没做完(预计 5 周),但我心里一直没底,想先来问问大家:

  1. 这个痛点真实吗?你们团队真的不知道 LLM API 的钱花哪了?还是说其实有办法管?
  2. 如果知道有这么个开源工具,你愿意在自己项目里接入吗?顾虑是什么?性能?隐私?接入成本?
  3. 市面上有没有类似定位的工具? Langfuse 我知道有成本追踪但只是子功能,Datadog 太大太重,还有其他竞品吗?
  4. 对于「让开发者一眼看穿 API 账单」这件事,你觉得值多少钱?如果后续有商业版(智能降本建议等),会愿意付费吗?

无论踩还是赞,都欢迎来聊聊。创业方向偏了 5 度,5 个月后就差了十万八千里,想听听大家的真实声音。