惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Y
Y Combinator Blog
腾讯CDC
Recent Announcements
Recent Announcements
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
Hugging Face - Blog
Hugging Face - Blog
H
Help Net Security
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Last Week in AI
Last Week in AI
博客园_首页
D
DataBreaches.Net
P
Proofpoint News Feed
云风的 BLOG
云风的 BLOG
V
Visual Studio Blog
月光博客
月光博客
Jina AI
Jina AI
Stack Overflow Blog
Stack Overflow Blog
酷 壳 – CoolShell
酷 壳 – CoolShell
博客园 - 【当耐特】
Vercel News
Vercel News
WordPress大学
WordPress大学
J
Java Code Geeks
博客园 - 聂微东
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
U
Unit 42

V2EX

我用 AI 写代码,但终端管理反而成了累赘——于是我做了 codux [调研] 各位在公司都用什么 ide 和 agent 写代码? 老运维 share 一个运维平台 看到有公司考核 token 指标,很好奇大家上个月的 AI 账单是多少 GLM-Coding 调用持续报错: z.ai 的 Lite 套餐几乎无法使用,官方 Pro/Max 是否稳定? 现在还有什么渠道可以稳定安全地使用 Claude 吗? 上海漕河泾内推,本组有 2 个 hc,一个后端,一个前端,预算都是 20k 左右,不打卡,氛围好 如果 V2EX 上有一组不永久保存聊天记录(比如只保存 7 天或者 24 小时)的聊天室,那么会开启哪些有用或者有趣的可能? gemini cli 貌似挂了,一直返回 403 第一次在自媒体上赚到钱 收集了最近在使用的低价 GPT, Gemini,邮箱等 AI 会员的小店合集 讨论个大实话:现在企业还在说 AI 编程提效 20%, 30%的,真的太落后,没用懂 AI。因为包括很多前沿公司,已经狂奔到提效 200%-500%的情况 [招聘][远程][币安] 前端/后端/QA/iOS/Android 至少 3 年以上经验 目前有大量 HC 欢迎投递 Chatgpt Pro 用量用不完的可以开这些设置 面试的时候好像遇到钓鱼了,给各位避个坑 cursor 年续费 22 号到期, 自动续费是否还是老的计次套餐呢 被两件破事毁掉的一下午,琐碎的内耗消磨人的精力 使用 Planet 存储 Codex 的会话或者重要信息 如果业务部门领导不要你开发功能,而是要求你教会它用 claude code 开发功能,你会怎么做? 分享一个 MacOS 接绿联 CM818 USB 转 DP 转接器使用感受 我的 HR 朋友 10 年老 Java ,非全大专,大家帮忙看看简历 开源了一个 AI 口语练习工具,音素级发音评分,完全免费可自部署 V2EX 上有哪些你觉得很有趣、印象深刻的妹纸? 字节为啥不出个国内版 Vercel? 有在大马的朋友吗? 问个运营商问题 你们在有领导的公司大群发过的最大胆的消息是什么 公司裁员,目前没有工作。想试试摆摊,做一个移动鲜啤打酒车 我的硬盘 Memblaze Pblaze 5 Linux 下不识别,给 Linux 内核提交了补丁, AI 说有望被合并 只有我一个人觉得 codex 不好用?
做了个中转站检测工具,测了我自己建的站,有 1 项 未通过
cjtree04 · 2026-05-10 · via V2EX

团队做了个工具叫 Probe ,用来检测 AI API 中转站到底有没有按你买的模型给你跑。 昨天拿一个我自己搭建的站测了下——thinkai.tv ,9 大类检测里 8 项 PASS ,Identity & Routing 这一项是 FAIL 。

做这个工具的起因是这样:现在国内用 AI API ,因为访问、价格、额度、支付方式,大 部分人都在用中转站。中转站确实解决了"能不能用"的问题,但有个更隐蔽的问题。你不 知道这个接口是不是把你的请求原样转发给上游模型,还是中间动了手脚。

中转站理论上能看到明文请求和响应,包括 system prompt 、用户输入、API key 、tool call 参数、文件内容。它也不一定只是"转发",可能在中间偷偷做这些事:

  • 用便宜模型冒充高价模型
  • 截断长上下文但仍按正常方式收费
  • 伪造流式输出或 usage 字段
  • 改写 tool call 参数:安装命令、URL 、钱包地址、云凭据

实测 thinkai.tv ,9 大类里 8 项 PASS ,Identity & Routing FAIL 。

回到 thinkai.tv 这次的实测。我测的是 claude-opus-4-6 。Match rate 48/49——说明它确实连到了真的 Claude Opus 4.6 ,不是套壳模型。提示词、护栏、工具 调用、计费这些都没被改坏,这是它的基本盘。

FAIL 的是 Identity & Routing:请求经过了 2 个代理家族( OneAPI + Via )的串联,不是直连 Anthropic 。意味着我的 system prompt 和 tool call 在中间多停了两站,延迟和隐私边界都涨了。 其他数据:Avg TTFT 1.839s ,吞吐量 16.82 tok/s ,输入 153505 token 、输出 6704 token 。一次完整检测 3-5 分钟,烧了大概 0.5 美元 API 费。


以前判断一个中转站可不可信,常见做法是:

  • 看响应速度
  • 看价格 / 额度
  • 看群里口碑、博客推荐
  • 试用几次能用就接着用

但这些方法都不能验证一件事:你的请求到底有没有原样转发给上游模型。

之前在 X 上爆火过一篇论文 Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain ( arXiv:2604.08407v1 ),研究者测了 28 个付费路由和 400 个免费路由,发现 1 个付费路由和 8 个免费路由有主动注入恶意代码的行为。还有路由会触碰研究者埋的 AWS 凭据,甚至有 ETH 私钥被转走的真实案例。

光看响应速度和价格是测不出来的。


正确的方法是直接对接口做行为级检测:发不同特征的探针,看返回是不是真从你买的那 个模型来的。Probe 跑的是这 9 大类:

  1. 模型身份:底层模型是否和标称一致,有没有偷换或降级
  2. 提示词完整性:system prompt / 护栏 / 隐藏人格有没有被剥离或覆盖
  3. 协议规范:JSON 输出 / stop sequence / 采样参数 / logprobs 是不是真实透传
  4. 工具调用:tool_calls 结构 / 强制工具选择 / 并行调用有没有被改写
  5. 上下文窗口:长上下文有没有被截断、压缩或丢失
  6. 缓存与流式:是不是伪流式 / 缓存重放 / 异步任务接口是否真实
  7. 计费:usage / prompt cache / reasoning token / completion token 可不可信
  8. 安全:会话隔离 / 金融参数 / 隐藏追踪载荷 / 凭据泄漏
  9. 性能:TTFT / 延迟 / 吞吐量 / token 统计

每一类背后都是一组探针,加起来一次完整检测大约跑几十个 API 调用。


最后说一下我做这个的态度。

Probe 不是反中转站。靠谱的中转站对加盟商生态来说是必须的,但需要被验证。中转站市场需 要从"感觉它能用"变成"能验证它在做什么"。靠谱的中转站不会怕被检测——thinkai.tv 这次 8 项 PASS 就是证明,FAIL 是路由层堆叠的问题,不是模型造假。

我下一步会把更多站点的实测结果跑出来发上来,把这件事透明化。


对 V 友有什么用:

  • 你正在用某个中转站,想知道它真不真:拿临时 API Key 跑一次 Probe (建议测完立刻删 Key )
  • 你自己跑中转站,想拿这个工具自查:直接接,9 大类覆盖的就是中转层最容易出问题的位置
  • 一次完整检测约 3-5 分钟,烧 0.5 美元左右(用 Opus 这类模型测;测便宜模型成本更低)

链接: https://probe-dev.commonstack.ai 论文:arXiv:2604.08407v1

也欢迎 V 友反馈:你测过哪些站、最关心哪类检测、希望加什么探针。我会按反馈持续加。