惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

大猫的无限游戏
大猫的无限游戏
Security Archives - TechRepublic
Security Archives - TechRepublic
T
Threat Research - Cisco Blogs
A
Arctic Wolf
S
Securelist
O
OpenAI News
T
Threatpost
Forbes - Security
Forbes - Security
N
News and Events Feed by Topic
S
Secure Thoughts
H
Heimdal Security Blog
S
Security Affairs
P
Privacy International News Feed
C
Cisco Blogs
C
CERT Recently Published Vulnerability Notes
Cyberwarzone
Cyberwarzone
N
News and Events Feed by Topic
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
P
Palo Alto Networks Blog
S
Security @ Cisco Blogs
Hacker News - Newest:
Hacker News - Newest: "LLM"
博客园 - 三生石上(FineUI控件)
月光博客
月光博客
T
Tailwind CSS Blog
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Hacker News: Ask HN
Hacker News: Ask HN
T
Troy Hunt's Blog
S
SegmentFault 最新的问题
腾讯CDC
V
Visual Studio Blog
Last Week in AI
Last Week in AI
H
Hacker News: Front Page
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Project Zero
Project Zero
WordPress大学
WordPress大学
NISL@THU
NISL@THU
博客园 - 【当耐特】
博客园 - Franky
Webroot Blog
Webroot Blog
博客园_首页
T
Tenable Blog
雷峰网
雷峰网
Google Online Security Blog
Google Online Security Blog
阮一峰的网络日志
阮一峰的网络日志
V2EX - 技术
V2EX - 技术
Recent Commits to openclaw:main
Recent Commits to openclaw:main
L
Lohrmann on Cybersecurity
The Hacker News
The Hacker News

博客园_首页

Plist 二进制格式 Milvus 和 PGVector,哪个更好? OpenClaw 已过时?在 VS Code 中运行 Hermes Agent! 第30篇文章:一个大三计科生的自白 Manim如何在数学公式中完美显示中文? Docker 部署 RocketMQ 5 并发编程核心概念辨析 C#事务处理最佳实践:别再让“主表存了、明细丢了”的破事发生 CLI 是什么?为什么大厂突然集体卷命令行? 【从0到1构建一个ClaudeAgent】协作-自主Agent UIImageView 设置图片不生效的原因排查 最小二乘问题详解20:无先验约束下的增量式SFM自由网平差 痞子衡嵌入式:大话双核i.MXRT1180之XIP应用里借助MU实现可靠Flash IAP的方法 AI Chat 封装, SemanticKerne.AiProvider.Unified 已发布 Windows下右键编辑js文件无法打开记事本——在注册表中使用环境变量 在后台服务中使用 Scoped 服务,为什么总是报错? H200 安装驱动并使用sglang启动模型 wireshark 抓包Trap上报告警内容 我用 AI 辅助开发了一系列小工具(2):图片压缩工具 [A Primer On MC and CC] 2.1 Memory Consistency 1 - 指令重排序和 SC 模型 Oracle数据库SCN推进技术详解与实践指南 玩转控件:封装个带图片的Label控件 Claude Code 4.7 真正该升级的不是模型,而是你的工作流 前端小白一句话,AI 帮我做了个颜值拉满的桌面媒体播放器。当代码不再是门槛,一句话编程就是现实。 5. WorkBuddy: 小龙虾的灵魂三件套,让你的小龙虾不只是工具 SQLite 分片方案实战:三种分片策略的深度对比 告别简陋 UI!一款基于 Fluent Design 和基于 WinUI 的开源免费、现代化的 Avalonia UI 控件库 关于二进制排列组合枚举的总结 AI开发-python-LangGraph框架(3-27-LangGraph从零实现大模型智能决策工作流) ElasticSearch主分片和副本分片概念详解 【002】HTTPS 粗解:证书、TLS 握手与对后端配置的影响 Hermes Agent 一周暴涨五万 Star,但我劝你别急着追 明明连接的是Redis的DB0,为什么能查到DB3的数据? 【从0到1构建一个ClaudeAgent】协作-Agent团队 熟悉电子元器件之后,电子小白下一步该怎么走? MAF快速入门(23)通过C#类定义Skills .NET 高级开发 | 手写一个对象映射框架 FastAPI数据库ORM怎么选?我肝了三个Demo后,终于不再纠结了 mysqldump 参数拾遗:在遗忘与铭记之间 C# .NET 周刊|2026年3月5期 Claude code入门 - 陈彦斌 一文学习入门 ThingsBoard 开源物联网平台 GitHub 热门项目 | 2026年04月16日 如何为GIT设置全局勾子,为每次提交追加信息 Number.isFinite和isFinite与isNaN()和Number.isNaN的区别 PortSwigger SQL注入LAB2 推荐一个测试人必备的Skills,从功能到性能全搞定(附详细实操和安装下载方式) 筑基期:掌握Odoo基础核心知识点02(Odoo XML 开发方式详解) GLM模型这么火,咱们用vllm也咧一个呗! 深入理解 AbortController:从底层原理到跨语言设计哲学 字符串学习笔记 多租户系统框架的基础模块设计和分析设计 Apache SeaTunnel Zeta 为什么能做到“又快又稳”? AI开发-python-LangGraph框架(3-26-LangGraph基本概念及第一个简单样例) Vue 3 组件通信,别只会用 Props 和 Emits 了,这几个狠活儿你得看看 ElasticSearch7.X版本配置密码 用Manim实现动态交点计算--从一个动点问题说起 团结引擎+Addressable+Instant Game打包抖音小游戏 function call 实战:让 LLM 自动判断 pod 异常、调用日志工具并完成故障分析 bubseek —— 让 Agent 的足迹,变成团队的洞察 通过 C# 读取并导出 PDF 书签 如何用 GitHub Actions 实现 Steam 自动化发布 【从0到1构建一个ClaudeAgent】并发-后台任务 .NET 高级开发 | 定制 ASP.NET Core 框架 电子小白:什么是运算放大器(运放) zero2Agent:面向大厂面试的 Agent 工程教程,从概念到生产的完整学习路线 堆上的ORW HC32F460 USB CDC通信异常:非对齐访问异常排查 20260413-Hyperbridge 攻击事件:发生在默克尔山上的验证绕过 那些喊着AI 要淘汰你的人,正在靠你的焦虑赚大钱! 深度学习进阶(八)Swin Transformer 最小二乘问题详解19:带先验约束的增量式SFM优化与实现 SnapTranslate 3.0 正式发布:全局划词翻译 + 完整英语学习闭环,一站式搞定查词、记词、复习 工作的意义、工作的困难认知再思考 .NET + AI 进阶实战:基于类的技能开发 - 打造可治理的 Agent 能力模块 【从0到1构建一个ClaudeAgent】规划与协调-技能 上周热点回顾(4.6-4.12) 电子小白的工具三件套:面包板、杜邦线、万能板 单表五亿数据的查询优化 | Mysql、StarRocks 2. WorkBuddy:从“我是谁”到“帮我干活” C# 如何减少代码运行时间:7 个实战技巧 基于HelixToolkit.SharpDX 渲染3D模型 - 笺上知微 从零开始的双臂具身VLA起源及现阶段发展综述 - SkyXZ 记对 xonsh shell 的使用, 脚本编写, 迁移及调优 - pluvium27 受够了Vibe Coding的失控?换个起点,让AI事半功倍 从开始配置漏洞环境到漏洞复现流程 - 難しい 关于10年工作经验的程序员对OpenClaw的实战经验分享以及看法 - 虚无境 Any metadata 的内存布局 C# .NET 周刊|2026年3月2期 - InCerry 我帮你测过了,测试圈排名第二的 Skill 依然很牛逼 Skill Discovery | 无监督技能发现的经典工作总结 - MoonOut 上下文工程是什么?过时了么?一文讲明白! - 一枫说码 开了 TUN 模式还是直连?90% 的人都踩过这个坑 AScript扩展多种脚本语言 - rockey627 AI 学习笔记:Agent 的记忆机制 你能被装进一个文件里吗?——7 万人把同事"蒸馏"成了 AI - 我没有三颗心脏 Claude Code 通关手册(七):给 AI 装上技能包——Skills 完全指南 - 暮色之狐 在浏览器中快速编辑代码:VSCode Web 集成实践 - Newbe36524 蒸馏自己 skill?基于 Deepseek 的蒸馏器,丐版蒸馏方式,简单便捷 - To_Carpe_Diem Spring AI Aliababa和AgentScope,哪个更好? - 苏三说技术
NewAPI网关部署与企业Token监管实操指南
锅总的程序人生 · 2026-05-10 · via 博客园_首页

New API 是一个开源的 LLM 网关平台,把多个 AI 服务商的接口聚合成标准 OpenAI 兼容 API。企业采购了各家模型的 Token Plan 之后,需要一个统一入口来分发、管控、计费。这篇文档记录的是:怎么用 New API 把这件事做成。

一、部署安装

这是整件事的地基。New API 支持 Docker 单容器、Docker Compose、1Panel、宝塔、集群部署等多种方式。企业内网场景推荐 Docker Compose,自带 postgres 和 Redis,数据不丢。

1.1 前置条件

一台 Linux 服务器(Ubuntu/CentOS),已装好 Docker 和 Docker Compose。建议最低 4 核 8G 。

1.2 Docker Compose 部署

git clone https://github.com/QuantumNous/new-api.git
cd new-api
git checkout v1.0.0-rc.4 #请checkout最新版本,这是2026年5月7日最新版本
vim docker-compose.yml   # 根据实际修改端口、密码(改成强密码,默认都是123456)
docker compose up -d

项目自带的 docker-compose.yml 已配好 postgres、Redis 和 New API 三个服务,只需改端口和密码。

1.3 初始化

服务启动后访问 http://服务器IP:3000(端口建议使用80,并做外网的映射),首次打开会进入初始化引导,设置管理员账号密码。记好这个密码,后面所有管理操作都靠它。

模式采用自用模式

1.4 常用运维命令

docker logs -f new-api     # 看实时日志
docker logs --tail=100 new-api  # 看最近100行
docker ps                   # 查看服务状态
docker compose down                 # 在compose.yml同级目录执行,停止移除服务
docker compose up -d                # 在compose.yml同级目录执行,重启服务

二、基础设置

2.1 速率设置

在"系统设置"→"速率限制设置"中,启用用户模型请求速率限制:

  • 限制周期1分钟
  • 用户每周期最多请求次数50次

2.2 系统设置

内部进行账号统一管理,不允许除管理员外的任何人登录该平台,所以做账号限制

在"系统设置"→"系统设置"中的配置登录注册处。关闭允许通过免密码进行注册允许新用户注册

在"系统设置"→"顶栏管理"中关闭模型广场、关于

2.3 绘图设置关闭

在"系统设置"→"绘图设置"中关掉全部绘图功能(如果你有生图模型就在此注意配置)

三、CodingPlan 的采集与分发

通常建议仅从一家采购同样的模型,提供团队内部统一使用

模型厂商采购 API Key
        │
        ▼
New API 添加渠道,统一录入 Key
        │
        ▼
渠道分组,按部门/项目隔离
        │
        ▼
创建订阅套餐,设定配额与有效期
        │
        ▼
分发令牌给用户,绑定分组与限额
        │
        ▼
用户通过令牌调用标准 API
        │
        ▼
日志审计与看板,全链路监管

3.1 渠道分组

不同部门、不同项目可能需要用不同的 Key 池。通过"分组"实现渠道隔离:创建分组(如"研发一部"、"产品二部"),在渠道中指定该渠道属于哪个分组,用户只能访问自己分组内的渠道。

在"系统设置"→"分组与模型定价设置"的分组管理中添加内部各部门的分组。

倍率都按照1设计

每个组视人数给分配账号,一般设定比人数多1个~2个账号即可

3.2 模型定价

模型定价的主要目的,是为了统一内部模型叫法,给模型设置统一的价格,方便后续的管理

设计示例如下:

xxx-glm-4.7:1$/1M Token
xxx-kimi-k2.5:2$/1M Token
xxx-kimi-k2.6:3$/1M Token
xxx-glm-k2.6:3$/1M Token

3.3 添加渠道

每个采购到的 API Key 对应一个渠道。管理员登录后进入「渠道」页面:

  1. 选择服务商类型(一般使用 OpenAI / Claude 等)
  2. 名称,按照key来源构建,如厂商-key结尾4字符
  3. 填入 API Key(密钥)
  4. 勾选该 Key 支持的模型
  5. 高级配置中可设 Base URL(代理地址)
  6. 代理地址必须填写,根据国内模型厂商给的地址进行填写。一般国内模型厂商会给 Claude、OpenAI 两种接入方式的地址,跟选择的工具有关系。

3.4 多 Key 轮询

同一个服务商采购了多个 Key 时,用"多 Key 模式":一个渠道挂多个 Key,系统自动轮询使用。单个 Key 失败自动跳过,恢复后重新启用。支持两种轮询策略:顺序轮询和加权随机(建议按照加权随机的模式使用)。

3.5 模型映射(自定义模型名)

企业内部通常希望给模型起统一的、有辨识度的名字,而不是用服务商那串原始 ID。New API 的模型映射功能可以在渠道层面把自定义名映射到实际的模型 ID。

配置位置:编辑渠道 → 高级配置 → 模型映射,填入 JSON 格式的映射关系。

示例

{
  "xxxx-kimi-k2.5": "kimi-k2.5",
  "xxxx-kimi-k2.6": "kimi-k2.6",
  "xxxx-glm-4.7": "glm-4.7",
  "xxxx-glm-5.1": "glm-5.1"
}

左侧 xxxx-kimi-2.6 是用户调用时传的模型名,右侧 kimi-2.6 是上游服务商的实际模型 ID。

操作步骤

  1. 管理员进入「渠道」,编辑对应渠道
  2. 在"模型"列表中手动输入自定义模型名(如 xxxx-kimi-2.6),不要从下拉列表选
  3. 在"模型重定向"字段填入上面的 JSON
  4. 保存后,用户调用 model: "xxxx-kimi-2.6" 就会自动路由到 kimi-2.6

右侧的值必须是对应服务商的真实模型 ID,可以在渠道的模型下拉列表中查看。映射关系只在当前渠道生效,不同渠道可以有不同的映射规则。

四、令牌(Token)管理

管理员统一创建令牌和分发,令牌是调用 API 的凭证。

用户在「令牌管理」页面创建,可配置:

  • 名称:按使用人命名,如"张三"
  • 令牌分组:按使用人所在组区分
  • 过期时间:永不过期
  • 配额上限:初始给5亿Tken
  • 模型限制:所有配置模型提供

五、API 接入

New API 对外暴露标准 OpenAI 兼容接口和Claude接口。团队里不管用Opencode还是Claude都可以支持,直接把 Base URL 指向 New API 的地址就行。

5.1 Opencode接入配置

修改~/config/opencode/opencode.jsonc

Base URL:

  • http://你的服务器IP:PORT/v1(openAI)

API Key: 管理员提供给的 New API 中创建的令牌

{
  "plugin": [
    "oh-my-openagent@latest"
  ],
  "provider": {
	"xxxx": {
      "name": "xxxx",
      "npm": "@ai-sdk/openai-compatible",
      "models": {
        "xxxx-glm-4.7": {
		  "limit": {
            "context": 200000,
			"output": 65536
          },
          "name": "xxxx-glm-4.7"
        },
		"xxxx-kimi-k2.5": {
		  "limit": {
            "context": 200000,
			"output": 65536
          },
		  "name": "xxxx-kimi-k2.5"	
		},
		"xxxx-kimi-k2.6": {
		  "limit": {
            "context": 200000,
			"output": 65536
          },
		  "name": "xxxx-kimi-k2.6"	
		}
      },
      "options": {
        "baseURL": "XXXX",
		"apiKey": "XXXXX"
      }
    }
  },
  "$schema": "https://opencode.ai/config.json",
  "disabled_providers": []
}

5.2 ClaudeCode接入配置

修改~/.claude/setting.json

Base URL:

  • http://你的服务器IP:PORT(claude)
"env": {
    "ANTHROPIC_DEFAULT_HAIKU_MODEL": "xxxx-glm-4.7",
    "ANTHROPIC_DEFAULT_SONNET_MODEL": "xxxx-kimi-k2.5",
    "ANTHROPIC_DEFAULT_OPUS_MODEL": "xxxx-kimi-k2.6",
    "ANTHROPIC_AUTH_TOKEN": "在 New API 中创建的令牌",
    "ANTHROPIC_BASE_URL": "XXXX",
    "CLAUDE_CODE_AUTO_COMPACT_WINDOW": "1000000",
    "CLAUDE_AUTOCOMPACT_PCT_OVERRIDE": "85",
    "API_TIMEOUT_MS": "3000000",
    "CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC": 1
  },

六、组织监管

6.1 日志审计

管理员在「使用」中可查看全站所有 API 调用记录:

  • 调用时间、用户、模型、Token 消耗量
  • 配额扣减详情
  • 请求成功/失败状态

支持按时间范围、用户、模型、关键词等多维度筛选。

6.2 数据看板

控制台首页提供数据看板,展示:

  • 总调用量、总 Token 消耗
  • 各模型使用占比
  • 各用户消费排行
  • 渠道响应时间分布

6.3 渠道健康监控

管理员可对渠道进行单个测试或批量测试,查看响应时间。开启"自动禁用"后,渠道连续失败达阈值会自动禁用,避免请求打到已经挂了的 Key 上。

6.4 自动化监管

可使用newAPI的skills进行自动化的监管(如批量创建Key)