惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

J
Java Code Geeks
腾讯CDC
博客园 - 聂微东
爱范儿
爱范儿
罗磊的独立博客
P
Proofpoint News Feed
博客园 - Franky
博客园 - 三生石上(FineUI控件)
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
酷 壳 – CoolShell
酷 壳 – CoolShell
Jina AI
Jina AI
Blog — PlanetScale
Blog — PlanetScale
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
博客园 - 司徒正美
美团技术团队
MongoDB | Blog
MongoDB | Blog
WordPress大学
WordPress大学
A
About on SuperTechFans
I
InfoQ
博客园_首页
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
H
Help Net Security
Microsoft Azure Blog
Microsoft Azure Blog
G
Google Developers Blog

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
CowAgent对接DeepSeek V4空响应排查:一个/v1路径引发的血案 ...
布谷谷 · 2026-06-17 · via 人人都是产品经理

开源AI助理框架CowAgent遭遇API调用难题?当配置DeepSeek V4 Pro模型后持续返回空响应时,一次从API测试到SSE解析的深度排查揭开了路径拼接的致命细节。本文不仅揭示了缺少/v1路径前缀的隐蔽陷阱,更提供了包含Thinking模式配置、max_tokens调整在内的完整解决方案,堪称AI Agent对接第三方模型的避坑指南。

一、CowAgent 简介

CowAgent(原名 chatgpt-on-wechat)是一个开源的超级 AI 助理框架,GitHub 45,000+ Stars,是国内 AI Agent 生态中 Star 数最高的项目之一,支持多模型(DeepSeek/OpenAI/Claude 等)、多渠道(微信/飞书/网页等)接入。

二、问题现象

在 CowAgent v2.x 的 Web 控制台配置好 DeepSeek V4 Pro 模型后,发送消息始终无法得到正常回复。查看容器日志,反复出现以下警告:

[WARNING] LLM returned empty response (stop_reason: None), retrying once…

[WARNING] LLM returned empty response after retry (no content and no tool calls)

[INFO] Generated fallback response for empty LLM output

前端表现为通用的兜底回复:”抱歉,我暂时无法生成回复……”

三、排查过程

3.1 排除 API 本身的问题

直接在容器内用 requests 调 API:

import requests

r = requests.post(

“http://<API网关>/v1/chat/completions”,

headers={“Authorization”: “Bearer sk-****”},

json={“model”: “deepseek-v4-pro”, “messages”: [{“role”: “user”, “content”: “hi”}]},

timeout=10

)

print(r.json()[“choices”][0][“message”][“content”])

# 输出:Hi there! How can I help you today?

API 完全正常,模型能正常返回内容。

3.2 排除认证方式的问题

CowAgent 对自定义 provider 发送请求时,我怀疑认证头格式不对。分别测试了两种方式:

# 方式一:Bearer Token(推荐)

headers = {“Authorization”: “Bearer sk-****”}

# 返回 200 ✅

# 方式二:api-key Header

headers = {“api-key”: “sk-****”}

# 返回 401 ❌ Invalid token

确认 API 接受 Bearer Token 认证,且 CowAgent 的代码也是用 Bearer Token 发请求的。认证没问题。

3.3 排除模型本身的问题

换成 gpt-5.4 等其他非推理模型,同样返回空响应。确认不是 DeepSeek V4 Pro 特有的问题。

3.4 排除 SSE 解析的问题

CowAgent 处理流式响应时使用自定义的 _iter_sse_events 方法解析 SSE(Server-Sent Events)。我怀疑它的解析逻辑有 bug。

在容器内分别测试:

from models.openai.openai_http_client import OpenAIHTTPClient

# 测试 1:直接调用 _iter_sse_events 解析原始响应

r = requests.post(…, stream=True)

events = list(OpenAIHTTPClient._iter_sse_events(r))

print(len(events)) # 输出:33 ✅ 能正确解析

# 测试 2:通过 chat_completions 走完整链路

client = OpenAIHTTPClient(api_key=”sk-****”, api_base=”http://<API网关>”)

chunks = list(client.chat_completions(model=”gpt-5.4″, …))

print(len(chunks)) # 输出:0 ❌ 一个 chunk 都没收到!

关键发现:同样的 API 响应,直接解析有 33 个事件,但走 chat_completions 完整链路却是 0。

3.5 定位根因

对比两种调用方式,发现唯一的区别在于请求的 URL

根因:api_base 缺少 /v1 路径前缀!

CowAgent 的 URL 拼接逻辑是:

# openai_http_client.py

url = f”{api_base}{path}” # path = “/chat/completions”

如果你的 api_base 配置为 http://<API网关>(不带 /v1),最终请求的 URL 就是 http://<API网关>/chat/completions,而正确的 API 路径是 http://<API网关>/v1/chat/completions。

大部分 OpenAI 兼容 API(如 DeepSeek 官方 https://api.deepseek.com/v1、OpenAI 官方 https://api.openai.com/v1)本身就把 /v1 包含在 api_base 里了,所以填它们的时候不会有这个问题。但接入内网 API 网关自定义地址时,很容易漏掉这个路径前缀。

四、解决方案

将 api_base 从 http://<API网关> 改为 http://<API网关>/v1:

config.json

{

“model”: “deepseek-v4-pro”,

“bot_type”: “deepseek”,

“deepseek_api_base”: “http://<API网关>/v1”,

“deepseek_api_key”: “sk-****”

}

docker-compose.yml

environment:

DEEPSEEK_API_BASE: ‘http://<API网关>/v1’

修改后重启容器即可。

五、附加:DeepSeek V4 推理模型的特殊配置

除路径问题外,DeepSeek V4 Pro 作为推理模型,还需要额外配置:

5.1 开启 Thinking 模式

{

“enable_thinking”: true,

“reasoning_effort”: “high”

}

若不开启,CowAgent 的 Agent Bridge 会显式传 thinking={“type”: “disabled”} 给 API,可能导致推理模型行为异常。

5.2 增大 max_tokens

DeepSeek V4 Pro 推理时先输出思考链(reasoning_content),再输出正文(content)。如果 max_tokens 太小,token 全消耗在推理阶段,正文就是空的。

CowAgent 的 DeepSeekBot.call_with_tools() 方法不主动传 max_tokens,需要打一个小补丁让它在 config 中读取。

修改 deepseek_bot.py 第 229 行:

# 修改前

max_tokens = kwargs.pop(“max_tokens”, None)

# 修改后

max_tokens = kwargs.pop(“max_tokens”, None) or conf().get(“max_tokens”)

然后在 config.json 中设置 “max_tokens”: 16000,并将补丁文件挂载到容器:

volumes:

– ./deepseek_bot.py:/app/models/deepseek/deepseek_bot.py

5.3 reasoning_content 回传

DeepSeek V4 在多轮工具调用中,要求后续请求必须原样回传 reasoning_content(即使是空字符串)。这一问题 CowAgent v2.0.8 已部分修复,确保使用最新版镜像即可。

相关社区讨论:

  • anything-llm #5683
  • opencode #24146

六、总结

核心教训:CowAgent 的 api_base 填 OpenAI 兼容 API 地址时,一定要检查是否包含 /v1 路径。它在 api_base 后面直接拼接 /chat/completions,不会自动补 /v1。

本文由 @布谷谷 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议