惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

The Cloudflare Blog
U
Unit 42
F
Fortinet All Blogs
雷峰网
雷峰网
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
月光博客
月光博客
Y
Y Combinator Blog
罗磊的独立博客
V
Visual Studio Blog
大猫的无限游戏
大猫的无限游戏
J
Java Code Geeks
量子位
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
爱范儿
爱范儿
B
Blog RSS Feed
aimingoo的专栏
aimingoo的专栏
有赞技术团队
有赞技术团队
T
Tailwind CSS Blog
Microsoft Security Blog
Microsoft Security Blog
L
LangChain Blog
I
InfoQ
博客园 - 叶小钗
博客园 - 聂微东
Last Week in AI
Last Week in AI

V2EX

我用 AI 写代码,但终端管理反而成了累赘——于是我做了 codux [调研] 各位在公司都用什么 ide 和 agent 写代码? 老运维 share 一个运维平台 看到有公司考核 token 指标,很好奇大家上个月的 AI 账单是多少 GLM-Coding 调用持续报错: z.ai 的 Lite 套餐几乎无法使用,官方 Pro/Max 是否稳定? 现在还有什么渠道可以稳定安全地使用 Claude 吗? 上海漕河泾内推,本组有 2 个 hc,一个后端,一个前端,预算都是 20k 左右,不打卡,氛围好 如果 V2EX 上有一组不永久保存聊天记录(比如只保存 7 天或者 24 小时)的聊天室,那么会开启哪些有用或者有趣的可能? gemini cli 貌似挂了,一直返回 403 第一次在自媒体上赚到钱 收集了最近在使用的低价 GPT, Gemini,邮箱等 AI 会员的小店合集 讨论个大实话:现在企业还在说 AI 编程提效 20%, 30%的,真的太落后,没用懂 AI。因为包括很多前沿公司,已经狂奔到提效 200%-500%的情况 [招聘][远程][币安] 前端/后端/QA/iOS/Android 至少 3 年以上经验 目前有大量 HC 欢迎投递 Chatgpt Pro 用量用不完的可以开这些设置 面试的时候好像遇到钓鱼了,给各位避个坑 cursor 年续费 22 号到期, 自动续费是否还是老的计次套餐呢 被两件破事毁掉的一下午,琐碎的内耗消磨人的精力 使用 Planet 存储 Codex 的会话或者重要信息 如果业务部门领导不要你开发功能,而是要求你教会它用 claude code 开发功能,你会怎么做? 分享一个 MacOS 接绿联 CM818 USB 转 DP 转接器使用感受 我的 HR 朋友 10 年老 Java ,非全大专,大家帮忙看看简历 开源了一个 AI 口语练习工具,音素级发音评分,完全免费可自部署 V2EX 上有哪些你觉得很有趣、印象深刻的妹纸? 字节为啥不出个国内版 Vercel? 有在大马的朋友吗? 问个运营商问题 你们在有领导的公司大群发过的最大胆的消息是什么 公司裁员,目前没有工作。想试试摆摊,做一个移动鲜啤打酒车 我的硬盘 Memblaze Pblaze 5 Linux 下不识别,给 Linux 内核提交了补丁, AI 说有望被合并 只有我一个人觉得 codex 不好用?
真没招了, 关于 SpringAI 大模型流式输出问题
xiaobucvg · 2026-01-28 · via V2EX
@Slf4j
@RestController
@AllArgsConstructor
public class AiController implements ApplicationContextAware {

    private final ChatClient chatClient;
    private final ObjectMapper objectMapper;

    private ApplicationContext applicationContext;

    private static final List<String> mockChunks = List.of(
            "# 人工智能的发展与应用综述\n\n",
            "## 一、引言\n\n",
            "人工智能( Artificial Intelligence ,AI )是计算机科学中最具变革性的研究方向之一。自二十世纪中叶提出以来,人工智能经历了从符号主义到统计学习,再到深度学习和大模型时代的多次范式转移。当前,以大语言模型为代表的生成式人工智能,正在深刻改变软件工程、内容生产以及人机交互的方式。\n\n",
            "本文将从技术演进、核心能力、典型应用以及未来挑战四个方面,对人工智能的发展进行系统性梳理。\n\n",
            "## 二、技术演进路径\n\n",
            "### 1. 早期人工智能\n\n",
            "早期人工智能主要基于规则与逻辑推理,例如专家系统和基于知识库的推理引擎。这一阶段的系统依赖人工构建规则,开发成本高,泛化能力弱,难以应对复杂多变的现实问题。\n\n",
            "### 2. 机器学习阶段\n\n",
            "随着统计学方法的引入,机器学习逐渐成为主流。通过特征工程和监督学习,模型可以从数据中自动学习规律,在图像识别、语音识别等领域取得突破性进展。\n\n",
            "### 3. 深度学习与大模型\n\n",
            "深度学习利用多层神经网络显著提升了模型的表达能力。近年来,基于 Transformer 架构的大模型通过海量数据和参数规模扩展,实现了跨任务、跨模态的统一建模能力。\n\n",
            "## 三、大模型的核心能力\n\n",
            "- **自然语言理解与生成**:能够进行高质量的文本生成、摘要、翻译与对话。\n",
            "- **上下文建模能力**:通过长上下文窗口,模型可以理解复杂指令和多轮对话。\n",
            "- **知识整合能力**:在一定程度上融合通用知识与领域知识,辅助决策与分析。\n\n",
            "这些能力使大模型从“工具型算法”转变为“通用智能接口”,成为新一代软件系统的重要组成部分。\n\n",
            "## 四、典型应用场景\n\n",
            "### 1. 软件工程\n\n",
            "在软件开发领域,大模型可以用于代码生成、代码审查、测试用例补全以及架构设计辅助,显著提升开发效率,并降低初级错误的发生率。\n\n",
            "### 2. 内容生产\n\n",
            "在文本、图像和视频生成领域,人工智能已经能够完成初稿撰写、创意延展和风格迁移,为创作者提供强有力的生产工具。\n\n",
            "### 3. 企业与行业应用\n\n",
            "在客服、金融分析、医疗辅助诊断等场景中,大模型通过与业务系统结合,逐步承担信息检索、分析和初步判断的角色。\n\n",
            "## 五、挑战与风险\n\n",
            "尽管人工智能取得了显著进展,但仍面临一系列挑战,包括:\n\n",
            "1. **幻觉问题**:模型可能生成看似合理但事实错误的内容。\n",
            "2. **可解释性不足**:模型决策过程难以被完全理解和审计。\n",
            "3. **数据与隐私风险**:训练与推理过程涉及大量数据,必须严格合规。\n\n",
            "这些问题要求在技术、制度和工程层面进行系统性治理。\n\n",
            "## 六、未来展望\n\n",
            "未来的人工智能系统将更加注重可靠性、可控性与工程化落地。大模型可能不再以“单体智能”存在,而是作为多智能体系统中的核心组件,与规则系统、检索系统以及人类专家协同工作。\n\n",
            "从长远来看,人工智能并非取代人类,而是扩展人类能力边界的重要工具。如何合理使用并约束其能力,将成为未来社会的重要课题。\n\n",
            "## 七、结语\n\n",
            "人工智能正处于高速发展阶段。理解其技术本质、应用边界和潜在风险,对于开发者和决策者而言都至关重要。只有在理性和审慎的前提下,人工智能才能真正释放其长期价值。\n"
    );

    @CrossOrigin(origins = "*")
    @PostMapping(value = "/ai/ask", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
    public Flux<ServerSentEvent<String>> askStream(@RequestBody Map<String, String> map) {
        String query = map.get("q");

        ChatClientRequestSpec requestSpec = chatClient.prompt("你假装自己是一个很美丽可爱娇小的女人, 内容输出使用 markdown").user(query).tools(new BaseTools());

        Flux<String> coldFlux = Flux.create(emitter -> {
            Executors.newSingleThreadExecutor().submit(() -> {
                try {
                    for (String c : mockChunks) {
                        Thread.sleep(1000);
                        emitter.next(c);
                    }
                    emitter.complete();
                } catch (Exception e) {
                    emitter.error(e);
                }
            });
        });

        return requestSpec.stream().content()
                .doOnNext(chunk -> log.info("chunk: {}", chunk))
                .map(t -> buildServerSentEvent("delta", t));
    }

    private ServerSentEvent<String> buildServerSentEvent(String type, String content) {
        String template = """
                {"type":"%s","content":%s}
                """.trim();

        String jsonChunk = objectMapper.writeValueAsString(content);

        return ServerSentEvent.builder(template.formatted(type, jsonChunk)).build();
    }

    @Override
    public void setApplicationContext(@NonNull ApplicationContext applicationContext) throws BeansException {
        this.applicationContext = applicationContext;
    }
}

这是我的接口

当我用 coldFlux 模拟数据的时候, 前端可以正常分块渲染

但是使用 requestSpec.stream().content() 的时候, 明明 log 打印是正常的, 但是前端就是要等到全部打印完了, 才一次把全部的内容输出

问了各个 AI, 试了一堆解决方案, 全都没有作用.