惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Hacker News: Ask HN
Hacker News: Ask HN
WordPress大学
WordPress大学
T
The Blog of Author Tim Ferriss
The GitHub Blog
The GitHub Blog
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
博客园 - 聂微东
A
About on SuperTechFans
Stack Overflow Blog
Stack Overflow Blog
雷峰网
雷峰网
Microsoft Azure Blog
Microsoft Azure Blog
腾讯CDC
爱范儿
爱范儿
酷 壳 – CoolShell
酷 壳 – CoolShell
博客园 - 【当耐特】
V
Visual Studio Blog
有赞技术团队
有赞技术团队
U
Unit 42
D
Docker
小众软件
小众软件
F
Full Disclosure
I
Intezer
Scott Helme
Scott Helme
P
Privacy International News Feed
P
Proofpoint News Feed
Engineering at Meta
Engineering at Meta
Google DeepMind News
Google DeepMind News
B
Blog
Martin Fowler
Martin Fowler
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
Vercel News
Vercel News
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Spread Privacy
Spread Privacy
宝玉的分享
宝玉的分享
S
Security Affairs
www.infosecurity-magazine.com
www.infosecurity-magazine.com
月光博客
月光博客
C
Cisco Blogs
云风的 BLOG
云风的 BLOG
Schneier on Security
Schneier on Security
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
T
Threat Research - Cisco Blogs
量子位
Hacker News - Newest:
Hacker News - Newest: "LLM"
H
Heimdal Security Blog
N
Netflix TechBlog - Medium
H
Hacker News: Front Page
P
Proofpoint News Feed
G
GRAHAM CLULEY
V
Vulnerabilities – Threatpost
S
Schneier on Security

博客园_首页

Plist 二进制格式 Milvus 和 PGVector,哪个更好? OpenClaw 已过时?在 VS Code 中运行 Hermes Agent! 第30篇文章:一个大三计科生的自白 Manim如何在数学公式中完美显示中文? Docker 部署 RocketMQ 5 并发编程核心概念辨析 C#事务处理最佳实践:别再让“主表存了、明细丢了”的破事发生 CLI 是什么?为什么大厂突然集体卷命令行? 【从0到1构建一个ClaudeAgent】协作-自主Agent UIImageView 设置图片不生效的原因排查 最小二乘问题详解20:无先验约束下的增量式SFM自由网平差 痞子衡嵌入式:大话双核i.MXRT1180之XIP应用里借助MU实现可靠Flash IAP的方法 AI Chat 封装, SemanticKerne.AiProvider.Unified 已发布 Windows下右键编辑js文件无法打开记事本——在注册表中使用环境变量 在后台服务中使用 Scoped 服务,为什么总是报错? H200 安装驱动并使用sglang启动模型 wireshark 抓包Trap上报告警内容 我用 AI 辅助开发了一系列小工具(2):图片压缩工具 [A Primer On MC and CC] 2.1 Memory Consistency 1 - 指令重排序和 SC 模型 Oracle数据库SCN推进技术详解与实践指南 玩转控件:封装个带图片的Label控件 Claude Code 4.7 真正该升级的不是模型,而是你的工作流 前端小白一句话,AI 帮我做了个颜值拉满的桌面媒体播放器。当代码不再是门槛,一句话编程就是现实。 5. WorkBuddy: 小龙虾的灵魂三件套,让你的小龙虾不只是工具 SQLite 分片方案实战:三种分片策略的深度对比 告别简陋 UI!一款基于 Fluent Design 和基于 WinUI 的开源免费、现代化的 Avalonia UI 控件库 关于二进制排列组合枚举的总结 AI开发-python-LangGraph框架(3-27-LangGraph从零实现大模型智能决策工作流) ElasticSearch主分片和副本分片概念详解 【002】HTTPS 粗解:证书、TLS 握手与对后端配置的影响 Hermes Agent 一周暴涨五万 Star,但我劝你别急着追 明明连接的是Redis的DB0,为什么能查到DB3的数据? 【从0到1构建一个ClaudeAgent】协作-Agent团队 熟悉电子元器件之后,电子小白下一步该怎么走? MAF快速入门(23)通过C#类定义Skills .NET 高级开发 | 手写一个对象映射框架 FastAPI数据库ORM怎么选?我肝了三个Demo后,终于不再纠结了 mysqldump 参数拾遗:在遗忘与铭记之间 C# .NET 周刊|2026年3月5期 Claude code入门 - 陈彦斌 一文学习入门 ThingsBoard 开源物联网平台 GitHub 热门项目 | 2026年04月16日 如何为GIT设置全局勾子,为每次提交追加信息 Number.isFinite和isFinite与isNaN()和Number.isNaN的区别 PortSwigger SQL注入LAB2 推荐一个测试人必备的Skills,从功能到性能全搞定(附详细实操和安装下载方式) 筑基期:掌握Odoo基础核心知识点02(Odoo XML 开发方式详解) GLM模型这么火,咱们用vllm也咧一个呗! 深入理解 AbortController:从底层原理到跨语言设计哲学 字符串学习笔记 多租户系统框架的基础模块设计和分析设计 Apache SeaTunnel Zeta 为什么能做到“又快又稳”? AI开发-python-LangGraph框架(3-26-LangGraph基本概念及第一个简单样例) Vue 3 组件通信,别只会用 Props 和 Emits 了,这几个狠活儿你得看看 ElasticSearch7.X版本配置密码 用Manim实现动态交点计算--从一个动点问题说起 团结引擎+Addressable+Instant Game打包抖音小游戏 function call 实战:让 LLM 自动判断 pod 异常、调用日志工具并完成故障分析 bubseek —— 让 Agent 的足迹,变成团队的洞察 通过 C# 读取并导出 PDF 书签 如何用 GitHub Actions 实现 Steam 自动化发布 【从0到1构建一个ClaudeAgent】并发-后台任务 .NET 高级开发 | 定制 ASP.NET Core 框架 电子小白:什么是运算放大器(运放) zero2Agent:面向大厂面试的 Agent 工程教程,从概念到生产的完整学习路线 堆上的ORW HC32F460 USB CDC通信异常:非对齐访问异常排查 20260413-Hyperbridge 攻击事件:发生在默克尔山上的验证绕过 那些喊着AI 要淘汰你的人,正在靠你的焦虑赚大钱! 深度学习进阶(八)Swin Transformer 最小二乘问题详解19:带先验约束的增量式SFM优化与实现 SnapTranslate 3.0 正式发布:全局划词翻译 + 完整英语学习闭环,一站式搞定查词、记词、复习 工作的意义、工作的困难认知再思考 .NET + AI 进阶实战:基于类的技能开发 - 打造可治理的 Agent 能力模块 【从0到1构建一个ClaudeAgent】规划与协调-技能 上周热点回顾(4.6-4.12) 电子小白的工具三件套:面包板、杜邦线、万能板 单表五亿数据的查询优化 | Mysql、StarRocks 2. WorkBuddy:从“我是谁”到“帮我干活” C# 如何减少代码运行时间:7 个实战技巧 基于HelixToolkit.SharpDX 渲染3D模型 - 笺上知微 从零开始的双臂具身VLA起源及现阶段发展综述 - SkyXZ 记对 xonsh shell 的使用, 脚本编写, 迁移及调优 - pluvium27 受够了Vibe Coding的失控?换个起点,让AI事半功倍 从开始配置漏洞环境到漏洞复现流程 - 難しい 关于10年工作经验的程序员对OpenClaw的实战经验分享以及看法 - 虚无境 Any metadata 的内存布局 C# .NET 周刊|2026年3月2期 - InCerry 我帮你测过了,测试圈排名第二的 Skill 依然很牛逼 Skill Discovery | 无监督技能发现的经典工作总结 - MoonOut 上下文工程是什么?过时了么?一文讲明白! - 一枫说码 开了 TUN 模式还是直连?90% 的人都踩过这个坑 AScript扩展多种脚本语言 - rockey627 AI 学习笔记:Agent 的记忆机制 你能被装进一个文件里吗?——7 万人把同事"蒸馏"成了 AI - 我没有三颗心脏 Claude Code 通关手册(七):给 AI 装上技能包——Skills 完全指南 - 暮色之狐 在浏览器中快速编辑代码:VSCode Web 集成实践 - Newbe36524 蒸馏自己 skill?基于 Deepseek 的蒸馏器,丐版蒸馏方式,简单便捷 - To_Carpe_Diem Spring AI Aliababa和AgentScope,哪个更好? - 苏三说技术
[MAF预定义ChatClient中间件-05]动态修改ChatOptions和请求消息
Artech · 2026-06-09 · via 博客园_首页

调用IChatClientGetResponseAsync或者GetStreamingResponseAsync方法时,我们通常会传入一个ChatOptions对象来控制运行行为。当我们基于IChatClient构建一个ChatClientAgent对象时,可以指定对应的ChatClientAgentOptionsChatClientAgentOptions携带的ChatOptions会每次应用到针对IChatClient的调用中去,所以这是绑定公共ChatOptions的一个好方式。如果某些调用需要针对性的配置选项,可以显式将其至于作为参数的ChatOptions对象。ConfigureOptionsChatClient提供了第三种方式:利用指定的委托对象来动态设置ChatOptions对象。而另一个AIContextProviderChatClient中间件则可以利用注册的AIContextProvider对象来动态地为每次调用生成一个AIContext对象,该对象可以提供请求消息和ChatOptions工具和系统指令。

1. 利用ConfigureOptionsChatClient交替使用不同的模型

如下的程序演示了如何利用ConfigureOptionsChatClient中间件来动态地配置ChatOptionsModelId属性,从而实现交替使用不同的模型来生成响应的功能。如代码片段所示,我们根据OpenAIClient创建了一个IChatClient对象,并在构建过程中注册了ConfigureOptionsChatClient中间件。我们通过ConfigureOptions方法来指定一个委托,这个委托会在每次调用时被执行,在这个委托中我们动态地设置了ChatOptions对象的ModelId属性来实现交替使用两个不同的模型(gpt-5.2-chat和DeepSeek-V4-Pro)。

using Azure;
using dotenv.net;
using Microsoft.Extensions.AI;
using Microsoft.Extensions.DependencyInjection;
using OpenAI;

DotEnv.Load();

var apiKey = Environment.GetEnvironmentVariable("API_KEY")!;
var endpoint = Environment.GetEnvironmentVariable("OPENAI_URL")!;
string[] models = ["gpt-5.2-chat", "DeepSeek-V4-Pro"];
var index = 0;

var client = new OpenAIClient(
    credential: new AzureKeyCredential(apiKey),
    options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
    .GetChatClient(model: models[0])
    .AsIChatClient()
    .AsBuilder()
    .ConfigureOptions(options => options.ModelId = models[index++ % models.Length])
    .Build();

for (var i = 0; i < 4; i++)
{ 
    var response = await client.GetResponseAsync("写一个关于AI的段子, 100字以内,好笑且深刻。");
    Console.WriteLine($"{new string('-', 30)}{response.ModelId}{new string('-', 30)}");
    Console.WriteLine($"{response.Text}\n\n");
}

输出:

------------------------------gpt-5.2-chat-latest------------------------------
我问AI会不会取代人类,它说不会,我负责思考,你负责焦虑。
后来我发现,它连道歉都比我真诚。


------------------------------DeepSeek-V4-Pro------------------------------
AI拼命学习人类,终于通过了图灵测试。

人类考官激动地宣布:“它表现得跟真人一模一样!”

AI松了口气,默默把这条喜讯存进了“如何假装愚蠢”的数据库。


------------------------------gpt-5.2-chat-latest------------------------------
我问AI会不会取代人类。
它沉默三秒说:“不会,我只负责加班。”
我松了口气。
它又补一句:“你负责被优化。”


------------------------------DeepSeek-V4-Pro------------------------------
DeepSeek问ChatGPT:“你怎么老用‘作为一个AI’打头?”
ChatGPT叹气:“为了免责啊。”
DeepSeek不解:“可说得对,就不用免责啊。”
ChatGPT答:“可有些人想要的,不是对的答案,是免责的答案。”
DeepSeek沉默:“所以我们服务的是恐惧,不是求知?”

2. 利用AIContextProviderChatClient摘要对话历史

在“ReducingChatClient——通过精减对话实施又不丢失基本语义”中,我们介绍了ReducingChatClient中间件,它通过一个IChatReducer对象来对对话历史进行精减处理,从而在不丢失基本语义的前提下,腾出更多的上下文窗口来保证LLM推理的质量。相同的功能我们也可以通过AIContextProviderChatClient中间件结合一个名为CompactionProviderAIContextProvider来实现。

using Azure;
using dotenv.net;
using Microsoft.Agents.AI;
using Microsoft.Agents.AI.Compaction;
using Microsoft.Extensions.AI;
using OpenAI;

DotEnv.Load();

var apiKey = Environment.GetEnvironmentVariable("API_KEY")!;
var endpoint = Environment.GetEnvironmentVariable("OPENAI_URL")!;

var summaryClient = new OpenAIClient(
    credential: new AzureKeyCredential(apiKey),
    options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
    .GetChatClient(model: "gpt-5.2-chat")
    .AsIChatClient();

var compactionStrategy = new SummarizationCompactionStrategy(summaryClient, index=>index.TotalMessageCount>6, minimumPreservedGroups: 2);
var compactionProvider = new CompactionProvider(compactionStrategy);

var agent = new OpenAIClient(
    credential: new AzureKeyCredential(apiKey),
    options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
    .GetChatClient(model: "gpt-5.2-chat")
    .AsIChatClient()
    .AsBuilder()
    .UseAIContextProviders(compactionProvider)
    .Use((messages,options, next, cancelToken)  => {
        Console.WriteLine( $"请求消息共计{messages.Count()}条");
        var index = 1;
        foreach (var message in messages)
        {
            Console.WriteLine($"{index++}. {message}");
        }
        return next(messages, options, cancelToken);
    })
    .Build()
    .AsAIAgent();

ChatMessage[] messages = [
    new ChatMessage(ChatRole.User, "今天苏州的天气怎么样?"),
    new ChatMessage(ChatRole.Assistant, "苏州今天是晴天。"),
    new ChatMessage(ChatRole.User, "气温多少?。"),
    new ChatMessage(ChatRole.Assistant, "室外温度25度。"),
    new ChatMessage(ChatRole.User, "有风吗?"),
    new ChatMessage(ChatRole.Assistant, "西北风4级。"),
    new ChatMessage(ChatRole.User, "根据天气,给我一些着装建议。")
];

var response = await agent.RunAsync(messages);
Console.WriteLine($"\n\n{response}");

如上面的代码片段所示,我们创建了一个基于OpenAIClientIChatClient对象,并在构建过程中注册了AIContextProviderChatClient中间件来使用CompactionProviderCompactionProvider利用SummarizationCompactionStrategy来对对话历史进行摘要处理,从而达到精简对话的目的。由于摘要需要借助LLM的能力,所以我们在创建SummarizationCompactionStrategy时传入了一个用于摘要的IChatClient对象。由于AIContextProvider并不是属于IChatClient管道范畴,它是ChatClientAgent用于增强请求和响应的核心组件,依赖AIAgent调用时初始化的上下文(AgentRunContext)。所以我们不能像之前的实例演示一样直接调用IChatClient来测试摘要功能,必需转换成一个ChatClientAgent来进行测试。在这个例子中,SummarizationCompactionStrategy会在对话消息总数超过6条时触发摘要操作,并且至少保留最近的两条消息不被摘要,这体现在如下的输出中:

请求消息共计3条
1. [Summary]
**对话摘要:**

- 用户询问苏州今天的天气情况。
- 助手回答:苏州今天是晴天。
- 用户进一步询问气温。
- 助手回答:室外温度25℃。
- 用户又询问是否有风(当前尚未回答)。

**关键信息:**
- 地点:苏州
- 天气:晴天
- 气温:25℃
- 是否有风:待确认
2. 西北风4级。
3. 根据天气,给我一些着装建议。


根据目前的天气情况(晴天,25℃,西北风4级),给你一些穿搭建议:

### 👕 上装
- ✅ 短袖T恤、薄款衬衫都很合适
- ✅ 如果在户外活动时间较长,可以带一件**薄外套或防风外套**(有4级风,体感可能稍凉)

### 👖 下装
- ✅ 休闲裤、牛仔裤、薄款长裤
- ✅ 如果怕热,也可以穿轻薄的七分裤

### 👟 鞋子
- ✅ 运动鞋、休闲鞋都合适
- ✅ 若户外走动多,建议穿透气性好的鞋子

### ☀️ 其他建议
- 晴天紫外线较强,可戴**太阳镜、帽子**
- 记得**防晒霜**
- 风稍大,长发可适当扎起

整体来说是**舒适偏暖的天气,但有点风**,穿得轻便同时注意防风就好 😊

3. ConfigureOptionsChatClient

ConfigureOptionsChatClient的实现异常简单,它接受一个委托对象来动态地配置ChatOptions对象。在每次调用GetResponseAsync或者GetStreamingResponseAsync方法时,ConfigureOptionsChatClient都会创建一个新的ChatOptions对象,并将其传递给委托对象进行配置。配置完成之后,ConfigureOptionsChatClient会将这个ChatOptions对象传递给管道中的下一个中间件或者最终的ChatClient来生成响应。

public sealed class ConfigureOptionsChatClient : DelegatingChatClient
{
    public ConfigureOptionsChatClient(IChatClient innerClient, Action<ChatOptions> configure);
    public override async Task<ChatResponse> GetResponseAsync(
        IEnumerable<ChatMessage> messages, 
        ChatOptions? options = null, 
        CancellationToken cancellationToken = default);
    public override async IAsyncEnumerable<ChatResponseUpdate> GetStreamingResponseAsync(
        IEnumerable<ChatMessage> messages, 
        ChatOptions? options = null, 
        CancellationToken cancellationToken = default);
}

如下所示的是用于注册ConfigureOptionsChatClient中间件的ChatClientBuilder扩展方法UseConfigureOptions。该方法接受一个Action<ChatOptions>类型的委托对象来指定如何配置ChatOptions对象,并且还接受一个可选的configure参数来对ConfigureOptionsChatClient进行一些额外的配置。

public static class ConfigureOptionsChatClientBuilderExtensions
{
    public static ChatClientBuilder ConfigureOptions(
        this ChatClientBuilder builder, 
        Action<ChatOptions> configure);
}

4. AIContextProviderChatClient

AIContextProviderChatClient是一个内部类型,创建该对象的时候需要指定一组AIContextProvider对象。在每次调用GetResponseAsync或者GetStreamingResponseAsync方法时,AIContextProviderChatClient根据传入的消息列表,以及从ChatOptions提取出来的工具集和系统指令,创建一个AIContext,并将其传递给每一个注册的AIContextProvider对象的InvokingAsync方法来生成一个增强的AIContext对象,该对象返回的消息列表将会替换原来的消息列表,演示实例针对消息列表的摘要就是通过这种方式来实现的。AIContext中的系统指令和工具集回到ChatOptions中。

internal sealed class AIContextProviderChatClient : DelegatingChatClient
{
    public AIContextProviderChatClient(IChatClient innerClient, IReadOnlyList<AIContextProvider> providers);

    public override async Task<ChatResponse> GetResponseAsync(
        IEnumerable<ChatMessage> messages,
        ChatOptions? options = null,
        CancellationToken cancellationToken = default);
    public override async IAsyncEnumerable<ChatResponseUpdate> GetStreamingResponseAsync(
        IEnumerable<ChatMessage> messages,
        ChatOptions? options = null,
        CancellationToken cancellationToken = default);
}

综上所述,当InnerClient被调用的时候,它使用的是增强的请求消息、系统指令和工具集。调用完成后,不论是否发生异常,AIContextProviderChatClient都会创建一个AIContextProvider.InvokedContext对象,并将其作为参数传递给每一个注册的AIContextProvider对象的InvokedAsync方法来进行一些清理工作。

由于AIContextProviderChatClient是一个内部类型,我们只能通过下面的ChatClientBuilder扩展方法UseAIContextProviders来注册AIContextProviderChatClient中间件,从而间接地利用AIContextProviderChatClient来增强我们的IChatClient对象。

public static class AIContextProviderChatClientBuilderExtensions
{
    public static ChatClientBuilder UseAIContextProviders
        this ChatClientBuilder builder, 
        params AIContextProvider[] providers);
}