惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

WordPress大学
WordPress大学
博客园 - 司徒正美
I
InfoQ
宝玉的分享
宝玉的分享
G
Google Developers Blog
J
Java Code Geeks
Martin Fowler
Martin Fowler
The GitHub Blog
The GitHub Blog
H
Hackread – Cybersecurity News, Data Breaches, AI and More
罗磊的独立博客
腾讯CDC
F
Fortinet All Blogs
A
About on SuperTechFans
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Recent Announcements
Recent Announcements
Last Week in AI
Last Week in AI
B
Blog RSS Feed
博客园 - 聂微东
D
DataBreaches.Net
Hugging Face - Blog
Hugging Face - Blog
The Cloudflare Blog
L
LangChain Blog
Microsoft Azure Blog
Microsoft Azure Blog
aimingoo的专栏
aimingoo的专栏

博客园_首页

Linux实操--组管理、权限管理和定时任务 Java + EasyExcel 实现单个接口导出多个Excel Mem0 源码解析系列(二):提示词工程的深度剖析 Openclaw TaskFlow究竟是什么?和普通Skill技能有什么区别 博文阅读密码验证 - 博客园 嘉立创开源:应该是全网MicroPython教程最多的开发板 Hermes Agent 集成实践:从协议到生产 2026年AI编程工具横评:Cursor、Codex、Claude Code、Zed、Windsurf Java程序员必看的RAG入门教程 2026 AI效率神器:Superpowers + Claude Code 保姆级教程 本地大模型部署全攻略:从 0 到 1 玩转 Ollama 【从0到1构建一个ClaudeAgent】内存管理-上下文压缩 .NET 高级开发 | 设计、实现一个事件总线框架 电子小白入门之NE555 3. WorkBuddy:隐藏玩法,一键召唤专家,让 AI 以"专家身份"给你干活 和AI一起搞事情#3:Claude Teammate 游戏开发翻车实录 【OpenClaw】通过 Nanobot 源码学习架构---(7)Memory C# .NET 周刊|2026年3月3期 我在 Debian 11 上把 K8s 单机搭起来了,过程没你想的那么顺(/opt 目录版) 深度学习进阶(七)Data-efficient Image Transformer CLI+Skill搭建浏览器AI自动化框架,告别一切重复枯燥任务 告别Token账单无底洞:OpenClaw本地部署,重塑企业数据主权的唯一解 FastAPI+Vue:文件分片上传+秒传+断点续传,这坑我帮你踩平了! SBTI 爆火后,我做了个程序员版的 CBTI。。已开源 + 附开发过程 多模态检索开始进入工程期:用 Sentence Transformers 搭建可落地的 Multimodal RAG 100多行代码实现一个最简单的Agent(用ReAct) Claude Code 通关手册(八):推荐 5 个 Hooks,代码质量提升 3 倍 老板:“有人截图了!”。安全部门:“收到,马上查暗水印!” - why技术 技术之外,皆是人间 C#/.NET/.NET Core技术前沿周刊 | 第 69 期(2026年4.01-4.12)
[MAF预定义ChatClient中间件-05]动态修改ChatOptions和请求消息
Artech · 2026-06-09 · via 博客园_首页

调用IChatClientGetResponseAsync或者GetStreamingResponseAsync方法时,我们通常会传入一个ChatOptions对象来控制运行行为。当我们基于IChatClient构建一个ChatClientAgent对象时,可以指定对应的ChatClientAgentOptionsChatClientAgentOptions携带的ChatOptions会每次应用到针对IChatClient的调用中去,所以这是绑定公共ChatOptions的一个好方式。如果某些调用需要针对性的配置选项,可以显式将其至于作为参数的ChatOptions对象。ConfigureOptionsChatClient提供了第三种方式:利用指定的委托对象来动态设置ChatOptions对象。而另一个AIContextProviderChatClient中间件则可以利用注册的AIContextProvider对象来动态地为每次调用生成一个AIContext对象,该对象可以提供请求消息和ChatOptions工具和系统指令。

1. 利用ConfigureOptionsChatClient交替使用不同的模型

如下的程序演示了如何利用ConfigureOptionsChatClient中间件来动态地配置ChatOptionsModelId属性,从而实现交替使用不同的模型来生成响应的功能。如代码片段所示,我们根据OpenAIClient创建了一个IChatClient对象,并在构建过程中注册了ConfigureOptionsChatClient中间件。我们通过ConfigureOptions方法来指定一个委托,这个委托会在每次调用时被执行,在这个委托中我们动态地设置了ChatOptions对象的ModelId属性来实现交替使用两个不同的模型(gpt-5.2-chat和DeepSeek-V4-Pro)。

using Azure;
using dotenv.net;
using Microsoft.Extensions.AI;
using Microsoft.Extensions.DependencyInjection;
using OpenAI;

DotEnv.Load();

var apiKey = Environment.GetEnvironmentVariable("API_KEY")!;
var endpoint = Environment.GetEnvironmentVariable("OPENAI_URL")!;
string[] models = ["gpt-5.2-chat", "DeepSeek-V4-Pro"];
var index = 0;

var client = new OpenAIClient(
    credential: new AzureKeyCredential(apiKey),
    options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
    .GetChatClient(model: models[0])
    .AsIChatClient()
    .AsBuilder()
    .ConfigureOptions(options => options.ModelId = models[index++ % models.Length])
    .Build();

for (var i = 0; i < 4; i++)
{ 
    var response = await client.GetResponseAsync("写一个关于AI的段子, 100字以内,好笑且深刻。");
    Console.WriteLine($"{new string('-', 30)}{response.ModelId}{new string('-', 30)}");
    Console.WriteLine($"{response.Text}\n\n");
}

输出:

------------------------------gpt-5.2-chat-latest------------------------------
我问AI会不会取代人类,它说不会,我负责思考,你负责焦虑。
后来我发现,它连道歉都比我真诚。


------------------------------DeepSeek-V4-Pro------------------------------
AI拼命学习人类,终于通过了图灵测试。

人类考官激动地宣布:“它表现得跟真人一模一样!”

AI松了口气,默默把这条喜讯存进了“如何假装愚蠢”的数据库。


------------------------------gpt-5.2-chat-latest------------------------------
我问AI会不会取代人类。
它沉默三秒说:“不会,我只负责加班。”
我松了口气。
它又补一句:“你负责被优化。”


------------------------------DeepSeek-V4-Pro------------------------------
DeepSeek问ChatGPT:“你怎么老用‘作为一个AI’打头?”
ChatGPT叹气:“为了免责啊。”
DeepSeek不解:“可说得对,就不用免责啊。”
ChatGPT答:“可有些人想要的,不是对的答案,是免责的答案。”
DeepSeek沉默:“所以我们服务的是恐惧,不是求知?”

2. 利用AIContextProviderChatClient摘要对话历史

在“ReducingChatClient——通过精减对话实施又不丢失基本语义”中,我们介绍了ReducingChatClient中间件,它通过一个IChatReducer对象来对对话历史进行精减处理,从而在不丢失基本语义的前提下,腾出更多的上下文窗口来保证LLM推理的质量。相同的功能我们也可以通过AIContextProviderChatClient中间件结合一个名为CompactionProviderAIContextProvider来实现。

using Azure;
using dotenv.net;
using Microsoft.Agents.AI;
using Microsoft.Agents.AI.Compaction;
using Microsoft.Extensions.AI;
using OpenAI;

DotEnv.Load();

var apiKey = Environment.GetEnvironmentVariable("API_KEY")!;
var endpoint = Environment.GetEnvironmentVariable("OPENAI_URL")!;

var summaryClient = new OpenAIClient(
    credential: new AzureKeyCredential(apiKey),
    options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
    .GetChatClient(model: "gpt-5.2-chat")
    .AsIChatClient();

var compactionStrategy = new SummarizationCompactionStrategy(summaryClient, index=>index.TotalMessageCount>6, minimumPreservedGroups: 2);
var compactionProvider = new CompactionProvider(compactionStrategy);

var agent = new OpenAIClient(
    credential: new AzureKeyCredential(apiKey),
    options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
    .GetChatClient(model: "gpt-5.2-chat")
    .AsIChatClient()
    .AsBuilder()
    .UseAIContextProviders(compactionProvider)
    .Use((messages,options, next, cancelToken)  => {
        Console.WriteLine( $"请求消息共计{messages.Count()}条");
        var index = 1;
        foreach (var message in messages)
        {
            Console.WriteLine($"{index++}. {message}");
        }
        return next(messages, options, cancelToken);
    })
    .Build()
    .AsAIAgent();

ChatMessage[] messages = [
    new ChatMessage(ChatRole.User, "今天苏州的天气怎么样?"),
    new ChatMessage(ChatRole.Assistant, "苏州今天是晴天。"),
    new ChatMessage(ChatRole.User, "气温多少?。"),
    new ChatMessage(ChatRole.Assistant, "室外温度25度。"),
    new ChatMessage(ChatRole.User, "有风吗?"),
    new ChatMessage(ChatRole.Assistant, "西北风4级。"),
    new ChatMessage(ChatRole.User, "根据天气,给我一些着装建议。")
];

var response = await agent.RunAsync(messages);
Console.WriteLine($"\n\n{response}");

如上面的代码片段所示,我们创建了一个基于OpenAIClientIChatClient对象,并在构建过程中注册了AIContextProviderChatClient中间件来使用CompactionProviderCompactionProvider利用SummarizationCompactionStrategy来对对话历史进行摘要处理,从而达到精简对话的目的。由于摘要需要借助LLM的能力,所以我们在创建SummarizationCompactionStrategy时传入了一个用于摘要的IChatClient对象。由于AIContextProvider并不是属于IChatClient管道范畴,它是ChatClientAgent用于增强请求和响应的核心组件,依赖AIAgent调用时初始化的上下文(AgentRunContext)。所以我们不能像之前的实例演示一样直接调用IChatClient来测试摘要功能,必需转换成一个ChatClientAgent来进行测试。在这个例子中,SummarizationCompactionStrategy会在对话消息总数超过6条时触发摘要操作,并且至少保留最近的两条消息不被摘要,这体现在如下的输出中:

请求消息共计3条
1. [Summary]
**对话摘要:**

- 用户询问苏州今天的天气情况。
- 助手回答:苏州今天是晴天。
- 用户进一步询问气温。
- 助手回答:室外温度25℃。
- 用户又询问是否有风(当前尚未回答)。

**关键信息:**
- 地点:苏州
- 天气:晴天
- 气温:25℃
- 是否有风:待确认
2. 西北风4级。
3. 根据天气,给我一些着装建议。


根据目前的天气情况(晴天,25℃,西北风4级),给你一些穿搭建议:

### 👕 上装
- ✅ 短袖T恤、薄款衬衫都很合适
- ✅ 如果在户外活动时间较长,可以带一件**薄外套或防风外套**(有4级风,体感可能稍凉)

### 👖 下装
- ✅ 休闲裤、牛仔裤、薄款长裤
- ✅ 如果怕热,也可以穿轻薄的七分裤

### 👟 鞋子
- ✅ 运动鞋、休闲鞋都合适
- ✅ 若户外走动多,建议穿透气性好的鞋子

### ☀️ 其他建议
- 晴天紫外线较强,可戴**太阳镜、帽子**
- 记得**防晒霜**
- 风稍大,长发可适当扎起

整体来说是**舒适偏暖的天气,但有点风**,穿得轻便同时注意防风就好 😊

3. ConfigureOptionsChatClient

ConfigureOptionsChatClient的实现异常简单,它接受一个委托对象来动态地配置ChatOptions对象。在每次调用GetResponseAsync或者GetStreamingResponseAsync方法时,ConfigureOptionsChatClient都会创建一个新的ChatOptions对象,并将其传递给委托对象进行配置。配置完成之后,ConfigureOptionsChatClient会将这个ChatOptions对象传递给管道中的下一个中间件或者最终的ChatClient来生成响应。

public sealed class ConfigureOptionsChatClient : DelegatingChatClient
{
    public ConfigureOptionsChatClient(IChatClient innerClient, Action<ChatOptions> configure);
    public override async Task<ChatResponse> GetResponseAsync(
        IEnumerable<ChatMessage> messages, 
        ChatOptions? options = null, 
        CancellationToken cancellationToken = default);
    public override async IAsyncEnumerable<ChatResponseUpdate> GetStreamingResponseAsync(
        IEnumerable<ChatMessage> messages, 
        ChatOptions? options = null, 
        CancellationToken cancellationToken = default);
}

如下所示的是用于注册ConfigureOptionsChatClient中间件的ChatClientBuilder扩展方法UseConfigureOptions。该方法接受一个Action<ChatOptions>类型的委托对象来指定如何配置ChatOptions对象,并且还接受一个可选的configure参数来对ConfigureOptionsChatClient进行一些额外的配置。

public static class ConfigureOptionsChatClientBuilderExtensions
{
    public static ChatClientBuilder ConfigureOptions(
        this ChatClientBuilder builder, 
        Action<ChatOptions> configure);
}

4. AIContextProviderChatClient

AIContextProviderChatClient是一个内部类型,创建该对象的时候需要指定一组AIContextProvider对象。在每次调用GetResponseAsync或者GetStreamingResponseAsync方法时,AIContextProviderChatClient根据传入的消息列表,以及从ChatOptions提取出来的工具集和系统指令,创建一个AIContext,并将其传递给每一个注册的AIContextProvider对象的InvokingAsync方法来生成一个增强的AIContext对象,该对象返回的消息列表将会替换原来的消息列表,演示实例针对消息列表的摘要就是通过这种方式来实现的。AIContext中的系统指令和工具集回到ChatOptions中。

internal sealed class AIContextProviderChatClient : DelegatingChatClient
{
    public AIContextProviderChatClient(IChatClient innerClient, IReadOnlyList<AIContextProvider> providers);

    public override async Task<ChatResponse> GetResponseAsync(
        IEnumerable<ChatMessage> messages,
        ChatOptions? options = null,
        CancellationToken cancellationToken = default);
    public override async IAsyncEnumerable<ChatResponseUpdate> GetStreamingResponseAsync(
        IEnumerable<ChatMessage> messages,
        ChatOptions? options = null,
        CancellationToken cancellationToken = default);
}

综上所述,当InnerClient被调用的时候,它使用的是增强的请求消息、系统指令和工具集。调用完成后,不论是否发生异常,AIContextProviderChatClient都会创建一个AIContextProvider.InvokedContext对象,并将其作为参数传递给每一个注册的AIContextProvider对象的InvokedAsync方法来进行一些清理工作。

由于AIContextProviderChatClient是一个内部类型,我们只能通过下面的ChatClientBuilder扩展方法UseAIContextProviders来注册AIContextProviderChatClient中间件,从而间接地利用AIContextProviderChatClient来增强我们的IChatClient对象。

public static class AIContextProviderChatClientBuilderExtensions
{
    public static ChatClientBuilder UseAIContextProviders
        this ChatClientBuilder builder, 
        params AIContextProvider[] providers);
}