

























最近在开发一个小说系统,里面有Agent系统。
但是目前在记忆管理时遇到了问题。
如何给AI发送记忆,但是又不占用太多上下文窗口?
我不知道我的描述是否准确,所以我举个例子。
比如我和AI对话了100轮,那这100轮的聊天记录就是这次会话的记忆。
新对话请求时,都把100轮对话发给AI,那么它就会有之前对话的记忆
但问题是AI的输入上下文有限,且一次性发送一大堆给AI就会导致模型注意力变差,所以我目前的方案是 每次只发送15轮对话给AI + 之前所有对话的总结摘要
我不知道这种方式是否合理,我也是问了GPT才这么做的,所以想问问有经验的大佬们是怎么做的。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。