标签

#上下文

1 篇文章

api-开发fastapigcpgithubk8smcpnginxopenairagyixue上下文向量对话代码流式爬虫环境配置
AI 大模型开发

多段AI记忆拼接与上下文压缩(初步)

目录 [[toc]] 方案设计 对上面每一个管理器都是非常值得深入研究的。 **MemoryStore(多段记忆存储)** • 持久化存储各段摘要(可以用 Redis/数据库/文件),并支持检索和插入 **Summarizer(摘要生成)** • 将超长对话块压缩成简短摘要,保持语义(专门的 LLM 或本地模型) **ContextManager(窗口裁剪 + 多段拼接)** 保证拼接到模型的上下文长度 ≤ token 限制 裁剪最新…

·17 min read
多段AI记忆拼接与上下文压缩(初步)