惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

WordPress大学
WordPress大学
博客园 - 司徒正美
宝玉的分享
宝玉的分享
阮一峰的网络日志
阮一峰的网络日志
The Cloudflare Blog
月光博客
月光博客
博客园 - 【当耐特】
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
博客园 - 三生石上(FineUI控件)
博客园 - 聂微东
小众软件
小众软件
Hugging Face - Blog
Hugging Face - Blog
酷 壳 – CoolShell
酷 壳 – CoolShell
Apple Machine Learning Research
Apple Machine Learning Research
V
V2EX
Jina AI
Jina AI
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
罗磊的独立博客
雷峰网
雷峰网
博客园 - 叶小钗
量子位
IT之家
IT之家

博客园 - ExplorerMan

大模型AI-LoopEngineering harness 工程 大模型sft微调参数优化2 大模型RAG实战,从被骂不靠谱到成为部门MVP,这是我的踩坑全记录【转】 推荐 Prompt 模板(大幅提升 JSON 质量) 渐进式SFT内化 [推荐]双塔模型(介绍) Agno - 轻量级Python多智能体系统框架 Open WebUI:打造友好且强大的自托管 AI 平台 【gradio】使用Gradio快速开发前端界面:基础知识 大模型RAG的上下文压缩与过滤 SemanticChunker 语义相似拆分 基于LangChain 实现 Advanced RAG-后检索优化(上)-Reranker 基于LangChain 实现 Advanced RAG-后检索优化(下)-上下文压缩与过滤 多Agent协作入门:基于A2A协议的Agent通信(中) ollama部署与open-webui 0基础也能看懂!从0到1手把手教你本地部署大模型Ollama 什么是 AutoModel 大模型基础应用框架(ReACT\SFT\RAG)技术创新及零售业务落地应用 - ExplorerMan - 博客园 多模态Embedding模型:从文本到多模态的全面选型指南! rag 查询检索轮换
文本切割方案进化概览:从“机械切割”到“智能解构”
ExplorerMan · 2025-10-11 · via 博客园 - ExplorerMan

文档分块技术已经走过了三个主要时代,目前正迈向第四个:

V1.0 机械时代:

方法: 固定长度分块、字符/Token分块。

缺陷: 完全无视语义和逻辑,粗暴地将文本切开,导致大量上下文丢失和知识破碎。(已被业界淘汰)

V2.0 结构化时代:

方法: 递归字符分块 (RecursiveCharacterTextSplitter)、基于Markdown/HTML等结构化标记的分块。

理念: 尊重文档的“物理”结构,如段落、标题、列表。这是目前应用最广泛的基础方案。

V3.0 语义时代:

方法: 基于句子嵌入的语义相似度分块、命题化分块。

理念: 从“物理”结构深入到“意义”层面,让语义相似的内容聚合在一起。这是当前的主流进阶方案。

V4.0 代理时代:

方法: 授权给一个专门的LLM Agent,让它根据对文档的“理解”,自主决定最优的分块策略。

理念: 将分块本身视为一个复杂的推理任务,是目前最前沿的探索方向。