GEOFlow LLM 语义规划切片并非默认策略,它的核心价值在于处理长文档或结构复杂、跨章节语义紧密的资料。对于格式清晰、层级稳定的知识库,结构化规则切片更稳定、更低成本。
适合什么场景?
从业务资料类型看,以下条件同时出现时更适合启用语义规划:
- 单篇文档超过数千字,段落间逻辑边界不总与标题或空行一致
- 资料存在多级标题嵌套、列表、代码块等混合结构
- 知识库内容需要保持较高的语义完整性,避免将紧密关联的段落切散
- 后续 RAG 召回时希望切片带有更连贯的上下文,而不是硬截断 典型长文档包括长教程、技术说明书、条款政策和研究型内容。
工作机制是怎样的?
GEOFlow 语义规划的本质重点在于根据原文内容预测合理的切片边界。流程可概括为:
- 系统将原文发送给配置的聊天模型
- 模型返回边界位置的建议(如哪些标题、段落或自然分割点作为起止)
- 系统根据返回的边界从原始文本中截取片段并重建切片
- 最终入库的切片完全来自原文,保证可追溯性 这样做的好处是兼顾语义完整性与成本:LLM 只做规划,不生成新内容,输出依然可核验。
成本考量与模型选择建议
语义规划会增加额外的模型调用成本,因此官方建议使用速度快、成本低且上下文覆盖足够的聊天模型,例如轻量级的 Gemini 或兼容 OpenAI 的模型。语义规划仅需边界判断,不需要最重的推理模型。 实际部署时,建议先评估知识库是否需要语义切片。如果规则切片已经能满足召回质量,就无需为所有知识库开启语义规划,从而避免无意义的算力消耗。
回退策略如何保证入库安全?
可靠性设计是语义规划的重要组成部分。系统在遇到以下情况时会自动回退到结构化规则切片:
- 模型调用超时
- 返回的 JSON 格式不合法
- 规划出的边界数量异常(如过少或过多)
- 边界结果无法准确映射回原文 回退后知识库仍会正常入库,不会因为语义规划失败而中断流程。每个切片还会附带元数据(标题、章节路径、策略类型、序号、token 估算和 source hash),便于事后排查和检索优化。
常见问题
为什么语义切片没有生效? 先检查 AI 模型设置中是否选择了“LLM 语义规划”,并确认已配置可用的聊天模型作为规划模型。即使规划失败,系统也会回退,不会静默放弃入库。 是否应该将所有知识库都改为语义规划? 不建议。对于结构清晰的资料,规则切片稳定性更好且零额外成本。只在长文档或结构复杂资料上按需启用,才能平衡效果与开销。