GEOFlow 的固定模型适合追求成本可预测与输出一致性的任务,智能故障切换适合更看重连续可用性的生产链路。选择时应同时评估失败率、备用模型质量、调用价格和额外延迟。
稳定性与成本对比
在 GEOFlow 中,固定模式(fixed)仅向指定主模型发送请求,主模型不可用时任务直接失败。智能故障切换(smart_failover)在主模型调用失败后,按优先级列表依次尝试后备模型,直至成功或全部尝试完毕。Embedding 模型与知识库切片不受影响,拥有独立容错策略,语义切片失败时自动回退到规则切片。
固定模式无降级路径,输出风格与质量高度一致,成本完全由调用量决定,可预测性强。智能故障切换任务可用性更高,但切换后的模型能力差异可能引起输出波动,且重试与切换会带来额外耗时。若备用模型计费层级不同或单价更高,故障频发时总成本会上升,建议提前评估后备模型价格。
选择建议
成本敏感、内容一致性要求高的轻量任务优先使用固定模式。官方建议标题生成通常更适合快模型,fixed 即可胜任。
长文正文生成、复杂策略规划等耗时较长的任务,以及需要高成功率的自动化流水线,推荐开启智能故障切换,避免因主模型瞬时不可用而从头重生成。
渐进式启用策略:先把主模型跑稳,再启用智能切换,并清晰设置后备模型优先级。
配置验证
- 保存模型配置并完成连接测试。
- 构造主模型失败场景(例如填写错误 API Key),观察是否自动切换到第一个后备模型。
- 检查日志,确认任务未被标记为失败且最终输出来自后备模型。
- 恢复主模型配置后,确认系统重新使用主模型。
常见问题
问:smart_failover 会在正常状态下随机切换模型吗?
答:不会。仅当主模型请求明确返回失败时才会触发切换,正常运行期间始终使用主模型。
问:语义切片失败回退与模型故障切换有何关系?
答:两者属于独立的容错层次。切片规划失败时回退到规则切片,保障入库不中断;模型故障切换则解决聊天模型调用高可用问题,二者可独立配置。