接完 RAG 却发现答非所问?2 个参数卡住 7 天,别慌
昨晚加班到十点,你盯着屏幕上的 Agent 结果直犯嘀咕:明明把知识库里的文档都塞进去了,为什么它反而给出了一个不是事实的答案?问题出在哪?你以为只是把向量存进去那么简单,但实际上,时间早就在查询阶段被浪费掉了。 很多人把 RAG 想得太简单。其实这只是第一步。真正卡人的是后面 2 个关键动作:检索和重排。 有位工程师分享过他的真实踩坑经历。他在 2026 年 9 月尝试接入这套系统,前 5 天都在调模型。直到第 7 天,他才意识到:问题不在模型,而在索引和上下文的处理。他检查了生成的向量维度,发现默认是 512 维,但换用 1024 维后,语义匹配准确率从 0.5 提升到了 0.8。 ...