RAGRerankKnowledge BaseNbility

给知识库加 Rerank,先看答案有没有进候选集

用一组带例外条款的公开素材,分清知识库召回、重排和回答的职责,检查 top_n、分数阈值与来源映射,避免用重排掩盖缺失的证据。

查看接入文档
给知识库加 Rerank,先看答案有没有进候选集

知识库已经能回答大部分问题,遇到例外条款却总答错。加一个 Rerank 模型可能有用,前提是:支持正确答案的片段,已经在传给它的候选列表里。 重排可以调整顺序,无法把没收到的文档补回来。

本文于 2026 年 11 月 13 日重新查阅 Cohere 的重排指南和本站 Rerank API。下面用公开教学条款说明怎样检查,没有调用真实重排模型,也没有测量知识库准确率。它接着PDF 引用链检查往下走,专门回答“该调召回,还是该调重排”。

给问题安排一个容易漏掉的例外

准备三条教学片段,保留稳定的标识。这些内容不代表任何商家的退货政策。

[
  {"id":"policy-general","text":"未开封的普通商品,可在签收后七天内申请退货。"},
  {"id":"policy-custom","text":"定制商品不适用普通商品的七天规则,需要人工审核。"},
  {"id":"policy-delivery","text":"商品发出后,可通过订单页查看物流。"}
]

问题用“定制商品未开封,能按七天规则直接退货吗?”目标是让答案处理定制例外;如果同时引用普通规则,就必须保留它的适用条件。只回答“未开封可以退”,即使引用了一份真实文档,也没完成任务。

先看重排前的列表。假如只有 policy-general 和 policy-delivery,问题在更早的环节:例外没被提取、分段遗漏、筛选排除了它,或者召回没选中。此时调高重排模型档位,没有证据证明能解决问题。

提取、候选集、重排、回答四处分别检查例外是否保留

候选多一点,给模型的上下文少一点

召回与最终上下文不必用同一个数量。可以先取一批符合权限和版本要求的候选,再重排,最后保留少量有用片段。数量需要按文档特点和任务试;这里不给一个放到所有系统都合适的数字。

Cohere 当前指南把 query、documents 和 top_n 分开:前两项决定拿什么比较,top_n 决定返回多少条。只把 top_n 从 2 改为 10,不会让搜索阶段多找八份资料。

通过 Nbility 调用时,按本站接口构造请求;Cohere 原生端点、模型名称和参数范围不要直接当成本站所有渠道的契约。以下为未执行的请求示例,模型 ID 需从自己的可用范围中选择:

curl --fail-with-body https://api.nbility.ai/v1/rerank   -H "Authorization: Bearer $NBILITY_API_KEY"   -H "Content-Type: application/json"   -d '{
    "model": "YOUR_RERANK_MODEL",
    "query": "定制商品未开封,能按七天规则直接退货吗?",
    "documents": [
      "未开封的普通商品,可在签收后七天内申请退货。",
      "定制商品不适用普通商品的七天规则,需要人工审核。",
      "商品发出后,可通过订单页查看物流。"
    ],
    "top_n": 2,
    "return_documents": true
  }'

知识库若刚换过 Embedding,先沿模型、维度和旧索引核对。向量表示不兼容造成的召回异常,和候选排序不好,是两种不同的问题。

分数高,不代表答案已经可靠

Cohere 的解释指出,相关性分数依赖问题与候选内容。本站文档也提醒,不同模型的分数不适合直接横比,不能把它当成“答案正确的概率”。

某个片段排第一,只能说明它在这次排序里位置靠前。它仍可能来自旧制度、缺失上下文,或没有回答那个关键例外。全部候选都不相关时,系统也可能排出第一名。

排序、业务筛选与证据支持分别判断,第一名不能直接替代事实核查

阈值应由自己的问题集决定。保留普通问法、同义表达、带例外的问题,以及资料里根本没有答案的问题;同时观察错收和漏收,避免只让几道容易题通过。长文档的切块、截断和最大长度随具体模型变化,也要记录,不能把一种模型的规则扩展到整个接口。

排完以后,别把来源编号弄丢

本站响应中的 index 对应本次输入 documents 的位置。应用需要用这个位置找回原来的文档 ID、片段 ID、版本与访问范围。若先过滤候选再重排,就应对照过滤后的列表,不要再按最初搜索列表的序号取来源。

这里有一个常见风险:正文顺序已经变了,引用仍按旧顺序拼接。读者得到的链接确实存在,却支持不了那句话。可以在临时样例里人为交换候选位置,检查最终引用是否仍跟着同一条 id 走。

输入位置映射到稳定片段标识,再带版本进入最终引用

上线前留三类结果:相关证据进入了候选吗,重排后仍留在上下文吗,最终答案有没有准确使用它。对于“人工审核多久”这类素材没有说明的问题,系统应指出缺少信息,而不是从相近条款猜一个时长。

需要调整 API 连接时,可回到接入基础。先把候选覆盖和来源映射查清,再比较重排模型;这样即使最后决定换模型,也知道要改善的是哪一步。

相关文章

用 Nbility 跑通你的 Agent 工作流

获取 API Key,统一接入 OpenAI 兼容模型和开发工具。

获取 API Key