哪种 reranker 适合你的场景？
reranker 并非一刀切。正确选择取决于语言覆盖、延迟预算、数据敏感度，以及你的查询更像客服工单、法律条款、代码检索还是RAG 分块。
场景矩阵
| 场景 | 典型难点 | 起步推荐 | 运行位置 |
|---|---|---|---|
| RAG 流水线 | 向量召回噪声大，需要 top-5 精度 | 自建可用 bge-reranker-v2-m3 或 Qwen3-Reranker-4B；托管 API 可用 Cohere Rerank 4 或 Voyage rerank-3 | CPU 或 GPU / 托管 API |
| 中文与多语言 | 查询和文档混合多种语言 | Qwen3-Reranker、bge-reranker-v2-m3 或 gte-multilingual-reranker-base；在国内可用阿里云百炼或硅基流动 | 自建 / 国内 API |
| 客服工单 | 大量相似 FAQ，要求快速响应 | 英文场景用 jina-reranker-v1-tiny-en 或 ms-marco MiniLM，托管 API 用 Cohere Rerank 4 Fast | CPU、浏览器或 API |
| 法律 / 合同 | 措辞细微，干扰项共享词汇 | 能跟随指令的重排序模型：Qwen3-Reranker、Voyage rerank-3，非商用场景也可用 Contextual AI Rerank v2 | 自托管 / API |
| 代码与 API 文档 | 精确标识符与语法很重要 | BM25 + 向量混合检索，再用 Qwen3-Reranker 或 Voyage rerank-3 重排序 | 混合检索 + 重排序 |
| 扫描 PDF、幻灯片、截图 | 文字在图片里，或版面本身带有信息 | Qwen3-VL-Reranker 或 LightOn-rerank | GPU |
每个推荐都链接到对应的页面或表格行，那里列有厂商自己的数字和测试方法。但这些都替代不了用你自己的查询做测试 —— 见如何评估重排序模型。
RAG 与知识库
先召回 50–100 个分块，重排序后留 5–10 个，再交给大模型。没有 GPU 时，自建通常默认用 bge-reranker-v2-m3；有 GPU 就用 Qwen3-Reranker-4B，在 Qwen 自己的测试里它在英文上比 8B 还好。托管 API 方面，Cohere Rerank 4 按检索次数计费，Voyage rerank-3 按 token 计费 —— 成本计算器能算出在你的量级下哪个更便宜。需要关键词精确匹配时，见RAG 中的重排序和混合检索。
经验法则：bi-encoder 召回已经够好，中等 reranker 即可；召回很乱时，先加宽检索。
中文与多语言
经典的小模型 —— ms-marco MiniLM、Jina v1、mxbai v1 —— 只用英文训练。Qwen3-Reranker（100 多种语言）、bge-reranker-v2-m3 和 306M 的 gte-multilingual-reranker-base（70 多种语言）是为多语言训练的。如果服务器在国内、又不想自己部署模型，阿里云百炼按 token 以人民币出售 qwen3-rerank，硅基流动用同一个接口提供 bge-reranker-v2-m3 和 Qwen3-Reranker；两者都在模型对比表和成本计算器的人民币表里。在国内下载开源权重，可以用 Hugging Face 的镜像 hf-mirror.com。国内选型指南详细对比了这三条路。
客服工单
查询很短，段落只有 FAQ 那么长，延迟决定体验。英文场景下，一个极小的 cross-encoder（Jina v1 tiny、ms-marco MiniLM）往往就够了 —— 你是在几条相似答案里挑一条，而不是读 100 页的 PDF。其他语言先从 bge-reranker-v2-m3 开始。可以在 Demo 里试试客服预设。
法律与合规
干扰项和正确答案用词相同（“终止”“通知期”“违约”）。bi-encoder 容易混淆它们；cross-encoder 能分辨细微差别，而能跟随指令的重排序模型还能让你说明什么才算相关 —— 例如“规定无故终止的条款”“后来的修订取代先前的”。Qwen3-Reranker 和 Voyage rerank-3 支持指令；Contextual AI Rerank v2 的权重仅限非商用。为更大的模型预留延迟，并把段落切成单条条款。Demo 预设：法律条款。
代码与技术文档
单靠向量检索会漏掉精确的函数名；单靠 BM25 会漏掉换了说法的“怎么……”类问题。先做混合检索，再重排序。Qwen 公布了 Qwen3-Reranker 的代码检索分数（见 Qwen 页面），Voyage 也公布了 rerank-3 在自家代码数据集上相对 rerank-2.5 的提升（见 Voyage 页面）。Demo 预设：技术文档和代码搜索。
扫描 PDF、幻灯片和截图
如果你的文档是页面图片 —— 扫描件、幻灯片、仪表盘 —— 文本重排序模型只能看到 OCR 提取出来的内容。Qwen3-VL-Reranker（2B / 8B）和 LightOn-rerank 直接给页面图片打分，都是 Apache 2.0 许可，阿里云还以 API 形式提供 qwen3-vl-rerank。它们公布的分数来自视觉文档基准 ViDoRe，所以应该互相比较，而不是和 BEIR 那一列比。
在 Demo 中试用
下列场景对应内置预设 —— 载入后点重排序，看 bi-encoder 代理列先排错，再由 cross-encoder 纠正。