重排序模型对比
生产环境往往混用 cross-encoder、listwise 模型、late-interaction 以及指令跟随重排序器。2026 年最值得注意的一点是:参数量不再预测质量 —— 0.6B 的 listwise 模型(Jina v3.5)在 Jina 自己的测试里,BEIR 略高于 Qwen3-Reranker-4B,而在 Qwen 自己的测试里,4B 在英文检索上胜过自家的 8B。下表对比架构、延迟、语言与成本,凡评测协议不一致处均如实标注。
| 模型 | 架构 | 类型 | 最适合 | 语言 | 典型延迟 50 条文档 | 价格 | BEIR NDCG@10 | 试用 |
|---|---|---|---|---|---|---|---|---|
| Qwen3-Reranker-4B | Cross-encoder | Apache 2.0Qwen3 最佳档位 | 三者中英文得分最高;支持指令(需 GPU) | 100+ 种语言 · 32K 上下文 | GPU required | 免费(自建) | MTEB-R 69.76* | — |
| Qwen3-Reranker-8B | Cross-encoder | Apache 2.0 | 最大的 Qwen3 —— 中文、多语言、长文档和代码上领先;英文上 4B 略胜 | 100+ 种语言 · 32K 上下文 | GPU / 多 GPU | 免费(自建) | MTEB-R 69.02* | — |
| Qwen3-Reranker-0.6B | Cross-encoder | Apache 2.0 | 最轻 Qwen3;舒适运行仍需 GPU | 100+ 种语言 · 32K 上下文 | 建议 GPU | 免费(自建) | MTEB-R 65.80* | — |
| bge-reranker-v2-m3 | Cross-encoder | 开源权重 | 经过验证的自建默认;CPU 友好 | 100+ 种语言 | CPU 可运行;GPU 更快 | 免费(自建) | 55.36* | — |
| mxbai-rerank-large-v1 | Cross-encoder | 开源权重 浏览器可跑 ✓ |
上一代;xsmall 仍驱动浏览器 Demo | 英文 | CPU 可运行;GPU 更快 | 免费(自建) | 49.32* | |
| mxbai-rerank-large-v2 | Cross-encoder | 开源权重多语言 | mxbai 最强一代;支持多语言,含中文 | 100+ 种语言 | 建议 GPU | 免费(自建) | 57.49* | — |
| mxbai-rerank-base-v2 | Cross-encoder | 开源权重多语言 | v2 代中体积与质量的最佳平衡 | 100+ 种语言 | CPU 可运行;GPU 更快 | 免费(自建) | 55.57* | — |
| Jina Reranker v3.5 | Listwise | 托管 API权重:仅限非商用 | Jina 2026 旗舰;可直接替换 v3,速度快 1.22–1.56 倍 | 100+ 种语言 | API 或 GPU 自建 | 送试用 token,之后购买 token 包 | 63.20* | — |
| Jina Reranker v3 | Listwise | 托管 API权重:仅限非商用 | 0.6B listwise;131K 上下文内 64 篇文档;已被 v3.5 取代 | 100+ 种语言 | API 或 GPU 自建 | 送试用 token,之后购买 token 包 | 62.10* | — |
| jina-reranker v1 tiny | Cross-encoder | 开源权重 浏览器可跑 ✓ |
浏览器 / 边缘;驱动本站 Demo | 英文 | 浏览器中每 10 段约 229 ms | 免费(自建) | 48.54* | |
| Cohere Rerank 4 Pro | Cross-encoder | 托管 API | 成熟的多语言 API;32k 上下文 | 100+ 种语言 | API | $0.0025/search† | not published* | — |
| Cohere Rerank 4 Fast | Cross-encoder | 托管 API | 面向吞吐与延迟调优的同系版本 | 100+ 种语言 | API | $0.002/search† | not published* | — |
| Voyage rerank-3 | Cross-encoder | 托管 API | Voyage 当前旗舰;32k 上下文 | 多语言 | API | $0.05/M tokens† (200M free) | not published* | — |
| Voyage rerank-3-lite | Cross-encoder | 托管 API | 当前更快、更便宜的一档;32k 上下文 | 多语言 | API | $0.02/M tokens† (200M free) | not published* | — |
| Voyage rerank-2.5 | Cross-encoder | 托管 APIInstruction | 旧版;官方文档写明支持指令的就是它;32k 上下文 | 多语言 | API | $0.05/M tokens† | not published* | — |
| Voyage rerank-2.5-lite | Cross-encoder | 托管 API | 旧版的便宜一档;32k 上下文 | 多语言 | API | $0.02/M tokens† | not published* | — |
| 阿里云百炼 (qwen3-rerank) | 重排序 API | 托管 API | 阿里云托管的 Qwen 重排序模型:qwen3-rerank(最多 500 篇文档,每篇 4K token)、qwen3.7-text-rerank(每篇 30K token,仅北京地域)以及处理图片和视频的 qwen3-vl-rerank | 100+ 种语言 · qwen3.7:201 种 | API | 国内 ¥0.5/百万 token,国际 $0.1/百万 token† | not published* | — |
| 硅基流动 SiliconFlow (托管开源模型) | 重排序 API | 托管 API | 一个 rerank 接口托管 bge-reranker-v2-m3、bce-reranker-base_v1 和 Qwen3-Reranker 0.6B / 4B / 8B | 取决于所选模型 | API | bge-reranker-v2-m3 免费;Pro 版 ¥0.07/百万 token† | not published* | — |
| Google Vertex AI 排序 (semantic-ranker) | 重排序 API | 托管 API | Google Cloud 的排序 API;每条记录最多 1,024 token;默认是 semantic-ranker-default-004,005 系列自 2026 年 9 月起预览 | 25 种语言 | API | 每 1,000 次查询 $1.00† | not published* | — |
| gte-reranker-modernbert-base | Cross-encoder | 开源权重轻量 | 1.49 亿参数、8K 上下文;也能在 transformers.js 里运行 | 英文 | GPU 上快,CPU 友好 | 免费(自建) | 56.19* | — |
| gte-multilingual-reranker-base | Cross-encoder | 开源权重轻量 | 306M,8K 上下文;小巧的多语言默认之选,可用 Text Embeddings Inference 部署 | 70+ 种语言 | GPU 上快,CPU 友好 | 免费(自建) | not published* | — |
| Qwen3-VL-Reranker | Cross-encoder | 开源权重Apache 2.0 | 一个模型处理文本、图片、截图和视频;2B / 8B,32K 上下文 | 30+ 种语言 | GPU | 免费(自建) | not published* | — |
| zerank-2 | Cross-encoder | 开源权重Apache 2.0 | 4B,基于 Qwen3-4B,32K 上下文;ZeroEntropy 的 API 也提供。2026 年 7 月在 Hugging Face 上改为 Apache 2.0 许可 —— ZeroEntropy 自己的文档仍写着非商用 | 英文 | GPU | 免费(自建)/ API | not published* | — |
| llama-nemotron-rerank-1b-v2 | Cross-encoder | 开源 + NIM API | 1.2B,8K 上下文;许可允许商用。NIM 还提供更小的 llama-nemotron-rerank-500m-v2 | 多语言(评测覆盖 26 种语言) | GPU / NIM | NIM / 自建 | not published* | — |
| ms-marco MiniLM-L6 (browser) | Cross-encoder | 开源权重 浏览器可跑 ✓ |
经典基线;三个 Demo 模型中最小的(2300 万参数) | 英文 | 浏览器中每 10 段约 276 ms | 免费(自建) | 48.64* | |
| LightOn-rerank | Cross-encoderListwise | 开源权重Apache 2.0 | 一个模型同时给文本和文档页面图片打分;0.8B / 2B / 4B,逐点或列表式 | 英语 · 法语 | GPU | 免费(自建) | 49.13* | — |
| Contextual AI Rerank v2 | Instruction | 开源权重权重:仅限非商用 | 指令跟随;1B / 2B / 6B 三种尺寸 | 100+ 种语言 · 32K 上下文 | GPU | 免费(仅限非商用自建) | not published* | — |
| ColBERTv2 | Late-interaction | 开源权重 | Token MaxSim;1.5 阶段而非完整 CE | 英文 | 大规模快速重打分 | 免费(自建) | 不适用 | — |
Qwen3-Reranker
0.6B / 4B / 8B 三种尺寸,32K 上下文,Apache 2.0。建议从 4B 开始 —— 在 Qwen 自己的测试里,它在英文和指令跟随上胜过 8B,其余项目最多落后 1.5 分。
bge-reranker
智源开源权重。仍是 CPU 友好默认(v2-m3)。有 GPU 余量时与 Qwen3 对比。
Cohere Rerank 4
Pro 与 Fast 两个版本,32k 上下文,100+ 种语言。按检索次数计费:一个 query 加最多 100 篇文档,每篇按每 500 token 计一次。
Jina Reranker v3.5
0.6B 的 listwise 模型,在 Jina 自己的测试里 BEIR 为 63.20*,略高于同一测试中 Qwen3-Reranker-4B 的 62.28* —— 不过在多语言和法律 / 医疗检索上仍是 4B 领先。商用自建部署需要另购许可。v1-tiny(Apache 2.0)仍在驱动我们的 Demo。
Voyage rerank-3
rerank-3 和 -lite 是 Voyage 当前的重排序模型:32k 上下文,按 token 计费,各送 2 亿免费 token。它们保留了 rerank-2.5 的自然语言指令能力;在 Voyage 自己的测试中,长文档和代码检索提升最大。
mxbai-rerank
mixedbread-ai 出品的 Apache 2.0 重排序器。v1(DeBERTa-v3)体积最小的 xsmall 仍驱动本站 Demo;v2(基于 Qwen2.5)新增 100+ 种语言支持。
Late-interaction(ColBERT)
ColBERTv2 何时胜过 bi-encoder、何时仍要 cross-encoder —— 2026 栈决策指南。
指令跟随 rerank
任务指令如何改变相关性 —— Contextual AI 类 vs 经典 cross-encoder。
如何选择
Qwen3-Reranker
多语言开源权重最优 —— 从 4B 起步
- 0.6B / 4B / 8B,全部 Apache 2.0,全部 32K 上下文
- 4B 最划算 —— 8B 体量翻倍,最多只多 1.5 分,而且只在英文以外的项目上
- 厂商给的是 MTEB-R 数字,请在你自己的标注集上复核
bge-reranker
GPU 有限时的最佳免费自建
- 零按次成本 —— 跑在你自己的基础设施上
- 强多语言质量(v2-m3 覆盖 100+ 种语言)
- 与
sentence-transformers、LangChain、LlamaIndex 即插即用
Cohere Rerank 4
最省事的托管 API;在 Pro 与 Fast 间二选一
- Python、Node、Java、Go 官方 SDK —— 一行代码接入
- 两个版本都是 32k 上下文、100+ 语言
- Pro 重精度,Fast 重吞吐 —— 每次检索 $0.0025 对 $0.002
Jina Reranker v3.5
单卡就能跑,BEIR 却在第一梯队
- 0.6B 在 Jina 自己的测试里拿到 63.20* BEIR nDCG@10 —— 与体量约 7 倍的 Qwen3-Reranker-4B 持平
- Listwise:query 和全部候选文档共享同一个 131K token 上下文
- 权重采用 CC BY-NC 4.0:商用请走 API,或购买许可后自建部署
Voyage rerank-3
按 token 计费,发多少算多少
- 追求准确用 rerank-3,追求速度用 rerank-3-lite —— 每百万 token 分别 $0.05 和 $0.02
- 每个账号各送 2 亿免费 token;32k 上下文
- 需要 Batch API 的 33% 折扣?Voyage 目前只为旧版 rerank-2.5 写明了这一项
mxbai-rerank
Apache 2.0 开源权重;v2 新增 100+ 种语言支持
- 宽松的 Apache 2.0 协议 —— 可商用、无限制
- v1 的 xsmall 变体可在浏览器中运行(驱动本站实时 Demo)
- v2(base/large)支持多语言,包括中文 —— v1 仅支持英文