重排序模型对比

生产环境往往混用 cross-encoder、listwise 模型、late-interaction 以及指令跟随重排序器。2026 年最值得注意的一点是:参数量不再预测质量 —— 0.6B 的 listwise 模型(Jina v3.5)在 Jina 自己的测试里,BEIR 略高于 Qwen3-Reranker-4B,而在 Qwen 自己的测试里,4B 在英文检索上胜过自家的 8B。下表对比架构、延迟、语言与成本,凡评测协议不一致处均如实标注。

重排序模型对比:架构、类型、适用场景、语言、延迟、价格与 BEIR 分数
模型 架构 类型 最适合 语言 典型延迟 50 条文档 价格 BEIR NDCG@10 试用
Qwen3-Reranker-4B Cross-encoder Apache 2.0Qwen3 最佳档位 三者中英文得分最高;支持指令(需 GPU) 100+ 种语言 · 32K 上下文 GPU required 免费(自建) MTEB-R 69.76*
Qwen3-Reranker-8B Cross-encoder Apache 2.0 最大的 Qwen3 —— 中文、多语言、长文档和代码上领先;英文上 4B 略胜 100+ 种语言 · 32K 上下文 GPU / 多 GPU 免费(自建) MTEB-R 69.02*
Qwen3-Reranker-0.6B Cross-encoder Apache 2.0 最轻 Qwen3;舒适运行仍需 GPU 100+ 种语言 · 32K 上下文 建议 GPU 免费(自建) MTEB-R 65.80*
bge-reranker-v2-m3 Cross-encoder 开源权重 经过验证的自建默认;CPU 友好 100+ 种语言 CPU 可运行;GPU 更快 免费(自建) 55.36*
mxbai-rerank-large-v1 Cross-encoder 开源权重
浏览器可跑 ✓
上一代;xsmall 仍驱动浏览器 Demo 英文 CPU 可运行;GPU 更快 免费(自建) 49.32*
mxbai-rerank-large-v2 Cross-encoder 开源权重多语言 mxbai 最强一代;支持多语言,含中文 100+ 种语言 建议 GPU 免费(自建) 57.49*
mxbai-rerank-base-v2 Cross-encoder 开源权重多语言 v2 代中体积与质量的最佳平衡 100+ 种语言 CPU 可运行;GPU 更快 免费(自建) 55.57*
Jina Reranker v3.5 Listwise 托管 API权重:仅限非商用 Jina 2026 旗舰;可直接替换 v3,速度快 1.22–1.56 倍 100+ 种语言 API 或 GPU 自建 送试用 token,之后购买 token 包 63.20*
Jina Reranker v3 Listwise 托管 API权重:仅限非商用 0.6B listwise;131K 上下文内 64 篇文档;已被 v3.5 取代 100+ 种语言 API 或 GPU 自建 送试用 token,之后购买 token 包 62.10*
jina-reranker v1 tiny Cross-encoder 开源权重
浏览器可跑 ✓
浏览器 / 边缘;驱动本站 Demo 英文 浏览器中每 10 段约 229 ms 免费(自建) 48.54*
Cohere Rerank 4 Pro Cross-encoder 托管 API 成熟的多语言 API;32k 上下文 100+ 种语言 API $0.0025/search† not published*
Cohere Rerank 4 Fast Cross-encoder 托管 API 面向吞吐与延迟调优的同系版本 100+ 种语言 API $0.002/search† not published*
Voyage rerank-3 Cross-encoder 托管 API Voyage 当前旗舰;32k 上下文 多语言 API $0.05/M tokens† (200M free) not published*
Voyage rerank-3-lite Cross-encoder 托管 API 当前更快、更便宜的一档;32k 上下文 多语言 API $0.02/M tokens† (200M free) not published*
Voyage rerank-2.5 Cross-encoder 托管 APIInstruction 旧版;官方文档写明支持指令的就是它;32k 上下文 多语言 API $0.05/M tokens† not published*
Voyage rerank-2.5-lite Cross-encoder 托管 API 旧版的便宜一档;32k 上下文 多语言 API $0.02/M tokens† not published*
阿里云百炼 (qwen3-rerank) 重排序 API 托管 API 阿里云托管的 Qwen 重排序模型:qwen3-rerank(最多 500 篇文档,每篇 4K token)、qwen3.7-text-rerank(每篇 30K token,仅北京地域)以及处理图片和视频的 qwen3-vl-rerank 100+ 种语言 · qwen3.7:201 种 API 国内 ¥0.5/百万 token,国际 $0.1/百万 token† not published*
硅基流动 SiliconFlow (托管开源模型) 重排序 API 托管 API 一个 rerank 接口托管 bge-reranker-v2-m3、bce-reranker-base_v1 和 Qwen3-Reranker 0.6B / 4B / 8B 取决于所选模型 API bge-reranker-v2-m3 免费;Pro 版 ¥0.07/百万 token† not published*
Google Vertex AI 排序 (semantic-ranker) 重排序 API 托管 API Google Cloud 的排序 API;每条记录最多 1,024 token;默认是 semantic-ranker-default-004,005 系列自 2026 年 9 月起预览 25 种语言 API 每 1,000 次查询 $1.00† not published*
gte-reranker-modernbert-base Cross-encoder 开源权重轻量 1.49 亿参数、8K 上下文;也能在 transformers.js 里运行 英文 GPU 上快,CPU 友好 免费(自建) 56.19*
gte-multilingual-reranker-base Cross-encoder 开源权重轻量 306M,8K 上下文;小巧的多语言默认之选,可用 Text Embeddings Inference 部署 70+ 种语言 GPU 上快,CPU 友好 免费(自建) not published*
Qwen3-VL-Reranker Cross-encoder 开源权重Apache 2.0 一个模型处理文本、图片、截图和视频;2B / 8B,32K 上下文 30+ 种语言 GPU 免费(自建) not published*
zerank-2 Cross-encoder 开源权重Apache 2.0 4B,基于 Qwen3-4B,32K 上下文;ZeroEntropy 的 API 也提供。2026 年 7 月在 Hugging Face 上改为 Apache 2.0 许可 —— ZeroEntropy 自己的文档仍写着非商用 英文 GPU 免费(自建)/ API not published*
llama-nemotron-rerank-1b-v2 Cross-encoder 开源 + NIM API 1.2B,8K 上下文;许可允许商用。NIM 还提供更小的 llama-nemotron-rerank-500m-v2 多语言(评测覆盖 26 种语言) GPU / NIM NIM / 自建 not published*
ms-marco MiniLM-L6 (browser) Cross-encoder 开源权重
浏览器可跑 ✓
经典基线;三个 Demo 模型中最小的(2300 万参数) 英文 浏览器中每 10 段约 276 ms 免费(自建) 48.64*
LightOn-rerank Cross-encoderListwise 开源权重Apache 2.0 一个模型同时给文本和文档页面图片打分;0.8B / 2B / 4B,逐点或列表式 英语 · 法语 GPU 免费(自建) 49.13*
Contextual AI Rerank v2 Instruction 开源权重权重:仅限非商用 指令跟随;1B / 2B / 6B 三种尺寸 100+ 种语言 · 32K 上下文 GPU 免费(仅限非商用自建) not published*
ColBERTv2 Late-interaction 开源权重 Token MaxSim;1.5 阶段而非完整 CE 英文 大规模快速重打分 免费(自建) 不适用

最近核对:2026 年 10 月(新增 Qwen3-VL-Reranker、zerank-2 和 gte-multilingual-reranker-base;新增 jina-reranker-v3.5;Jina 各行改用同一套 2026 年评测;bge-reranker-v2-m3 由查不到出处的 ~60.1 改为 BAAI 自己公布的 55.36*;Jina v1 tiny 与 ms-marco MiniLM-L6 现在显示 Jina 为它们公布的 BEIR 分数;9 月已将 mxbai-rerank-large-v1 由没有来源的 ~62.1 修正)· 下次复核:2026 年 11 月。* 各家跑 BEIR 的方式都不一样 —— BAAI 用 15 个数据集、对 bge-large-en-v1.5 召回的前 100 条重排,Jina 用 13 个数据集、对 jina-embeddings-v5-text-small 的前 100 条重排,mixedbread 用自己选的一套 —— 所以本列每个 BEIR 数字都带 *,鼠标悬停可见其评测方法。差距并不小:Jina 的评测里 bge-reranker-v2-m3 是 56.51*,BAAI 自己测的是 55.36*;mxbai-rerank-large-v2 在 Jina 那边是 61.44*,mixedbread 自己测的是 57.49*。请把这一列当作大致的档位,而不是精确到小数的排名。其余带 * 的格子用的是 MTEB-R 或任务特定指标。厂商未公布可比数字时,我们写「未公布」而不去猜。† 注意计价单位不同:Cohere 按每次检索(一个 query + 最多 100 篇文档,每篇按每 500 token 计一次)计费,Voyage 按 token 计费。我们的成本计算器可以算出在你的量级下哪家更便宜。可在 Demo 中运行的仅有:mxbai xsmall、Jina tiny、ms-marco MiniLM。

资料来源: Qwen3-Reranker · jina-reranker-v3.5 · jina-reranker-v3 论文 · jina-reranker-v1 · Voyage 重排序器 · mxbai-rerank · nemotron-rerank · MTEB · BEIR · BAAI 评测 · GTE ModernBERT · mGTE 重排序模型 · Qwen3-VL-Reranker · zerank-2 · Qwen 指南 · 指令跟随 · ColBERT

标着重排序,但不是给 RAG 用的:Contrastive-LM 的 CLM-v0.1-8B(2026 年 9 月)到 10 月初已是 Hugging Face 上点赞最多的 text-ranking 模型。它给智能体的候选动作和答案打分 —— 在冻结的 Qwen3-8B 上加两个小的投影头,Qwen3-8B 要另外部署来提供嵌入 —— 主要成绩是用微调过的投影头跑的智能体基准,不是检索。所以本表没有收录它。

Qwen3-Reranker

Apache 2.0多语言

0.6B / 4B / 8B 三种尺寸,32K 上下文,Apache 2.0。建议从 4B 开始 —— 在 Qwen 自己的测试里,它在英文和指令跟随上胜过 8B,其余项目最多落后 1.5 分。

bge-reranker

开源权重自建

智源开源权重。仍是 CPU 友好默认(v2-m3)。有 GPU 余量时与 Qwen3 对比。

Cohere Rerank 4

托管 API多语言

Pro 与 Fast 两个版本,32k 上下文,100+ 种语言。按检索次数计费:一个 query 加最多 100 篇文档,每篇按每 500 token 计一次。

Jina Reranker v3.5

托管 APIListwise权重:仅限非商用

0.6B 的 listwise 模型,在 Jina 自己的测试里 BEIR 为 63.20*,略高于同一测试中 Qwen3-Reranker-4B 的 62.28* —— 不过在多语言和法律 / 医疗检索上仍是 4B 领先。商用自建部署需要另购许可。v1-tiny(Apache 2.0)仍在驱动我们的 Demo。

Voyage rerank-3

托管 API按 token 计费

rerank-3 和 -lite 是 Voyage 当前的重排序模型:32k 上下文,按 token 计费,各送 2 亿免费 token。它们保留了 rerank-2.5 的自然语言指令能力;在 Voyage 自己的测试中,长文档和代码检索提升最大。

mxbai-rerank

开源权重浏览器可跑 xsmall

mixedbread-ai 出品的 Apache 2.0 重排序器。v1(DeBERTa-v3)体积最小的 xsmall 仍驱动本站 Demo;v2(基于 Qwen2.5)新增 100+ 种语言支持。

Late-interaction(ColBERT)

架构新兴

ColBERTv2 何时胜过 bi-encoder、何时仍要 cross-encoder —— 2026 栈决策指南。

指令跟随 rerank

新兴API

任务指令如何改变相关性 —— Contextual AI 类 vs 经典 cross-encoder。

如何选择

Open · GPU

Qwen3-Reranker

多语言开源权重最优 —— 从 4B 起步

  • 0.6B / 4B / 8B,全部 Apache 2.0,全部 32K 上下文
  • 4B 最划算 —— 8B 体量翻倍,最多只多 1.5 分,而且只在英文以外的项目上
  • 厂商给的是 MTEB-R 数字,请在你自己的标注集上复核
Open · CPU

bge-reranker

GPU 有限时的最佳免费自建

  • 零按次成本 —— 跑在你自己的基础设施上
  • 强多语言质量(v2-m3 覆盖 100+ 种语言)
  • 与 sentence-transformers、LangChain、LlamaIndex 即插即用
API

Cohere Rerank 4

最省事的托管 API;在 Pro 与 Fast 间二选一

  • Python、Node、Java、Go 官方 SDK —— 一行代码接入
  • 两个版本都是 32k 上下文、100+ 语言
  • Pro 重精度,Fast 重吞吐 —— 每次检索 $0.0025 对 $0.002
Open + API

Jina Reranker v3.5

单卡就能跑,BEIR 却在第一梯队

  • 0.6B 在 Jina 自己的测试里拿到 63.20* BEIR nDCG@10 —— 与体量约 7 倍的 Qwen3-Reranker-4B 持平
  • Listwise:query 和全部候选文档共享同一个 131K token 上下文
  • 权重采用 CC BY-NC 4.0:商用请走 API,或购买许可后自建部署
API

Voyage rerank-3

按 token 计费,发多少算多少

  • 追求准确用 rerank-3,追求速度用 rerank-3-lite —— 每百万 token 分别 $0.05 和 $0.02
  • 每个账号各送 2 亿免费 token;32k 上下文
  • 需要 Batch API 的 33% 折扣?Voyage 目前只为旧版 rerank-2.5 写明了这一项
Open

mxbai-rerank

Apache 2.0 开源权重;v2 新增 100+ 种语言支持

  • 宽松的 Apache 2.0 协议 —— 可商用、无限制
  • v1 的 xsmall 变体可在浏览器中运行(驱动本站实时 Demo)
  • v2(base/large)支持多语言,包括中文 —— v1 仅支持英文

实时体验一个 cross-encoder

看看这些模型会如何重排你的检索结果 —— Demo 在你的浏览器里运行。

打开 Demo →