Skip to content

十一、Embedding 模型 ​

← 上一章:十、向量知识库 | 返回总览 | 下一章:十二、Vibe Coding 四种 →

Embedding 模型将文本转换为向量表示,是 RAG 和语义搜索的核心组件。

Embedding 模型选型对比 ​

模型维度开源中文优化多语言MTEB 表现适用场景
Qwen3-Embedding-4B/8B可变开源优强MTEB(eng,v1) 第 2(8B)中文 RAG 首选
Conan-embedding-v2—开源良强MTEB(eng,v1) 第 1(74.22)英文检索、榜单基线
Harrier-OSS-v1-27B—开源(MIT)中极强MTEB 多语言 v2 第 1(74.27)多语言检索(当前最强档)
KaLM-Embedding (12B)—开源优极强(1038 语言)多语言 v2 第 2(72.32)多语言 RAG
Gemini Embedding 2—API良极强关键词检索最强跨模态、跨语言搜索
OpenAI text-embedding-3256-3072API中良中上快速原型,与 OpenAI 生态集成
Jina Embeddings—开源中强—长文档嵌入
BGE 系列—开源优强(中英双语)高开源社区首选,成熟稳定
Cohere Embed—API中强—企业级 RAG

⚠️ 别直接横比 MTEB 分数:MTEB 已拆分为 v1 / v2 两套榜单,任务集与计分方式都改过,两边的分数不可直接比较;同一模型在「英文榜」与「多语言榜」上的名次也常常不一致。所以表中同时标注了榜单名——选型时请认准与你场景匹配的那一张(英文检索看 MTEB(eng),跨语言看 Multilingual),并到最新榜单页确认。榜单变动很快,本表的排名随时可能过时。

选型建议 ​

  • 中文 RAG 首选 → BGE 系列(开源成熟)/ Qwen3-Embedding(MTEB(eng,v1) 第 2)
  • 多语言场景 → Harrier-OSS-v1-27B(当前多语言榜首)/ KaLM-Embedding(1038 语言覆盖)
  • 英文检索基线 → Conan-embedding-v2(MTEB(eng,v1) 第 1)
  • 快速开始 → OpenAI text-embedding-3(API 调用,零配置)
  • 长文档处理 → Jina Embeddings(擅长长文本)
  • 企业级 → Cohere Embed(企业级 SLA)

实时排名请查看 MTEB 官方榜单(注意先确认是 v1 还是 v2)

核心概念 ​

维度选择 ​

维度特点适用场景
低(256-384)存储省、检索快,精度略低大规模初筛、对延迟敏感
中(768-1024)精度与性能平衡大多数 RAG 场景
高(1536-3072)精度最高,存储和检索成本大高精度要求、小数据集

选择建议:优先用模型默认维度;如果存储/检索是瓶颈,OpenAI text-embedding-3 支持通过 dimensions 参数降维,BGE 可选 small 版本。

Chunk 策略 ​

文档送入 Embedding 前需要切分(chunk),切分策略直接影响检索质量:

策略说明适用场景
固定长度按字符/token 数切分,加 overlap通用场景,简单可靠
语义切分按段落/章节/句子边界切分文档结构清晰
递归切分优先按分隔符切,超出则递归LangChain 默认策略,适用面广
文档解析切分基于 PDF/HTML 结构切分表格密集型文档

关键参数:chunk_size 建议 256-512 token(中文偏短),overlap 建议 10%-20%,避免语义断裂。

多向量 vs 单向量 ​

方案说明适用场景
单向量整个文档/段落生成一个向量短文本、段落级检索
多向量(ColBERT)每个 token 生成一个向量,检索时逐 token 匹配需要细粒度匹配(如法律条文)
多向量(摘要+详情)文档的摘要和详情分别生成向量长文档,先粗筛后精排

主流 Embedding 模型 ​

模型特点
Qwen3-Embedding-4B/8B阿里开源,MTEB(eng,v1) 第 2(8B 版),4B 版性价比高,8B 版精度优
Conan-embedding-v2腾讯开源,MTEB(eng,v1) 第 1(74.22),英文检索当前最强档
Harrier-OSS-v1微软开源(MIT),MTEB 多语言 v2 第 1(27B 版 74.27);提供 270M / 0.6B / 27B 三档
KaLM-Embedding腾讯开源百亿参数模型,多语言 v2 第 2(72.32 分),覆盖 1038 种语言
Gemini Embedding 2跨模态、跨语言、关键词检索综合最强
OpenAI text-embedding-3RAG 原型最常用,易于集成,但生产 RAG 中可能不够用
Jina Embeddings多语言支持,擅长长文档
BGE 系列BAAI 出品,中英文双语强,开源社区广泛使用
Cohere Embed企业级 Embedding,多语言支持,RAG 场景优化

基于 CC BY-NC-SA 4.0 发布