十一、Embedding 模型
← 上一章：十、向量知识库 | 返回总览 | 下一章：十二、Vibe Coding 四种 →
Embedding 模型将文本转换为向量表示，是 RAG 和语义搜索的核心组件。
Embedding 模型选型对比
| 模型 | 维度 | 开源 | 中文优化 | 多语言 | MTEB 表现 | 适用场景 |
|---|---|---|---|---|---|---|
| Qwen3-Embedding-4B/8B | 可变 | 开源 | 优 | 强 | 榜单领先 | 中文 RAG 首选 |
| Gemini Embedding 2 | — | API | 良 | 极强 | 关键词检索最强 | 跨模态、跨语言搜索 |
| KaLM-Embedding (12B) | — | 开源 | 优 | 极强（1038 语言） | 曾登顶多语言榜首 | 多语言 RAG |
| OpenAI text-embedding-3 | 256-3072 | API | 中 | 良 | 中上 | 快速原型，与 OpenAI 生态集成 |
| Jina Embeddings | — | 开源 | 中 | 强 | — | 长文档嵌入 |
| BGE 系列 | — | 开源 | 优 | 强（中英双语） | 高 | 开源社区首选，成熟稳定 |
| Cohere Embed | — | API | 中 | 强 | — | 企业级 RAG |
选型建议
- 中文 RAG 首选 → BGE 系列（开源成熟）/ Qwen3-Embedding（榜单领先）
- 多语言场景 → KaLM-Embedding（1038 语言覆盖）/ Gemini Embedding 2
- 快速开始 → OpenAI text-embedding-3（API 调用，零配置）
- 长文档处理 → Jina Embeddings（擅长长文本）
- 企业级 → Cohere Embed（企业级 SLA）
实时排名请查看 MTEB Leaderboard
核心概念
维度选择
| 维度 | 特点 | 适用场景 |
|---|---|---|
| 低（256-384） | 存储省、检索快，精度略低 | 大规模初筛、对延迟敏感 |
| 中（768-1024） | 精度与性能平衡 | 大多数 RAG 场景 |
| 高（1536-3072） | 精度最高，存储和检索成本大 | 高精度要求、小数据集 |
选择建议：优先用模型默认维度；如果存储/检索是瓶颈，OpenAI text-embedding-3 支持通过 dimensions 参数降维，BGE 可选 small 版本。
Chunk 策略
文档送入 Embedding 前需要切分（chunk），切分策略直接影响检索质量：
| 策略 | 说明 | 适用场景 |
|---|---|---|
| 固定长度 | 按字符/token 数切分，加 overlap | 通用场景，简单可靠 |
| 语义切分 | 按段落/章节/句子边界切分 | 文档结构清晰 |
| 递归切分 | 优先按分隔符切，超出则递归 | LangChain 默认策略，适用面广 |
| 文档解析切分 | 基于 PDF/HTML 结构切分 | 表格密集型文档 |
关键参数：chunk_size 建议 256-512 token（中文偏短），overlap 建议 10%-20%，避免语义断裂。
多向量 vs 单向量
| 方案 | 说明 | 适用场景 |
|---|---|---|
| 单向量 | 整个文档/段落生成一个向量 | 短文本、段落级检索 |
| 多向量（ColBERT） | 每个 token 生成一个向量，检索时逐 token 匹配 | 需要细粒度匹配（如法律条文） |
| 多向量（摘要+详情） | 文档的摘要和详情分别生成向量 | 长文档，先粗筛后精排 |
主流 Embedding 模型
| 模型 | 特点 |
|---|---|
| Qwen3-Embedding-4B/8B | 阿里开源，MTEB 榜单领先，4B 版性价比高，8B 版精度优 |
| Gemini Embedding 2 | 跨模态、跨语言、关键词检索综合最强 |
| KaLM-Embedding | 腾讯开源百亿参数模型，曾登顶 MTEB 多语言榜单（72.32 分），覆盖 1038 种语言 |
| OpenAI text-embedding-3 | RAG 原型最常用，易于集成，但生产 RAG 中可能不够用 |
| Jina Embeddings | 多语言支持，擅长长文档 |
| BGE 系列 | BAAI 出品，中英文双语强，开源社区广泛使用 |
| Cohere Embed | 企业级 Embedding，多语言支持，RAG 场景优化 |