Embedding（嵌入向量）

Embedding（嵌入向量）是一种把文字、图片、音频等人类信息转换成高维数字向量的技术，使计算机能够通过计算向量之间的距离来理解内容之间的语义关系。

概述

计算机本身不认识文字，只能处理数字。Embedding 的作用就是充当「翻译官」：把一个词、一句话甚至一整篇文档，映射成一个由几百到几千个数字组成的向量。这些数字不是随便生成的，而是由神经网络在海量数据上学习得到的——含义相近的内容，向量在空间中的位置也相近。比如「猫」和「狗」的向量距离很近，而「猫」和「服务器」则相距很远。

「嵌入」一词源自数学：数学中的嵌入指把一个结构完整地放进另一个结构中并保持其原有关系，例如子群嵌入到更大的群里。机器学习借用了这个概念——把离散的词语「嵌入」到连续的向量空间中，同时保留它们之间的语义关系。

从早期的词向量方法到如今大模型内部的表示层，Embedding 已经成为几乎所有现代 AI 系统的底层组件。像「国王 − 男人 + 女人 ≈ 女王」这样的经典例子，直观展示了向量运算竟能对应语义运算的奇妙特性。

主要用途

• 语义搜索：不靠关键词匹配，而是比较查询与文档的向量距离，搜「怎么退货」也能找到「退款流程」。
• RAG 知识库：先把资料切块并转成向量存入向量数据库，提问时检索最相关的片段交给大模型回答，是企业 AI 问答的主流方案。
• 推荐系统：把用户和商品都表示为向量，距离近就意味着「可能感兴趣」。
• 聚类与去重：相似内容向量聚在一起，可用于文章分类、查重和异常检测。
• 多模态对齐：把图片和文字映射到同一向量空间，实现「以文搜图」。

如何使用

普通开发者不需要自己训练 Embedding 模型，直接调用现成服务即可：OpenAI、智谱、通义等厂商都提供 Embedding API，输入文本、返回向量；也可以用开源模型（如 BGE、M3E 等中文效果较好的模型）本地部署。得到向量后，通常配合向量数据库（如 Milvus、Qdrant、pgvector）做存储和相似度检索。

常见问题

问：Embedding 和大模型是什么关系？答:Embedding 是大模型内部处理文本的第一步——先把 Token 转成向量再进行计算；同时它也常作为独立服务使用，配合大模型搭建检索增强（RAG）应用。

问：向量的维度越高越好吗？答:不一定。维度高能承载更多信息，但存储和计算成本也更高，检索速度更慢。实际选型要在效果、成本和速度之间权衡。

问：不同模型生成的向量能混用吗?答:不能。每个模型的向量空间互不兼容,同一句话在不同模型下得到的向量完全不同，检索时必须用同一个模型处理查询和文档。