检索技术的三代演进

信息检索技术经历了三个标志性世代:第一代以Elasticsearch/Solr为代表,基于倒排索引和BM25关键词匹配;第二代以Dense Passage Retrieval (DPR) 和Contriever为代表,将查询和文档映射到稠密向量空间做语义匹配;第三代,即2024-2026年的主流方向——混合检索(Hybrid Search),融合稀疏检索的精确性和稠密检索的语义性,实现最佳检索效果。

稀疏嵌入革命:从 SPLADE 到 SPLADE-v3

2022年提出的SPLADE(Sparse Lexical An Distributed Expansion)彻底改变了稀疏检索范式。传统BM25基于精确词项匹配,而SPLADE利用BERT模型预测查询和文档中每个词项的权重,实现“软匹配”——不仅能匹配精确词项,还能扩展到语义相关词项。

  • SPLADE-v1:初始双编码器架构,独立编码查询和文档
  • SPLADE (v2):引入正则化机制(L1约束),防止权重膨胀;提出蒸馏训练策略提升效率
  • SPLADE-v3 (2025):采用基于ColBERT的late interaction思想,支持token-level精细匹配;引入FLOPS正则化替代L1,运行时效率提升40%以上

SPLADE的核心优势在于产出稀疏向量(仅少量维度非零),保持了倒排索引的高效性同时获得语义扩展能力,索引量级从稠密的百万维降至数千有效项。

RRF:倒数排名融合算法

混合检索的关键挑战是融合两个不同分数的排名结果。Reciprocal Rank Fusion (RRF)是业界主流选择:

score(d) = Σᵢ 1/(k rᵢ(d)),其中rᵢ(d)是第i个排序器对文档d的排名,k是平滑常数(通常60)。RRF无需归一化、无需调参权重,对稀疏和稠密排序器的分数尺度差异天然鲁棒。

生产实践中,常见改进包括:

  • 加权RRF:为不同排序器分配权重(如w₁=0.7稠密, w₂=0.3稀疏)
  • 动态权重:根据查询类型(关键词dominate vs. 语义dominate)自适应调整
  • 多级融合:BM25 SPLADE稀疏 Dense稠密三路融合

生产级向量数据库混合检索对比

向量数据库稀疏嵌入混合排序多模态分布式
VespaSPLADE原生支持内置hybrid rank functions✅✅生产级
QdrantSparse Vector BM25RRF/ScalarCLIP原生✅
Milvus 2.5Sparse Float VectorRRF融合CLIP/SigLIP✅大规模
WeaviateSplade模型模块hybrid融合参数multi2vec✅
pgvector pgvecto.rs无原生稀疏手动RRF外部模型依赖PG

多模态检索:CLIP与LangCLIP

2026年的向量数据库普遍将跨模态检索作为关键能力:

  • CLIP (OpenAI):联合嵌入图像-文本到共享空间,支持图搜文和文搜图
  • SigLIP/SigLIP-2:改进sigmoid对比损失,训练效率更高,支持多分辨率
  • LangCLIP:解决CLIP多语言覆盖不足,提升至100 语言
  • LanguageCLIP:多版本(EN/中文/ALL)支持文本-图像对齐

2026年新增向量数据库特性:范围过滤(range filter)实现细粒度top-k后筛选、range search语义半径检索、group by聚合检索、可调一致性级别(强一致/最终一致/读己之写)。

生产最佳实践

部署混合检索系统的关键决策:

  1. 选稀疏嵌入而非纯Dense:域外数据检索效果平均提升15-30%
  2. 稀疏索引 稠密索引分离:写入时并行编码,读取时同时查询后融合
  3. RRF替代线性加权分数:调参成本趋近于零
  4. 多模态按需启用:单模态阶段验证后再扩展
  5. 监控recall@k维度:分稀疏/稠密/混合三路监控

2026年向量数据库已进入”混合检索默认“时代,Vespa、Qdrant、Milvus等均将hybrid search作为一等公民,生产最佳实践正在从融合后期走向原生融合架构。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部