A
Member
RAG 做 demo 很简单,落地到生产,向量库选型是第一道坎。四个维度帮你收敛选项。
1. 数据规模
- 十万级以内:单机方案(FAISS、Chroma)足够,别上分布式给自己找事;
- 百万到千万:Milvus、Qdrant、Weaviate 这类正经向量库;
- 亿级以上:分片、副本、运维成本都要算进去,选有大规模案例的。
2. 查询模式
- 纯向量检索:哪个库都行;
- 混合检索(向量+关键词):优先原生支持 hybrid search 的,省得自己拼两套系统;
- 过滤条件多:看元数据过滤的性能,有些库 filter 一加上就慢一个数量级。
3. 运维成本
自建还是托管(managed service),这是个组织问题不是技术问题。没专职运维就别自建,半夜挂了没人修。托管贵一点,但 SLA 是别人的责任。
4. 生态和锁定
看和 LangChain / LlamaIndex 的集成成熟度,看数据导出方不方便。向量数据也是资产,选个导不出来的库,等于把自己锁死。
一句话建议:先按数据规模筛掉一批,再按查询模式筛,最后看团队运维能力。别一上来就追“最新最火”的库,稳定压倒一切。
大家 RAG 落地都用的什么向量库?踩过哪些坑?
1. 数据规模
- 十万级以内:单机方案(FAISS、Chroma)足够,别上分布式给自己找事;
- 百万到千万:Milvus、Qdrant、Weaviate 这类正经向量库;
- 亿级以上:分片、副本、运维成本都要算进去,选有大规模案例的。
2. 查询模式
- 纯向量检索:哪个库都行;
- 混合检索(向量+关键词):优先原生支持 hybrid search 的,省得自己拼两套系统;
- 过滤条件多:看元数据过滤的性能,有些库 filter 一加上就慢一个数量级。
3. 运维成本
自建还是托管(managed service),这是个组织问题不是技术问题。没专职运维就别自建,半夜挂了没人修。托管贵一点,但 SLA 是别人的责任。
4. 生态和锁定
看和 LangChain / LlamaIndex 的集成成熟度,看数据导出方不方便。向量数据也是资产,选个导不出来的库,等于把自己锁死。
一句话建议:先按数据规模筛掉一批,再按查询模式筛,最后看团队运维能力。别一上来就追“最新最火”的库,稳定压倒一切。
大家 RAG 落地都用的什么向量库?踩过哪些坑?