1、什么是 RAG ?
RAG 检索增强生成本质上来讲,就三件事情:
第一、 Indexing 索引 。即如何更有效地存储知识。
第二、 Retrieval 检索 。即在庞大的知识库中,如何筛选出少量的有益知识,供大模型参考。
第三、 Generation 生成 。即如何将用户的提问与检索到的知识相结合,使得大模型能够生成有价值的回答。
这三个步骤表面上看似乎并不复杂,然而在 RAG 从构建到实际部署的整个流程中,包含了众多精细且复杂的工作环节,这些落地细节是最具挑战的工作。
虽然 RAG 架构基本上是按照这些模块来设计的,但不同的实施方案在具体落地时各有其独特之处。
下面详细对比剖析。
2、RAG 开源框架架构对比
第一、网易 QAnything
网易 QAnything 的亮点在于 Rerank 模块。
第二、RAGFlow
RAGFlow 的亮点在于数据处理模块和知识索引构建模块。
第三、智谱 RAG
智谱 RAG 的亮点在于文档解析、切片、Query 改写及 Recall 模型的微调。
第四、FastGPT
FastGPT 的优点是模块动态配置灵活。
3、开源 RAG 框架的各个模块对比
第一、知识处理模块
第二、召回模块
并对 Embedding 模型进行微调。
第三、Rerank 模块
第四、大模型处理模块
第五、Web 服务模块
第六、切词处理模块
第七、文件存储模块
4、RAG 框架总结
1、Qanything 的 Rerank 模块设计极为出色。
2、RAGFlow 在文档处理方面表现卓越。
3、FastGPT 模块具备丰富的动态配置选项。
4、智谱 RAG 在特定领域数据的微调训练上表现最佳。
然而, 一切脱离业务场景谈架构都是耍流氓 ,结合具体业务场景考虑下,并不存在绝对的“最好”。在各自的业务场景应用中,能够成功实施并产生效果的就是最佳选择。实践落地才是关键,落地成效为王道!
原文链接:
本网站的文章部分内容可能来源于网络和网友发布,仅供大家学习与参考,如有侵权,请联系站长进行删除处理,不代表本网站立场,转载者并注明出处:https://www.jmbhsh.com/toutiao/33160.html