2

文档需要预处理，并且使用嵌入模型进行 indexing 啊，不然如何根据问题去查询？

3

RAG 的主要流程是你上传文件后解析进行向量化，然后通过你的提问从向量数据里找到相关数据做重排序再作为补充资料 让大模型分析输出给用户。 你说的不想上传如果是不想暴露私有数据，那你本地部署模型做这一套东西就好了。

4

@YJi 也不是不想暴露数据，就是本地文件太多了，图片内容有上百 T ，我觉得应该是将本地的图片进行整理做成文本信息，然后将文本类上传。还是需要在本地部署一个模型。

7

1

大模型跟嵌入模型不是同一个东西，嵌入模型是实现文档 indexing 和 query 。大模型是重写 query ，根据提示词，查询嵌入模型召回的 embedding 来组织回答。