本期《The Connector 周刊》深入探讨RAG、大模型Agent技术及Llama应用，并分享SaaS产品报价模型。涵盖AI产品开发、开源工具与工程师实用资源，助你获取前沿技术灵感。
The Connector 每周会选取我从信息流里获取的有价值内容，包括 AI 探索专题、Github 开源库推荐、工具介绍和一些文章书籍等，目标是链接互联网上的优质内容，获得更多的灵感和知识，从而激发彼此的创造力。### AI 探索
- Why your next AI product needs RAG implemented in it：本文介绍了如何构建一个使用RAG增强的聊天机器人。文中首先讨论了构建前端部分的步骤，包括允许用户上传PDF文件、对其建立索引以及与之进行对话。接下来，介绍了如何创建基于上传PDF文件内容的矢量数据库，以及如何与外部数据库进行交互。然后，介绍了一个定制化的prompt模板，用于在回答用户问题时提供更多上下文。随后，展示了构建聊天界面的步骤，并详细解释了如何从索引库中获取与用户查询相关的语境，以及如何将这些语境与prompt合并。最后，介绍了如何将prompt和语境传递给语言模型，并流式传输生成的回答。
- 从第一性原理看大模型Agent技术：如果你一直关注 AI 领域，你应该能看到一个清晰的技术脉络，一开始大家玩 Prompt 工程，接着是Prompt Chain或Flow，再到Agent，多Agent，很清晰的一个脉络架构，本文会沿着这个脉络给大家分享相关的经典工作。
- Llama 入门指南： Meta 发布的关于 Llama 入门指南，提供了设置Llama的信息和资源，包括访问模型、托管、操作指南和集成指南。此外，还可以在构建Llama时找到辅助材料。
- wandbot：一个真实生产的 RAG 应用，使用llama-index和openai gpt-4构建的Weights & Biases文档问答机器人。该机器人利用FAISS后端进行检索增强生成，以检索相关文档并有效处理用户查询，并提供准确、上下文感知的回答。它还支持定期数据摄取和报告生成，用于持续改进；集成了Discord和Slack，能与流行的协作平台无缝对接；通过Weights & Biases Tables进行日志记录和分析，以进行性能监控和持续改进；当GPT-4无法生成回答时，使用回退机制进行模型选择；通过检索准确性、字符串相似度和模型生成的回答正确性等多种指标进行评估。
- Query Transformations 查询转换：最初的RAG通常将文档分成块，并将它们嵌入，从而检索与用户问题具有高语义相似性的块。然而，这样做会出现几个问题：（1）文档块可能包含与检索无关的内容，这会降低检索效果；（2）用户问题可能措辞不当，难以进行检索；（3）需要从用户问题中生成结构化查询（例如，用于使用元数据过滤查询向量存储或SQL数据库）。LangChain的最新博客总结了一些实现思路来帮助解决这些挑战。(1)多表示索引：创建一个适合检索的文档表示（比如摘要）。(2)查询转换：在本文中，我们将回顾几种改变人类问题以改善检索的方法。(3)查询构建：将人类问题转化为特定的查询语法或语言。
开源推荐
- Linen：Linen 是一个可通过谷歌搜索的社区聊天工具，作为 Slack 和 Discord 等封闭工具的替代品而构建的。现代社区建立在聊天基础之上，Slack 和 Discord 能够帮助团队快速得到实时答案，但它们却可能成为混乱的信息漩涡，反而是存在于论坛中的社区，那里有更好的结构和搜索引擎友好性。
- tinacms：一个支持可视化编辑和Git的内容管理系统。
- Documate：一款开源工具，旨在将AI聊天对话无缝嵌入到您的文档网站中，它利用网站内容生成实时回答用户的问题，有效地充当平台上的“ChatGPT”，轻松与VitePress、Docusaurus、Docsify和其他任何文档网站集成，无需AI或LLM知识。
工程师工具
- FocuSee：教程录制工具 Screen Studio 的竞品，免费版本支持导出720p 60fps的视频，效果几乎一样，可以作为免费平替。
- 阿里云盘：依托阿里云盘将自己的资源托管到网页，随时随地可供他人访问。
- Together AI：GPU集群资源托管商，可以通过Together API微调和运行大型AI模型，支持为50+的聊天、语言、编码和图像模型启动推理VM，支持微调所有层级，控制超参数，下载权重。
值得一看
- https://blog.paigo.tech/p/five-modern-pricing-frameworks-that：这篇文章介绍了海外SaaS产品报价的几种模型，来自专业产品计量报价SaaS Paigo的CEO的分享，可以了解到 OpenAI,Snowflake,Zapier, Clickup等知名SaaS都是怎么报价的？
- 见室优质信息源导航：有价值的信息的定义是认知范围内有助于你进行决策的新鲜内容，这个页面收集了一些优质的信息来源，内容不错！