惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

云风的 BLOG
云风的 BLOG
The GitHub Blog
The GitHub Blog
Y
Y Combinator Blog
博客园 - 三生石上(FineUI控件)
T
The Blog of Author Tim Ferriss
宝玉的分享
宝玉的分享
Hugging Face - Blog
Hugging Face - Blog
WordPress大学
WordPress大学
V
Visual Studio Blog
小众软件
小众软件
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
MongoDB | Blog
MongoDB | Blog
V
V2EX
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
博客园 - 【当耐特】
Microsoft Azure Blog
Microsoft Azure Blog
The Cloudflare Blog
H
Hackread – Cybersecurity News, Data Breaches, AI and More
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Engineering at Meta
Engineering at Meta
L
LangChain Blog
Martin Fowler
Martin Fowler
GbyAI
GbyAI
博客园 - 司徒正美

博客园 - Matt_Cheng

AI编码实践 对于动态注册的bean,aop会生效吗? VSCode快捷命令 图平台技术点 常用CMD命令 jupyter安装与使用 数据结构文章收藏 使用beeline访问hive Java线程异常处理 属性文件加载 node.js待实践项目 spring boot问题记录 docker命令 IDEA环境配置与快捷命令 Spring MVC 使用介绍(十六)数据验证 (三)分组、自定义、跨参数、其他 Spring MVC 使用介绍(十五)数据验证 (二)依赖注入与方法级别验证 Spring MVC 使用介绍(十四)文件上传下载 2018年年终总结
LLM
Matt_Cheng · 2025-04-16 · via 博客园 - Matt_Cheng

一、提升大模型准确性的方法

参考:https://graphacademy.neo4j.com/courses/llm-fundamentals/1-introduction/2-hallucination/

1、Prompt Engineering

     Zero-shot Learning(零样本学习)

     Providing additional instructions and context in the question is known as Zero-shot learning.

2、In-Context Learning

     Few-shot Learning(少样本学习)

     Providing relevant examples for specific tasks is a form of Few-shot learning

3、Fine-Tuning

     在小规模或特定数据集上微调大模型

4、Grounding

      提供最新数据,弥补大模型知识不足

二、扣子

1、好用功能

  1)提示词自动生成

    编辑好智能体名称及功能介绍后,可自动生成提示词

       2)模型内插件调用

      插件加入后,模型可自动识别及调用插件,无需提示词,无需用户主动调用

  3)知识库

              提供了文档、表格、图片三种类型的知识库

       4)记忆

              以变量、数据表、汇总、文件四种形式持久化用户对话关键信息

       5)推荐问与快捷指令

  6)语言通话

  7)低代码应用开发

2、生态

  1)丰富的插件

  2)可参考的案例

3、核心技术

  1)模型内插件调用

       模型是如何知道勾选的插件能力?模型是如何在思考或生成过程中调用插件?

  2)知识库召回准确度

  3)记忆

    如何让模型识别需要记忆的内容?

三、Functon Calling

Functon Calling 为模型使用外部工具的能力,有些模型(如OPENAI,DeepSeek V3 0324,扣子版DeepSeek R1)支持Function Calling,有些不支持

1、基于提示词 

  如果模型不支持Function Calling,可基于提示词(ReAct),使模型具备该项能力,使用示例:

  neo4j:  https://graphacademy.neo4j.com/courses/llm-fundamentals/3-intro-to-langchain/4-agents/

  极客时间:https://time.geekbang.org/column/article/857271

2、模型内置

  模型在SFT阶段通过指令微调,支持Function Calling,优于基于提示词

  原理解析:视频号 ->  九天Hector -> 揭秘 Functon Calling

  使用示例:deepseek api: https://api-docs.deepseek.com/zh-cn/guides/function_calling

四、知识库

优化策略:

1、文档切片生成一些问答对

  为文档切片生成一些问答对,提问的问题去匹配问答对,会大大提升命中率和准确度