惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

月光博客
月光博客
WordPress大学
WordPress大学
博客园 - 三生石上(FineUI控件)
H
Help Net Security
小众软件
小众软件
The Cloudflare Blog
人人都是产品经理
人人都是产品经理
Apple Machine Learning Research
Apple Machine Learning Research
S
SegmentFault 最新的问题
Last Week in AI
Last Week in AI
爱范儿
爱范儿
量子位
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
IT之家
IT之家
博客园 - 【当耐特】
V
Visual Studio Blog
大猫的无限游戏
大猫的无限游戏
博客园_首页
Jina AI
Jina AI
D
Docker
博客园 - 司徒正美
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Microsoft Security Blog
Microsoft Security Blog
阮一峰的网络日志
阮一峰的网络日志

Liu Zijian's Blog | 一个技术博客

使用Certbot自动续签HTTPS证书 使用Filebeat采集Nginx日志到ES Python的协程 Python中的异常 Python中的类和对象 Python的函数 Python的数据结构,推导式、迭代器和生成器 Spring AI集成多模态模型 LangChain4j多模态 LangChain Tools工具使用 Python中的模块和包 Python全局环境和虚拟环境(venv) LangChain Prompt提示词工程 LangChain4j Tools工具使用 基于Dify搭建AI智能体应用 LangChain4j RAG检索增强生成 Spring AI实现MCP Server Spring AI集成MCP Client LangChain4j Prompt提示词工程 Spring AI使用知识库增强对话功能 Spring AI实现一个智能客服 Spring AI实现一个简单的对话机器人 实现MinIO数据的每日备份 自己实现一个DNS服务 简单理解AI智能体 大模型和大模型应用 LangChain开篇 一个解析Excel2007的POI工具类 DataPermissionInterceptor源码解读 TenantLineInnerInterceptor源码解读
LangChain4j开篇
Liu Zijian · 2025-05-24 · via Liu Zijian's Blog | 一个技术博客

系列未完待续

1.概述

LangChain4j(https://docs.langchain4j.dev/),即LangChain for Java,由Python AI框架LangChain而来,同时也吸纳了Haystack, LlamaIndex的特性,是一款基于Java语言开发大模型应用的工具,提供统一调用AI大模型以及向量存储的API,类似这样的框架还有Spring AI

LangChain4j开发于2023年初,截至目前它支持:

  • 大语言模型LLM 20+
  • 嵌入(向量)模型 20+
  • 嵌入(向量)数据库 30+
  • 多模态
  • 会话记忆存储实现Chat Memory Stores 7个
  • 文档解析Document Parsers:Tika,MD,PDF…
  • RAG
  • Tools(Function calling)
  • Model Context Protocol (MCP),但是SSE模式未来将不受支持
  • 联网搜索Web Search Engines:SearXNG…

LangChain4j在两个抽象层次上运行:

  • 底层API,访问所有底层组件,例如 ChatModel、UserMessage……、AiMessage…… EmbeddingStore、Embedding……等等

  • 高层API,使用高级API(例如AI Service)与LLM进行交互,可以灵活地调整和微调。

2.快速开始

引入langchain4j-bom,截至目前,官网上langchain4j-bom的最高版本是1.8.0,均需要jdk17+

<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-bom</artifactId>
            <version>1.8.0</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

<repositories>
    <repository>
        <name>Central Portal Snapshots</name>
        <id>central-portal-snapshots</id>
        <url>https://central.sonatype.com/repository/maven-snapshots/</url>
        <releases>
            <enabled>false</enabled>
        </releases>
        <snapshots>
            <enabled>true</enabled>
        </snapshots>
    </repository>
</repositories>

<build>
    <plugins>
        <plugin>
            <groupId>org.apache.maven.plugins</groupId>
            <artifactId>maven-compiler-plugin</artifactId>
            <configuration>
                <source>21</source>
                <target>21</target>
                <encoding>UTF-8</encoding>
            </configuration>
        </plugin>
    </plugins>
</build>

以对接OpenAI大模型为例,添加依赖langchain4j-open-ai,原生使用langchain4j

<dependencies>
    <dependency>
        <groupId>dev.langchain4j</groupId>
        <artifactId>langchain4j-open-ai</artifactId>
    </dependency>
</dependencies>

新建测试类,通过URL,API-KEY以及模型名称构造ChatModel对象,传入system和user提示词,测试调用大模型

package org.example;

import dev.langchain4j.data.message.ChatMessage;
import dev.langchain4j.data.message.SystemMessage;
import dev.langchain4j.data.message.UserMessage;
import dev.langchain4j.model.chat.ChatModel;
import dev.langchain4j.model.chat.response.ChatResponse;
import dev.langchain4j.model.openai.OpenAiChatModel;

import java.util.Arrays;
import java.util.List;

public class Main {

    public static void main(String[] args) {

        ChatModel chatModel = OpenAiChatModel.builder()
                .baseUrl("https://api.gptsapi.net/v1")
                .apiKey(System.getProperty("OPEN_API_KEY"))
                .modelName("gpt-4.1")
                .build();

        List<ChatMessage> messages = Arrays.asList(
                new SystemMessage("你是一个数学老师,用简单易懂的方式解释数学概念。"),
                new UserMessage("什么是微积分?")
        );

        ChatResponse chatResponse = chatModel.chat(messages);
        System.out.println(chatResponse);

    }
}

得到大模型的回答,原生方式使用langchain4j调用大模型测试通过。

LangChain4j支持和Quarkus, Spring Boot, Helidon和Micronaut进行整合,后面都会集成到Spring Boot中进行测试

3.LangChain4j使用案例

3.1 基础功能

序号 文章名 概述
1 LangChain4j Prompt提示词工程 大模型对话,会话记忆
2 LangChain4j RAG检索增强生成 向量数据库API,文档解析,知识库
3 LangChain4j Tools工具使用 Tools(Function calling)实现
3 LangChain4j多模态 多模态模型(视觉,音频)

3.2 MCP