惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

T
Tailwind CSS Blog
C
CERT Recently Published Vulnerability Notes
P
Proofpoint News Feed
Vercel News
Vercel News
博客园 - 三生石上(FineUI控件)
IT之家
IT之家
Help Net Security
Help Net Security
月光博客
月光博客
N
News and Events Feed by Topic
Cloudbric
Cloudbric
博客园 - 司徒正美
L
LangChain Blog
Recent Commits to openclaw:main
Recent Commits to openclaw:main
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
T
Tenable Blog
The Register - Security
The Register - Security
The Hacker News
The Hacker News
I
InfoQ
The Last Watchdog
The Last Watchdog
MyScale Blog
MyScale Blog
Schneier on Security
Schneier on Security
WordPress大学
WordPress大学
小众软件
小众软件
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
宝玉的分享
宝玉的分享
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
K
Kaspersky official blog
L
LINUX DO - 热门话题
N
News | PayPal Newsroom
F
Fortinet All Blogs
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
S
Security @ Cisco Blogs
Recorded Future
Recorded Future
大猫的无限游戏
大猫的无限游戏
H
Help Net Security
Google Online Security Blog
Google Online Security Blog
S
Schneier on Security
C
Cisco Blogs
N
News and Events Feed by Topic
V2EX - 技术
V2EX - 技术
Latest news
Latest news
PCI Perspectives
PCI Perspectives
T
The Blog of Author Tim Ferriss
P
Palo Alto Networks Blog
T
Tor Project blog
Project Zero
Project Zero
云风的 BLOG
云风的 BLOG
Webroot Blog
Webroot Blog
Attack and Defense Labs
Attack and Defense Labs
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org

Dejavu's Blog

甲骨文 ARM 实例部署 Gemma 4 模型 Headscale + Tailscale 组建虚拟专用网 在 Linux 上使用 Yubikey OpenPGP 应用 BuyVM VPS 块存储挂载教程 Alpine Linux 服务器配置指南 Alpine Linux 安装 Cloudflared Docker 多容器共享中心数据库 安装 Komari 服务器监控工具 Scaleway VPS 安装 Debian Linux Debian 13 下部署 AsmBB 论坛 使用 Kopia 自动化备份服务器数据 给 Docker 启用 IPv6 支持 Netcup 服务器安装自定义 ISO 镜像 烽火 HG5582A 光猫开启桥接模式 Docker 自托管 Shlink 短链服务 部署 Obsidian LiveSync 实时同步服务指南 我的 2025 年不完全回顾 Linux 下 Intel 核显驱动配置与硬件加速 Fedora Linux 安装配置记录 2025 年优雅地自托管 RSS 服务 Woodpecker CI 和 Gitea 实现 Hugo 自动部署 Gitea/Forgejo 集成 Woodpecker CI/CD 在 Blinko 中使用 Ollama 作为 AI 供应商 Docker 部署 Gitea/Forgejo Plausible CE 启用城市级地理位置识别 Blinko 开源 AI 知识库 Docker 部署指南 Netcup 免税账号注册及购买服务器全记录 Docker 自托管 Cloudreve Pro 私有网盘服务 GiffGaff SIM 卡使用体验和注意事项 简体中文互联网在变得糟糕吗? 如何低成本申请 S/MIME 证书用于个人邮件服务 迁移到 NameCrane Mail 域名邮箱套件服务 香烟与咖啡 在 Windows 中使用 Yubikey 的 OpenPGP 应用 Windows 11 IoT LTSC 养老指南 巧用浏览器生成 HAR 文件批量下载所需网页资源 聊聊静态网站的评论系统 在 Hugo 站点中优雅地展示实况照片 使用 snac 部署一个简洁优雅的 ActivityPub 实例 当 25 岁来临的时候 断网的这两年 从 Bitwarden/Vaultwarden 到 KeePassXC 也许是 Android 上最好的本地播放器 - 椒盐音乐 2023 半年小结 写一个好玩的 Hugo 货币汇率转换短代码 写一个 Hugo 短代码将不同类别的总字数统计转换为书名显示 海信 Touch Lite 墨水屏音乐阅读器的简单体验 从 Debian 11(bullseye) 无感升级到 Debian 12(bookworm) 使用 GitHub Actions 自动提交 URL 到 IndexNow 批量重写 Git 历史提交记录 使用 cgit 托管小小的也很可爱的 Git 服务器 在 Debian 上使用 stagit 和 Nginx 的简单 Git 服务器 托管简单 Git 服务器的一些尝试 使用 stagit 自托管纯静态 Git 存储库 使用 Docker 快速部署单人 Fediverse 实例 我是如何建立自己的个人博客的? 简单、隐私友好的谷歌分析替代品,Plausible 自托管部署指南 服务器使用 Cloudflare CDN 的最佳实践 甲骨文服务器分配并启用 IPv6 地址 Git 版本控制学习笔记(二) Cloudflare WAF 防护策略简易指南 Mastodon 服务器批量导入自定义表情 低成本自托管 Mastodon 实例简明指南 自托管服务指南──有了服务器可以做什么? 使用 Miniflux + RSSHub 打造个人 RSS 阅读器 构建支持多种 CPU 架构的 Docker 镜像 一个可自托管的静态短链接应用 别了,二〇二二! Duplicacy CLI 进阶使用指南 Duplicacy CLI 备份工具的基本使用 初探 Cloudflare 零信任 - 通过 Docker 部署 Bitwarden 密码管理器 Yubikey 转运日志及上手指南 初探 Cloudflare 零信任 — 通过 Cloudflare Tunnel 搭建 SSH 聊天室 初探 Cloudflare 零信任 - 通过 Cloudflare Tunnel 访问服务 某科学的 PGP 算号指南 2022 年的 MacBook Air M1 使用体验及应用推荐 使用 Vercel 和 Supabase 自托管 Cusdis 评论系统 为什么你的搜索引擎不好用? 个人在 Windows 上常用软件清单 macOS 基础开发环境设置指南 在 macOS 上使用 Canokey 的 OpenPGP 应用 提取 Windows UWP 应用商店的安装包以供离线安装 Git 版本控制学习笔记(一) 使用 Notion 管理 GitHub Star 项目 使用 Vercel 免费部署 Giscus 评论系统 将博客评论从 Utterances 无缝迁移到 Giscus Canokey 签名和认证应用指南 Canokey 的基本使用指南 Canokey Pigeon 揽件日志及简单开箱 关于 Google Play 保护机制和 DRM 安全等级的那些事 记录一次捡垃圾装机 GitHub 使用 GPG 密钥提交签名认证 使用 Scoop 管理 Windows 下的软件和开发环境 Windows Terminal+PowerShell 7 打造 Windows 下最好用的终端 一个好用的 Telegram 文件批量上传/下载工具 Clash for Windows 优雅地使用 TUN 模式接管系统流量 全平台搭建 Hexo 静态博客指南 尝试将 Manjaro 作为主力操作系统使用 Hexo 进行 SEO 优化的基本指南 使用本地代理给 Git 和 NPM 加速
在 n8n 中使用 Ollama 的本地 LLM 模型
Dejavu Moe · 2025-11-06 · via Dejavu's Blog

cover.webp

前言

Oracle 免费 VM.Standard.A1.Flex 实例最多提供 4 个 ARM Ampere CPU、24GB RAM 以及 200GB SSD,尽管 CPU 性能不算顶尖,但对于一些小型 LLM 模型处理轻型任务基本够用。

今天通过 Docker 部署 n8n 服务,顺便尝试了下在里面通过 Ollama 调用本地模型,这下终于可以不让小鸡吃灰了。本文使用以下服务:

  • n8n 是一个开源的自动化工作流平台,对各家 AI 的支持都非常好。我没有这些 AI 平台的 API,就先试试本地 LLM 模型吧,由俭入奢嘛~

  • Ollama 是一款运行本地大语言模型的开源框架,部署起来很简单,可以让各家开源模型快速跑起来。

部署

参考 Docker 官方最新文档安装好 Docker 和 Doker Compose 插件,应该还需要一个反向代理服务器,文中以 Nginx 为例。

n8n

n8n 支持多种数据库(默认 SQLite),这里使用的是 PostgreSQL,提前创建数据卷并设置权限

# n8n data dir
cd ~/container/n8n

mkdir -p n8n_data postgres_data
# node user
sudo chown -R 1000:1000 ./n8n_data

# postgres user
sudo chown -R 999:999 ./postgres_data

chmod -R 700 ./postgres_data
chmod -R 755 ./n8n_data

创建 docker-compose.yml 模板

services:
  postgres:
    image: postgres:17.6-alpine
    container_name: n8n-postgres
    restart: unless-stopped
    user: "999:999"
    environment:
      POSTGRES_USER: n8n  # 数据库用户名
      POSTGRES_PASSWORD: n8npass  # 数据库密码
      POSTGRES_DB: n8n  # 数据库名称
      LANG: en_US.UTF-8
      LC_ALL: en_US.UTF-8
    volumes:
      - ./postgres_data:/var/lib/postgresql/data
    healthcheck:
      test: ["CMD-SHELL", "pg_isready -U n8n -d n8n || exit 1"]
      interval: 10s
      timeout: 5s
      retries: 10
      start_period: 30s

  n8n:
    image: docker.n8n.io/n8nio/n8n:latest
    container_name: n8n
    restart: unless-stopped
    user: "1000:1000"
    environment:
      - DB_TYPE=postgresdb
      - DB_POSTGRESDB_HOST=postgres
      - DB_POSTGRESDB_PORT=5432
      - DB_POSTGRESDB_DATABASE=n8n  # 数据库名称
      - DB_POSTGRESDB_USER=n8n  # 数据库用户名
      - N8N_ENFORCE_SETTINGS_FILE_PERMISSIONS=true
      - N8N_RUNNERS_ENABLED=true
      - N8N_HOST=n8n.dejavu.moe
      - N8N_PORT=5678
      - N8N_PROTOCOL=https
      - WEBHOOK_URL=https://n8n.dejavu.moe/  # 替换你的域名
      - N8N_EDITOR_BASE_URL=https://n8n.dejavu.moe/  # 替换你的域名
      - N8N_PROXY_HOPS=1
      - GENERIC_TIMEZONE=Asia/Shanghai
      - TZ=Asia/Shanghai
    ports:
      - "127.0.0.1:5678:5678"
    depends_on:
      postgres:
        condition: service_healthy
    volumes:
      - ./n8n_data:/home/node/.n8n

这时候我们只部署了 n8n 服务,启动容器

sudo docker compose up -d

反向代理

添加一个用于 n8n Web 服务的 Nginx 反向代理配置,示例如下:

server {
    listen 80;
    listen [::]:80;
    server_name n8n.dejavu.moe;  # 替换你的域名

    # HTTP to HTTPS
    return 301 https://$host$request_uri;
}

server {
    listen 443 ssl;
    listen [::]:443 ssl;
    http2 on;
    server_name n8n.dejavu.moe;  # 替换你的域名

    ssl_certificate /etc/nginx/cert/wild.dejavu.moe.pem;  # SSL
    ssl_certificate_key /etc/nginx/cert/wild.dejavu.moe.key;  # SSL

    # Cloudflare Origin SSL cipher suites
    ssl_protocols TLSv1.2 TLSv1.3;
    ssl_ecdh_curve X25519:P-256:P-384;
    ssl_ciphers ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-ECDSA-CHACHA20-POLY1305:ECDHE-RSA-AES128-GCM-SHA256:ECDHE-RSA-CHACHA20-POLY1305:ECDHE+AES128:RSA+AES128:ECDHE+AES256:RSA+AES256:ECDHE+3DES:RSA+3DES;
    ssl_prefer_server_ciphers off;
    ssl_session_cache shared:SSL:10m;
    ssl_session_timeout 1d;
    ssl_session_tickets off;

    # logs
    access_log /var/log/nginx/n8n.dejavu.moe.access.log;
    error_log /var/log/nginx/n8n.dejavu.moe.error.log;
    location / {
        proxy_pass http://127.0.0.1:15678;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_set_header X-Forwarded-Host $host;
        proxy_set_header X-Forwarded-Port $server_port;
        proxy_buffering off;
        chunked_transfer_encoding off;
        proxy_read_timeout 3600;
        proxy_send_timeout 3600;
    }

    location ~ ^/(webhook|webhook-test)/ {
        proxy_pass http://127.0.0.1:15678;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

此时应该可以通过自己的域名访问 n8n 了,创建管理员账号输入邮箱,会收到一个用于解锁社区版特性的激活码。假如你有 ChatGPT、Gemini……这些平台的 API Key,现在就可以愉快的玩耍了,毕竟现在 n8n 宣称是原生 AI 集成的全自动工作流,在这里找模板:

和我一样的「穷鬼」们,去下一步吧,我们将在 Ollama 中体验各种免费的模型。

Ollama

假如用 Docker 部署 Ollama,我又不想再给它添加一个反向代理了,那么 n8n 怎么访问 Ollama 呢?那就直接编排到同一个 docker-compose.yml 模板里吧,它们会共享容器的网络,端口绑定本地环回地址即可确保安全,这样 Ollama 的 HTTP API 就仅限本机 n8n 使用了。

在上面的 n8n 服务中添加 Ollama 的服务,现在看起来应该这样:

services:
  ollama:
    container_name: ollama
    image: ollama/ollama:latest
    restart: unless-stopped
    environment:
      - OLLAMA_HOST=0.0.0.0
      - OLLAMA_KEEP_ALIVE=1h
    volumes:
      - ./ollama:/root/.ollama

  postgres:
    image: postgres:17.6-alpine
    container_name: n8n-postgres
    restart: unless-stopped
    user: "999:999"
    environment:
      POSTGRES_USER: n8n
      POSTGRES_PASSWORD: n8npassword
      POSTGRES_DB: n8n
      LANG: en_US.UTF-8
      LC_ALL: en_US.UTF-8
    volumes:
      - ./postgres_data:/var/lib/postgresql/data
    healthcheck:
      test: ["CMD-SHELL", "pg_isready -U n8n -d n8n || exit 1"]
      interval: 10s
      timeout: 5s
      retries: 10
      start_period: 30s

  n8n:
    image: docker.n8n.io/n8nio/n8n:latest
    container_name: n8n
    restart: unless-stopped
    user: "1000:1000"
    environment:
      - DB_TYPE=postgresdb
      - DB_POSTGRESDB_HOST=postgres
      - DB_POSTGRESDB_PORT=5432
      - DB_POSTGRESDB_DATABASE=n8n
      - DB_POSTGRESDB_USER=n8n
      - N8N_ENFORCE_SETTINGS_FILE_PERMISSIONS=true
      - N8N_RUNNERS_ENABLED=true
      - N8N_HOST=n8n.dejavu.moe
      - N8N_PORT=5678
      - N8N_PROTOCOL=https
      - WEBHOOK_URL=https://n8n.dejavu.moe/
      - N8N_EDITOR_BASE_URL=https://n8n.dejavu.moe/
      - N8N_PROXY_HOPS=1
      - GENERIC_TIMEZONE=Asia/Shanghai
      - TZ=Asia/Shanghai
    ports:
      - "127.0.0.1:15678:5678"
    extra_hosts:  # <添加这个>
      - "host.docker.internal:host-gateway"  # <以及这个>
    depends_on:
      postgres:
        condition: service_healthy
    volumes:
      - ./n8n_data:/home/node/.n8n

启动 Ollama 服务

sudo docker compose up -d

下载 LLM 模型,比如 llama3.1:8b,也可以使用一些 Tool Calling 类模型,比如 deepseek-r1-tool-calling:1.5b

sudo docker exec -it ollama bash

ollama pull llama3.1:8b

完成后重启相关容器

sudo docker compose down && sudo docker compose up -d

测试

登录我们部署的 n8n 控制台,添加一个 Ollama 服务凭据,Base URL 填 http://ollama:11434 即可

connect-ollama.webp

这是一个获取 RSS 摘要并将总结发送到 Telegram 频道/群组/对话中的工作流(来自公开模板)

workflow.webp

纯 CPU 进行这种 LLM 推理压力还是挺大的,后续可以选择更小一点的模型

load.webp

考虑当前硬件性能对本地 LLM 的瓶颈,我们大概最多可以选择 7b/8b 以下的模型(甚至更低),虽然吐 Token 的速度还是有点慢,不过反正以后是 n8n 在跑,我们又不用等,让它跑吧!

time.webp

最终,这个简单的任务用时 11 分钟 24.635 秒,可以接受哈哈。