前言

Blinko 是一款很棒的开源 AI 知识库笔记应用，部署教程见 Blinko 开源 AI 知识库 Docker 部署指南 。本文中我将使用 Ollama 的本地 Embedding 模型集成，以支持 RAG (Retrieval-Augmented Generation) 检索增强生成 搜索。

无论我们使用哪一家的模型，它都不是全知全能，尤其对于 Blinko 这种主打 AI 驱动的个人知识库来说。

什么是 Embedding 模型，有什么作用？

简单来说，Embedding 模型 将本地知识库里的内容（根据模型支持，可以是文档、图像、音频、视频……）转化成 向量 (Vector) 表示，向量本质就是一串数字的集合，类似真正的「向量」，它有正负及数位。

举个例子：

• Apple 公司 → [0.13, 0.85, -0.56, 0.75]
• iPhone 18 → [0.11, 0.93, -0.49, 0.68]

我不是 AI 专家，上面的数据也是胡诌的。但还是大致能看出来，语义越相近，两者的向量距离就越近，这就是 近似度。简而言之，Embedding 模型让 LLM 也能理解文本之间的关系。

现在就能说通，使用 Embedding 模型向量化，让本地知识库支持语义化搜索及其他 AI 集成，是 Blinko 建立 RAG 搜索的核心条件。

除了上面的 AI 搜索界面，应用内搜索也会使用这方面的功能，具体可以自行体验。

Ollama 是跑本地 LLM 模型最简单的方法，API 利于集成，Embedding 模型普遍较小，对性能和环境要求不高，可以很方便的在本地运行。

部署 Ollama

参考 在 n8n 中使用 Ollama 的本地 LLM 模型 ，仅需在 Blinko 的 Compose 模板中新增服务

  ollama:
    container_name: ollama
    image: ollama/ollama:latest
    restart: unless-stopped
    environment:
      - OLLAMA_HOST=0.0.0.0
      - OLLAMA_KEEP_ALIVE=1h  # 卸载模型时间
    volumes:
      - ./ollama:/root/.ollama

现在可以启动容器

sudo docker compose up -d

选择模型

Ollama 上提供开箱即用的 Embedding 模型选择，体积与性能比较均衡的：

• nomic-embed-text:v1.5
• shaw/dmeta-embedding-zh:latest
• embeddinggemma:300m
• bge-m3:567m

我使用的是 bge-m3:567m 模型，它对中文和英文支持都很好。作为参考，在我的 RS 1000 G12 Pro 服务器上，Ollama 运行模型时 RAM 占用在 1.5GB 作用，目前我在上面运行着多达 20 个 Docker 容器。除了首次 Blinko 重建嵌入向量时，4 个核心短时间占用到 90% 作用，其余时间这个模型运行顺畅。

下载模型

进入 Ollama 容器 Shell

sudo docker exec -it ollama bash

下载所需的模型

ollama pull bge-m3:latest

Ollama 配置完成

添加 AI 供应商

进入 Blinko 的 AI 设置添加供应商

选择 Ollama 添加

在同个 Docker 网络内，基础网址填 http://ollama:11434/api 后点击创建

输入自己下载模型的名称并添加，类型选择 Embedding，对于这款模型嵌入维度填 1024 即可（不填应该也没有影响）。点击测试连接，OK 后点击创建。

配置默认模型

重建索引

选择好正确的本地模型后，在 AI 设置里重建索引向量

稍等片刻，重建索引向量就完成啦

此后，在需要时，Blinko 都会喊「嗨，🦙小泥马！启动模型，该打工了」。在闲置时，小泥马会默默地从 RAM 中卸载模型（上面设置了存活时间为 1h）。

嗯，很完美~