惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

C
CXSECURITY Database RSS Feed - CXSecurity.com
K
Kaspersky official blog
A
Arctic Wolf
Attack and Defense Labs
Attack and Defense Labs
L
LINUX DO - 热门话题
N
News | PayPal Newsroom
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
L
Lohrmann on Cybersecurity
PCI Perspectives
PCI Perspectives
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
The Last Watchdog
The Last Watchdog
B
Blog RSS Feed
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
W
WeLiveSecurity
Know Your Adversary
Know Your Adversary
博客园 - Franky
T
Tenable Blog
T
Tailwind CSS Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
Help Net Security
Help Net Security
WordPress大学
WordPress大学
T
The Exploit Database - CXSecurity.com
www.infosecurity-magazine.com
www.infosecurity-magazine.com
博客园 - 司徒正美
阮一峰的网络日志
阮一峰的网络日志
D
Darknet – Hacking Tools, Hacker News & Cyber Security
H
Heimdal Security Blog
TaoSecurity Blog
TaoSecurity Blog
S
Security Affairs
J
Java Code Geeks
小众软件
小众软件
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Apple Machine Learning Research
Apple Machine Learning Research
NISL@THU
NISL@THU
O
OpenAI News
The Cloudflare Blog
月光博客
月光博客
Google Online Security Blog
Google Online Security Blog
V
V2EX
罗磊的独立博客
美团技术团队
博客园 - 三生石上(FineUI控件)
Security Latest
Security Latest
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
C
Cyber Attacks, Cyber Crime and Cyber Security
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Cyberwarzone
Cyberwarzone
L
LINUX DO - 最新话题
Hacker News - Newest:
Hacker News - Newest: "LLM"
大猫的无限游戏
大猫的无限游戏

Jiajun的技术笔记

你好,2026! TiDB 源码阅读(六):TiDB Coprocessor 源码解析 性能优化的核心思想 TiDB 源码阅读(五):索引 TiDB 源码阅读(四):AST、逻辑计划、物理计划 CockroachDB Serverless Architecture podman 无故退出 Cursor Control-L (CTRL-L) Keyboard Shortcuts in Terminal Replace docker with podman Using xmonad with xfce4 A RC script for freebsd frpc 自己动手写一个k8s controller AI 会取代你的(编程)岗位吗? 自建DERP服务器提升Tailscale连接速度(使用Nginx转发) 自动升级Docker容器 再读《程序员修炼之道-从小工到专家》 让浏览器下载文件 再读《软件随想录》/《黑客与画家》/《软技能》 HTTP 压力测试中的 Coordinated Omission 2的补码 编程语言中的 context 是什么? flutter macOS 构建出错 Flatpak 使用小记 Golang CAS 操作是怎么实现的 PostgreSQL 当MQ来使用 Clash 结合 工作VPN 的网络设计 PostgreSQL 配置优化和日志分析 有GitHub Copilot?那就可以搭建你的ChatGPT4服务 窗口函数的使用(以PG为例) 读《为什么学生不喜欢上学》 OpenAI Prompt Engineering 摘录和总结 读《打造真正的新产品》 VueJS 总结 Linux 自动挂载 alist 提供的webdav FreeBSD 使用 vm-bhyve 安装Debian虚拟机 FreeBSD 和 Linux 网卡聚合实现提速 GPT 帮我搞定了时区转换问题 长任务系统如何处理? macOS/Linux 编译 InputLeap 使用开源软KVM - synergy-core 解决 macOS 终端hostname一直变化问题 KVM 共享 Intel 集成显卡 PromQL 备忘 读《格鲁夫给经理人的第一课》 读《打开心智》 为什么要把复杂的联表操作拆成多个单表查询? 红包系统的设计 MySQL Index Condition Pushdown Optimization Go mod 简明教程 OpenWRT 使用 Android/iOS USB 网络 搭建旁路由 Golang gRPC 错误处理 编写可维护的单元测试代码 OAuth 2 详解(六):Authorization Code Flow with PKCE OAuth 2 详解(五):Device Authorization Flow OAuth 2 详解(三):Resource Owner Password Credentials Grant OAuth 2 详解(四):Client Credentials Flow OAuth 2 详解(二):Implict Grant Flow OAuth 2 详解(一):简介及 Authorization Code 模式 ElasticSearch 学习笔记 三种git流程以及发版模型 错误处理实践 权限模型(RBAC/ABAC) OIDC(OpenID Connect) 简介 任务队列简介 PostgreSQL 操作笔记 使用Drone CI构建CI/CD系统 Golang migrate 做数据库变更管理 使用PostgreSQL做搜索引擎 Nginx 源码阅读(三): 连接池、内存池 Nginx 源码阅读(二): 请求处理 Nginx 源码阅读(一): 启动流程 Go 泛型简明教程 KVM 显卡穿透给 Windows 使用 HTTP Router 处理 Telegram Bot 按钮回调 使用反射(reflect)对结构体赋值 GIN 是如何绑定参数的 你好 2022(2021 年终总结) 用Go导入大型CSV到PostgreSQL 使用 OpenWRT 搭建软路由 使用软KVM切换器 barrier 共享键鼠 SQL 防注入及原理 使用 gomock 测试 Go 代码 gevent不是黑魔法(二): gevent 实现 gevent不是黑魔法(一): greenlet 实现 用 entgo 替代 gorm 应用内使用crontab不是那么方便 单测时要不要 mock 数据库? Sentry 自建指南 用selenium完成自动化任务 用闲置的安卓手机做垃圾电话短信过滤 推荐三个时间管理工具 一次事故反思 当JS遇到uint64:JS整数溢出问题 SQLite3 存储以及ACID原理 Redis源码阅读:pub/sub实现 Redis源码阅读:zset实现 Redis源码阅读:bitmap 位图的运算 Redis源码阅读:set是怎么做交并集运算的? Redis源码阅读:list实现(ziplist, quicklist)
使用 PostgreSQL 搭建 JuiceFS
Jiajun Huang · 2024-03-07 · via Jiajun的技术笔记

首先我们来看一下大概的步骤:

  1. 安装PG和JuiceFS
  2. 数据库创建好用户名密码
  3. 创建好 s3 的bucket和access key + secret key
  4. juicefs foramt 创建好文件系统
  5. 编辑开机自启挂载文件系统
  6. 校验和使用

原理简介

使用juicefs之前,还是需要大概的了解一下原理,我没有仔细阅读源码,但是基本把官方文档阅读了一遍,下面是我的理解:

更具体的细节,还需要阅读源码,这个只是我的一个粗浅理解

  1. 首先最简单的来说,我们可以理解为 s3fs,也就是把 s3 通过fuse挂载到本地路径,从而你读写,数据就会自动同步到 s3
  2. 光是 s3fs,或者像NFS那样,把本地POSIX读写转成网络读写的话,性能肯定好不起来,因此juicefs使用了一些技术来加速,包括但不限于: a. 文件分块:文件分块以后,读写直接使用偏移量,网络I/O也就会变的更快,一次可以只读一个块 b. 预读:当检测到连续读时,如果本地缓存不存在,则可以直接将接下来的文件块提前下载下来 c. 本地磁盘当缓存:例如写文件时,可以先写到本地磁盘,再同步到s3等
  3. juicefs 将文件的属性和数据本身进行了分离,也就是元数据和数据本身分离,元数据可以存到数据库里,从而实现分布式部署,这样其他节点只要能连接到数据库,就可以知道文件的信息,数据本身则是存储到例如s3等云存储中

在企业中,很多场景下我们需要把文件备份到s3等存储,但是有时候则需要读写,例如:日志存储、HDFS、文件备份等,这种时候,如果可以 把s3等挂载到本地,就会比较方便。当然,如果不能挂载,我们还可以使用类似rclone等工具来实现备份(rclone其实也可以挂载)。

搭建步骤

安装PG和JuiceFS

# sudo apt install postgresql
# 默认安装到 /usr/local/bin
# curl -sSL https://d.juicefs.com/install | sh -

PG创建好数据库、用户、密码

$ sudo -u postgres psql
$ psql
> CREATE USER 用户名 WITH ENCRYPTED PASSWORD '密码';
> CREATE DATABASE 数据库名 OWNER 用户名;

创建好 s3 的bucket和access key + secret key

这个就直接去网页上操作,记得保存好 bucket 的 endpoint,access key, secret key 就行

juicefs foramt 创建好文件系统

执行命令

juicefs format --storage=s3 --bucket=https://<bucket endpoint> --access-key=<access key> --secret-key=<secret key> postgres://<数据库创建好的用户名>:<数据库创建好的密码>@127.0.0.1:5432/<创建好的database> <你想把这个叫做啥这里就写啥>

当然,上面的数据库地址,如果你不是使用本地连接的话,就得改成对应的地址

编辑开机自启挂载文件系统

juicefs 本身提供一个编辑fstab的方式来实现开机自动挂载,但是缺点就是数据库的密码等等都在里面。而我更倾向于使用 systemd 挂载的方式。 首先,确定你要挂载的路径,例如我想挂载到 /data/bitful 这个路径,那么我要编辑的systemd mount文件的路径就是 /etc/systemd/system/data-bitful.mount,你是什么路径,就用中划线连接这个路径。

然后下面是内容:

[Unit]
Description=Juicefs
Before=docker.service

[Mount]
Environment="ACCESS_KEY=<access key>" "SECRET_KEY=<secret key>" "STORAGE=s3" "BUCKET=https://<bucket endpoint>" "META_PASSWORD=<数据库密码>"
What=postgres://<数据库创建好的用户名>@127.0.0.1:5432/<你创建的database>
Where=/data/bitful
Type=juicefs
Options=_netdev,allow_other,writeback_cache

[Install]
WantedBy=remote-fs.target
WantedBy=multi-user.target

⚠️ 例如加密、设置缓存目录等,juicefs文档没写,我也暂时还没探索,所以如果你想使用这些设置选项的话,可能暂时还只能使用fstab文件的形式。

校验和使用

启用:

$ sudo ln -s /usr/local/bin/juicefs /sbin/mount.juicefs
$ sudo systemctl enable --now data-bitful.mount

然后就可以去 /data/bitful 路径下随便写一个文件,去s3上看看有没有对应的新文件产生就可以了

⚠️注意事项

使用juicefs这样的工具,很重要的一点就是一定要把保存元数据的数据库保护好,要不然元数据损毁,整个文件就很难找回来了,像我 本地使用,一般Redis我都当作缓存或者队列使用,很有可能会操作 FLUSH 命令,因此我就选择关系型数据库来保存元数据,即使慢 一些,而且关系型数据库是做了备份的。


Refs: