惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

月光博客
月光博客
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
N
Netflix TechBlog - Medium
大猫的无限游戏
大猫的无限游戏
爱范儿
爱范儿
Martin Fowler
Martin Fowler
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
The Register - Security
The Register - Security
IT之家
IT之家
博客园_首页
Microsoft Security Blog
Microsoft Security Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
博客园 - 三生石上(FineUI控件)
I
InfoQ
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
Jina AI
Jina AI
Apple Machine Learning Research
Apple Machine Learning Research
M
MIT News - Artificial intelligence
博客园 - Franky
C
Check Point Blog
T
The Blog of Author Tim Ferriss
V
Visual Studio Blog
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
T
Tailwind CSS Blog
Recent Announcements
Recent Announcements
云风的 BLOG
云风的 BLOG
美团技术团队
The Cloudflare Blog
Y
Y Combinator Blog
H
Hackread – Cybersecurity News, Data Breaches, AI and More
MyScale Blog
MyScale Blog
The GitHub Blog
The GitHub Blog
D
DataBreaches.Net
Google DeepMind News
Google DeepMind News
V
V2EX
aimingoo的专栏
aimingoo的专栏
GbyAI
GbyAI
G
Google Developers Blog
S
SegmentFault 最新的问题
Hugging Face - Blog
Hugging Face - Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
U
Unit 42
罗磊的独立博客
量子位
MongoDB | Blog
MongoDB | Blog
Last Week in AI
Last Week in AI
Stack Overflow Blog
Stack Overflow Blog
小众软件
小众软件
D
Docker
人人都是产品经理
人人都是产品经理

博客园_首页

Linux实操--组管理、权限管理和定时任务 Java + EasyExcel 实现单个接口导出多个Excel Mem0 源码解析系列(二):提示词工程的深度剖析 Openclaw TaskFlow究竟是什么?和普通Skill技能有什么区别 博文阅读密码验证 - 博客园 嘉立创开源:应该是全网MicroPython教程最多的开发板 Hermes Agent 集成实践:从协议到生产 2026年AI编程工具横评:Cursor、Codex、Claude Code、Zed、Windsurf Java程序员必看的RAG入门教程 2026 AI效率神器:Superpowers + Claude Code 保姆级教程 本地大模型部署全攻略:从 0 到 1 玩转 Ollama 【从0到1构建一个ClaudeAgent】内存管理-上下文压缩 .NET 高级开发 | 设计、实现一个事件总线框架 电子小白入门之NE555 3. WorkBuddy:隐藏玩法,一键召唤专家,让 AI 以"专家身份"给你干活 和AI一起搞事情#3:Claude Teammate 游戏开发翻车实录 【OpenClaw】通过 Nanobot 源码学习架构---(7)Memory C# .NET 周刊|2026年3月3期 我在 Debian 11 上把 K8s 单机搭起来了,过程没你想的那么顺(/opt 目录版) 深度学习进阶(七)Data-efficient Image Transformer CLI+Skill搭建浏览器AI自动化框架,告别一切重复枯燥任务 告别Token账单无底洞:OpenClaw本地部署,重塑企业数据主权的唯一解 FastAPI+Vue:文件分片上传+秒传+断点续传,这坑我帮你踩平了! SBTI 爆火后,我做了个程序员版的 CBTI。。已开源 + 附开发过程 多模态检索开始进入工程期:用 Sentence Transformers 搭建可落地的 Multimodal RAG 100多行代码实现一个最简单的Agent(用ReAct) Claude Code 通关手册(八):推荐 5 个 Hooks,代码质量提升 3 倍 老板:“有人截图了!”。安全部门:“收到,马上查暗水印!” - why技术 技术之外,皆是人间 C#/.NET/.NET Core技术前沿周刊 | 第 69 期(2026年4.01-4.12) Snack JSONPath 项目架构分析 Claude Code Buddy 小析:一个非核心功能,如何体现产品的细节完成度 AI新时代下的图床管理方案-Cloudflare图床+MCP+Skills方案指南 化繁为简:顺丰速运App如何通过 HarmonyOS SDK实现专业级空间测量 从零实现富文本编辑器#13-React非编辑节点的内容渲染 AI开发-python-langchain框架(3-23-OpenAI Functions风格Tool Calling智能助手) .NET + AI 进阶实战:基于类的技能开发 - 打造可治理的 Agent 能力模块 【从0到1构建一个ClaudeAgent】规划与协调-技能 上周热点回顾(4.6-4.12) 电子小白的工具三件套:面包板、杜邦线、万能板 单表五亿数据的查询优化 | Mysql、StarRocks 2. WorkBuddy:从“我是谁”到“帮我干活” C# 如何减少代码运行时间:7 个实战技巧 基于HelixToolkit.SharpDX 渲染3D模型 - 笺上知微 从零开始的双臂具身VLA起源及现阶段发展综述 - SkyXZ 记对 xonsh shell 的使用, 脚本编写, 迁移及调优 - pluvium27 受够了Vibe Coding的失控?换个起点,让AI事半功倍 从开始配置漏洞环境到漏洞复现流程 - 難しい 关于10年工作经验的程序员对OpenClaw的实战经验分享以及看法 - 虚无境 Any metadata 的内存布局 C# .NET 周刊|2026年3月2期 - InCerry 我帮你测过了,测试圈排名第二的 Skill 依然很牛逼 Skill Discovery | 无监督技能发现的经典工作总结 - MoonOut PbootCMS 网站内容数量多导致访问慢?这些实用优化方案帮你提速! - 家兴网络技术工作室 上下文工程是什么?过时了么?一文讲明白! - 一枫说码 网站漏洞怎么发现并修复?一篇实用指南(附完整流程) - 家兴网络技术工作室 开了 TUN 模式还是直连?90% 的人都踩过这个坑 Github日报|2026年04月12日 - AI一族 AScript扩展多种脚本语言 - rockey627 AI 学习笔记:Agent 的记忆机制 你能被装进一个文件里吗?——7 万人把同事"蒸馏"成了 AI - 我没有三颗心脏 Claude Code 通关手册(七):给 AI 装上技能包——Skills 完全指南 - 暮色之狐 在浏览器中快速编辑代码:VSCode Web 集成实践 - Newbe36524 蒸馏自己 skill?基于 Deepseek 的蒸馏器,丐版蒸馏方式,简单便捷 - To_Carpe_Diem Spring AI Aliababa和AgentScope,哪个更好? - 苏三说技术 Etsy 把 1000 个 MySQL 分片迁进 Vitess:425TB 数据背后的真正问题不是性能,而是运维规模 MicroPython LVGL基础知识和概念:底层渲染与性能优化 - FreakStudio 数据库草图算法 Python 潮流周刊#146:CPython 引入 Rust 的进展 - 豌豆花下猫 最小生成树 - mofei1116 红日靶场七:从外网入口、容器逃逸到 AD 接管的完整利用链复盘 - YouDiscovered1t 分享四款开源且实用的 Kafka 管理工具 - 追逐时光者 vLLM 权重加载机制全解析:从挑战到理想架构 LCT 学习笔记 - ACehomoxue Avalonia UI 12.0.0 正式发布:架构演进和性能飞跃 - 张善友 当 AI Agent 把调用链拉长,延迟开始成为一门生意 conhost.exe 无法显示 U+2717 - 145a 太秀了,我把自己蒸馏成了 Skill!已开源 - 程序员鱼皮 ASP.NET Core 内存缓存实战:一篇搞懂该怎么配、怎么避坑 基于 Ghostty 带有分割标签页和为 Claude 编程设计的通知终端 - BugShare AI 焊死入口:教育的“操作系统级”重塑 - 郝hai 初级Java开发工程师使用sql脚本编写代码的过程是简单而且不糊涂 - CoderOilStation Claude Code通关手册(六):MCP协议完全指南 - 暮色之狐 边框灯光环绕动画特效实现指南 - Newbe36524 开源:子木蒸馏版的 SEO 审计工具 seo-audit-skill v1.0 我所理解的Python元模型 【从0到1构建一个ClaudeAgent】规划与协调-TodoWrite - 程序员Seven Claude 和 Codex 在审计 Skill 上性能差异探究 - ACai_sec AScript如何实现中文脚本引擎 - rockey627 【渗透测试】HTB Season10 Garfield 全过程wp - dynasty_chenzi Android 开发者为什么必须掌握 AI 能力?端侧视角下的技术变革 树状数组正确性证明 - AC-wyr 你的 AI 焦虑,可能比 AI 本身更危险——ATM 机没有消灭银行柜员,但恐慌消灭了你的判断力 - 我没有三颗心脏 一个拉胯的分库分表方案有多绝望?整个部门都在救火! - 冰河团队 动态规划入门必学之走方格问题 - Ofnoname PostgREST 与 PostgreSQL 角色权限配置全解析(生产级实践) - SheepDog1998 使用 UEFI 图形输出协议 GOP 在屏幕上显示图像的方法 - 阿源- Claude Code通关手册(五):组建你的AI专家团队,子代理系统 - 暮色之狐 一个程序员到架构师的催婚路之感悟(整整10年后的催婚相亲感悟) - MisterLip 用 Agent Skill 自动生成工作周报 - 赵康
openGauss 迁移到 GreatSQL:DataX 全流程实操指南
GreatSQL · 2026-06-26 · via 博客园_首页

背景

某套业务系统当前使用 openGauss 数据库,后续计划切换到 GreatSQL。本文示例是使用 DataX 将 openGauss 的一张业务表的数据同步到 GreatSQL 的过程,主要包括 DataX 安装、JDBC 驱动准备、目标表结构转换、任务配置以及迁移结果校验。 实际的生产数据迁移时,需要结合表数量、数据量、停机窗口、约束和索引重建策略完整评估迁移耗时。

方案概述

DataX 是阿里巴巴开源的异构数据源离线同步工具。它将数据同步过程抽象为 Reader、Framework 和 Writer 三部分:Reader 从源端读取数据,Framework 负责调度和传输,Writer 将数据写入目标端。

本次迁移链路如下:

openGauss -> DataX Reader -> DataX Framework -> mysqlwriter -> GreatSQL

GreatSQL 完全兼容 MySQL 协议和 MySQL 语法,因此目标端使用 DataX 的 mysqlwriter 插件写入。源端 openGauss 与 PostgreSQL 生态有较高兼容性,但在 JDBC 驱动、数据类型和 SQL 语法上仍需要注意差异。

DataX 概述

什么是DataX

DataX 是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。

DataX的设计

为了解决异构数据源同步问题,DataX 将复杂的网状的同步链路变成了星型数据链路,DataX 作为中间传输载体负责连接各种数据源。当需要接入一个新的数据源的时候,只需要将此数据源对接到 DataX,便能跟已有的数据源做到无缝数据同步。

Image

框架设计

DataX安装

DataX下载

下载地址 https://github.com/alibaba/DataX ,本次下载的datax_v202309版本

前置要求

本文示例环境使用 Linux 服务器,运行 DataX 前需要准备:

  • JDK:建议使用 JDK 1.8。
  • Python:DataX 启动脚本依赖 Python,Python 2 或 Python 3 均可,本文环境中 Python 2.7.5 和 Python 3.6.8 均已安装。
  • 网络连通性:DataX 所在服务器需要能够访问 openGauss 和 GreatSQL 的数据库端口。
  • 数据库权限:源端账号需要具备查询权限,目标端账号需要具备写入权限;如果使用 preSqlpostSql,还需要相应的 DDL/DML 权限。

检查 Java 和 Python 版本:

[root@localhost ~]# java -version
java version "1.8.0_411"
Java(TM) SE Runtime Environment (build 1.8.0_411-b09)
Java HotSpot(TM) 64-Bit Server VM (build 25.411-b09, mixed mode)

[root@apsl ~]# python --version
Python 2.7.5

[root@localhost ~]# python3 --version
Python 3.6.8

下载并解压 DataX

本次下载的datax_v202309版本

datax.tar.gz 上传到服务器后,解压到 /opt 目录:

tar -zxvf datax.tar.gz -C /opt

解压后,DataX 主目录为 /opt/datax

准备 openGauss JDBC 驱动

下载官方 openGauss JDBC 驱动 ,并将 openGauss 驱动放入 postgresqlreader 目录

wget https://opengauss.obs.cn-south-1.myhuaweicloud.com/3.0.0/x86/openGauss-3.0.0-JDBC.tar.gz 
tar -zxvf openGauss-3.0.0-JDBC.tar.gz 
cp openGauss-3.0.0-JDBC.jar plugin/reader/postgresqlreader/libs/

运行 DataX 自检

DataX 安装包自带 job.json 示例,可以先用它验证 DataX 能否正常启动:

python /opt/datax/bin/datax.py /opt/datax/job/job.json 
 

2026-05-21 14:35:49.173 [job-0] INFO  JobContainer - 
任务启动时刻                    : 2026-05-21 14:35:39
任务结束时刻                    : 2026-05-21 14:35:49
任务总计耗时                    :                 10s
任务平均流量                    :          253.91KB/s
记录写入速度                    :          10000rec/s
读出记录总数                    :              100000
读写失败总数                    :                   0

自检任务能正常运行,说明 DataX基 础运行环境没有问题。后续还需要通过真实任务验证数据库连接、驱动加载和表结构映射是否正确。

迁移前准备

创建目标库、用户和表

迁移前需要先在 GreatSQL 中创建数据库、用户和目标表。openGauss 的建表语句不能直接在 GreatSQL 中执行,需要根据两端的数据类型、字符集、默认值、约束和索引进行转换。

本文示例表为 g_test_record

openGauss 建表语句如下:

CREATE TABLE g_test_record (
    pk_operate_record character(32) NOT NULL,
    operate_type nvarchar2(100) NOT NULL,
    host_media_count integer,
    pk_deploy_media character(32),
    pk_operator character(32),
    operate_time timestamp with time zone
)
WITH (orientation=row, compression=no);

GreatSQL 的建表语句

CREATE TABLE `g_test_record` (
  `pk_operate_record` char(32)   NOT NULL,
  `operate_type` varchar(100)   NOT NULL,
  `host_media_count` int DEFAULT NULL,
  `pk_deploy_media` char(32)   DEFAULT NULL,
  `pk_operator` char(32)   DEFAULT NULL,
  `operate_time` datetime DEFAULT NULL
) ENGINE=InnoDB;

常用字段类型转换关系如下:

openGauss字段类型 GreatSQL字段类型
character char
nvarchar2 varchar
integer int
smallint smallint
int int
text text
blob blob
numeric decimal
timestamp datetime、datetime(6)包含毫秒

编写配置文件

/opt/datax/job/ 目录下创建任务配置文件,例如 og2mysql_g_test_record.json

下面配置以 gaussdbreader 为例。如果当前环境继续使用 postgresqlreader,只需要将 reader 的 name 改为 postgresqlreader,并确保 openGauss JDBC 驱动已经放到 postgresqlreader/libs 目录。

[root@apsl datax]# more job/og2mysql_g_test_record.json
{
    "job": {
        "content": [
            {
                "reader": {
                    "name": "postgresqlreader",
                    "parameter": {
                        "username": "dbps",
                        "password": "*********",
                        "column": ["*"],
                        "where": "",
                        "connection": [
                            {
                                "jdbcUrl": [
                                    "jdbc:opengauss://192.168.1.100:15000/demo"
                                ],
                                "table": ["g_test_record"]
                            }
                        ]
                    }
                },
                "writer": {
                    "name": "mysqlwriter",
                    "parameter": {
                        "username": "root",
                        "password": "**********",
                        "column": ["*"],
                        "writeMode": "update",
                        "connection": [
                            {
                                "jdbcUrl": "jdbc:mysql://192.168.1.100:8603/demo?useSSL=false&useUnicode=true&characterEncoding=utf8&zeroDateTimeBehavior=convertToNull",
                                "table": ["g_test_record"]
                            }
                        ]
                    }
                }
            }
        ],
        "setting": {
            "speed": {
                "channel": 1
            }
        }
    }
}

配置说明:

配置主要分为 reader 和 writer,reader用于从 openGauss 读取数据,writer 将读取的数据写入到 GreatSQL,

username 是用户名、password 是密码,jdbcUrl 是数据库连接信息,table 是待迁移的表名,column 是指表的字段,本次迁移测试是在 GreatSQL 创建好表后,立刻进行数据迁移,使用的*,更稳妥的做法是显式列出所有字段。

如果源表或目标表后续发生字段顺序变化或者发生新增或者删除字段,导致openGauss和GreatSQL表结构不一致,会导致重新进行数据迁移时,迁移任务失败。

示例配置中 mysqlwriter 使用了 writeMode: "update"。该模式依赖目标表的主键或唯一索引触发 ON DUPLICATE KEY UPDATE。如果目标表没有主键或唯一索引,重复执行任务可能插入重复数据。若表存在业务主键,建议在目标表中补充主键约束。

特别说明:配置文件中postgresqlreader的驱动需要配置为openGauss

执行数据迁移

在 DataX 目录下执行任务:

python ./bin/datax.py job/og2mysql_g_test_record.json

任务执行完成后,关注输出中的记录数、失败数和错误日志。示例输出如下:

2026-05-21 16:03:26.788 [job-0] INFO  JobContainer - 
         [total cpu info] => 
                averageCpu                     | maxDeltaCpu                    | minDeltaCpu                    
                -1.00%                         | -1.00%                         | -1.00%
                        

         [total gc info] => 
                 NAME                 | totalGCCount       | maxDeltaGCCount    | minDeltaGCCount    | totalGCTime        | maxDeltaGCTime     | minDeltaGCTime     
                 PS MarkSweep         | 1                  | 1                  | 1                  | 0.024s             | 0.024s             | 0.024s             
                 PS Scavenge          | 1                  | 1                  | 1                  | 0.015s             | 0.015s             | 0.015s             

2026-05-21 16:03:26.788 [job-0] INFO  JobContainer - PerfTrace not enable!
2026-05-21 16:03:26.789 [job-0] INFO  StandAloneJobContainerCommunicator - Total 23 records, 2583 bytes | Speed 258B/s, 2 records/s | Error 0 records, 0 bytes |  All Task WaitWriterTime 0.000s |  All Task WaitReaderTime 0.000s | Percentage 100.00%
2026-05-21 16:03:26.790 [job-0] INFO  JobContainer - 
任务启动时刻                    : 2026-05-21 16:03:15
任务结束时刻                    : 2026-05-21 16:03:26
任务总计耗时                    :                 10s
任务平均流量                    :              258B/s
记录写入速度                    :              2rec/s
读出记录总数                    :                  23    #迁移23条数据
读写失败总数                    :                   0

数据核对

迁移完成后,至少需要核对以下内容:

  • 源端和目标端记录数是否一致。
  • 主键或唯一键对应的数据是否一致。
  • 字符串字段是否存在截断、乱码或空格差异。
  • 时间字段的时区和精度是否满足业务要求。
  • 数值字段是否存在精度变化。

源端 openGauss 示例数据:

-[ RECORD 22 ]----+---------------------------------
pk_operate_record | 7dc11468b7734417abc6e1d0787e7a96
operate_type      | install
host_media_count  | 1
pk_deploy_media   | f8e443cbc4194bfab2a6a78b7ebe6063
pk_operator       | 1390a49407784921868a1a55116c351a
operate_time      | 2025-05-16 10:19:57.121+08
-[ RECORD 23 ]----+---------------------------------
pk_operate_record | 99911468b7734417abc6e1d0787e7a96
operate_type      | install
host_media_count  | 1
pk_deploy_media   | f8e443cbc4194bfab2a6a78b7ebe6063
pk_operator       | 1390a49407784921868a1a55116c351a
operate_time      | 2025-05-16 10:19:57+08

目标端 GreatSQL示例数据:

*************************** 22. row ***************************
pk_operate_record: 7dc11468b7734417abc6e1d0787e7a96
     operate_type: install
 host_media_count: 1
  pk_deploy_media: f8e443cbc4194bfab2a6a78b7ebe6063
      pk_operator: 1390a49407784921868a1a55116c351a
     operate_time: 2025-05-16 10:19:57
*************************** 23. row ***************************
pk_operate_record: 99911468b7734417abc6e1d0787e7a96
     operate_type: install
 host_media_count: 1
  pk_deploy_media: f8e443cbc4194bfab2a6a78b7ebe6063
      pk_operator: 1390a49407784921868a1a55116c351a
     operate_time: 2025-05-16 10:19:57
23 rows in set (0.00 sec)

示例中,目标端已查询到 23 条数据,与 DataX 任务日志中的读取记录数一致。需要特别注意的是,源端第一条记录包含毫秒和时区信息,写入 GreatSQL 的 datetime 字段后只保留到秒。毫秒精度没有在目标字段中保留,可以和业务进行确认,是否需要保留毫秒信息,如果需要保留毫秒信息,GreatSQL建表语句可以使用datetime(6)

总结

使用 DataX 可以完成 openGauss 到 GreatSQL 的离线数据迁移。迁移过程的关键点包括:

  • 源端 Reader 插件需要正确加载 openGauss JDBC 驱动。
  • GreatSQL 目标端可使用 mysqlwriter 写入。
  • openGauss DDL 不能直接复用到 GreatSQL,需要先完成数据类型、字符集、约束和索引转换。
  • writeMode: "update" 需要目标表存在主键或唯一索引,否则重复执行可能产生重复数据。
  • 时间、字符集、数值精度等字段需要在迁移后重点核对。

本文示例完成了单表 23 条数据的迁移验证,DataX 日志显示失败记录数为 0,目标端查询结果也能对应到源端数据。后续如果迁移多表或大表,建议补充全量校验、抽样校验、失败重跑策略和迁移窗口评估。