惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

GbyAI
GbyAI
博客园 - 三生石上(FineUI控件)
S
Securelist
U
Unit 42
The Cloudflare Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Simon Willison's Weblog
Simon Willison's Weblog
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
B
Blog
T
Tenable Blog
The Hacker News
The Hacker News
The Register - Security
The Register - Security
IT之家
IT之家
博客园 - 【当耐特】
Spread Privacy
Spread Privacy
P
Privacy & Cybersecurity Law Blog
博客园_首页
T
Tailwind CSS Blog
人人都是产品经理
人人都是产品经理
C
Cybersecurity and Infrastructure Security Agency CISA
Know Your Adversary
Know Your Adversary
NISL@THU
NISL@THU
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
阮一峰的网络日志
阮一峰的网络日志
T
Tor Project blog
C
CERT Recently Published Vulnerability Notes
Apple Machine Learning Research
Apple Machine Learning Research
Stack Overflow Blog
Stack Overflow Blog
T
Threat Research - Cisco Blogs
T
The Exploit Database - CXSecurity.com
V
Vulnerabilities – Threatpost
A
Arctic Wolf
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
V
V2EX
aimingoo的专栏
aimingoo的专栏
大猫的无限游戏
大猫的无限游戏
Scott Helme
Scott Helme
L
LINUX DO - 热门话题
Cyberwarzone
Cyberwarzone
V
Visual Studio Blog
月光博客
月光博客
爱范儿
爱范儿
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
美团技术团队
G
GRAHAM CLULEY
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
H
Heimdal Security Blog
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO

陈少文的网站

巨变与机遇的未来十年 Kubernetes 平台管理软件压力测试方案 使用镜像部署 Hexo 静态页面 终于等到你 - GitHub 镜像仓库服务(ghcr.io) 一起来学 Go --(6)Interface 一起来学 Go --(5)Goroutine 和 Channel 什么是函数式编程 如何在 Kubernetes 集群集成 Kata 柯里化与偏函数 使用 PyGithub 自动创建 Label 软件产品是团队能力的输出 Helm 2 、Helm 3 比较 IoT 变现 Kubernetes 中的 DNS 服务 国内的 Helm 镜像源 Harbor 使用自签证书支持 Https 访问 DevOps 工具链之 Prow 如何使用 kfctl 安装 Kubeflow VS Code 无法下载 Go 插件的工具包 工程师更应具有服务精神 你不知道的 Docker 使用技巧 使用 Docker 运行 Tensorflow 论中国 什么是左移 如何清空 Git 仓库全部历史记录 一禅小和尚 有风吹过厨房 时间的玫瑰 如何在 CentOS 安装 GPU 驱动 开发 Tips(19) 使用 Velero 备份 Kubernetes 集群 Kubernetes Cheat Sheet 开发 Tips(18) 如何构建一个 Java 工程 开发 Tips(17) KubeSpray 安装 Kubernetes 报错 ip in ansible_all_ipv4_addresses 基于 Kubernetes 和 Jenkins 搭建自动化测试系统 在 Kubernetes 上动态创建 Jenkins Slave 使用 Jenkins 进行服务拨测 开发 Tips(16) Kubernetes 签发 Ingress 证书及日常故障运维 Kubernetes 中 Deployment 的基本操作 Kubernetes 中的证书 如何使用 KubeBuilder 开发一个 Operator Kubernetes 1.6.0 安装问题汇总 镜像管理工具 -- Harbor 开发 Tips(15) Docker 如何拉取镜像 开发 Tips(14) 使用 Helm 安装 harbor 开发 Tips(13) 使用 S2I 构建云原生应用 在 Kubernetes 中使用 emptyDir、hostPath、localVolume 开发 Tips(12) 开发 Tips(11) 代码质量分析工具 SonarQube 使用 Kubeadm 安装 Kubernetes 集群 一起来学 Go --(4)常用函数 Kubernetes 中的 Ceph Kubernetes 之 Volumes Kubernetes 之 Labels、Selectors 开发 Tips(10) 开源正在重构商业模式 Kubernetes 之网络 Kubernetes 之 API 使用 Helm 和 Operator 快速部署 Prometheus Kubernetes 复杂有状态应用管理框架 -- Operator Kubernetes 的包管理器 -- Helm 一起来学 Go --(3)Go Modules 如何一步一步地优化博客方案 kubectl 实用指南 Kubernetes 中的基本概念 搭建远程 Kubernetes 开发环境 大公司和小公司的 ToB 思路 开发 Tips(9) Go 入门指南 一起来学 Go --(2)数据与逻辑结构 如何预防 Web 富文本中的 XSS 攻击 django-xss-cleaner 云工作时代 一起来学 Go --(1)背景与特点 SaaS 开发团队的不同阶段 你不知道的 Git 使用技巧 输出既服务 微服务设计 继续奔跑 开发 Tips(8) 从账户安全到二次验证 Django 性能之数据库查询优化 Django 性能之分库分表 敏捷开发之研发流程 打造一致性的团队 开发 Tips(7) Pytest 进阶学习之 Mock PaaS 部署之 buildpack Go 开发配置 领域输出才是 PaaS 的核心竞争力 Pytest 入门学习 开发 Tips(6) 如何使用 Jenkins、Docker、GitLab 搭建 Django 自动化部署流程
常用的一些 CI 脚本
微信公众号 · 2018-07-17 · via 陈少文的网站

Please enable Javascript to view the contents

由于负责小组的 CI 公共事项,经常需要配置 CI 流程,或者帮助其他人解决一些问题,整理了一下常用的 CI 脚本,以方便查阅。

1. .gitlab-ci.yml 结构

下面是, GitLab CI 的配置文件结构。

.gitlab-ci.yml 文件

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
# 一些前置脚本,完成激活环境等操作
before_script:
  - source /data/runner/node/bin/activate
  - which node && node --version
  - which npm && npm --version
  - LANG="zh_CN.utf8"
  - export LC_ALL=zh_CN.UTF-8

# 编排需要执行的 stage
stages:
  - build
  - deploy

# 定义 job。job 属于某一个 stage,比如这里的 build 、deploy。GitLab CI 会按照 stages 配置的先后,顺序执行每一个 stage。

2. 编译 Webpack 工程并提交到 GitLab 仓库

这里约定:

  • 前端工程在根目录的 webpack 目录下
  • 前端工程编译之后的输出文件在根目录的 static/dist 目录下
  • 前端的编译命令是 npm run build

GitLab CI 内置变量可以去 这里 查看。也可以,使用关键字 variables 定义自己的变量。比如,上面的目录路径,就可以配置为变量。但是每个项目有其独特性,这里就没有写成通用的形式,避免误导。

通常,我会将一些账户信息配置在 settings/ci_cd 页面,并将这些变量勾选保护。勾选保护之后,只有受保护的分支才能够获取到这些变量,也就是下面的 GIT_USERNAMEGIT_PASSWORD 这部分。

这里强烈建议,不要直接在当前代码目录直接提交 Git,应该将代码重新拉一份到本地,以保证环境不被污染。

.gitlab-ci.yml 文件,

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
stages:
  - build
build-webpack:
  stage: build
  variables:
  CI_REPOSITORY_URL:
    http://$GIT_USERNAME:$GIT_PASSWORD@gitlab.yourdomain.com/$CI_PROJECT_PATH.git
  cache:
    untracked: true
    paths:
      - webpack/node_modules
  script:
    - echo "start build and commit"
    - cd webpack
    # 可通过关键字优化
    - npm install
    # 可通过关键字优化
    - npm run build
    - cd ..
    - rm -rf git-dir
    - git clone -b $CI_COMMIT_REF_NAME http://$GIT_USERNAME:$GIT_PASSWORD@gitlab.yourdomain.com/$CI_PROJECT_PATH.git git-dir
    - cd git-dir && rm -rf ./static/dist
    - mv ../static/dist static/
    - git config --global user.name $GITLAB_USER_NAME
    - git config --global user.email $GITLAB_USER_EMAIL
    - git add static/dist
    # 避免循环构建
    - git commit -m "auto commit [ci skip]`git log -1 --pretty=%B`" || exit 0
    - git push $CI_REPOSITORY_URL $CI_COMMIT_REF_NAME >/dev/null 2>&1 || exit 0
    - echo "end build and commit"
  tags:
    # 指定 runner
    - linux
    - shell
  only:
    # 指定分支
    - master

3. 从 GitLab 推送代码到 SVN 仓库

由于发布系统采用的是 SVN 仓库,但是 Git 更适合多人开发协助,在开发的过程中使用的是 GitLab 仓库。

为了将 GitLab 仓库自动推送到 SVN 仓库,可以使用下面这个 job:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
push-to-svn:
  stage: deploy
  variables:
    CI_REPOSITORY_URL:
      http://$GIT_USERNAME:$GIT_PASSWORD@gitlab.yourdomain.com/$CI_PROJECT_PATH.git
  script:
    - echo "start push to svn"
    - echo "step 1/3: git clone"
    - git clone -b $CI_COMMIT_REF_NAME $CI_REPOSITORY_URL git-dir
    - echo "finished"
    - echo "setp 2/3: svn checkout"
    - echo 't' | svn checkout $SVN_PATH svn-dir --username $SVN_USERNAME --password $SVN_PASSWORD --no-auth-cache
    - echo "finshed"
    - echo "step 3/3: push git master to svn trunk"
    # 确保删除文件操作有效,可优化
    - cd svn-dir && svn delete *
    - rsync -avq git-dir/ svn-dir/
    - cd ./svn-dir
    - svn add * --force
    - echo 't' | svn commit -m "`git log -1 --pretty=%B`" --username $SVN_USERNAME --password $SVN_PASSWORD --no-auth-cache
    - echo "end push to svn"

4. 通过关键字控制执行的脚本

GitLab CI 提供了一些内置关键字用于控制 CI 的行为。比如,在提交信息中增加 [ci skip][skip ci] 就会跳过当次提交触发的 CI 构建。

受到这种想法的启发,我们也可以在脚本中,从提交信息中匹配一些关键字,用于控制脚本执行逻辑。

  • 通过是否有关键字 [install] ,判断是否执行依赖包的安装
1
if [[ $(git log -1 --pretty=%B) = *"["*"install"*"]"* ]]; then npm install; else echo "not npm install"; fi;
  • 通过是否有关键字 [build] ,判断是否进行前端的打包
1
if [[ $(git log -1 --pretty=%B) = *"["*"build"*"]"* ]]; then npm run build; else echo "not npm install"; fi;
  • 通过是否有关键字 [delete] ,判断在执行 SVN 推送时,是否需要删除文件。这里主要是由于 svn add * 命令不能将删除的文件提交,删除文件必须使用 svn delete 处理。如果不使用 svn delete 命令,会导致 GitLab 中被删除的文件,在 SVN 中实际上没有被删除。
1
if [[ $(git log -1 --pretty=%B) = *"["*"delete"*"]"*]]; then cd svn-dir && svn delete * && cd ..; else echo "not svn delete"; fi;

5. 从 yml 获取变量

yml 文件格式:

1
2
3
4
code: test
name: 测试
author: admin
version: 1.2.3

以上面的 yml 格式为例,需要获取相关字段信息。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
parse_yaml() {
   local prefix=$2
   local s='[[:space:]]*' w='[a-zA-Z0-9_]*' fs=$(echo @|tr @ '\034')
   sed -ne "s|^\($s\)\($w\)$s:$s\"\(.*\)\"$s\$|\1$fs\2$fs\3|p" \
        -e "s|^\($s\)\($w\)$s:$s\(.*\)$s\$|\1$fs\2$fs\3|p"  $1 |
   awk -F$fs '{
      indent = length($1)/2;
      vname[indent] = $2;
      for (i in vname) {if (i > indent) {delete vname[i]}}
      if (length($3) > 0) {
         vn=""; for (i=0; i<indent; i++) {vn=(vn)(vname[i])("_")}
         printf("%s%s%s=\"%s\"\n", "'$prefix'",vn, $2, $3);
      }
   }'
}
eval $(parse_yaml test.yml "config_")

通过执行上面的脚本,可以获取到 test.yml 中的字段信息。

1
2
3
echo ${config_code}
echo ${config_name}
...

6. 将环境变量值,写到 yml 文件

yml 文件格式:

1
2
3
4
code: test
name: 测试
author: admin
version: 1.2.3

以上面的 yml 格式为例,获取环境变量中的 VER 值,并将其写到 version: 后面中。

1
sed -i "/version:/s/[0-9].*$/${VER}/g" test.yml

微信公众号