程序员社区

微服务架构Day31-Dubbo之持续集成2021-03-25

概念

  • 服务治理遇到的问题

    • 在微服务项目中每个服务都是独立运行的项目
    • 不可能对每个项目进行手动部署,涉及到自动化运维的问题

持续集成

  • 持续集成(Continues Integration,简称CI)
  • 持续集成指的是,频繁(一天多次)地将代码集成到主干,优点有两个:

    • 快速发现错误: 每完成一点更新, 就集成到主干,可以快速发现错误,定位错误
    • 防止分支大幅偏离主题: 如果不是经常集成,主干又在不断更新,会导致以后集成难度变大,甚至难以集成
  • 持续集成强调:开发人员提交了新的代码之后,立即进行构建,(单元)测试,根据测试结果,确定新代码和原有代码能否集成到一起
  • 与集成相关的概念还有持续交付和持续部署
使用GitLab持续集成
  • GitLab8.0以后,GitLab CI就已经集成在GitL中,只要在项目中添加一个 .gitlab-ci.yml文件,然后添加一个Runner,就可以进行持续集成
  • Pipeline

    • Pipeline: 管道 ,一次Pipeline相当于一次构建任务,可以包含多个流程:安装依赖,运行测试,编译,部署测试服务器,部署生产服务器等流程
    • 任何提交或者Merge Request的合并都可以触发Pipeline
  • Stages

    • Stages表示构建阶段,也就是上面的流程,可以在一次Pipeline中构建多个Stages,这些Stages的特点:

      • 所有Stages会按照顺序运行: 即当一个Stage完成后,下一个Stage才会开始
      • 只有当所有Stages完成后,该构建任务(Pipeline)才会成功
      • 如果任何一个Stage失败,那么后续的Stages都不会执行,该构建任务(Pipeline)失败
  • Jobs

    • Jobs表示构建工作,表示某个Stage里面执行的工作,可以在Stages里定义多个Jobs,这些Jobs特点:

      • 相同Stage中的Jobs会并行执行
      • 相同Stage中的Jobs都执行成功时,该Stage才会执行成功
      • 如果任何一个Job失败,那么该Stage失败,即构建任务(Pipeline)失败

持续交付

  • 持续交付(Continuous Delivery):

    • 频繁地将软件的新版本,交付给质量团队或用户以供评审
    • 评审通过,代码就进入生产阶段
  • 持续交付是持续集成的下一步,强调的是:不管怎么更新,软件是随时随地可以交付的
  • 持续交付是在持续集成的基础上,将集成后的代码部署到更接近真实运行环境的类生产环境(production-like environment)中

持续部署

  • 持续部署(Continuous Deployment)是持续交付的下一步,指的是代码通过评审后,自动部署到生产环境
  • 持续部署的目标: 代码在任何时刻都是可部署的,可进入生产阶段
  • 持续部署的前提: 自动化完成测试,构建,部署等步骤

GitLab Runner

GitLab CI

  • 一般来说,构建任务会占用很多的系统资源(编译代码时),由于GitLab CI是GitLab的一部分,由GitLab CI来运行构建任务的化,GitLab的性能会大大下降
  • GitLab CI最大的作用: 是管理各个项目的构建状态

GitLab Runner

  • GitLab Runner可以安装到不同的机器上,在构建任务运行期间不会影响GitL的性能
  • 基于Docker安装GitLab Runner:
1.创建工作目录: /usr/local/docker/runner
2.创建构建目录: /usr/local/docker/runner/environment
3.下载jdk-8u152-linux-x64.tar.gz复制到/usr/local/docker/runner/environment
4.下载apache-maven-3.5.3-bin.tar.gz复制到/usr/local/docker/runner/environment


daemon.json
1.在/usr/local/docker/runner/environment目录下创建daemon.json,用于配置加速器和仓库地址
-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
{
    "registry-mirrors":[
        "https://registry.docker-cn.com"
    ],
    "insecure-registries":[
        "127.0.0.1:5000"
    ]
}
----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------


Dockerfile
1.在 /usr/local/docker/runner/environment目录下创建Dockerfile
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
FROM gitlab/gitlab-runner
MAINTAINER Lusifer <topsale@vip.qq.com>
# 修改软件源
RUN echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial main restricted universe multiverse' > /etc/apt/sources.list && \
    echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted universe multiverse' >> /etc/apt/sources.list && \
    echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted universe multiverse' >> /etc/apt/sources.list && \
    echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse' >> /etc/apt/sources.list && \
    apt-get update -y && \
    apt-get clean
# 安装 Docker
RUN apt-get -y install apt-transport-https ca-certificates curl software-properties-common && \
    curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | apt-key add - && \
    add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable" && \
    apt-get update -y && \
    apt-get install -y docker-ce
COPY daemon.json /etc/docker/daemon.json
# 安装 Docker Compose
WORKDIR /usr/local/bin
RUN wget https://raw.githubusercontent.com/topsale/resources/master/docker/docker-compose
RUN chmod +x docker-compose
# 安装 Java
RUN mkdir -p /usr/local/java
WORKDIR /usr/local/java
COPY jdk-8u152-linux-x64.tar.gz /usr/local/java
RUN tar -zxvf jdk-8u152-linux-x64.tar.gz && \
    rm -fr jdk-8u152-linux-x64.tar.gz
# 安装 Maven
RUN mkdir -p /usr/local/maven
WORKDIR /usr/local/maven
# RUN wget https://raw.githubusercontent.com/topsale/resources/master/maven/apache-maven-3.5.3-bin.tar.gz
COPY apache-maven-3.5.3-bin.tar.gz /usr/local/maven
RUN tar -zxvf apache-maven-3.5.3-bin.tar.gz && \
    rm -fr apache-maven-3.5.3-bin.tar.gz
# COPY settings.xml /usr/local/maven/apache-maven-3.5.3/conf/settings.xml
# 配置环境变量
ENV JAVA_HOME /usr/local/java/jdk1.8.0_152
ENV MAVEN_HOME /usr/local/maven/apache-maven-3.5.3
ENV PATH $PATH:$JAVA_HOME/bin:$MAVEN_HOME/bin

WORKDIR /
--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

docker-compose.yml
在 /usr/local/docker/runner 目录下创建 docker-compose.yml
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------
# 表示从 environment 目录下寻找 Dockerfile,即在Docker 里装 Docker
version: '3.1'
services:
  gitlab-runner:
    build: environment
    restart: always
    container_name: gitlab-runner
    privileged: true
    volumes:
      - ./config:/etc/gitlab-runner
      - /var/run/docker.sock:/var/run/docker.sock
------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
  • 构建镜像并启动

    • 在/usr/local/docker/runner目录下执行:
    docker-compose build
    
  • 注册 Runner

    • 启动容器在/usr/local/docker/runner目录下执行命令启动:
    docker-compose up 
    
    • 进入容器自动执行注册流程,在/usr/local/docker/runner目录下执行(后面gitlab-runner register时脚本命令):
    docker exec -it gitlab-runner gitlab-runner register
    
    • 打开 GitLab,进入持续集成设置界面

      微服务架构Day31-Dubbo之持续集成2021-03-25插图
      在这里插入图片描述
    • 在交互式终端中填入 Git Lab 提供的 URL 和 token
    Please enter the gitlab-ci coordinator URL (e.g. https://gitlab.com/):
    http://192.168.1.21/
    Please enter the gitlab-ci token for this runner:
    kTx_PUnx_hhy63pNJtqM
    Please enter the gitlab-ci description for this runner:
    [c77b5e39a2a6]: 
    Please enter the gitlab-ci tags for this runner (comma separated):
    
    Registering runner... succeeded                     runner=kTx_PUnx
    Please enter the executor: docker, shell, ssh, docker-ssh+machine, docker+machine,     kubernetes, docker-windows, docker-ssh, parallels, virtualbox:
    shell
    Runner registered successfully. Feel free to start it, but if it's running already the config   should be automatically reloaded! 
    
     docker exec -it gitlab-runner gitlab-runner register
    
     # 交互式配置说明:
    
     # 输入GitLab地址
     Please enter the gitlab-ci coordinator URL(e.g. https://gitlab.com/)
     http://192.168.32.255/
    
     # 输入GitLab Token
     Please enter the gitlab-ci token for this runner:
     kTx_PUnx_hhy63pNJtqM
    
     # 输入Runner的说明
     Please enter the gitlab-ci description for this runner:
     可以不填为空
    
     # 设置Tag,用于指定在构建规定的tag时触发ci,如果不设置,默认每次都会触发ci
     Please enter the gitlab-ci tags for this runner (comma separate):
     deploy
    
     # 这里选择true,用于代码上传后直接执行
     Whether to run utagged builds [true/false]:
     true
    
     # 这里选择false,可以直接回车,默认false
     Whether to lock Runner to current project [true/false]:
     false
    
     # 选择runner执行器,这里选择shell
     Please enter the executor: virtualbox,docker+machine,parallels,shell,ssh,docker-ssh+machine,kubernetes,docker,docker-ssh:
     shell
    

    使用Runner

  • 在项目工程下编写 .gitlab-ci.yml文件:
stages:
 - install_deps
 - test
 - build
 - deploy_test
 - deploy_production

cache:
 key: ${CI_BUILD_REF_NAME}
 paths:
  - node_modules/
  - dist/

# 安装依赖
install_deps:
 stage: install_deps
 only:
  - develop
  - master
 script:
  - npm install

# 运行测试用例
test:
 stage: test
 only:
  - develop
  - master
 script:
  - npm run test

# 编译
build:
 stage: build
 only:
  - develop
  - master
 script:
  - npm run clean
  - npm run build:client
  - npm run build:server

# 部署测试服务器
deploy_test:
 stage: deploy_test
 only:
  - develop
 script:
  - pm2 delete app || true
  - pm2 start app.js --name app

# 部署生产服务器
deploy_production:
 stage: deploy_production
 only:
  - master
 script:
  - bash scripts/deploy/deploy.sh

提交项目之后,就会执行Runner

  • 在项目工程下创建docker文件夹,创建Dockerfile
FROM openjdk:8-jre

MAINTAINER Chova

# 环境变量
ENV APP_VERSION 1.0.0-SNAPSHOT
# Docker插件,用来检测依赖项,只有依赖项启动才会启动
ENV DOCKERIZE_VERSION v0.6.1

RUN wget https://github.com/jwilder/dockerize/release/download/$DOCKERIZE_VERSION/dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz \
    && tar -C /usr/local/bin -xzvf dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz \
    && rm dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz 

RUN mkdir /app

COPY myshop-service-user-provider-$APP_VERSION.jar /app/app.jar
ENTRYPOINT ["dockerize", "-timeout", "5m", "-wait", "tcp://192.168.32.255.131:3306", "java", "-Djava.security.egd=file:/dev/./urandom", "-jar", "/app/app.jar"]

EXPOSE 8501
  • Dockerfile:
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
FROM openjdk:8-jdk-alpine
VOLUME /tmp
ARG JAR_FILE
COPY ${JAR_FILE} app.jar
ENTRYPOINT ["java","-jar","/app.jar"]
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

1.FROM: 这是引入一个父镜像,在此基础上进行添加只读层.镜像可以理解成由一层层只读层组成,
        FORM下面的命令,可以理解就是在已有的只读层,添加只读层.FORM可以有多个,但最上面的一定是FROM命令

2.VOLUME: 配置一个具有持久化功能的目录,主机 /var/lib/docker 目录下创建了一个临时文件,并链接到容器的/tmp.该步骤是可以省略的
          默认情况下,容器不使用任何 volume,此时,容器的数据被保存在容器之内,它只在容器的生命周期内存在,会随着容器的被删除而被删除
          如果不想在容器删除后,容器的数据也被删除,那么就可以指定持久化目录.它被设计用来保存数据,而不管容器的生命周期.因此,当你删除一个容器时,Docker不会自动地删除一个volume

3.ARG:设置编译镜像时加入的参数,可以省略

4.COPY:只支持将本地文件复制到容器,还有个ADD更强大但复杂点

5.ENTRYPOINT:容器启动时执行的命令
  • 删除所有为<none>的镜像
docker rmi $(docker images -q -f dangling=true)
  • 在docker-compose.yml中配置默认使用已经存在的网络
version: '3.1'
services:
  myshop-service-user-provider:
    image: 192.168.32.255:5000/myshop-service-user-provider:v1.0.0
    container_name: myshop-service-user-provider
    ports:
      - 8501:8501
      - 22222:22222
      - 20881:20881
    # 配置容器连接的网络
networks:
  default:
    external:
      name: dubbo
赞(0) 打赏
未经允许不得转载:IDEA激活码 » 微服务架构Day31-Dubbo之持续集成2021-03-25

一个分享Java & Python知识的社区