在多个GitLab Runner上部署相同的任务

80次阅读

问题描述

在使用GitLab和GitLab Runner时遇到了一个问题。他有多台虚拟机运行着GitLab Runner，现在希望使用GitLab CI在这些虚拟机上部署微服务，并且想要在这些虚拟机上监控使用Prometheus和Grafana等工具。他已经为这些虚拟机编写了docker-compose.yml和.gitlab-ci.yml文件，同时还注册了带有worker标签的Runner。然而，他发现在CI流程中只有一个worker job被触发，而实际上他需要在大约20台虚拟机上进行部署。他寻求解决方案来解决这个问题。

解决方案

根据用户的情况，他希望在多台虚拟机上运行相同的任务，这需要一种能够管理多个服务器状态的工具。GitLab的构建流水线主要用于生成输出，不适合管理多台服务器的状态。用户已经提到他使用了Docker Swarm来部署服务，只在领导节点上运行GitLab Runner来进行部署。这是一个不错的方案，但他需要确保所有节点都能被触发运行任务。

方案

请注意以下操作可能需要根据实际情况进行调整，并在执行前做好备份。
1. 检查Docker Swarm集群设置: 确保Docker Swarm集群设置正确，所有节点都成功注册为Worker。这可以通过运行以下命令来检查：
bash docker node ls
确保所有的节点都显示为READY状态，并且带有worker标签。

检查GitLab Runner配置: 确保GitLab Runner已经在所有节点上成功注册，并且都带有worker标签。可以使用以下命令来检查：
bash gitlab-runner list
确保所有节点都出现在列表中，并且标签包括worker。
检查GitLab CI配置: 确保.gitlab-ci.yml文件中的部署任务能够在所有Runner上运行。在文件中，他已经定义了一个名为deploy-workers的任务，可以在其中使用Docker Compose来进行部署。确保这个任务被正确触发，并且在所有Runner上都能运行。
检查部署脚本: 检查docker-compose.worker.yaml文件，确保它能够在所有节点上正常运行。你可以手动尝试在一个节点上运行以下命令来测试：
bash docker-compose -f docker-compose.worker.yaml pull docker-compose -f docker-compose.worker.yaml down docker-compose -f docker-compose.worker.yaml up -d
并行部署: 如果只有一个worker job被触发，那么可能是由于GitLab Runner的并发设置限制造成的。你可以尝试在.gitlab-ci.yml中调整concurrent参数，以允许更多的任务并行运行。例如：
“`yaml
deploy-workers:
tags:
- worker
  stage: deploy-workers
  script:
- docker-compose -f docker-compose.worker.yaml pull
- docker-compose -f docker-compose.worker.yaml down
- docker-compose -f docker-compose.worker.yaml up -d
  # 增加并发度
  concurrent: 5
  “`