平台部署
部署包下载
操作系统镜像、离线安装包以及插件包开放公网下载,请联系ZStack工程师获得,使用前请先确认文件MD5值正确。
可选下载内容主要包含以下文件:
| 描述 | 文件格式 | 用途 |
|---|---|---|
| 操作系统镜像文件 | .iso | 用于物理机/虚拟机上安装 ZStack 操作系统。 |
| 虚拟机镜像文件 | .qcow2 | 用于虚拟机上安装 ZStack 操作系统。 |
| 平台安装包 | .bin | 容器云平台的主安装包,同时适用于x86和arm架构。 |
| DevOps插件包 | .tar | 容器云平台的 DevOps 增值模块。 |
| csi插件包 | .tar | 容器云平台对接 ZStack 企业级分布式存储所需的安装包,支持 ZStone-rbd、ZCE-X iscsi 以及 ZCE-X nfs 三种存储类型的对接。 |
| zaku-vlan | / | 用于物理服务器的的网络配置工具。 |
安装操作系统
ZStack 提供两种操作系统安装介质,ISO文件以及qcow2文件,可以按需下载及使用。
ISO文件适用于物理机节点,以及VMware等不支持qcow2镜像模板的虚拟化环境下安装操作系统。
qcow2文件适用于IaaS虚拟化平台上可以使用qcow2镜像创建虚拟机的场景,略过操作系统安装的步骤能有效缩短部署时间。
使用ISO文件安装操作系统
ZStack Zaku 容器云平台使用 ZStack 定制的ISO镜像,除麒麟V10SP3-GFB操作系统外,其他操作系统在x86与ARM服务器上安装流程一致,下文介绍系统安装的详细步骤:
配置服务器
确认服务器内硬盘的数据已备份,安装过程会覆盖写入。
进入阵列卡配置合适的RAID级别,以提供一定的数据冗余特性。(虚拟机上安装时略)
设置系统启动盘为第一启动顺序。
选择引导项
进入ISO系统引导界面,选择默认选项开始安装操作系统。
提供以下安装方式:图形界面方式、VNC方式和字符安装方式,您可根据实 际情况选择,建议使用图形界面安装。
若服务器无VGA接口,仅支持串口连接,您可使用VNC方式或字符安装方式。
查看安装配置汇总
该页面展示系统安装配置,您可按需修改,默认已配置以下内容:
DATE&TIME:默认亚洲东八区,建议管理员提前检测主机时间,配置为当前时间和时区
LANGUAGE:默认English (United States)
KEYBOARD:默认English (US)
系统安装界面
选择安装模式
在安装配置汇总界面,点击SOFTWARE SELECTION,进入安装模式选择界面,选择ZStack Compute Node模式。
配置硬盘分区
在安装配置汇总界面,点击INSTALLATION DESTINATION,进入硬盘分区界面。
建议此处仅配置系统盘,其余磁盘可在系统安装后配置。配置硬盘时,建议使用Custom.手动配置硬盘分区:
根据BIOS引导模式参考以下内容进行配置:
- UEFI 模式
分区 容量 描述 /boot1G 存放Linux 启动所需的核心文件 /boot/efi500M 存放UEFI启动引导文件 / 所有剩余空间 Linux系统根目录 swap 删除 交换分区 - Legacy模式
分区 容量 描述 /boot1G 存放Linux 启动所需的核心文件 / 所有剩余空间 Linux系统根目录 swap 删除 交换分区
操作系统安装完成后将自动重启服务器
略。
通过qcow2文件安装操作系统
创建虚拟机
按照节点规格、网络规划以及性能要求创建虚拟机即可,此处略过虚拟机创建过程。
创建虚拟机过程中,建议配置虚拟机互斥策略,使虚拟机调度到不同物理机上,避免单台物理机故障影响 ZStack Zaku 容器云平台以及业务集群的高可用性。其中管理平台集群、业务集群管理节点、业务集群计算节点可各自创建一个互斥分组。
虚拟机根云盘扩容
qcow2镜像文件系统约20~30GB大小,虚拟机实例创建完成后,需要扩容系统盘。请先在IaaS虚拟化平台上扩容系统盘容量,再进入操作系统执行扩容步骤:
# 扩容盘符,以操作系统内系统盘为vda为例 fdisk /dev/vda依次输入
n、p、w。# 刷新分区并创建物理卷, /dev/vda3为刚刚新建的分区 partprobe /dev/vda pvcreate /dev/vda3 # 将物理卷扩展到卷组 vgextend zstack /dev/vda3 # 将卷组中的空闲空间扩展到根分区逻辑卷 lvextend -l +100%FREE /dev/mapper/zstack-root # 刷新根分区 xfs_growfs /dev/mapper/zstack-root # xfs格式 resize2fs /dev/mapper/zstack-root # ext4格式 # 查看根盘是否扩容成功 df -h
网络配置
平台对部分节点有统一网卡设备名称的要求,在部署时平台和创建业务集群前需要对节点的网卡名称做归一化配置。IaaS平台不同、虚拟机操作系统不同会导致虚拟机网卡名称出现差异;同时物理机的网卡名称又与虚拟机的网卡名称也会出现较大的差异。
| 集群类型 | 网卡类型 | 网卡归一化 |
|---|---|---|
| 管理平台集群 | 管理网卡 | 需要,管理平台集群内网卡名称一致即可 |
| 业务集群 | 管理网卡 | 需要,业务集群内网卡名称一致即可 |
| 业务集群 | 业务网卡 | 需要,业务集群内网卡名称一致即可 |
| 业务集群 | 存储网卡 | 不需要 |
注:本图例主要以直观方式展示哪些网卡需要做网卡归一化处理,并非一定要按照图例网卡名称进行配置。
此处列举以下几种场景,配置网卡名称以及IP地址:
所有节点均为虚拟机
此示例中,大部分网卡名称为相同(enp3s0、ens3和ens4),仅业务集群一台计算节点的管理网卡名称需要调整。
ens3 网卡标准配置步骤(若节点上已从DHCP自动获取IP地址,可以不用执行该步骤):
# 为 ens3 网卡配置IP地址
# zs-network-setting -i <网卡名称> <IP地址> <子网掩码> <网关地址>
zs-network-setting -i ens3 172.27.210.111 255.255.255.0 172.27.210.1
ens9 网卡与其他网卡名称不一致,需要做网卡归一化处理:
# 创建 bond
# zs-bond-ab -c <bond名称>
zs-bond-ab -c ens3
# 将ens9网卡添加至bond(ens3)中
# zs-nic-to-bond -a <bond名称> <网卡名称>
zs-nic-to-bond -a ens3 ens9
# 为bond(ens3)配置IP地址
# zs-network-setting -i <bond名称> <IP地址> <子网掩码> <网关地址>
zs-network-setting -i ens3 172.27.210.112 255.255.255.0 172.27.210.1
所有节点均为物理机
为满足网口带宽容量和高可靠需要,在实际生产环境中需要实施网卡捆绑(bond)配置,配置完成后确保bond网卡名称一致即可。
物理网卡配置有以下建议:
管理、业务、存储网络建议在物理链路层面进行隔离,同时均采用双链路配置bond。
bond模式优先使用链路聚合模式,进一步提高网络带宽。
相同型号网卡可以设置跨物理网卡做bond配置,达到跨物理网卡板卡冗余。
此处以业务集群管理网络为例:
物理机上的物理网卡名称可能各不相同,但最终配置完bond后bond网卡名称一致即可,此例中网卡名称均为bond0.33。
业务网络和存储网络同理,同时约定bond0管理网络,bond1业务网络,bond2存储网络。
注:物理服务器网卡配置建议在IPMI上执行
网卡无VLAN子接口时参考以下方式:
# 创建 bond
# zs-bond-ab -c <bond名称>;若使用链路聚合模式,则使用 zs-bond-lacp 命令创建bond
zs-bond-ab -c bond0 # 或 zs-bond-lacp -c bond0
# 将两块物理网卡添加至bond0中
# zs-nic-to-bond -a <bond名称> <网卡名称>
zs-nic-to-bond -a bond0 p1p1
zs-nic-to-bond -a bond0 p2p1
# 为bond0配置IP地址
# zs-network-setting -i <bond名称> <IP地址> <子网掩码> <网关地址>
zs-network-setting -i bond0 172.27.210.111 255.255.255.0 172.27.210.1
网卡需要配置VLAN子接口时参考以下方式:
# 创建 bond
# zs-bond-ab -c <bond名称>;若使用链路聚合模式,则使用 zs-bond-lacp 命令创建bond
zs-bond-ab -c bond0 # 或 zs-bond-lacp -c bond0
# 将两块物理网卡添加至bond0中
# zs-nic-to-bond -a <bond名称> <网卡名称>
zs-nic-to-bond -a bond0 p1p1
zs-nic-to-bond -a bond0 p2p1
# 创建vlan子接口
# zs-vlan -c <bond名称> <vlan子接口ID>
zs-vlan -c bond0 33
# 为bond0.33子接口配置IP地址
# zs-network-setting -i <vlan子接口名称> <IP地址> <子网掩码> <网关地址>
zs-network-setting -i bond0.33 172.27.210.111 255.255.255.0 172.27.210.1
虚拟机与物理机混合使用
平台支持物理机和虚拟机混合部署,而物理机的网卡名称又与虚拟机的网卡名称有较大的差异,同样需要做网卡名称归一化处理。
此示例中,业务集群的管理节点均为虚拟机,管理网卡名称为ens3。而计算节点为物理机,需要将物理机管理网卡的bond名称配置为ens3。
注:物理服务器网卡配置建议在IPMI上执行
物理机bond配置方式如下:
若网卡上存在配置,则参考网卡配置回滚小节移除网卡配置。
创建bond并配置IP地址
网卡无VLAN子接口时参考以下方式:
# 创建 bond # zs-bond-ab -c <bond名称>;若使用链路聚合模式,则使用 zs-bond-lacp 命令创建bond zs-bond-ab -c ens3 # 或 zs-bond-lacp -c ens3 # 将两块物理网卡添加至ens3中 # zs-nic-to-bond -a <bond名称> <网卡名称> zs-nic-to-bond -a ens3 p1p1 zs-nic-to-bond -a ens3 p2p1 # 为ens3配置IP地址 # zs-network-setting -i <bond名称> <IP地址> <子网掩码> <网关地址> zs-network-setting -i ens3 172.27.210.111 255.255.255.0 172.27.210.1网卡需要配置VLAN子接口时参考以下方式:
物理机节点提前准备zaku-vlan工具。
# zs-vlan工具分为H84r操作系统以及麒麟操作系统,根据现场环境进行下载 # H84r操作系统 mv zaku-vlan-h84r /usr/local/bin/zaku-vlan chmod a+x /usr/local/bin/zaku-vlan # 麒麟操作系统 mv zaku-vlan-kylin /usr/local/bin/zaku-vlan chmod a+x /usr/local/bin/zaku-vlan创建VLAN子接口命令行。
# 创建 bond # zs-bond-ab -c <bond名称>;若使用链路聚合模式,则使用 zs-bond-lacp 命令创建bond zs-bond-ab -c bond0 # 或 zs-bond-lacp -c bond0 # 将两块物理网卡添加至bond0中 # zs-nic-to-bond -a <bond名称> <网卡名称> zs-nic-to-bond -a bond0 p1p1 zs-nic-to-bond -a bond0 p2p1 # 创建vlan子接口ens3 # zaku-vlan -c <vlan子接口名称> <bond名称> <vlan子接口ID> zaku-vlan -c ens3 bond0 33 # 为ens3(bond0子接口)配置IP地址 # zs-network-setting -i <vlan子接口名称> <IP地址> <子网掩码> <网关地址> zs-network-setting -i ens3 172.27.210.111 255.255.255.0 172.27.210.1
网卡配置回滚
# 清理网卡接口的IP、掩码、网关和网桥
zs-restore-network-setting -i bond0 # 无vlan配置时
zs-restore-network-setting -i bond0.33 # vlan配置时
# 将物理网卡p1p1和p1p2移出bond
zs-nic-to-bond -d bond0 p1p1
zs-nic-to-bond -d bond0 p2p1
# 删除基于bond0、vlan33创建的子接口ens3
zaku-vlan -d ens3 bond0 33
# 删除vlan子接口bond0.33
zs-vlan -d bond0 33
# 删除bond
zs-bond-ab -d bond0
部署管理平台
安装部署引导程序
ZStack Zaku部署视频演示:zaku专业版管理平台安装演示视频链接
将部署包下载至第三台管理平台集群节点/root目录,并执行以下命令
bash zaku-1.24-3.X.0-all-in-one.bin
安装完成后,使用Chrome浏览器访问 http://服务器IP地址:12000,通过图形化界面部署 ZStack Zaku 容器云平台。点击表单部署的开始部署按钮,进入部署向导。
部署向导
平台配置
配置ZStack Cloud许可证对接、页面嵌入配置等。
参数 用例 描述 外部NTP服务器 ntp1.aliyun.com 用于各节点同步时钟 ZStack云平台许可证服务 开启 开启后,Zaku平台作为Cloud平台的子模块运行。 ZStack云平台API地址 172.21.1.50/ ZStack云平台admin密码 password / 嵌入ZStack云平台 开启 开启后,ZStack Cloud平台上可直接管理容器资源。 ZStack云平台地址 http://172.21.1.50:5000 ZStack Cloud平台的页面访问地址
如需与ZStack Cloud云平台统一界面使用,需要在 ZStack Cloud 云平台的MN节点上按照提示配置
nginx文件。
节点配置
配置节点IP等基础信息。
参数 用例 描述 管理网与业务网复用 开启 集群高可用 开启 管理平台集群支持高可用 管理网IPv4地址 172.31.12.183;172.31.12.145;172.31.12.236各节点的IP地址 业务网IPv4地址 自动复用管理网IP地址 节点名称 zaku-1;zaku-2;zaku-3 节点ROOT密码 password 节点SSH端口 22
基础配置
配置节点IP等基础信息。
参数 用例 描述 管理网IPv4子网掩码 255.255.255.0管理网IPv4网关 172.31.12.1基础服务管理网VIP 172.31.1.21用于平台高可用管理 基础服务业务网VIP 自动复用管理网IP地址 用于平台高可用管理 控制台管理网VIP 172.31.12.160用于访问Zaku容器云平台 平台数据磁盘 /dev/vdb存放平台元数据、容器镜像的存储空间、监控数据、日志数据等 容器组网段 10.233.64.0/18容器组IP从该网段中分配IP地址。需要确认该网段是否和内网网段冲突。 服务网段 10.233.0.0/18service服务从该网段中分配IP地址。需要确认该网段是否和内网网段冲突。 DNS服务器 223.5.5.5镜像数据磁盘 空 存放 containerd数据文件的存储空间
确认配置
查看各项参数填写是否正确。
生成YAML配置
如遇特殊需求可修改YAML文件进行部署,修改前建议联系原厂工程师进行评估。
最终部署脚本以YAML配置文件为准。
安装部署
整个平台部署时间预计40分钟左右,受服务器性能和网络影响部署时间会有增减。
每步骤右侧提供操作按钮,可以查看部署日志以及重试当前步骤。当部署出现报错时,可根据步骤的日志进行排查分析。
部署完成
部署成功后,点击进入控制台跳转至 Zaku 控制台页面,默认账号密码 admin / admin@123
申请授权
登录平台后,将自动跳转至许可证管理页面,下载请求码提供给原厂工程师申请授权。
授权申请成功后,通过右上角上传许可证按钮上传授权文件。
ZStack Cloud 云平台对接配置
可选配置。该配置用于 ZStack Cloud 云平台租户管理模块与 ZStack Zaku 容器云平台的对接。
前提条件:
ZStack Cloud 云平台5.5.16 至 5.5.24 版本。
ZStack Cloud 云平台开启租户管理模块
| Cloud 版本 | Zaku 版本 | 更新 |
|---|---|---|
| 5.5.16及以上;5.5.24及以下 | 3.10 | |
| 5.5.16及以上;5.5.24及以下 | 3.8、3.9 | 适配5.5.16新的前端框架和组件 |
| 5.4.x及以上;5.5.16以下(不包含) | 3.6、3.7 | 适配5.4.0新的前端框架 |
| 5.3.20及以上 | 3.3~3.7 | zaku以微前端方式接入cloud,菜单流转更顺畅;支持在Cloud角色配置zaku权限;解决两边会话不一致,容易会话过期的问题 |
| 5.3.0及以上;5.3.20以下(不包含) | 3.1、3.2 | GPU运维支持统一展示 VM 、容器集群的GPU设备 |
| 5.1.20及以上 | 3.1、3.2 | |
| 5.1.19及以上 | 3.1、3.2 | license统一在cloud管理;打通cloud本地用户;打通租户项目及资源配额;应用市场一键安装zaku |
对接步骤如下:
获取以下四项信息
描述 例 ZStack Cloud云平台密码 password ZStack Zaku控制台VIP 172.10.207.201AccessKeyIdQQxxxxxxxxxxxxBz AccessKeySecret56lxxxxxxxxxxxxxxvc 其中,
AccessKeyId和AccessKeySecret可登录 ZStack Cloud 云平台后,前往容器管理 > 服务设置 > AccessKey管理获得。
使用 zstack-cli 命令行工具配置
AddContainerManagementEndpointSSH 登录 ZStack Cloud 云平台任意一台管理节点,参考以下命令配置。
注:红字部分根据实际环境进行替换
# 登录 ZStack Cloud 命令行控制端 # zstack-cli LogInByAccount accountName=admin password=<ZStack Cloud云平台密码> zstack-cli LogInByAccount accountName=admin password=password # 添加 ContainerManagementEndpoint 资源 # zstack-cli AddContainerManagementEndpoint \ # name=zaku-1 \ # description=zaku-1 \ # managementIp=<ZStack Zaku控制台VIP> managementPort=80 \ # containerAccessKeyId=<AccessKeyId> \ # containerAccessKeySecret=<AccessKeySecret> \ # vendor=zaku zstack-cli AddContainerManagementEndpoint \ name=zaku-1 \ description=zaku-1 \ managementIp=172.10.207.201 managementPort=80 \ containerAccessKeyId=QQxxxxxxxxxxxxBz \ containerAccessKeySecret=56lxxxxxxxxxxxxxxvc \ vendor=zaku确认配置已添加
zstack-cli QueryContainerManagementEndpoint # 返回 json 格式结果{ "inventories": [ { "createDate": "Sep 4, 2024 2:36:06 PM", "description": "Zaku体验环境", "lastOpDate": "Sep 4, 2024 2:36:06 PM", "managementIp": "172.31.1.39", "managementPort": 80, "name": "zaku", "uuid": "5dxxxxx0c", "vendor": "zaku" } ], "success": true }配置回滚
通过以下命令删除配置
zstack-cli DeleteContainerManagementEndpoint uuid=5dxxxxx0c
部署业务集群
业务集群创建演示视频:zaku专业版业务集群创建演示视频链接
进入创建向导
登录 ZStack Zaku 容器云平台,进入平台管理下集群页面,点击创建集群进入向导。
节点配置
| 配置项 | 用例 | 备注 |
|---|---|---|
| 管理网与业务网复用 | 开启 | 参考“管理/业务网络规划”了解业务集群网络规划。 |
| 集群高可用 | 开启 | 开启时:管理节点必然为三台,按需添加计算节点。关闭时:管理节点必然为一台,按需添加计算节点。 |
| 添加方式 | 选项 | IP地址:独立填写业务网地址、管理网地址和节点名称。IP范围:节点较多且连续IP时,推荐该方式。 |
| 业务网IPv4地址 | 10.16.210.41;10.16.210.42;10.16.210.43 |
/ |
| 管理网IPv4地址 | 10.16.209.41;10.16.209.42;10.16.209.43 |
管理网与业务网复用时不可填写。 |
| 节点名称 | master-1;master-2;master-3 | / |
| 管理节点 | 勾选 | 表单中的前三台(集群高可用关时为一台)为管理节点。默认勾选,不可修改。 |
| 计算节点 | 勾选 | 管理节点若需要复用为计算节点时,可按需勾选此项。计算节点默认勾选,不可修改。 |
| GPU节点 | 勾选 | 若节点需要调度GPU,可按需勾选此项。创建集群前,参考附件三安装GPU驱动。 |
| 节点 ROOT 密码 | password | / |
| 节点 SSH 端口 | 22 | / |
基础配置
| 配置项 | 用例 | 备注 |
|---|---|---|
| 集群名称 | cluster-1 | 字母、“-”符号和数字的组合 |
| 集群版本 | 1.30 | 可选 1.24 或 1.30 |
| 业务网VIP | 10.16.210.45 |
需要与业务网IPv4地址同网段。 |
| 管理网VIP | 10.16.209.45 |
需要与管理网IPv4地址同网段。管理网与业务网复用时不可填写。 |
| 每节点最大;容器组数量 | 200 | 节点最多可以部署的容器组数量。 |
| 监控日志数据盘 | /dev/sdb |
主要用于存放监控和日志数据。 |
| 容器组网段 | 10.233.64.0/18 |
容器组IP从该网段中分配IP地址。需要确认该网段是否和内网网段冲突。 |
| 服务网段 | 10.233.0.0/18 |
service服务从该网段中分配IP地址。需要确认该网段是否和内网网段冲突。 |
| DNS服务器 | 172.27.8.5 |
配置内网或外网DNS服务器地址。如果没有可留空。 |
| 微服务治理 | 开启 | 部署微服务治理组件,用户可在该集群中使用微服务治理功能。 |
确认配置
查看各项参数填写是否正确,确认完毕后点击确定按钮,开始安装业务kubernetes集群。
查看安装日志
集群创建过程中,可通过日志图标查看集群安装日志。
业务集群安装完成
集群安装完成后,处于运行中状态。也可通过一键巡检功能,巡检集群状态。
业务集群运行中状态
选配组件安装
ZStack Zaku 容器云平台部署完成后,可按需安装以下选配组件:
DevOps 增值模块:参考附录一 DevOps增值模块安装进行操作。
CSI 存储插件模块:参考附录二 CSI存储插件准备进行操作。
