ZStack Logo

ZStack AIOS

连通AI模型平台和容器管理

从环境准备到管理节点、AI 模型平台、容器管理的部署流程。

AI模型平台和容器管理部署完成后,需进行两个模块间的连通配置,使AI模型平台可以调用容器资源。
说明: 如部署容器管理,需执行本步骤。如未部署容器管理,可跳过本流程。
连通AI模型平台和容器管理主要包括以下步骤:
  1. 配置AI模型平台Model Center Docker服务
  2. 从AI模型平台Model Center登录容器管理ai-model-registry仓库
  3. 在AI模型平台配置写入容器管理信息
  1. 配置Model Center Docker服务。
    登录AI模型平台Model Center,执行以下命令:
    修改Docker配置,将${ZakuVip}替换为容器管理VIP地址
    [root@localhost~]# vim /etc/docker/daemon.json
    ==================================================
    {
        "registry-mirrors":[
            "http://hub-mirror.c.163.com"
        ],
        "insecure-registries": [
            "${ZakuVip}:10043"
        ]
    }
    ====================================================
    
    重启Docker服务使修改生效
    [root@localhost~]# systemctl daemon-reload
    [root@localhost~]# systemctl restart docker
    
  2. 从Model Center登录容器管理ai-model-registry仓库
    1. 获取ai-model-registry登录命令。
      登录ZStack AIOS UI界面,点击容器管理 > 制品仓库 > 本地仓库。在本地仓库界面,找到ai-model-registry仓库,点击进入其详情页。在详情页,点击镜像 > 上传,弹出上传镜像界面。
      镜像上传界面,选择上传方式命令上传,复制登录命令后的复制按钮,复制登录命令。
      图1所示:


      图1 复制ai-model-registry登录密码
    2. 登录ai-model-registry
      登录AI模型平台Model Center,使用获取的登录命令登录ai-model-registry。登录密码为部署容器管理时为ai-model-registry设置的密码,如忘记密码,请在ai-model-registry镜像上传页面点击重置密码
  3. 在AI模型平台配置写入容器管理信息
    登录ZStack AIOS UI界面,点击AI模型平台 > 统计和管理 > 模型平台配置,进入模型平台配置界面。在模型平台配置界面,点击修改配置,弹出编辑模型平台服务器界面。
    配置容器资源配置部分:
    • 默认镜像仓库:填写${ZakuVip}:10043/ai-model-registry,其中,${ZakuVip}需替换为容器管理的IP地址
    • 默认服务网络:填写容器管理外部网络网络段的名称,可进入容器管理 > 集群管理 > 外部网络界面,点击外部网络名称,在详情页网络段标签查看
    • 默认存储网络:填写容器管理外部网络网络段的名称,可进入容器管理 > 集群管理 > 外部网络界面,点击外部网络名称,在详情页网络段标签查看
    图2所示:


    图2 写入容器管理信息
至此,ZStack AIOS安装部署和初始化配置已全部完成。用户可在AI模型平台基于云主机和容器部署推理服务、应用开发服务,或使用其他功能。