ZStack Logo

ZStack AIOS

快速使用指南

AIOS 用户侧功能说明,覆盖 GPU、模型仓库、推理服务和场景实践。

本节介绍ZStack AIOS核心功能快速使用指南。
核心功能 简介 快速使用路径 说明
准备工作 使用前,快速完成安装部署和前置资源准备,为后续AI服务部署和运维奠定基础。 安装部署 详见《安装部署教程》
登录ZStack AIOS 详见系统登录
配置许可证 详见许可证管理
配置GPU设备
配置租户权限
模型精调 通过LoRA、Freeze、全参数调优等技术,使用准备好的数据对预训练模型进行针对性训练,使其适配特定业务场景 准备数据集 详见数据集
搭建精调工作台 详见模型精调
精调模型
导出模型
模型评测 详见服务评测
模型部署 将训练好的AI模型部署为可在线服务 准备模型 从模型仓库选择系统模型或上传自定义模型,为模型部署准备必要的模型文件。详见模型仓库
准备推理模板 选择或创建推理模板,配置推理框架参数和环境变量,为模型部署提供运行环境。详见推理模板
创建推理服务 基于模型和推理模板部署推理服务,配置GPU资源、服务参数,生成API接口供应用调用。详见推理服务
应用开发 基于部署的AI推理服务构建上层应用,实现RAG应用开发、工作流编排、知识库管理等企业级AI应用场景 创建应用开发服务 部署Dify、FastGPT等应用开发平台,配置知识库和工作流,构建企业级AI应用。详见应用开发服务