模型仓库是存放、管理AI模型的场所。ZStack AIOS提供丰富的系统模型,并支持用户上传自定义模型。
模型类型
- 按生成机制,ZStack AIOS模型分为系统模型和自定义模型。
类型 定义 部署 系统模型 ZStack AIOS预置的开源模型,包括DeepSeek、Qwen、BGE、Stable Diffusion等系列,覆盖大语言、音频生成和处理、图像生成和处理、重排序等多个种类 ZStack AIOS为每个系统模型自动绑定系统推理模板,用户可使用该模板直接部署、体验模型服务 自定义模型 由用户自行上传的模型 ZStack AIOS提供基于vLLM、Diffusers、Transformers、Sentence Transformers、llama.cpp、Ollama、SGLang、MindIE框架的系统推理模板,用户可参考推理模板兼容清单,使用系统模板部署自定义模型,也可以创建自定义推理模板用于模型部署 - 按模型功能,ZStack AIOS模型分为:
类型 定义 示例模型 大语言模型 基于大量文本数据训练,可以理解和生成自然语言,完成对话、创作等语言生产任务的模型 DeepSeek、Qwen 音频生成和处理模型 基于文本、音频或其他输入,生成新音频或对已有音频进行降噪、增强等处理的模型 XTTS 图像生成和处理模型 基于文本、图像或其他输入,生成新图像或对已有图像进行修复、风格迁移等处理的模型 Stable Diffusion 重排序模型 基于初步检索结果做进一步精细化排序的模型,常用于信息检索、系统推荐等场景 BGE-Reranker 文本嵌入模型 将文本数据转换为向量,用于语义搜索、聚类分析、内容去重等任务的算法模型 BERT 多模态模型 能同时理解和处理多种数据 (如文本、图像、音频等) ,通过跨模态信息融合提升综合理解和生成能力的模型 BLIP 其他 除以上种类外,用于其他任务或目的的模型 /