ZStack AIOS

绑定模型到服务 (BindModelToService)

面向开发者的 API 使用规范、SDK 调用方式和 AIOS 相关接口说明。

API请求

URLs

POST zstack/v1/ai/models/{modelUuid}/model-services/{modelServiceUuid}

Headers

Authorization: OAuth the-session-uuid

Body

{
  "param": {},
  "systemTags": [],
  "userTags": []
}

说明：上述示例中systemTags、userTags字段可以省略。列出是为了表示body中可以包含这两个字段。

Curl示例

curl -H "Content-Type: application/json;charset=UTF-8" \
-H "Authorization: OAuth b86c9016b4f24953a9edefb53ca0678c" \
-X POST -d '{"param":{}}' http://localhost:8080/zstack/v1/ai/models/0fd5f368e5013f30ad4e8220a4fad3f2/model-services/e76ac0c00c113fdcbba9696dc7dc2a1f

参数列表


名字	类型	位置	描述	起始版本
modelUuid	String	url	模型的uuid	5.1.8
modelServiceUuid	String	url	模型服务的uuid	5.1.8
systemTags (可选)	List	body	系统标签	5.1.8
userTags (可选)	List	body	用户标签	5.1.8

API返回

返回示例

{
  "inventory": {
    "name": "text to text model service",
    "description": "This is text to text model service you can chose model",
    "yaml": "model service parameters",
    "requestCpu": 4,
    "requestMemory": 1024,
    "supportDistributed": false
  }
}


名字	类型	描述	起始版本
success	boolean	绑定模型到服务结果	5.1.8
error	ErrorCode	错误码，若不为null，则表示操作失败, 操作成功时该字段为null。详情参考error	5.1.8
inventory	ModelServiceInventory	详情参考inventory	5.1.8

#error


名字	类型	描述	起始版本
code	String	错误码号，错误的全局唯一标识，例如SYS.1000, HOST.1001	5.1.8
description	String	错误的概要描述	5.1.8
details	String	错误的详细信息	5.1.8
elaboration	String	保留字段，默认为null	5.1.8
opaque	LinkedHashMap	保留字段，默认为null	5.1.8
cause	ErrorCode	根错误，引发当前错误的源错误，若无原错误，该字段为null	5.1.8

#inventory


名字	类型	描述	起始版本
uuid	String	资源的UUID，唯一标识该资源	5.1.8
name	String	资源名称	5.1.8
description	String	资源的详细描述	5.1.8
readme	String	README内容	5.1.8
yaml	String	服务YAML配置	5.1.8
requestCpu	Integer	请求CPU数量	5.1.8
requestMemory	Long	请求内存大小	5.1.8
modelCenterUuid	String	模型中心UUID	5.1.8
type	String	模型服务类型	5.1.8
framework	String	模型服务框架	5.1.8
source	String	模型服务来源	5.1.8
size	Long	模型服务大小	5.1.8
system	Boolean	是否为系统模型服务	5.1.8
hasNewVersion	Boolean	是否存在新版本	5.1.8
gpuComputeCapability	String	GPU算力要求	5.1.8
installPath	String	模型服务安装路径	5.1.8
pythonVersion	String	Python版本	5.1.8
condaVersion	String	Conda版本	5.1.8
version	String	模型服务版本	5.1.8
startCommand	String	启动命令	5.1.8
containerCommand	String	容器启动命令	5.1.8
containerArgs	String	容器启动参数	5.1.8
supportDistributed	Boolean	是否支持分布式部署	5.1.8
cpuArchitectures	List	支持的CPU架构	5.1.8
vendorToSpecUuidsMap	Map	GPU厂商与规格UUID映射	5.1.8
modelServiceRefs	List	模型与模型服务的绑定关系	5.1.8
modelServiceImages	List	模型服务镜像列表	5.1.8
createDate	Timestamp	创建时间	5.1.8
lastOpDate	Timestamp	最后一次修改时间	5.1.8

SDK示例

Java SDK

BindModelToServiceAction action = new BindModelToServiceAction();
action.modelUuid = "0fd5f368e5013f30ad4e8220a4fad3f2";
action.modelServiceUuid = "e76ac0c00c113fdcbba9696dc7dc2a1f";
action.sessionId = "b86c9016b4f24953a9edefb53ca0678c";
BindModelToServiceAction.Result res = action.call();

Python SDK

BindModelToServiceAction action = BindModelToServiceAction()
action.modelUuid = "0fd5f368e5013f30ad4e8220a4fad3f2"
action.modelServiceUuid = "e76ac0c00c113fdcbba9696dc7dc2a1f"
action.sessionId = "b86c9016b4f24953a9edefb53ca0678c"
BindModelToServiceAction.Result res = action.call()