POST https://ark.cn-beijing.volcengineapi.com/?Action=CreateEndpointRolling&Version=2024-01-01
为指定推理接入点创建模型版本的滚动更新任务,支持灰度切换底层模型而不中断服务。
鉴权#
本接口支持鉴权方式如下,详情请参见 Base URL 及鉴权。
- Access Key 鉴权,请在 Access Key 管理 页面,获取 Access Key。本接口仅支持 Access Key 鉴权。
请求参数#
Body 参数#
EndpointId string 必选 | 接入点 ID
需要创建滚动更新的推理接入点 ID
ModelReference object 必选 | 目标模型配置
滚动更新的目标模型配置,指定要切换到的新模型版本
CustomModelId string | 定制模型的 ID
ModelReference.CustomModelId
FoundationModel object | 基础模型引用
ModelReference.FoundationModel
ModelVersion string 必选 | 基础模型版本
ModelReference.FoundationModel.ModelVersion
Name string 必选 | 基础模型名称
ModelReference.FoundationModel.Name
Description string | 滚动更新描述
滚动更新任务的描述信息
TargetRouter object | 目标路由配置
滚动更新完成后的目标智能路由配置
Mode string 必选 | 路由模式
TargetRouter.Mode
路由模式。取值 Automatic(自动)、CandidateSet(候选集合)、Ordered(按顺序)
Strategy string 必选 | 路由策略
TargetRouter.Strategy
路由策略。取值 EffectFirst(效果优先)、CostFirst(成本优先)、Balanced(均衡)
CandidateModels object[] | 候选模型列表
TargetRouter.CandidateModels
CustomModelId string | 定制模型的 ID
TargetRouter.CandidateModels.CustomModelId
FoundationModel object | 基础模型引用
TargetRouter.CandidateModels.FoundationModel
ModelVersion string 必选 | 基础模型版本
TargetRouter.CandidateModels.FoundationModel.ModelVersion
Name string 必选 | 基础模型名称
TargetRouter.CandidateModels.FoundationModel.Name
响应参数#
Id string | 滚动更新任务 ID
新建滚动更新任务的 ID,可用于查询任务状态或执行回滚