面向 AI 助手:本页的 Markdown 版本位于 https://ark.volcengine.com/region:cn-beijing/docs/create-endpoint-rolling-api.md,全部文档索引见 https://ark.volcengine.com/llms.txt。

创建推理接入点滚动升级任务

POST https://ark.cn-beijing.volcengineapi.com/?Action=CreateEndpointRolling&Version=2024-01-01

为指定推理接入点创建模型版本的滚动更新任务,支持灰度切换底层模型而不中断服务。

鉴权#

本接口支持鉴权方式如下,详情请参见 Base URL 及鉴权。

  • Access Key 鉴权,请在 Access Key 管理 页面,获取 Access Key。本接口仅支持 Access Key 鉴权。

请求参数#

Body 参数#

EndpointId string 必选  |  接入点 ID

需要创建滚动更新的推理接入点 ID

ModelReference object 必选  |  目标模型配置

滚动更新的目标模型配置,指定要切换到的新模型版本

CustomModelId string  |  定制模型的 ID

ModelReference.CustomModelId

FoundationModel object  |  基础模型引用

ModelReference.FoundationModel

ModelVersion string 必选  |  基础模型版本

ModelReference.FoundationModel.ModelVersion

Name string 必选  |  基础模型名称

ModelReference.FoundationModel.Name

Description string  |  滚动更新描述

滚动更新任务的描述信息

TargetRouter object  |  目标路由配置

滚动更新完成后的目标智能路由配置

Mode string 必选  |  路由模式

TargetRouter.Mode

路由模式。取值 Automatic(自动)、CandidateSet(候选集合)、Ordered(按顺序)

Strategy string 必选  |  路由策略

TargetRouter.Strategy

路由策略。取值 EffectFirst(效果优先)、CostFirst(成本优先)、Balanced(均衡)

CandidateModels object[]  |  候选模型列表

TargetRouter.CandidateModels

CustomModelId string  |  定制模型的 ID

TargetRouter.CandidateModels.CustomModelId

FoundationModel object  |  基础模型引用

TargetRouter.CandidateModels.FoundationModel

ModelVersion string 必选  |  基础模型版本

TargetRouter.CandidateModels.FoundationModel.ModelVersion

Name string 必选  |  基础模型名称

TargetRouter.CandidateModels.FoundationModel.Name

响应参数#

Id string  |  滚动更新任务 ID

新建滚动更新任务的 ID,可用于查询任务状态或执行回滚