面向 AI 助手:本页的 Markdown 版本位于 https://ark.volcengine.com/region:cn-beijing/docs/list-model-rate-limit-api.md,全部文档索引见 https://ark.volcengine.com/llms.txt。

查询模型限流

POST https://ark.cn-beijing.volcengineapi.com/?Action=ListModelRateLimit&Version=2024-01-01

查询当前账号下各基础模型的限流配额信息,包括默认配额、当前配额、每日 Token 限额(TPD)及实时连接限制。

鉴权#

本接口支持鉴权方式如下,详情请参见 Base URL 及鉴权。

  • Access Key 鉴权,请在 Access Key 管理 页面,获取 Access Key。本接口仅支持 Access Key 鉴权。

请求参数#

Body 参数#

FoundationModelNames string[]  |  基础模型名称列表

指定要查询的基础模型名称列表。为空时返回全部模型的限流信息。

响应参数#

Items object[]  |  模型限流列表

模型限流配额信息列表。

FoundationModelName string  |  基础模型名称

Items.FoundationModelName

ContentGenerationRateLimit object  |  内容生成限制

Items.ContentGenerationRateLimit

内容生成相关的限流参数。

ConcurrentRequests integer  |  并发请求数

Items.ContentGenerationRateLimit.ConcurrentRequests

最大并发请求数。

ConcurrentRequestsFor4K integer  |  4K 并发请求数

Items.ContentGenerationRateLimit.ConcurrentRequestsFor4K

4K 分辨率最大并发请求数。

CreateTaskRpm integer  |  创建任务 RPM

Items.ContentGenerationRateLimit.CreateTaskRpm

创建任务每分钟请求数上限。

CreateTaskRpmFor4K integer  |  4K 创建任务 RPM

Items.ContentGenerationRateLimit.CreateTaskRpmFor4K

4K 分辨率创建任务每分钟请求数上限。

DeleteTaskRpm integer  |  删除任务 RPM

Items.ContentGenerationRateLimit.DeleteTaskRpm

删除任务每分钟请求数上限。

ListTaskRpm integer  |  查询任务 RPM

Items.ContentGenerationRateLimit.ListTaskRpm

查询任务每分钟请求数上限。

CurrentRateLimit object  |  当前限流配额

Items.CurrentRateLimit

模型的当前限流配额参数(可能已通过提额调整)。

Rpm integer  |  每分钟请求数

Items.CurrentRateLimit.Rpm

每分钟请求数上限(RPM)。

Tpm integer  |  每分钟 Token 数

Items.CurrentRateLimit.Tpm

每分钟 Token 数上限(TPM)。

FastTpm integer  |  快速通道 TPM

Items.CurrentRateLimit.FastTpm

快速通道每分钟 Token 数上限。

Ipm integer  |  每分钟图片数

Items.CurrentRateLimit.Ipm

每分钟图片数上限(IPM)。

LoraTpm integer  |  LoRA TPM

Items.CurrentRateLimit.LoraTpm

LoRA 推理每分钟 Token 数上限。

CurrentTpd integer  |  当前每日 Token 限额

Items.CurrentTpd

模型的当前每日 Token 限额(TPD),可能已通过提额调整。

DefaultRateLimit object  |  默认限流配额

Items.DefaultRateLimit

模型的默认限流配额参数。

Rpm integer  |  每分钟请求数

Items.DefaultRateLimit.Rpm

每分钟请求数上限(RPM)。

Tpm integer  |  每分钟 Token 数

Items.DefaultRateLimit.Tpm

每分钟 Token 数上限(TPM)。

FastTpm integer  |  快速通道 TPM

Items.DefaultRateLimit.FastTpm

快速通道每分钟 Token 数上限。

Ipm integer  |  每分钟图片数

Items.DefaultRateLimit.Ipm

每分钟图片数上限(IPM)。

LoraTpm integer  |  LoRA TPM

Items.DefaultRateLimit.LoraTpm

LoRA 推理每分钟 Token 数上限。

DefaultTpd integer  |  默认每日 Token 限额

Items.DefaultTpd

模型的默认每日 Token 限额(TPD)。

RealtimeRateLimit object  |  实时连接限制

Items.RealtimeRateLimit

实时连接相关的限流参数。

ConcurrentConnections integer  |  并发连接数

Items.RealtimeRateLimit.ConcurrentConnections

最大并发连接数。

CPMPerConnection integer  |  单连接每分钟对话轮次

Items.RealtimeRateLimit.CPMPerConnection

单连接每分钟对话轮次上限(CPM)。

TPMPerConnection integer  |  单连接每分钟 Token 数

Items.RealtimeRateLimit.TPMPerConnection

单连接每分钟 Token 数上限(TPM)。

TotalCount integer  |  总数

符合条件的模型限流记录总数。