# 上下文缓存对话 API > 全部文档的索引见 [llms.txt](https://ark.volcengine.com/llms.txt)；在任一文档页面地址后追加 `.md` 可获取该页的 Markdown 版本。 ` POST https://ark.cn-beijing.volces.com/api/v3/context/chat/completions` [运行](https://api.volcengine.com/api-explorer/?action=ContextChatCompletions&data=%7B%7D&groupName=%E4%B8%8A%E4%B8%8B%E6%96%87%E7%BC%93%E5%AD%98&query=%7B%7D&serviceCode=ark&version=2024-01-01) 上下文缓存（Context API）是方舟提供的一个高效的缓存机制。它通过缓存上下文数据，减少重复加载或处理，提高响应速度和一致性。本文介绍上下文缓存 API 的输入输出参数，供您使用接口时查阅字段含义。 **选项：快速入口** ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_a5fdd3028d35cc512a10bd71b982b6eb.png) [计费说明](/docs/model-pricing) ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_afbcf38bdec05c05089d5de5c3fd8fc8.png) [API Key](https://ark.volcengine.com/region:cn-beijing/apiKey?apikey=%7B%7D) ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_2abecd05ca2779567c6d32f0ddc7874d.png) [支持模型](/docs/model-list#ed095742) ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_57d0bca8e0d122ab1191b40101b5df75.png) [调用教程](/docs/context-api) ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_bef4bc3de3535ee19d0c5d6c37b0ffdd.png) [开通模型](https://ark.volcengine.com/region:cn-beijing/openManagement?LLM=%7B%7D&OpenTokenDrawer=false) **选项：鉴权说明** 本接口支持 API Key / Access Key鉴权，详见 [鉴权认证方式](/docs/base-url-and-authentication)。 ## --- > **说明** > > 大部分字段与 [对话(Chat)-文本 API](/docs/chat-api) 一致，除了下面参数： > * **model**：暂时不支持直接通过Model ID 调用模型。 > * **messages**：不支持最后一个元素的role设置为`assistant`。 > * 如使用session 缓存（**mode** 设置为`session`），传入最新一轮对话的信息，无需传入历史信息。 > * **tools**：不支持 **tools** 字段。 > * **context_id**：增加的字段，指定本次请求使用上下文缓存。 > * **thinking**：不支持 **thinking** 字段。 > * **response_format**：不支持结构化输出参数。 ## 请求参数 > 跳转 [响应参数](/docs/context-cache-conversation-api#q0ryvuBR) --- **model**`string` `必选` 您需要调用的模型的 ID （Model ID），[开通模型服务](https://ark.volcengine.com/region:cn-beijing/openManagement?LLM=%7B%7D&OpenTokenDrawer=false)，并 [查询 Model ID](/docs/model-list) 。 您也可通过 Endpoint ID 来调用模型，获得限流、计费类型（前付费/后付费）、运行状态查询、监控、安全等高级能力，可参考 [获取 Endpoint ID](/docs/online-inference-standard)。 --- **messages** `object[]` `必选` 到目前为止的对话组成的消息列表。不同模型支持不同类型的消息，如文本、图片、视频等。 消息类型 --- **系统消息** `object` 开发人员提供的指令，模型应遵循这些指令。如模型扮演的角色或者目标等。 属性 --- messages.**role** `string` `必选` 发送消息的角色，此处应为`system`。 --- messages.**content** `string / object[]` `必选` 系统信息内容。 属性 --- **纯文本消息内容** `string` 纯文本消息内容，大语言模型支持传入此类型。 --- **多模态消息内容** `object[]` 支持文本、图像、视频等类型，视觉理解模型等多模态模型、部分大语言模型支持此字段。 各模态消息部分 --- **文本消息部分** `object` 多模态消息中，内容文本输入。[具备视觉理解能力模型](/docs/model-list#76df97c8)、部分大语言模型支持此类型消息。 属性 --- messages.content.**text** `string` `必选` 文本消息部分的内容。 --- messages.content.**type** `string` `必选` 文本消息类型，此次应为 `text`。 --- **用户消息** `object` 用户发送的消息，包含提示或附加上下文信息。不同模型支持的字段类型不同，最多支持文本、图片、视频形式的消息。 属性 --- messages.**role** `string` `必选` 发送消息的角色，此处应为`user`。 --- messages.**content** `string / object[]` `必选` 用户信息内容。 内容类型 --- **纯文本消息内容** `string` 纯文本消息内容，大语言模型支持传入此类型。 --- **多模态消息内容** `object[]` 支持文本、图像、视频等类型，视觉理解模型等多模态模型、部分大语言模型支持此字段。 内容类型 --- **文本消息部分** `object` 多模态消息中，内容文本输入。视觉理解模型、部分大语言模型支持此类型消息。 属性 --- messages.content.**text** `string` `必选` 文本消息部分的内容。 --- messages.content.**type** `string` `必选` 文本消息类型，此次应为 `text`。 --- **模型消息** `object` 历史对话中，模型回复的消息。往往在多轮对话传入历史对话记录以及 [Prefill Response](/docs/continuation-mode) 时让模型按照预置的回复内容继续回复时使用。 属性 > **说明** > > messages.**content** 与 messages.**tool_calls** 字段二者至少填写其一。 --- messages.**role** `string` `必选` 发送消息的角色，此处应为`assistant`。 --- messages.**content** `string / array` 模型回复的消息。 --- messages.**tool_calls** `object[]` 历史对话中，模型回复的工具调用信息。 显示子字段 --- messages.tool_calls.**function** `object` `必选` 模型调用工具对应的函数信息。 显示子字段 --- messages.tool_calls.function.**name** `string` `必选` 模型需要调用的函数名称。 --- messages.tool_calls.function.**arguments** `string` `必选` 模型生成的用于调用函数的参数，JSON 格式。 > **说明** > > 模型并不总是生成有效的 JSON，并且可能会虚构出一些您的函数参数规范中未定义的参数。在调用函数之前，请在您的代码中验证这些参数是否有效。 --- messages.tool_calls.**id** `string` `必选` 调用的工具的 ID。 --- messages.tool_calls.**type** `string` `必选` 工具类型，当前仅支持`function`。 --- **context_id** `string` `必选` 指定本次请求使用上下文缓存的 ID。在使用 [接口](/docs/context-cache-conversation-api) 创建缓存时，从返回信息中获得。 --- **stream** `boolean / null` `默认值 false` 响应内容是否流式返回： * `false`：模型生成完所有内容后一次性返回结果。 * `true`：按 SSE 协议逐块返回模型生成内容，并以一条 `data: [DONE] `消息结束。 --- **stream_options** `object / null` `默认值 null` 流式响应的选项。当 **stream** 为 `true` 时可设置 **stream_options** 字段。 属性 --- stream_options.**include_usage** `boolean / null` `默认值 false` 是否包含本次请求的 token 用量统计信息。 * `false`：不返回 token 用量信息。 * `true`：在 `data: [DONE]` 消息之前会返回一个额外的块，此块上的 **usage** 字段代表整个请求的 token 用量，**choices** 字段为空数组。所有其他块也将包含 **usage** 字段，但值为 `null`。 --- **max_tokens** `integer / null` `默认值 4096` 模型回复最大长度（单位 token），取值范围各个模型不同，详细见[模型列表](/docs/model-list)。 输入 token 和输出 token 的总长度还受模型的上下文长度限制。 --- **service_tier** `string / null` `默认值 auto` 指定是否使用 [TPM保障包](/docs/tpm-guarantee-package)。生效对象为购买了保障包推理接入点。取值范围： * `default`：本次请求，不使用 TPM 保障包，使用默认的限流和普通的服务响应速度，即使请求的是有TPM保障包额度的推理接入点。 > 缓存不支持TPM保障包，故不支持`auto`。 --- **stop** `string / string[] / null` `默认值 null` 模型遇到 stop 字段所指定的字符串时将停止继续生成，这个词语本身不会输出。 - 默认最多支持 `4` 个停止词。 - `deepseek-v4-pro-ga-260813`、`deepseek-v4-flash-ga-260731` 最多支持 `16` 个停止词。 > [深度思考能力模型](/docs/model-list#32e9e053)默认不支持该字段；上述 DeepSeek V4 模型除外。 示例：`["你好", "天气"]` --- **response_format** `object` `默认值 {"type": "text"}` 模型输出内容须遵循此处指定的格式。 遵循格式 --- **遵循文本格式** `object` 模型默认回复文本格式内容。 属性 --- response_format.**type** `string` `必选` 此处应为 `text`。 --- **遵循JSON对象结构** `object` 模型回复内容以JSON对象结构来组织。 > 支持该字段的模型请参见 [文档](/docs/structured-output-beta#3aae5325)。 属性 --- response_format.**type** `string` `必选` 此处应为`json_object`。 --- **遵循JSON Schema定义的结构** `object` `beta功能` 模型回复内容以JSON对象结构来组织，遵循 **schema** 字段定义的JSON结构。 > 支持该字段的模型请参见 [文档](/docs/structured-output-beta#3aae5325)。 > 该能力尚在 beta 阶段，请谨慎在生产环境使用。 属性 --- response_format.**type** `string` `必选` 此处应为`json_schema`。 --- response_format.**json_schema** `object` `必选` JSON结构体的定义。 属性 --- response_format.json_schema.**name** `string` `必选` 用户自定义的JSON结构的名称。 --- response_format.json_schema.**description** `string / null` 回复用途描述，模型将根据此描述决定如何以该格式回复。 --- response_format.json_schema.**schema** `object` `必选` 回复格式的 JSON 格式定义，以 JSON Schema 对象的形式描述。 --- response_format.json_schema.**strict** `boolean / null` `默认值 false` 是否在生成输出时，启用严格遵循模式。 * `true`：模型将始终严格遵循**schema** 字段中定义的格式。 * `false`：模型会尽可能遵循**schema** 字段中定义的结构。 --- **frequency_penalty** `float / null` `默认值 0` 取值范围为 [-2.0, 2.0]。 频率惩罚系数。如果值为正，会根据新 token 在文本中的出现频率对其进行惩罚，从而降低模型逐字重复的可能性。 --- **presence_penalty** `float / null` `默认值 0` 取值范围为 [-2.0, 2.0]。 存在惩罚系数。如果值为正，会根据新 token 到目前为止是否出现在文本中对其进行惩罚，从而增加模型谈论新主题的可能性。 --- **temperature** `float / null` `默认值 1` 取值范围为 [0, 2]。 采样温度。控制了生成文本时对每个候选词的概率分布进行平滑的程度。当取值为 0 时模型仅考虑对数概率最大的一个 token。 较高的值（如 0.8）会使输出更加随机，而较低的值（如 0.2）会使输出更加集中确定。 通常建议仅调整 temperature 或 top_p 其中之一，不建议两者都修改。 --- **top_p** `float / null` `默认值 0.7` 取值范围为 [0, 1]。 核采样概率阈值。模型会考虑概率质量在 top_p 内的 token 结果。当取值为 0 时模型仅考虑对数概率最大的一个 token。 0.1 意味着只考虑概率质量最高的前 10% 的 token，取值越大生成的随机性越高，取值越低生成的确定性越高。通常建议仅调整 temperature 或 top_p 其中之一，不建议两者都修改。 --- **logprobs** `boolean / null` `默认值 false` 是否返回输出 tokens 的对数概率。 * `false`：不返回对数概率信息。 * `true`：返回消息内容中每个输出 token 的对数概率。 --- **top_logprobs** `integer / null` `默认值 0` 取值范围为 [0, 20]。 指定每个输出 token 位置最有可能返回的 token 数量，每个 token 都有关联的对数概率。仅当 **logprobs** 为`true` 时可以设置 **top_logprobs** 参数。 --- **logit_bias** `map / null` `默认值 null` 调整指定 token 在模型输出内容中出现的概率，使模型生成的内容更加符合特定的偏好。**logit_bias** 字段接受一个 map 值，其中每个键为词表中的 token ID（使用 tokenization 接口获取），每个值为该 token 的偏差值，取值范围为 [-100, 100]。 -1 会减少选择的可能性，1 会增加选择的可能性；-100 会完全禁止选择该 token，100 会导致仅可选择该 token。该参数的实际效果可能因模型而异。 `{"1234": -100}` --- ## 响应参数 > 跳转 [请求参数](/docs/context-cache-conversation-api#RxN8G2nH) ### 非流式调用返回 > 跳转 [流式调用返回](/docs/context-cache-conversation-api#a0ezJT76) --- **id** `string` 本次请求的唯一标识。 --- **model** `string` 本次请求实际使用的模型名称和版本。 > doubao 1.5 代模型的模型名称格式为 `doubao-1-5-**`。如调用部署doubao-1.5-pro-32k 250115模型的推理接入点，返回model字段信息doubao-1-5-pro-32k-250115。 --- **service_tier** `string` 本次请求是否使用了TPM保障包。 * `scale`：本次请求使用TPM保障包额度。 * `default`：本次请求未使用TPM保障包额度。 --- **created** `integer` 本次请求创建时间的 Unix 时间戳（秒）。 --- **object** `string` 固定为 `chat.completion`。 --- **choices** `object[]` 本次请求的模型输出内容。 属性 --- choices.**index** `integer` 当前元素在 **choices** 列表的索引。 --- choices.**finish_reason** `string` 模型停止生成 token 的原因。取值范围： * `stop`：模型输出自然结束，或因命中请求参数 stop 中指定的字段而被截断。 * `length`：模型输出因达到模型输出限制而被截断，有以下原因： * 触发`max_token`限制（回答内容的长度限制）。 * 触发`max_completion_tokens`限制（思维链内容+回答内容的长度限制）。 * 触发`context_window`限制（输入内容+思维链内容+回答内容的长度限制）。 * `content_filter`：模型输出被内容审核拦截。 * `tool_calls`：模型调用了工具。 --- choices.**message** `object` 模型输出的内容。 属性 --- choices.message.**role** `string` 内容输出的角色，此处固定为 `assistant`。 --- choices.message.**content** `string` 模型生成的消息内容。 --- choices.message.**reasoning_content** `string / null` 模型处理问题的思维链内容。 仅深度推理模型支持返回此字段，深度推理模型请参见[回传思考内容加密原文](/docs/deep-thinking#8cfd447b)。 --- choices.message.**tool_calls** `object[] / null` 模型生成的工具调用。 属性 --- choices.message.tool_calls.**id** `string` 调用的工具的 ID。 --- choices.message.tool_calls.**type** `string` 工具类型，当前仅支持`function`。 --- choices.message.tool_calls.**function** `object` 模型调用的函数。 属性 --- choices.message.tool_calls.function.**name** `string` 模型调用的函数的名称。 --- choices.message.tool_calls.function.**arguments** `string` 模型生成的用于调用函数的参数，JSON 格式。 模型并不总是生成有效的 JSON，并且可能会虚构出一些您的函数参数规范中未定义的参数。在调用函数之前，请在您的代码中验证这些参数是否有效。 --- choices.**logprobs** `object / null` 当前内容的对数概率信息。 属性 --- choices.logprobs.**content** `object[] / null` message列表中每个 content 元素中的 token 对数概率信息。 属性 --- choices.logprobs.content.**token** `string` 当前 token。 --- choices.logprobs.content.**bytes** `integer[] / null` 当前 token 的 UTF-8 值，格式为整数列表。当一个字符由多个 token 组成（表情符号或特殊字符等）时可以用于字符的编码和解码。如果 token 没有 UTF-8 值则为空。 --- choices.logprobs.content.**logprob** `float` 当前 token 的对数概率。 --- choices.logprobs.content.**top_logprobs** `object[]` 在当前 token 位置最有可能的标记及其对数概率的列表。在一些情况下，返回的数量可能比请求参数 top_logprobs 指定的数量要少。 **属性** --- choices.logprobs.content.top_logprobs.**token** `string` 当前 token。 --- choices.logprobs.content.top_logprobs.**bytes** `integer[] / null` 当前 token 的 UTF-8 值，格式为整数列表。当一个字符由多个 token 组成（表情符号或特殊字符等）时可以用于字符的编码和解码。如果 token 没有 UTF-8 值则为空。 --- choices.logprobs.content.top_logprobs.**logprob** `float` 当前 token 的对数概率。 --- choices.**moderation_hit_type** `string / null` 模型输出文字含有敏感信息时，会返回模型输出文字命中的风险分类标签。 返回值及含义： * `severe_violation`：模型输出文字涉及严重违规。 * `violence`：模型输出文字涉及激进行为。 注意：当前只有 [视觉理解模型](/docs/image-understanding#f8d6cc48) 支持返回该字段，且只有在方舟控制台 [接入点配置页面](https://ark.volcengine.com/region:cn-beijing/endpoint/create?customModelId=) 或者 [CreateEndpoint](/docs/create-endpoint-api) 接口中，将内容护栏方案（ModerationStrategy）设置为基础方案（Basic）时，才会返回风险分类标签。 --- **usage** `object` 本次请求的 token 用量。 属性 --- usage.**prompt_tokens** `integer` 输入给模型的内容的 token 用量。 --- usage.**completion_tokens** `integer` 模型输出内容的 token 用量。 --- usage.**total_tokens** `integer` 本次请求消耗的总 token 数量（输入 + 输出）。 --- usage.**prompt_tokens_details** `object` 命中上下文缓存的tokens细节。 属性 --- usage.prompt_tokens_details.**cached_tokens** `integer` 提示词命中缓存的 token 用量。 --- usage.**completion_tokens_details** `object` 本次请求，模型输出内容的 token 用量的细节。 属性 --- usage.completion_tokens_details.**reasoning_tokens** `integer` 输出思维链内容花费的 token 数 。 支持输出思维链的模型请参见 [文档](/docs/deep-thinking#14b5c6db)。 --- ### 流式调用返回 > 跳转 [非流式调用返回](/docs/context-cache-conversation-api#J7lG80LC) --- **id** `string` 本次请求的唯一标识。 --- **model** `string` 本次请求实际使用的模型名称和版本。 doubao 1.5 代模型的模型名称格式为 `doubao-1-5-**`。如调用部署doubao-1.5-pro-32k 250115模型的推理接入点，返回model字段信息doubao-1-5-pro-32k-250115。 --- **service_tier** `string` 本次请求是否使用了TPM保障包。 * `scale`：本次请求使用TPM保障包额度。 * `default`：本次请求未使用TPM保障包额度。 --- **created** `integer` 本次请求创建时间的 Unix 时间戳（秒）。 --- **object** `string` 固定为 `chat.completion.chunk`。 --- **choices** `object[]` 本次请求的模型输出内容。 属性 --- choices.**index** `integer` 当前元素在 **choices** 列表的索引。 --- choices.**finish_reason** `string` 模型停止生成 token 的原因。取值范围： * `stop`：模型输出自然结束，或因命中请求参数 stop 中指定的字段而被截断。 * `length`：模型输出因达到模型输出限制而被截断，有以下原因： * 触发`max_token`限制（回答内容的长度限制）。 * 触发`max_completion_tokens`限制（思维链内容+回答内容的长度限制）。 * 触发`context_window`限制（输入内容+思维链内容+回答内容的长度限制）。 * `content_filter`：模型输出被内容审核拦截。 * `tool_calls`：模型调用了工具。 --- choices.**delta** `object` 模型输出的增量内容。 属性 --- choices.delta.**role** `string` 内容输出的角色，此处固定为 `assistant`。 --- choices.delta.**content** `string` 模型生成的消息内容。 --- choices.delta.**reasoning_content** `string / null` 模型处理问题的思维链内容。 仅深度推理模型支持返回此字段，深度推理模型请参见[回传思考内容加密原文](/docs/deep-thinking#8cfd447b)。 --- choices.delta.**tool_calls** `string / null` 模型生成的工具调用。 属性 --- choices.delta.tool_calls.**id** `string` 调用的工具的 ID。 --- choices.delta.tool_calls.**type** `string` 工具类型，当前仅支持`function`。 --- choices.delta.tool_calls.**function** `object` 模型调用的函数。 属性 --- choices.delta.tool_calls.function.**name** `string` 模型调用的函数的名称。 --- choices.delta.tool_calls.function.**arguments** `string` 模型生成的用于调用函数的参数，JSON 格式。 模型并不总是生成有效的 JSON，并且可能会虚构出一些您的函数参数规范中未定义的参数。在调用函数之前，请在您的代码中验证这些参数是否有效。 --- choices.**logprobs** `object / null` 当前内容的对数概率信息。 属性 --- choices.logprobs.**content** `object[] / null` message列表中每个 content 元素中的 token 对数概率信息。 属性 --- choices.logprobs.content.**token** `string` 当前 token。 --- choices.logprobs.content.**bytes** `integer[] / null` 当前 token 的 UTF-8 值，格式为整数列表。当一个字符由多个 token 组成（表情符号或特殊字符等）时可以用于字符的编码和解码。如果 token 没有 UTF-8 值则为空。 --- choices.logprobs.content.**logprob** `float` 当前 token 的对数概率。 --- choices.logprobs.content.**top_logprobs** `object[]` 在当前 token 位置最有可能的标记及其对数概率的列表。在一些情况下，返回的数量可能比请求参数 top_logprobs 指定的数量要少。 属性 --- choices.logprobs.content.top_logprobs.**token** `string` 当前 token。 --- choices.logprobs.content.top_logprobs.**bytes** `integer[] / null` 当前 token 的 UTF-8 值，格式为整数列表。当一个字符由多个 token 组成（表情符号或特殊字符等）时可以用于字符的编码和解码。如果 token 没有 UTF-8 值则为空。 --- choices.logprobs.content.top_logprobs.**logprob** `float` 当前 token 的对数概率。 --- choices.**moderation_hit_type** `string / null` 模型输出文字含有敏感信息时，会返回模型输出文字命中的风险分类标签。 返回值及含义： * `severe_violation`：模型输出文字涉及严重违规。 * `violence`：模型输出文字涉及激进行为。 注意：当前只有 [视觉理解模型](/docs/image-understanding#f8d6cc48) 支持返回该字段，且只有在方舟控制台 [接入点配置页面](https://ark.volcengine.com/region:cn-beijing/endpoint/create?customModelId=) 或者 [CreateEndpoint](/docs/create-endpoint-api) 接口中，将内容护栏方案（ModerationStrategy）设置为基础方案（Basic）时，才会返回风险分类标签。 --- **usage** `object` 本次请求的 token 用量。 流式调用时，默认不统计 token 用量信息，返回值为`null`。 如需统计，需设置 **stream_options.include_usage** 为`true`。 属性 --- usage.**prompt_tokens** `integer` 输入给模型的内容的 token 用量。 --- usage.**completion_tokens** `integer` 模型输出内容的 token 用量。 --- usage.**total_tokens** `integer` 本次请求消耗的总 token 数量（输入 + 输出）。 --- usage.**prompt_tokens_details** `object` 输入给模型的内容的 token 用量的细节。 属性 --- usage.prompt_tokens_details.**cached_tokens** `integer` 通过缓存输入内容的 token 用量。 --- usage.**completion_tokens_details** `object` 本次请求，模型输出内容的 token 用量的细节 属性 --- usage.completion_tokens_details.**reasoning_tokens** `integer` 输出思维链内容花费的 token 数 。 支持输出思维链的模型请参见 [文档](/docs/deep-thinking#14b5c6db)。 ## 代码示例 ## 默认 ### cURL #### Request ```bash curl https://ark.cn-beijing.volces.com/api/v3/context/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $ARK_API_KEY" \ -d $'{ "context_id": "ctx-20250410172958-pv756", "messages": [ { "content": "你好", "role": "system" } ], "model": "ep-20250410*****-*****" }' ``` #### Response ``` { "id": "02174427747891615208d1b4038f629a958d0e327ef7d338d2d35", "object": "chat.completion", "created": 1744277479, "model": "doubao-1-5-pro-32k-250115", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "我是李雷" }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 28, "completion_tokens": 4, "total_tokens": 32, "prompt_tokens_details": { "cached_tokens": 18 }, "completion_tokens_details": { "reasoning_tokens": 0 } } } ``` ### Python #### Request ```python import os from volcenginesdkarkruntime import Ark client = Ark(api_key=os.environ.get("ARK_API_KEY")) if __name__ == "__main__": resp = client.context.completions.create( model="ep-20250410*****-*****", context_id="ctx-20250410172958-pv756", messages=[{"content":"你好","role":"system"}], ) print(resp.choices[0].message.content) ``` #### Response ``` { "id": "02174427747891615208d1b4038f629a958d0e327ef7d338d2d35", "object": "chat.completion", "created": 1744277479, "model": "doubao-1-5-pro-32k-250115", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "我是李雷" }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 28, "completion_tokens": 4, "total_tokens": 32, "prompt_tokens_details": { "cached_tokens": 18 }, "completion_tokens_details": { "reasoning_tokens": 0 } } } ``` ### Go #### Request ```go package main import ( "context" "fmt" "os" "github.com/volcengine/volcengine-go-sdk/service/arkruntime" "github.com/volcengine/volcengine-go-sdk/service/arkruntime/model" "github.com/volcengine/volcengine-go-sdk/volcengine" ) func main() { client := arkruntime.NewClientWithApiKey(os.Getenv("ARK_API_KEY")) ctx := context.Background() req := model.ContextChatCompletionRequest{ ContextID: "ctx-20250410172958-pv756", Model: "ep-20250410*****-*****", Messages: []*model.ChatCompletionMessage{ &model.ChatCompletionMessage{ Role: "system", Content: &model.ChatCompletionMessageContent{ StringValue: volcengine.String("你好"), }, }, }, } fmt.Println("----- standard request -----") resp, err := client.CreateContextChatCompletion(ctx, req) if err != nil { fmt.Printf("standard chat error: %v\n", err) return } fmt.Println(*resp.Choices[0].Message.Content.StringValue) } ``` #### Response ``` { "id": "02174427747891615208d1b4038f629a958d0e327ef7d338d2d35", "object": "chat.completion", "created": 1744277479, "model": "doubao-1-5-pro-32k-250115", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "我是李雷" }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 28, "completion_tokens": 4, "total_tokens": 32, "prompt_tokens_details": { "cached_tokens": 18 }, "completion_tokens_details": { "reasoning_tokens": 0 } } } ``` ### Java #### Request ```java package com.volcengine.sample; import com.fasterxml.jackson.core.JsonProcessingException; import com.volcengine.ark.runtime.model.completion.chat.*; import com.volcengine.ark.runtime.model.context.chat.ContextChatCompletionRequest; import com.volcengine.ark.runtime.service.ArkService; import java.util.ArrayList; import java.util.List; import java.util.concurrent.TimeUnit; import okhttp3.ConnectionPool; import okhttp3.Dispatcher; /* # pom.xml com.volcengine volcengine-java-sdk-ark-runtime // 替换正式版本号 LATEST */ public class Sample { static String apiKey = System.getenv("ARK_API_KEY"); static ConnectionPool connectionPool = new ConnectionPool(5, 1, TimeUnit.SECONDS); static Dispatcher dispatcher = new Dispatcher(); static ArkService service = ArkService.builder() .dispatcher(dispatcher) .connectionPool(connectionPool) .apiKey(apiKey) .baseUrl("https://ark.cn-beijing.volces.com/api/v3") .build(); public static void main(String[] args) throws JsonProcessingException { List messagesForReqList = new ArrayList<>(); ChatMessage elementForMessagesForReqList0 = ChatMessage.builder().role(ChatMessageRole.SYSTEM).content("你好").build(); messagesForReqList.add(elementForMessagesForReqList0); ContextChatCompletionRequest req = ContextChatCompletionRequest.builder() .contextId("ctx-20250410172958-pv756") .model("ep-20250410*****-*****") .messages(messagesForReqList) .build(); service.createContextChatCompletion(req) .getChoices() .forEach(choice -> System.out.println(choice.getMessage().getContent())); // shutdown service after all requests is finished service.shutdownExecutor(); } } ``` #### Response ``` { "id": "02174427747891615208d1b4038f629a958d0e327ef7d338d2d35", "object": "chat.completion", "created": 1744277479, "model": "doubao-1-5-pro-32k-250115", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "我是李雷" }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 28, "completion_tokens": 4, "total_tokens": 32, "prompt_tokens_details": { "cached_tokens": 18 }, "completion_tokens_details": { "reasoning_tokens": 0 } } } ```