进行模型精调前,需要先按模型类别选择数据格式,再确认该类别支持的精调方法。精调数据集采用 JSONL 格式,每行包含一个完整的 JSON 对象。
如何选择格式#
先根据模型的输入和输出类型选择模型类别,再进入对应文档查看精调方法的数据格式。具体支持的模型和训练方式以创建精调任务时控制台的可选项为准。
| 模型类别 | 典型输入和输出 | 已提供格式的精调方法 | 格式文档 |
|---|---|---|---|
| 语言及多模态理解 | 输入文本、图片、音频或视频,输出文本 | SFT、DPO、GRPO/PPO、CPT(继续预训练) | 语言及多模态理解模型精调数据格式 |
| 图片生成 | 输入文本或文本与图片,输出图片 | SFT | 图片生成模型精调数据格式 |
| 视频生成 | 输入文本、图片、视频或音频,输出视频 | SFT | 视频生成模型精调数据格式 |
格式文档目录#
语言及多模态理解#
适用于以文本作为输出的新一代语言模型和多模态理解模型。样本可以只包含文本,也可以通过 image_url、audio_url、video_url 混合传入图片、音频和视频。纯文本任务使用新模型精调时,也应选择此格式。音频输入支持 SFT、DPO、CPT,不支持 GRPO、PPO 等 RL 训练。
- SFT:SFT 精调
- DPO:直接偏好学习(DPO)
- GRPO/PPO:强化学习(GRPO/PPO)
- CPT(继续预训练):继续预训练
图片生成#
适用于文生图和图片编辑任务。文生图样本以文本作为输入、图片作为输出;图片编辑样本以文本和单张或多张图片作为输入、图片作为输出。
- SFT:SFT 精调
视频生成#
适用于文生视频、首帧或首尾帧生成视频,以及使用图片、视频、音频作为参考的视频生成任务。不同 Seedance 模型系列的数据字段和参数范围不同。
- SFT:SFT 精调
公共要求与工具#
各格式文档已按需包含图片、音频、视频文件要求,以及数据转换和离线校验工具。进入对应模型类别的格式文档后,可在文末查看适用于该类别的公共要求与工具。