数据集(Dataset)用于统一管理数据集,支持数据集创建、多版本管理和共享功能,可在模型精调中使用。
前置条件#
创建数据集之前,用户需确保账户已启用 火山引擎对象存储 TOS 服务。
创建数据集#
打开数据集页面后,进入数据集列表。点击数据集列表页面左上角的【创建数据集】按钮,进入创建数据集页面。
填写创建数据集表单,包括数据集名称、数据集描述,选择数据用途、数据格式、上传文件等。具体填写说明见下表。
创建数据集表单配置字段填写说明
| 字段名 | 是否必填 | 描述及填写规范 |
|---|---|---|
| 数据集名称 | 是 | 自定义数据集名称,方便记录检索;支持1~200位可见字符,且只包含大小写字母、中文、数字、中划线、下划线。 |
| 数据集描述 | 否 | 给数据集添加除名称以外的其他描述信息,方便多次迭代版本,重要信息记录;支持1~300位可见字符,且只包含大小写字母、中文、数字、中划线、下划线。 |
| 数据用途 | 是 | 目前平台仅支持数据集用于模型精调,其他用途敬请期待。 |
| 数据格式 | 是 | 数据格式可根据模态和场景分为以下类型:
|
| 版本号 | 是 | 数据集版本号,从V1开始,每次新建版本自动递增。 |
| 文件上传 | 是 | 具体文件格式可参考页面说明,或按照页面提示下载样例文件到本地,填充信息后再上传;支持上传数据集、从TOS导入两种文件上传方式。 |
查看与管理数据集#
通过数据集列表页,可以查看数据集的信息,包括数据集名称/ ID、数据格式、最新版本、状态、数据量等关键信息。
数据集版本管理#
创建完成的数据集,可以在数据集列表中,选择希望查看的数据集,点击【数据集名称】进入该数据集的版本列表页。
查看数据集版本#
通过数据集版本列表,可以查看该数据集所有版本的信息,包括版本号、版本描述、状态、数据量、预估 Tokens等关键信息。
其中,预估Tokens表示精调时数据集预计消耗的 token 数,不同模型的实际消耗数可能存在一定偏差。
新建数据集版本#
点击数据集列表的【新建版本】操作,或点击数据集详情页右上角【新建版本】按钮,可在当前数据集基础上新增版本。填写新增版本表单,包括版本描述和文件上传。
删除数据集版本#
用户可以删除不再需要的数据集版本,删除后不可恢复。
注意,删除操作可能带来不良影响,详见删除数据集。
入口:在数据集详情页中,将鼠标悬停在数据集列表中需要删除的数据集版本记录操作中的【···】,点击【删除】操作,按照弹窗提示完成操作。
删除数据集#
删除数据集将删除该数据集下的所有数据集版本数据,删除后不可恢复。
入口1:在数据集列表页面,将鼠标悬停在需要删除数据集记录操作中的【···】,点击【删除】操作,按照弹窗提示完成操作。
入口2:在数据集详情页中,将鼠标悬停在右上角的【···】,点击【删除】提示,同样可以触发删除弹窗。