本文介绍了火山方舟大模型服务平台的新版本产品功能特性,欢迎体验。
模型更新信息请见:模型发布公告
#
20241231#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型广场 |
|
模型广场 |
| 体验中心 |
|
体验中心 |
| 模型推理 |
|
在线推理 |
| 模型精调 |
|
模型精调 |
| Prompt优解 |
|
Prompt优解 |
| 智能体 |
|
智能体中心 |
| 数据集 |
|
数据集 |
| 安全 |
|
推理安全审计 |
|
推理会话数据应用层加密方案 |
20241213#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 体验中心 |
|
体验中心 |
| 模型推理 |
|
在线推理 |
| 用量统计 |
|
用量统计 |
| 安全与信任 |
|
推理会话数据应用层加密方案 |
|
审计日志API文档 |
20241126#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 体验中心 |
|
体验中心 |
| 在线推理 |
|
在线推理 |
| 智能体 |
|
智能体中心 |
|
服务组件库 | |
| 数据集 |
|
数据集 |
| 安全与信任 |
|
审计日志API文档 |
20241029#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型推理 |
|
获取 Endpoint ID(创建自定义推理接入点) |
| 智能体 | 零代码智能体发布后,支持查看其调用统计数据,包括智能体调用量、智能体调用tokens数以及插件调用量指标 | 应用实验室 |
| 安全与信任 | 在精调或创建数据集过程中:当用户选择上传数据集时,平台为该数据集自动开启SSE-TOS加密,保证数据在TOS密文存储,更安全;当用户选择从TOS导入时,引导用户为该数据集自行开启SSE-TOS加密 | - |
| 数据集 |
|
共享数据集 |
20241015#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型广场 | 在Doubao-pro聚合页新增256k模型 | 模型广场 |
| 体验中心 | 长输入文本情况下交互体验优化,默认定位到输出内容 | 语言模型 |
| 智能体 | 上线 ASR+LLM+TTS 官方智能体demo,如需获取最佳实践可 联系我们 | 应用实验室 |
| 服务组件库 | 插件新增抖音百科内容源 | 联网系列功能说明 |
| 模型推理 | 支持批量推理输入文件大小配额提升,可以 提交工单 申请更大的文件大小上限(最大 8 GiB) | 获取 Endpoint ID(创建自定义推理接入点) |
| 安全与信任 | 审计日志 API 支持精调相关日志 | 安全管理总览 |
|
- |
20240924#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 体验中心 |
|
语言模型 |
| 智能体 |
|
应用实验室 |
| 模型推理 |
|
获取 Endpoint ID(创建自定义推理接入点) |
20240914#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 新用户引导 | 在模型精调、模型仓库、模型评测、在线推理、批量推理等页面上方,新增模块介绍和引导 | - |
| 模型广场 | 模型详情页优化,更清晰展示版本特性、价格、快捷操作入口等,并新增同类模型的聚合页 | 模型广场 |
| 体验中心 | 同一模型的多个对话体验,可各自设置独立的参数配置 | 语言模型 |
| 智能体 | 新增零代码智能体system prompt优化功能,支持用户一键快速优化并降低编写门槛 智能体提示词system prompt最大长度限制升级扩展到10000字 联网系列插件三合一升级为联网内容插件,新用户可在零代码智能体中使用。支持联网和内容源按需选择且支持与知识库混合使用。插件开通后,即可赠送每月2万次联网资源的免费额度,头条、天气等内容源资源按使用量后付费。 |
应用实验室 |
| 模型评测 | 自动评测增加裁判员模型评测 支持xls、xlsx格式评测集上传以及结果批量导出 |
模型评测体系介绍 |
| 在线推理 | 模型单元改为实例型独占资源模式,支持按小时付费 | 获取 Endpoint ID(创建自定义推理接入点) |
| 安全与信任 | 安全审计日志API新增功能:支持按时间筛选日志,新增返回风险等级和日志细节等信息 ChatCompletions接口的审核支持 n 参数:当模型的 n 路 response 同时送审时,只针对被拦截的 response 进行拒答文案替换,其余 response 正常放行 |
安全管理总览 |
20240903#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型广场 | 新增模型广场厂商视图,更清晰地展示同一厂商的模型家族全貌及各模型的结构化信息 | 模型广场 |
| 智能体 |
|
应用实验室 |
20240820#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 体验中心 |
|
体验中心 |
| 智能体 |
|
智能体 |
| 用量统计 |
|
用量统计 |
| 安全与信任 |
|
/ |
|
20240806#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 体验中心 | 新增豆包声音复刻大模型体验 | 体验中心 |
| 模型推理 |
|
批量推理 大模型调用ChatCompletions |
| 智能体中心 |
|
智能体中心 |
20240723#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型广场 |
|
模型广场 |
| 体验中心 | - 增加智能体体验,用户可在“体验插件和模型应用”标签下选择体验示例智能体模板 | 体验中心 |
| 评测任务 | - 系统评测集和个人评测集会过审核机制,审核策略与用户自定义配置保持一致 | 模型评测 |
| 模型精调 | - 优化了精调列表页的视觉交互体验,展示状态等重点信息 | 创建精调任务 |
| 模型推理 | - 原「模型推理」模块更名为「在线推理」,优化模型接入点限频说明 | 创建推理接入点 |
| 智能体中心 |
|
智能体中心 |
| 开通管理 |
|
开通管理 |
| 安全与信任 | - 支持通过OpenAPI查看安全沙箱登录和连接记录的审计日志 | 获取安全审计日志 |
| 其他 | - 精调、评测、模型仓库等模块,数据集和模型文件上传到 TOS 时,按项目进行管理 |
20240708#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型推理 |
|
API调用指南 |
| 体验中心 |
|
体验中心 |
| 模型精调 |
|
模型精调 |
| 智能体 |
|
智能体中心 |
20240625#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型广场 | 新增“Doubao-声音复刻”,“Doubao-语音合成”,“豆包-文生图模型-智能绘图”模型,支持模型接入 | 模型广场 |
| 智能体 |
|
智能体中心 |
20240605#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型推理 |
|
模型调用API |
| 智能体 |
|
智能体中心 |
20240515#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型广场 |
|
模型广场介绍 |
| 体验中心 |
|
模型体验介绍 |
| 模型仓库 |
|
模型仓库介绍 |
| 模型精调 |
|
模型精调介绍 |
| 模型推理 |
|
模型推理介绍 |
| 智能体 |
|
智能体中心 |
| 资源管理 |
|
资源管理平台 |
| OpenAPI |
|
OpenAPI介绍 |
| 安全与信任 |
|
火山方舟互信计算架构白皮书 数据加密 |
20231214#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型接入 | 模型接入是方舟模型服务的能力升级,支持用户调用模型广场上的模型与精调后的模型进行推理。相比原有模型服务,模型接入支持(1)灵活升级接入模型的版本 (2)支持模型接入的调用监控(即将上线),未来还会支持保障更高并发度、更灵活的推理需求。 | 模型接入 |
20231020#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 插件能力 | 新发布头条搜索插件,基于外部输入的必要性判断后,调用头条搜索能力,协助大模型实时获取新闻、法律等互联网资讯。当前插件仅适配于豆包系列模型 | 头条搜索插件 |
20230926#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型评测 | 优化自动评测,上传本地评测数据集或选择平台预置评测数据集,一键完成模型的评测。新增人工评测,创建标注任务并分配给指定标注人,在线协同标注模型的生成效果。 | 自动评测介绍 、 人工评测介绍 |
| 数据服务 | 数据集标注,支持基础的文本大模型数据集人工标注功能。 | 数据集标注 |
| 模型广场 | 模型卡片、体验中心支持多版本的模型展示、体验与使用 | 模型广场介绍 |
| 模型服务 | 新增Lora推理功能特性,Lora精调后的模型部署为在线服务,不用独占机器资源部署,无需排队,轻量便捷 | 模型服务部署 |
| 安全与信任 | 为模型提供方与模型使用者开放安全审计日志,在安全容器的基础上进一步加密了用户输入文本信息 | 安全审计日志 |
20230806#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 统计管理 | 新发布开通管理页,可更清晰了解目前的商品开通状态、限制、价格与帮助文档等;新发布用量统计页,可清晰查看各子账号在各个模型上的调用量与RPM(每分钟请求数)信息 | 开通管理 、用量统计 |
| 模型精调 | 创建精调任务页:支持LoRA精调,模型精调更高效省时;支持自定义设置验证集;优化了参数配置的交互样式。精调任务列表页:增加了排队时间预估,训练时间预估提示信息 | 创建模型精调任务 |
| 模型服务 | 创建在线服务:权限管控升级优化,增加了管理员和可见范围的配置。在线服务详情:在线服务支持服务监控,可更好监控模型服务的工程性能指标 | 查看并管理模型服务 |
| 模型广场 | 支持了公开模型与私有模型的属性,模型卡片权限管控更自由;支持模型列表的搜索 | 模型广场介绍 |
| 体验中心 | 全新升级AI对话体验中心的交互与视觉,高级参数设置更便捷直观,多模型之间可拖拽排序 | 模型体验介绍 |
20230628#
| 功能模块 | 功能说明 | 帮助文档 |
|---|---|---|
| 模型广场 | 新发布模型广场功能,在模型广场上查看并了解所有模型提供方上架在平台上的大模型 | 模型广场介绍 |
| 体验中心 | 新发布体验中心功能,可快速体验各模型的实际表现效果,探索其在语言、图像等方面的先进能力 | 模型体验介绍 |
| 模型精调 | 新发布模型精调功能,支持自定义训练集、超参、版本管理等功能,快速精调并使用专属大模型服务 | 创建模型精调任务 |
| 模型评测 | 新发布模型评测功能,自动根据预置的评测脚本与数据集,从多个维度评价精调后的模型表现效果 | 模型评测方案介绍 |
| 模型服务 | 新发布模型服务功能,在火山引擎上可直接调用推理API,接入生产环境,并持续运维与监控 | 精调模型发布在线服务 |
| 安全与信任 | 支持安全可信的推理与精调服务,保障模型提供方的知识产权安全与模型使用者的业务信息安全 | 火山方舟互信计算架构白皮书 |