阅读(201) 书签 (0)

文心千帆平台使用快速开始

2023-07-19 14:50 更新

前提条件

要使用百度文心千帆大模型平台,首先需要注册成为百度智能云用户。

首先让我们用5分钟来注册百度智能云账号(如您已经是开发者,可直接登录使用)。

当前文心千帆大模型平台为邀测阶段,您可以在合作咨询中,留下您的联系方式,会有专业人员与您取得联系。(已开通文心千帆大模型平台服务的用户,忽略此操作。)

流程说明

文心千帆大模型平台覆盖从数据管理、数据标注、模型开发、模型纳管、部署上线的AI能力研发与应用全生命周期建设和管理。接入文心大模型算法和开放第三方业内知名的模型算法,降低全流程AI开发门槛。平台支持SFT,准备内容可参考SFT快速调优

实现步骤

在您完成注册后,可以登录到文心千帆大模型操作台,只要以下6个步骤即可快速完成大模型定制及测试效果的全过程。

数据导入-> 数据标注-> 训练配置-> 模型纳管-> 发布服务-> 在线测试

Step1:数据导入

  1. 需要您在左侧功能栏选择“数据服务 > 数据集管理”,进入数据总览界面,选择创建数据集。

image.png

  1. 进入“创建数据集”界面,填写数据集名称后,标注类型选择文本对话-非排序类型,“创建并导入”。

image.png

3.在导入配置中,按实际需求填写导入方式以及对应的格式或路径,上传无标注文件或者链接内容等,确认即可。

image.png

更多操作,可见数据服务使用说明内容。

Step2:数据标注

当光标移动至回答框,会有“自动生成”按钮,回答支持调用平台的LLM模型为问题生成对应回答,可在左上角切换模型。

image.png

  • 您可以选择自动生成回答或手动生成回答,回答生成后“保存标注”即可。
  • 标注好的文本数据,将会在“有标注信息”页签下展示。

更多操作,可见在线标注使用说明内容。

Step3:训练配置

  1. 需要您在左侧功能栏中选择“大模型训练 > 大模型调优”中创建调优任务,进入模型准备界面,按实际情况进行模型选择、模型名称、所属行业、应用场景和业务描述的选择或填写。

image.png

  1. 点击“创建并训练”,继续完善调优任务,完善训练配置和参数调整(ERNIE-Bot-turbo为例)。

image.png

image.png

  1. 选择Step1中创建的数据集进行导入。

image.png

4.以上步骤都完成后,点击“确定”按钮,即可进入自定义模型的训练,当任务详情中的模型运行显示“运行完成”,则表示模型训练成功。

image.png

更多操作,可见大模型调优任务内容。

Step4:模型纳管

选择Step3运行中的“发布”,填写新模型发布相关内容,将模型纳入模型管理模块。

image.png

更多操作,可见本章模型管理内容。

Step5:发布服务

  1. 需要您在左侧功能栏中选择“预测服务 > 在线服务”,选择“发布新服务”按钮,或者直接在Step4模型详情中的版本列表页,选择指定模型“部署”。

image.png

  1. 按照实际需要,进行服务配置和资源配置。

image.png

  1. 发布成功后,“预测服务 > 在线服务”中即可列表展示服务内容。

发布公有云服务,将训练完成的模型部署在百度云服务器,通过API接口调用模型。更多操作,可见本章服务管理使用说明内容。

Step6:在线测试

在“预测服务 > 在线测试”中,选择自训练模型和参数配置,进行在线测试。详细可见在线测试相关内容,参数配置列选择本服务。

如果需进行“应用创建、调用服务和查看用量”,可移步至控制台