部署上线-凯发k8国际娱乐官网入口

部署上线

部署上线操作即将模型部署为在线服务，并且提供在线的测试ui与监控能力。完成模型训练后，可选择准确率理想且训练状态为“运行成功”的版本部署上线。具体操作步骤如下。

1. 在“运行节点”页面中，待服务部署节点的状态变为“等待输入”时，双击“服务部署”进入配置详情页，完成资源的参数配置操作。
   图1 服务部署节点状态
   
2. 在服务部署页面，选择部署上线使用的资源规格。
   图2 资源规格
   
   • ai应用：默认为生成的ai应用。
   • ai应用版本：自动匹配当前使用的ai应用版本，支持选择版本。
   • 资源池：默认公共资源池。
   • 分流：默认为100，输入值必须是0-100之间。
   • 计算节点规格：支持gpu: 1*nvidia-p4(8gb) 、gpu: 1*nvidia-t4(16gb) | cpu: 8 核 32gb、cpu: 2 核 8gb、

     gpu: 1*nvidia-p4(8gb) | cpu: 2 核 8gb以及限时免费规格。

   • 计算节点个数：默认为1，输入值必须是1-5之间的整数。
   • 是否自动停止：启用该参数并设置时间后，服务将在指定时间后自动停止。如果不启用此参数，在线服务将一直运行，同时一直收费，自动停止功能可以帮您避免产生不必要的费用。默认开启自动停止功能，且默认值为“1小时后”。

     目前支持设置为“1小时后”、“2小时后”、“4小时后”、“6小时后”、“自定义”。如果选择“自定义”的模式，可在右侧输入框中输入1~24范围内的任意整数。

     

     若您购买了套餐包，计算节点规格可选择您的套餐包，同时在“配置费用”页签还可查看您的套餐包余量以及超出部分的计费方式，请您务必关注，避免造成不必要的资源浪费。

3. 完成资源配置后，单击“继续运行”，服务部署节点将继续运行，直至状态变为“运行成功”，至此，已将ai应用部署为在线服务。
   图3 继续运行
   

服务测试

• 服务部署节点运行成功后，单击“实例详情”可跳转至对应的在线服务详情页面。单击“预测”页签，进行服务测试。
  图4 服务测试
  

• 您也可以在“部署上线>在线服务”页面，选择对应的服务类型，进入“在线服务”页面，单击目标服务“操作”列的“预测”，进行服务测试，测试方法和下方陈述操作步骤一致。具体操作请参见。
• 您也可以通过调用代码对服务进行测试，根据部署服务类型的不同，具体操作详情参见。
• 下面的测试，是您在自动学习图像分类项目页面将模型部署上线之后进行服务测试的操作步骤。
  1. 模型部署完成后，“在服务部署”节点，单击“实例详情”按钮，进入服务预测界面，在“预测”页签单击“上传”，选择本地图片进行测试。
     图5 上传图片
     
  2. 单击“预测”进行测试，预测完成后，右侧“预测结果”区域输出标签名称“sunflowers”和检测的评分。如模型准确率不满足预期，可在“数据标注”页签中添加图片并进行标注，重新进行模型训练及部署上线。预测结果中的参数说明请参见表1。如果您对模型预测结果满意，可根据界面提示调用接口访问在线服务，操作指导请参见“”。

     目前只支持jpg、jpeg、bmp、png格式的图片。

     图6 预测结果
     

     表1 预测结果中的参数说明

     参数	说明
     predicted_label	表示图片预测的标签。
     scores	表示top5标签的预测置信度。

     

     • 由于“运行中”的在线服务将持续耗费资源，如果不需再使用此在线服务，建议在“在线服务”的操作列单击“更多>停止”，避免产生不必要的费用。如果需要继续使用此服务，可单击“启动”恢复。
     • 如果您启用了自动停止功能，服务将在指定时间后自动停止，不再产生费用。