模型部署的管理

最后更新于

模型部署版本的状态

  • 准备中 正在启动
  • 运行中 已经启动了,可以查看其运行的日志
  • 正在关闭 处于关闭的清理状态
  • 已关闭 该服务版本已经被成功关闭
  • 执行出错 由于某些特殊原因异常关闭了,可以尝试通过日志查看具体原因

其中处于 执行出错已关闭 状态的模型部署版本成为非活跃状态,允许该版本被再次启动或者永久删除。

模型部署的扩容

在创建模型部署是可以选择副本个数,副本个数越多,服务的负载能力越高。

在一个运行中的模型部署版本的「设置」页面可以更新其副本个数。

注意 副本个数越多,服务负载能力越强,也意味着同样时间其对「计算资源」的消耗越大。

模型部署的更新

模型部署下可以包含多个版本,当创建或启动另一个模型部署版本后,运行中的模型部署版本将会被关闭,即同一个模型部署下只允许一个运行中的模型部署版本。

删除不需要的模型部署版本

对于非活跃的模型部署版本可以对齐进行删除:

注意 模型部署版本依然处于活跃状态(即不处于「已关闭」或者「执行出错」状态)则无法被删除。

删除整个模型部署

如果整个模型部署都不再需要,可以在该模型部署的「设置」页面删除整个模型部署。

注意 模型部署如果有活跃的模型版本(即不处于「已关闭」或者「执行出错」状态),则该模型部署无法被删除。