自定义镜像
在依赖管理部分介绍的依赖安装会在「模型部署」启动时执行,为了加速服务的启动可以通过使用自定义镜像,在自定义镜像中预装所有的依赖。
准备 Dockerfile
首先,自定义镜像的目的是为了加速模型部署的启动速度,避免不必要的依赖安装。因此,所有的自定义镜像都必须在 OpenBayes 提供的官方镜像基础上构建而来。
请前往「管理员」-「镜像」获取镜像地址。
以下是一个在 Python GPU 模式下准备依赖的例子:
FROM uhub.service.ucloud.cn/openbayesruntimes/pytorch:1.7.0-py36-cpu.55
RUN pip install --no-cache-dir opencv-python==4.2.0.34
可以看到,这个样例里为 Python GPU 模式下预装了依赖:opencv-python
。
构建并将镜像推送到镜像仓库
构建镜像并将镜像推送到镜像仓库,这里我们以 UCloud 的镜像仓库为例:
docker login uhub.service.ucloud.cn
Username:
Password:
# Login Succeeded
docker build . -t uhub.service.ucloud.cn/<your-registry>/<your-image-name>
docker push uhub.service.ucloud.cn/<your-registry>/<your-image-name>
创建模型部署时使用自定义镜像
在创建模型部署时,将以上构建的镜像填入到「自定义镜像」
位置,部署时将使用所指定的镜像而不是官方默认镜像。