Bash
#安装docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
Bash
#设置docker源
yum-config-manager --add-repo https://mirrors.tuna.tsinghua.edu.cn/docker-ce/linux/centos/docker-ce.repo
Bash
#设置docker开机启动
systemctl enable docker.service
#关闭docker开机启动
systemctl disable docker.service
#启动docker
systemctl start docker.service
Bash
#查看docker是否安装成功
docker run hello-world
Bash
#拉取tensorflow/serving镜像
docker pull tensorflow/serving
Bash
mkdir /root/software
cd /root/software
Bash
#clone tensorflow/serving例子
git clone https://github.com/tensorflow/serving
Bash
#运行tensorflow/serving镜像
#--mount: 表示要进行挂载
#source: 指定要运行部署的模型地址, 也就是挂载的源,这个是在宿主机上的模型目录
#target: 这个是要挂载的目标位置,也就是挂载到docker容器中的哪个位置,这是docker容器中的目录
#-t: 指定的是挂载到哪个容器
#-p: 指定主机到docker容器的端口映射
#docker run: 启动这个容器并启动模型服务(这里是如何同时启动容器中的模型服务的还不太清楚)
#综合解释:将source目录中的例子模型,挂载到-t指定的docker容器中的target目录,并启动
docker run -p 8501:8501 --mount type=bind,source=/root/software/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu,target=/models/half_plus_two -e MODEL_NAME=half_plus_two -t tensorflow/serving &
Bash
#查看是否启动成功
curl -d '{"instances": [1.0, 2.0, 5.0]}' -X POST http://localhost:8501/v1/models/half_plus_two:predict
Bash
#查看docker镜像运行信息
docker ps -a
Bash
#查看安装的docker镜像
docker images
Bash
#停止运行中的docker镜像
docker stop 9c7b87b025ff
Bash
#--restart=always 设置镜像随容器启动
#--model_config_file=file model配置文件
docker run -p 8501:8501 --restart=always --mount type=bind,source=/root/tensormodel/,target=/models/ -t tensorflow/serving --model_config_file=/models/models.config &
Bash
#在/etc/rc.local文件里加入设置开机重启容器(这样镜像就可以和容器一起启动了)
(sleep 15
systemctl restart docker.service
Bash
#models.config配置文件如下
model_config_list:{
config:{
name:"maimai"
base_path:"/models/maimai/"
model_platform:"tensorflow"
model_version_policy {
specific {
versions: 1
versions: 2
versions: 3
versions: 4
versions: 5
}
}
},
config:{
name:"stylegan"
base_path:"/models/stylegan/"
model_platform:"tensorflow"
model_version_policy {
specific {
versions: 1
}
}
},
}
版权声明:本文为期权记的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://www.qiquanji.com/post/13966.html

微信扫码关注
更新实时通知