您现在的位置是:首页 > 文章详情

利用docker部署深度学习模型的一个最佳实践

日期:2018-09-05点击:508

最近团队的模型部署上线终于全面开始用上docker了,这感觉,真香!

讲道理,docker是天然的微服务,确实是能敏捷高效的解决深度学习这一块的几个痛点。

部分神经网络框架比如caffe依赖过重,安装困难。
各种网络模型未做工程化优化,部署困难。
tensorflow等框架对GPU等硬件的占用难以灵活控制。

对于做应用来说,这些问题诸如对GPU的硬件的管理,对复杂依赖的部署,而这些正好就是docker的强项。而python本身表达能力强,可以以很短的代码量达成我们的目的。

部署

具体的部署步骤涉及这几个工具链:

Dockerfile进行模型的镜像部署。
docker-py进行container的启动和关闭。
grpc和进行模型的外部通信。
python的with语句表达模型的加载和资源的释放。
gitlab进行内网的代码分发和版本控制。

整个接口的调用精简




原文链接:https://yq.aliyun.com/articles/636262
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章