创建一个容器化的机器学习模型

数据科学家在创建机器学习模型后，必须将其部署到生产中。要在不同的基础架构上运行它，使用容器并通过 REST API 公开模型是部署机器学习模型的常用方法。本文演示了如何在 Podman 容器中使用 Connexion 推出使用 REST API 的 TensorFlow 机器学习模型。

公司主营业务：成都网站制作、成都网站设计、外贸营销网站建设、移动网站开发等业务。帮助企业客户真正实现互联网宣传，提高企业的竞争能力。成都创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化，感谢他们对我们的高要求，感谢他们从不同领域给我们带来的挑战，让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。成都创新互联推出越秀免费做网站回馈大家。

准备

首先，使用以下命令安装 Podman：

 
 
 
 
    
  
  
  
  
  1. sudo dnf -y install podman
    2.

接下来，为容器创建一个新文件夹并切换到该目录。

 
 
 
 
    
  
  
  
  
  1. mkdir deployment_container && cd deployment_container
    2.

TensorFlow 模型的 REST API

下一步是为机器学习模型创建 REST API。这个 github 仓库包含一个预训练模型，以及能让 REST API 工作的设置。

使用以下命令在 deployment_container 目录中克隆它：

 
 
 
 
    
  
  
  
  
  1. git clone https://github.com/svenboesiger/titanic_tf_ml_model.git
    2.

prediction.py 和 ml_model/

prediction.py 能进行 Tensorflow 预测，而 20x20x20 神经网络的权重位于文件夹 ml_model/ 中。

swagger.yaml

swagger.yaml 使用 Swagger规范 定义 Connexion 库的 API。此文件包含让你的服务器提供输入参数验证、输出响应数据验证、URL 端点定义所需的所有信息。

额外地，Connexion 还将给你提供一个简单但有用的单页 Web 应用，它演示了如何使用 Javascript 调用 API 和更新 DOM。

 
 
 
 
    
  
  
  
  
  1. swagger: "2.0"
    2. 
  
  
  
  
  2. info:
    3. 
  
  
  
  
  3.  description: This is the swagger file that goes with our server code
    4. 
  
  
  
  
  4.  version: "1.0.0"
    5. 
  
  
  
  
  5.  title: Tensorflow Podman Article
    6. 
  
  
  
  
  6. consumes:
    7. 
  
  
  
  
  7.  - "application/json"
    8. 
  
  
  
  
  8. produces:
    9. 
  
  
  
  
  9.  - "application/json"
    10. 
  
  
  
  
  10. 
  
  
  
  
  11. 
  
  
  
  
  12. basePath: "/"
    13. 
  
  
  
  
  13. 
  
  
  
  
  14. paths:
    15. 
  
  
  
  
  15.  /survival_probability:
    16. 
  
  
  
  
  16.  post:
    17. 
  
  
  
  
  17.  operationId: "prediction.post"
    18. 
  
  
  
  
  18.  tags:
    19. 
  
  
  
  
  19.  - "Prediction"
    20. 
  
  
  
  
  20.  summary: "The prediction data structure provided by the server application"
    21. 
  
  
  
  
  21.  description: "Retrieve the chance of surviving the titanic disaster"
    22. 
  
  
  
  
  22.  parameters:
    23. 
  
  
  
  
  23.  - in: body
    24. 
  
  
  
  
  24.  name: passenger
    25. 
  
  
  
  
  25.  required: true
    26. 
  
  
  
  
  26.  schema:
    27. 
  
  
  
  
  27.  $ref: '#/definitions/PredictionPost'
    28. 
  
  
  
  
  28.  responses:
    29. 
  
  
  
  
  29.  '201':
    30. 
  
  
  
  
  30.  description: 'Survival probability of an individual Titanic passenger'
    31. 
  
  
  
  
  31. 
  
  
  
  
  32. definitions:
    33. 
  
  
  
  
  33.  PredictionPost:
    34. 
  
  
  
  
  34.  type: object
    35.

server.py 和 requirements.txt

server.py 定义了启动 Connexion 服务器的入口点。

 
 
 
 
    
  
  
  
  
  1. import connexion
    2. 
  
  
  
  
  2. 
  
  
  
  
  3. app = connexion.App(__name__, specification_dir='./')
    4. 
  
  
  
  
  4. 
  
  
  
  
  5. app.add_api('swagger.yaml')
    6. 
  
  
  
  
  6. 
  
  
  
  
  7. if __name__ == '__main__':
    8. 
  
  
  
  
  8.  app.run(debug=True)
    9.

requirements.txt 定义了运行程序所需的 python 包。

 
 
 
 
    
  
  
  
  
  1. connexion
    2. 
  
  
  
  
  2. tensorflow
    3. 
  
  
  
  
  3. pandas
    4.

容器化！

为了让 Podman 构建映像，请在上面的准备步骤中创建的 deployment_container 目录中创建一个名为 Dockerfile 的新文件：

 
 
 
 
    
  
  
  
  
  1. FROM fedora:28
    2. 
  
  
  
  
  2. 
  
  
  
  
  3. # File Author / Maintainer
    4. 
  
  
  
  
  4. MAINTAINER Sven Boesiger 
    5. 
  
  
  
  
  5. 
  
  
  
  
  6. # Update the sources
    7. 
  
  
  
  
  7. RUN dnf -y update --refresh
    8. 
  
  
  
  
  8. 
  
  
  
  
  9. # Install additional dependencies
    10. 
  
  
  
  
  10. RUN dnf -y install libstdc++
    11. 
  
  
  
  
  11. 
  
  
  
  
  12. RUN dnf -y autoremove
    13. 
  
  
  
  
  13. 
  
  
  
  
  14. # Copy the application folder inside the container
    15. 
  
  
  
  
  15. ADD /titanic_tf_ml_model /titanic_tf_ml_model
    16. 
  
  
  
  
  16. 
  
  
  
  
  17. # Get pip to download and install requirements:
    18. 
  
  
  
  
  18. RUN pip3 install -r /titanic_tf_ml_model/requirements.txt
    19. 
  
  
  
  
  19. 
  
  
  
  
  20. # Expose ports
    21. 
  
  
  
  
  21. EXPOSE 5000
    22. 
  
  
  
  
  22. 
  
  
  
  
  23. # Set the default directory where CMD will execute
    24. 
  
  
  
  
  24. WORKDIR /titanic_tf_ml_model
    25. 
  
  
  
  
  25. 
  
  
  
  
  26. # Set the default command to execute
    27. 
  
  
  
  
  27. # when creating a new container
    28. 
  
  
  
  
  28. CMD python3 server.py
    29.

接下来，使用以下命令构建容器镜像：

 
 
 
 
    
  
  
  
  
  1. podman build -t ml_deployment .
    2.

运行容器

随着容器镜像的构建和准备就绪，你可以使用以下命令在本地运行它：

 
 
 
 
    
  
  
  
  
  1. podman run -p 5000:5000 ml_deployment
    2.

在 Web 浏览器中输入 http://0.0.0.0:5000/ui 访问 Swagger/Connexion UI 并测试模型：

当然，你现在也可以在应用中通过 REST API 访问模型。

当前文章：创建一个容器化的机器学习模型
本文网址：http://www.shufengxianlan.com/qtweb/news35/204235.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联

猜你还喜欢下面的内容

品牌网站建设知识

行业网站建设

成都康明斯发电机　　 　LED亮化工程　　 　郫县网站建设　　 　成都网站改版　　 　西云服务器托管　　 　成都小程序开发　　 　复盛机电设备安装　　 　温江服务器托管　　 　成都网站推广　　 　成都免费自助建站　　 　网站建设公司　　 　成都网站建设　　 　腾讯香港虚拟主机　　 　网络营销推广　　 　微信小程序开发　　 　分类目录网站　　 　网站优化公司　　 　蓬溪网站建设　　 　成都门户网站建设　　 　网站维护