本文将指导你逐步在 AWS GPU 实例上运行深度学习 Jupyter notebook,并可在你的浏览器中从任何地方对其编辑。如果你的本地机器上没有 GPU,这将会是一个研究深度学习的理想设置。
让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:域名与空间、虚拟空间、营销软件、网站建设、广西网站维护、网站推广。
一、什么是 Jupyter noterbook?为什么要在 AWS GPU 上运行 Jupyter notebook?
Jupyter notebook 是一个网页应用程序,允许你以交互的方式编写并注释 Python 代码。这是一种做试验,做研究,并分享工作内容的有效方法。了解什么是 notebook 请点击这里(链接:http://suo.im/4Em4IR)。
许多深度学习应用的计算非常密集,且在笔记本的 CPU 内核上运行通常需要耗费几个小时甚至是几天。如果把一个现代的 CPU 换成 GPU,训练和推理的速度可提升 5 到 10 倍。但是,你可能无法在本地计算机上安装 GPU。在 AWS 运行 Jupyter notebook 可以给你在本地计算机上运行时的相同体验,同时允许你利用 AWS 上的一个或多个 GPU。如果你只是偶尔使用深度学习,相比投资专有的 GPU,Jupyter notebook 更为有利,你只需支付所用的东西。
二、为什么我不想在 AWS 上使用 Jupyter 进行深度学习?
AWS GPU 实例的价格可以迅速变贵。我们建议的使用价格是每小时 0.9 美元。这个价格偶尔使用还可以接受,但是如果你每天都要进行几个小时的实验,那么你***搭建配备 Titan X 或者 GTX 1080 Ti 的专属深度学习机。
1. 开始之前注意:
搭建需要花费 5 到 10 分钟的时间。
2. 分步指南
(1) 导航至 EC2 控制面板,并点击「启动实例」链接。
(2) 选择官方 AWS 深度学习 Ubuntu AMI
选择「AWS 市场」并在搜索框中搜索「深度学习」。
向下滚动,直到找到名为「深度学习 AMI Ubuntu 版本」的 AMI(如下图),并选择它。
(3) 选择 p2.xlarge 实例
该实例类型提供对单个 GPU 的访问,并且每小时的使用成本为 0.9 美元(截至 2017 年 3 月)。点击「配置实例细节」:
(4) 配置实例细节
你可以为「配置实例」、「添加存储」和 「添加标签」等步骤保留默认设置。但是我们将自定义步骤「配置安全组」。
创建一个自定义 TCP 规则以允许 8888 端口。
在你当前的公共 IP(例如你的笔记本电脑的 IP),或者在前者不可能的情况下,对于任意 IP,该规则都被允许。请注意,如果你允许任意 IP 均可接入端口 8888,则理论上任何人都可以收听你的实例上的那个端口(这是我们将运行 IPython notebook 的地方)。我们将为笔记本电脑添加密码保护,以便降低任意人员都可以对其进行修改的风险,但这也许是较弱的保护。如果可能的话,你应该考虑限制特定 IP 的访问。但是,如果你的 IP 地址不断更改,这不太实际。如果你打算对任意 IP 开放接入端,请记住不要在实例上留下任何敏感数据。
在启动过程结束时,系统将会询问你是否要创建新的连接密钥,或者是否重复使用现有的密钥。如果你之前从未使用过 EC2, 只需创建新的密钥并下载即可。
(5) 启动你的实例并连接到它
为了连接实例,在 EC2 控制面板上选择并点击「连接」按钮,遵循提供的说明,例如:
注意,实例完全启动之前可能需要几分钟。如果开始时不能连接,请等待并重试。
(6) 设置 SSL 证书
通过 ssh 登录实例后,在实例的根目录下创建一个 ssl 目录,然后对其进行 cd(并非必要,但更干净)。
- mkdir ssl
- cd ssl
使用 OPenSSL 创建新的 SSL 证书:
- sudo openssl req -x509 -nodes -days 365 -newkey rsa:1024 -keyout "cert.key" -out "cert.pem" -batch
完成后,你已在当前的 sll 目录中创建了两个文件:cert.key 和 cert.pem.
(7) 配置 Jupyter
在我们开始使用 Jupyte 之前,我们需要调整其默认配置。首先,我需要生成一个新的 Jupyter 配置文件(仍然在远程实例上):
- jupyter notebook --generate-config
或者,你可以为自己的 notebook 生成 Jupyter 密码。由于你的实例配置可能为从任何 Ip 访问(取决于你在配置安全组时所做的选择),***通过密码限制对 Jupyter 的访问。要生成密码,请打开 IPython shell(ipython 命令)并运行:
- from IPython.lib import
- passwdpasswd()
- exit
passwd() 命令将要求你输入并验证密码,完成后将显示密码哈希(hash)。复制哈希,我们稍后会用到。它看起来像:「sha1:b592a9cf2ec6:b99edb2fd3d0727e336185a0b0eab561aa533a43」(这是「密码」哈希,并非是你应该使用的密码)。
接下来,使用 Vi(或者用你最喜欢的可用文本编辑器)编辑配置文件:
- vi ~/.jupyter/jupyter_notebook_config.py
这是一个 Python 文件,其中所有的行都被注释掉。
你需要插入以下 Python 代码行(比如,在文件的开头)
- c = get_config() # get the config object
- c.NotebookApp.certfile = u'/home/ubuntu/ssl/cert.pem' # path to the certificate we generated
- c.NotebookApp.keyfile = u'/home/ubuntu/ssl/cert.key' # path to the certificate key we generated
- c.IPKernelApp.pylab = 'inline' # in-line figure when using Matplotlib
- c.NotebookApp.ip = '*' # serve the notebooks locally
- c.NotebookApp.open_browser = False # do not open a browser window by default when using notebooks
- c.NotebookApp.password = 'sha1:b592a9cf2ec6:b99edb2fd3d0727e336185a0b0eab561aa533a43' # this is the password hash that we generated earlier.
如果,你以前没有使用过 Vi,请记住,你需要按 i 开始插入内容;完成后,你可以点击 esc 然后是 :wq 最终 enter 退出 Vi,同时保存更改(:wq 代表写入-退出)
(8) 更新 Keras
你马上可以开始使用 Jupyte 了。但首先,通过运行(仍然在远程实例上)以确保 Keras 是***的:
- sudo pip install keras --upgrade --no-deps
你所使用的 AMI 由亚马逊负责日常更新,但其可能没有使用每个包的***版本。
(9) 设置本地端口转发
在本地机器上的一个 Shell(不是远程实例中)中,开始将你的本地端口 443(HTTPS 端口)转发到远程实例的端口 8888。这是通过句法(syntax)完成的:
- sudo ssh -i awsKeys.pem -L local_port:local_machine:remote_port remote_machine
在我们的例子中为:
- sudo ssh -i awsKeys.pem -L 443:127.0.0.1:8888 ubuntu@ec2-54-147-126-214.compute-1.amazonaws.com
(10) 从你的本地浏览器中开始使用 Jupyter
首先,在远程实例中,创建保存你的 notebook 的文件夹:
- mkdir notebooks
- cd notebooks
在远程实例上,通过在你创建的文件夹中运行此命令来启动 Jupyter Notebook:
- ipython notebook
然后,在本地浏览器中,导航至我们发送到远程 notebook 进程的本地地址 https://127.0.0.1。确保你在地址中使用 HTTPS,否则你将收到 SSL 错误。
你将看到一个安全警告:
该警告只是因为我们生成的 SSL 证书没有被任何受权威机构验证(显然,我们刚刚生成了我们自己的证书)。点击「advanced」,继续浏览,这很安全。
然后系统会提示你输入 Jupyter 密码。然后,你会进入 Jupyter 控制面板。
点击「新建 - >Notebook」开始。你可以使用你选择的 Python 版本。
好了!
原文:
https://blog.keras.io/running-jupyter-notebooks-on-gpu-on-aws-a-starter-guide.html
【本文是专栏机构机器之心的原创译文,微信公众号“机器之心( id: almosthuman2014)”】
戳这里,看该作者更多好文
文章名称:如何在AWS GPU上运行Jupyter noterbook?
路径分享:http://www.shufengxianlan.com/qtweb/news28/401928.html
网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联