主要内容

MATLAB深度学习容器英伟达GPU的云亚马逊Web服务

通过在MATLAB中训练神经网络,加快深度学习应用程序®深度学习容器,设计充分利用高性能NVIDIA®gpu。您可以使用web浏览器或VNC连接远程访问MATLAB深度学习容器。

MATLAB深度学习容器包含MATLAB和一系列MATLAB工具箱,对深度学习是理想的(参见额外的信息).

本指南可帮助您在Amazon EC2上运行云中的MATLAB桌面®P3实例。对于其他云服务供应商,所需的步骤是不同的。MATLAB深度学习容器,一个托管在NVIDIA GPU云上的Docker容器,简化了这个过程。这个集装箱在英伟达GPU云容器注册

需求

  • 亚马逊®Web服务帐户

  • 对MATLAB深度学习容器中的产品有效的MATLAB许可证。下载188bet金宝搏

成本

您负责使用本指南创建群集时使用的Amazon Web服务的成本。资源设置,例如实例类型,影响部署的成本。对于成本估计,请参阅您使用的每个AWS服务的定价页面。价格随时可能更改。

准备您的AWS帐户

如果您没有Amazon Web Services帐户,请创建一个https://aws.amazon.com.按照屏幕上的说明操作。使用Amazon EC2控制台创建密钥对。

请注意

请确保在创建密钥对时下载私钥,因为这是作为管理员连接到实例的唯一方法。

启动Docker主机实例

登录到您的Amazon Web服务控制台。从Services菜单中选择EC2。单击Launch Instance按钮。

在“选择AMI”页面,导航到AWS Marketplace并搜索NVIDIA深度学习AMI。这个Amazon Machine Image (AMI)是为NVIDIA GPU Cloud设计的,以利用P3实例中可用的Volta GPU。

注意,并非所有可用分区都提供P3实例。可用分区是在创建VPC时定义的。

在“配置实例”、“添加存储”和“添加标记”页面上,根据需要配置实例。

如果有必要,请在“配置安全组”页面上为实例选择或创建适当的安全组。

正确配置后,选择适当的密钥对选项并启动实例。确保您可以访问您的私钥,以便您可以登录到您的实例。

拉容器

拖拽容器会将容器映像下载到Docker主机实例上,也就是容器将要运行的机器。每个EC2实例只需要提取一次容器。

控件中可以复制容器映像发布的pull命令英伟达容器注册表.在Tags部分中,找到您想要运行的容器映像版本。在“拉”列中,单击图标以复制Docker Pull.命令。该命令的形式如下:

码头工人拉nvcr.io /合作伙伴/ matlab: r20XYz
的标签r20XYz例如,必须用特定的MATLAB发布名称替换为r2020a.确保最后一部分命令匹配您想要使用的MATLAB版本。

使用PuTTY或其他SSH客户端,使用私钥从客户端计算机通过SSH连接到实例。默认用户名为:

ubuntu@ec2-public-ipv4-address.region.amazonaws.com.
您可以在Amazon Web Services控制台中找到实例的公共IPv4 DNS地址。

粘贴Docker Pull.命令导入SSH客户机,并在EC2实例上运行该命令。您不需要登录到NVIDIA容器注册表来拉出容器映像。

运行Docker Pull.命令将MATLAB容器映像下载到主机EC2机器上。下载和提取大型容器映像可能需要一些时间。

运行的容器

使用表单中的命令运行MATLAB深度学习容器:

docker运行-it——rm -p 5901:5901 -p 6080:6080——gpu all——shm-size=512M nvcr.io/partners/matlab:r20XYz

确保最后一部分命令匹配您想要使用的MATLAB版本。

的选项- p hostport: containerport将容器内部的端口映射到Docker主机上的端口,以便连接到容器桌面。集装箱使用的端口为5901(用于VNC连接)和6080(用于网络浏览器连接)。如果在同一主机实例上部署多个容器,则必须增加主机端口,直到找到空闲端口为止。例如:

-p 5902:5901 -p 6081:6080

MATLAB深度学习容器现在正在您的EC2机器上运行。

安全地连接

您可以使用SSH隧道在客户端计算机和容器会话之间设置加密通道。您必须执行此操作以访问在EC2实例中运行的容器的桌面。

这些指令通过Docker主机实例将客户端端口转发到容器端口。建立SSH隧道后,客户端端口和容器端口之间的所有通信都是安全的。

使用PuTTY在窗户客户端

如果您正在使用PuTTY连接到Docker主机实例,请使用菜单选项Change Settings添加一个新的转发端口,单击标题栏即可访问该选项。在“PuTTY Reconfiguration”对话框的“Category”下,选择“Connection > SSH > Tunnels”。

要通过VNC连接,请将隧道设置为容器端口5901

  • 在Source端口字段中,在客户机上输入一个空闲端口5900例如,5901

  • 在“目标”字段中,输入连接到容器端口的相关主机端口5901运行的容器例如,localhost: 5901.注意必须使用本地主机而不是主机实例的名称。

要通过网络浏览器连接,需要建立一条到集装箱港口的隧道6080

  • 例如,在Source端口字段中,输入客户机机器上的空闲端口6080

  • 在“目标”字段中,输入连接到容器端口的相关主机端口6080运行的容器例如,localhost: 6080.注意必须使用本地主机而不是主机实例的名称。

如果您在客户端计算机上使用多个容器或运行VNC服务器,则必须在找到一个免费端口之前递增客户端计算机上的源端口,例如59026081

使用命令行界面

如果您正在使用命令行接口来SSH-tunnel到容器端口,请使用以下形式的命令:

ssh -L clientport:hostport ubuntu@ec2-public-ipv4-address.region.amazonaws.com

clientport例如,是客户机上的免费端口59016080hostport连接到集装箱端口的主机端口是否在运行的容器例如,localhost: 5901localhost: 6080.注意必须使用本地主机而不是主机实例的名称。

例如,使用下面的命令:

ssh -L 5901:localhost:5901 ubuntu@ec2-public-ipv4-address.region.amazonaws.com

例如,如果您在客户机上运行VNC服务器,则必须增加客户机端口,直到找到空闲端口为止59026081

MATLAB在容器中

在容器中访问MATLAB有三种方法:

  • 使用web浏览器连接到容器桌面,运行MATLAB桌面

  • 使用VNC连接到容器桌面,运行MATLAB桌面

  • 使用命令行界面运行MATLAB

使用Web浏览器进行连接

要使用web浏览器连接,请使用URL:

http://localhost:6080

注意必须使用本地主机而不是主机实例的名称。

如果递增客户端口安全地连接,例如,使用适当的主机端口号6081

您将看到Novnc的登录屏幕。单击“连接”。当系统提示您输入要访问桌面的密码时,请使用密码:

matlab

你可以使用桌面图标运行MATLAB。使用MathWorks登录®帐户。

如果不能使用MathWorks帐户登录,请检查帐户是否连接到配置为云使用的许可证。检查,请访问授权中心

使用VNC连接

要通过VNC连接,使用您的VNC客户端连接到客户端适当的显示端口,例如:

localhost:1

注意必须使用本地主机而不是主机实例的名称。

如果递增客户端口安全地连接,例如,使用适当的主机显示端口号25902

登录并连接到容器桌面,使用密码:

matlab

你可以使用桌面图标运行MATLAB。使用您的MathWorks帐户登录。

如果不能使用MathWorks帐户登录,请检查帐户是否连接到配置为云使用的许可证。检查,请访问授权中心

MATLAB使用命令行接口

你也可以使用命令行界面从终端运行MATLAB:

matlab

请注意,在这种情况下没有图形桌面。

如果不能使用MathWorks帐户登录,请检查帐户是否连接到配置为云使用的许可证。检查,请访问授权中心

选择GPU以进行容器培训

MATLAB支金宝app持使用多个GPU并行培训单个网络。为了在Matlab深度学习容器中启用多GPU培训,使用trainingOptions函数设置“ExecutionEnvironment”“multi-gpu”

训练你的网络使用trainNetwork函数。MATLAB在所有可用的gpu上打开一个并行工作池。要只选择特定的图形处理器用于培训,您可以使用gpuDevice.有关更多信息,请参见选择用于培训的特定图形处理器(深度学习工具箱)

要测试容器,可以运行创建简单的深度学习网络分类(深度学习工具箱)的例子。要尝试此示例,请双击该文件MNISTExample.mlx在MATLAB启动文件夹中的当前文件夹窗格中。在所有可用的GPU上运行此示例,在trainingOptions功能,设置“ExecutionEnvironment”“multi-gpu”

导入和导出数据

导入的数据Amazon S3

如果您的数据存储在Amazon S3™中,您可以直接从MATLAB访问它。有关更多信息,请参见使用远程数据(MATLAB)

读写云数据

您可以访问用于深度学习的数据,并将训练有素的网络保存在云中。通过将存储连接到EC2实例并将其挂载到容器,读写Amazon EFS和Amazon EBS中的数据。

首先,将EFS或EBS连接到EC2实例。为此,请确保使用适当的Security Group设置和访问规则创建了EC2和存储。有关详细说明,请参见使用亚马逊用于持久数据存储的弹性文件系统(EFS)使用亚马逊用于持久数据存储的弹性块存储(EBS)

例如,假设您已将EFS卷安装到主机EC2实例中,该文件在命名的文件夹下efs.下面的选项挂载EC2源文件夹efs放入容器中的目标文件夹中,containerdeeplearningdata.

- v / efs: / ContainerDeepLearningData

将选项添加到码头工人运行命令在运行的容器

您现在可以访问并保存文件夹中的容器中的数据containerdeeplearningdata..保存的数据也可以在EFS卷中使用。一旦容器停止,这些文件就会持久化。从容器中修改文件会覆盖EFS卷中的文件。

如果您有几个存储卷挂载到主机EC2实例,那么您可以使用附加功能将任意多的文件夹挂载到容器中-v.选项。

运行选项

配置桌面接入密码

要更改密码以通过VNC或web浏览器访问容器中的桌面,您可以使用以下选项:

- e密码= MyNewPassword

将此选项添加到码头工人运行命令。

网络许可证管理器

如果您的许可证是通过网络许可证管理器管理的,那么您可以将此许可证与MATLAB深度学习容器一起使用。您可以在码头工人运行命令。添加的选项:

-e mlm_license_file = 27000 @ myliceseserver

将此选项添加到码头工人运行命令。

有关更多信息,请参见基于NVIDIA GPU云的MATLAB深度学习容器

进一步的配置选项

对于高级用户,通过额外的Docker选项提供容器部署的进一步配置。有关更多信息,请参阅码头工人的文档

关闭容器会话

要关闭容器会话,输入退出从集装箱码头。停止并移走容器。容器关闭时,默认不会保存进程或数据,除非您已经通过挂载云存储将数据保存到云中,具体请参见导入和导出数据

在容器中安装更新、工具箱和附加组件

您可以安装最新的MATLAB更新或安装额外的工具箱和附加组件。然后,您可以保存容器以便以后使用,以避免重新安装更改。

要安装或更新MATLAB,必须使用超级用户权限运行MATLAB。在容器会话中的终端上,使用下面的命令以root权限启动MATLAB。

sudo matlab

您可以从MATLAB中安装更新和工具箱。有关如何安装更新的信息,请参阅更新现有安装(MATLAB).有关如何安装工具箱和附加组件的信息,请参见获取和管理附加组件(MATLAB)

在容器中保存更改

如果您在容器中进行更改,例如安装更新、附加工具箱或附加组件,则可以保存容器以供以后使用。然后,您可以部署容器的更新版本,而不需要再次安装更新或工具箱。

在容器中进行更改之后并在容器仍在运行时执行这些步骤。

在您的客户端机器上,使用PuTTY或与访问Docker主机并启动容器相同的方法,打开与Docker主机(运行容器的机器)的另一个连接。

使用如下命令获取当前运行的容器的容器ID。

Docker PS.
该命令将显示当前运行的所有容器的详细信息。确定您的MATLAB深度学习容器,并注意容器ID。

要保存容器,请使用Docker提交命令。

Docker提交 <存储库>:
Docker提交命令根据指定的容器ID在本地保存一个新的容器映像;在本例中,基于当前运行的容器。属性可以查看本地可用的映像码头工人的图片命令。

例如,假设您在Matlab深度学习容器中使用Matlab R2020A。您已在您正在运行的容器中更新MATLAB,并且您希望保存它以供以后使用。

首先,找到正在运行的容器的容器ID。

Docker PS.
容器ID IMAGE COMMAND CREATED STATUS PORTS NAMES 3d555451f07a nvcr. txt/bin/run.sh /bin/run.sh /bin/run.sh

接下来,提交容器图像。

Docker提交3d555451f07a mymatlab:r2020a
属性中指定已更新容器的标记,现在可以启动已更新的容器映像码头工人运行命令。

Docker Run-it -RM -P 5901:5901 -P 6080:6080  -  GPU全部 -  SHM-SIZE = 512M MYMATLAB:R2020A

额外的信息

什么是英伟达GPU云?

NVIDIA GPU Cloud是一个Docker容器库,设计用于在高性能NVIDIA GPU上运行应用程序。

什么是容器?

当您希望在多个不同的位置以可靠的方式运行应用程序或软件时,您可以使用容器。容器是一种轻量级包,包含运行特定应用程序(或一组应用程序)所需的一切,包括代码、库、驱动程序和设置。因为容器中的应用程序总是以相同的方式运行,所以它们对于管理定义良好的测试和部署环境非常有用。

与虚拟机不同,容器共享主机的操作系统,同一容器的多个实例共享公共资源。这使得它们很轻。但是,容器彼此和主机操作系统是隔离的。也就是说,容器中的应用程序只能访问该容器中提供的文件和进程。

您可以在相同或不同的主机上部署多个相同容器的实例以同时测试您的应用程序。要扩展功能,您可以将其他文件,文件夹和设备装入容器。

里面有什么MATLAB深度学习集装箱吗?

MATLAB深度学习容器包含MATLAB和几个其他工具箱,可用于深入学习应用。

  • 计算机视觉工具箱™

  • GPU编码器™

  • 图像处理工具箱™

  • MATLAB编码器™

  • 深度学习工具箱™

  • 并行计算工具箱™

  • 信号处理工具箱™

  • 统计和机器学习工具箱™

  • 文本分析工具箱™

为了在MATLAB深度学习容器中使用GPU进行深度学习,您必须为MATLAB,深度学习工具箱和并行计算工具箱有许可。需要对容器中的其他产品有效的许可证来访问容器的完整功能。下载188bet金宝搏

  • 如果您没有深度学习工具箱或并行计算工具箱的有效许可证,MATLAB会在启动时显示一个警告,指示您不能使用这些产品。下载188bet金宝搏

  • 如果您没有MATLAB深度学习容器中其他产品的有效许可证,MATLAB在启动时显示一条消息下载188bet金宝搏,指示您不能使用这些产品。

您可以通过以下链接获得MATLAB深度学习容器中的产品的试用许可证下载188bet金宝搏Matlab审判在云上深入学习此外,该容器还包含几个预先训练的深度神经网络(深度学习工具箱)

您可以将网络和网络架构导入来自Tensorflow™-Keras和Caffe的容器,有或没有层重量。您还可以将培训的网络转换为开放的神经网络交换(ONNX)模型格式。

MATLAB深度学习容器还包括:

通过将此软件部署在容器中,您可以避免安装和配置这些产品所需的设置时间。下载188bet金宝搏您可以运行多个容器以一次或在不同的位置培训多个网络,具有可重复的结果。

技术支持金宝app

有关MATLAB深度学习容器金宝app的技术支持、注释和查询,请联系cloud-金宝appsupport@mathworks.com

相关话题