主要内容

gpuDevice

查询或选择GPU设备

描述

A.GPUDevice对象表示计算机中的图形处理单元(GPU)。你可以使用GPU来执行CUDA内核或MATLAB代码。

你可以用GPUDevice对象来检查GPU设备的属性、重置GPU设备或等待GPU完成计算。获得一个GPUDevice对象,使用gpuDevice作用您还可以使用选择或取消选择GPU设备gpuDevice函数。如果您可以访问多个gpu,请使用gpuDevice函数选择要在其上执行代码的特定GPU设备。

你不需要使用GPUDevice对象来在GPU上运行函数。有关如何使用启用gpu的函数的更多信息,请参见在GPU上运行MATLAB函数

创建

描述

gpuDevice显示当前选择的GPU设备属性。如果当前没有选定的设备,gpuDevice选择默认设备而不清除它。当您想要检查GPU设备的属性时,请使用此语法。

实例

D = gpuDevice返回一个GPUDevice对象,表示当前选定的设备。如果当前没有选定的设备,gpuDevice选择默认设备并返回GPUDevice表示该设备而不清除它的对象。

实例

D = gpuDevice (IDX)选择索引指定的GPU设备IDX.如果指定的GPU设备不支持,则提示错误。金宝app这个语法重置指定的设备并清除它的内存,即使该设备当前已经被选中(相当于重置功能)。所有工作空间变量表示gpuArray库达克内尔变量现在无效,必须从工作区中清除或重新定义。

实例

gpuDevice ([]),使用空参数(与无参数相反),取消选择GPU设备并清除其内存gpuArray库达克内尔变量。此语法将不选择任何GPU设备作为当前设备。

输入参数

全部展开

图形处理器设备索引,取值范围为整数1.gpuDeviceCount

例子:gpuDevice (1);

数据类型:||int8|int16|int32|int64|uint8|uint16|uint32|uint64

属性

全部展开

GPU设备的名称,指定为字符数组。分配给设备的名称源自GPU设备型号。

图形处理器设备索引,取值范围为整数1.gpuDeviceCount. 使用此索引选择特定的GPU设备。

GPU设备的计算能力,指定为字符数组。在MATLAB中使用选定的GPU设备®,ComputeCapability必须符合中的要求规范GPU支金宝app持情况

金宝app支持双精度运算,指定为逻辑值0对于错误的1.对于真正的

GPU设备驱动程序当前使用的版本,指定为标量值。在MATLAB中使用选定的GPU设备,DriverVersion必须符合中的要求规范GPU支金宝app持情况

当前版本的MATLAB使用的CUDA工具包版本,指定为标量值。

CUDAKern金宝appel执行期间每个块支持的最大线程数,指定为标量值。

例子:1024

线程块在CUDA金宝appKernel执行期间可使用的最大支持共享内存量,指定为标量值。

例子:49152

线程块的每个维度的最大大小,指定为向量。线程块的每个尺寸不能超过这些尺寸。另外,线程块大小的乘积不能超过MaxThreadsPerBlock

螺纹块网格的最大大小,指定为向量。

同时执行的线程数,指定为标量值。

设备上的总内存(以字节为单位),指定为标量值。

数据可用的总内存(字节),指定为标量值。此属性仅适用于当前选定的设备。这个值可以与英伟达报告的数值不同。®系统管理接口由于内存缓存。

设备上的流多处理器数量,指定为标量值。

GPU的峰值时钟速率,单位为kHz,指定为标量值。

设备的计算模式,可指定为以下值之一。

“默认” 该设备不受限制,多个应用程序可以同时使用。MATLAB可以与其他应用程序共享设备,包括其他MATLAB会话或工作人员。
“独家线程”“独家过程” 同一时间只能有一个应用程序使用该设备。当在MATLAB中选择设备时,其他应用程序不能使用它,包括其他MATLAB会话或工作人员。
“禁止” 设备无法使用。

金宝app支持重叠传输,指定为逻辑值01.

长时间运行的内核超时,指定为逻辑值01..如果1.,操作系统会对CUDA内核允许执行的时间设置上限。在此时间之后,CUDA驱动程序会超时内核并返回错误。

金宝app支持将主机内存映射到CUDA地址空间,指定为逻辑值01.

金宝app支持的设备,由逻辑值指定01..并不是所有的设备都支持;金宝app例如,设备不足ComputeCapability

当前选定的设备,由逻辑值指定01.

目标函数

您可以通过以下功能对图形处理器设备进行识别、选择、复位和等待。

gpuDeviceCount 存在的GPU设备数
重置 重置GPU设备并清除其内存
等待(GPUDevice) 等待GPU计算完成

还提供以下功能:

parallel.gpu.GPUDevice.isAvailable (idx) 如果由index指定的GPU返回trueidx支持并金宝app能够被选择。idx可以是整数或整数向量;默认索引是当前设备。
parallel.gpu.GPUDevice.getDevice(idx) 返回一个GPUDevice对象而不选择它。

要获得完整的函数列表,请使用方法功能上的GPUDevice对象:

方法('parallel.gpu.GPUDevice')

您可以使用以下命令获取任何对象函数的帮助:

帮助parallel.gpu.GPUDevice。函数名

在哪里函数名是函数的名称。例如,寻求帮助isAvailable类型:

help parallel.gpu.GPUDevice.isAvailable

例子

全部崩溃

要确定计算机中有多少GPU设备可用,请使用gpuDeviceCount函数。

gpuDeviceCount
2.

当有多个设备时,第一个是默认的。属性可以检查它的属性gpuDevice函数来确定是否要使用该函数。

d = gpuDevice
d = CUDADevice属性:名称:“GeForce 1080 GTX公司”指数:1 ComputeCapability:“6.1”SupportsDouble: 1 Drive金宝apprVersion: 10 ToolkitVersion: 10 MaxThreadsPerBlock: 1024 MaxShmemPerBlock: 49152 MaxThreadBlockSize: [1024 1024 64] MaxGridSize: [2.1475 e + 09年65535 65535]SIMDWidth: 32 TotalMemory: 8.5899 e + 09 AvailableMemory:7.0053e+09 MultiprocessorCount: 20 ClockRateKHz: 1733500 ComputeMode: 'Default' GPUOverlapsTransfers: 1 KernelExecutionTimeout: 1 CanMapHostMemory: 1 Device金宝appSupported: 1 DeviceSelected: 1

如果D是您要使用的设备,您可以继续。要在GPU上运行计算,请使用gpuArray启用的功能。有关详细信息,请参阅在GPU上运行MATLAB函数

要使用其他设备,请拨打gpuDevice另一个设备的索引。

gpuDevice (2)

创建一个代表默认GPU设备的对象。

g=GPU设备;

查询所有可用GPU设备的计算能力。

对于ii = 1:gpuDeviceCount g = gpuDevice(ii);流(1,'设备%i具有计算能力%s\n',...g.Index g.ComputeCapability)终止
设备1有ComputeCapability 3.5设备2有ComputeCapability 2.0

如果您可以访问多个gpu,则可以使用并行池在多个gpu上并行执行计算。

启动一个与GPU数量相同的并行池。要确定可用GPU的数量,请使用gpuDeviceCount函数。默认情况下,MATLAB为每个worker分配不同的GPU以获得最佳性能。

帕尔普(“本地”,gpuDeviceCount);

要确定每个工作人员使用的是哪个GPU,调用gpuDevice在一个spmd块这个spmd块运行gpuDevice在每一个工人。

spmdgpuDevice终止

使用并行语言功能,例如帕弗帕菲尔,将您的计算分发给并行池中的工作人员。如果你使用gpuArray这些函数运行在worker的GPU上。有关更多信息,请参见在GPU上运行MATLAB函数. 有关示例,请参见在多个GPU上运行MATLAB函数

当您完成计算时,请关闭并行池。你可以使用gcp函数获取当前并行池。

删除(gcp (“不创造”));

如果您想使用不同的GPU选择,那么可以使用gpuDevice在每个worker上选择一个特定的GPU。例如,定义一个数组Gpundices,包含在每个worker上激活的gpu的索引。然后,启动一个并行池,使用尽可能多的gpu来选择,并使用spmd块来运行gpuDevice在每一个工人。的labindex函数标识每个工人。使用此函数将一个worker与一个GPU索引关联。

gpuIndices = [1 3];parpool(元素个数(gpuIndices));spmdgpuDevice (gpuIndices (labindex));终止

作为最佳实践和最佳性能,为每个工作器分配不同的GPU。

R2010b中引入