GPU的利用和并行计算用Matlab进行繁重的计算

20ビュ(過去30日間)

凯撒 2019 年 7 月 2 日

0
リンク

直接链接到这个问题

https://jp.mathworks.com/matlabcentral/answers/469973-gpu-utilization-and-parallel-computation-with-matlab-for-heavy-computation

コメント済み: 凯撒2019 年 7 月 9 日

採用された回答: 安德里亚Picciau

我有一个体面/ok的机器，核心i7(8核)，32G RAM和Nvidia geForce GTX 1080i，并运行Matlab 2018b。目前，我有点困惑如何以最好的方式使用这些资源来运行我的蒙特卡罗模拟代码。我现在有两个问题:

1-我如何让所有繁重的计算都在GPU上运行，而不是在CPU上运行并行计算能力的Matlab，因此我可以决定最好使用什么?我读过不同的帮助主题，我认为我得到的结论是，我必须处理的数据应该是gpuArray的形式，我是对的吗?还是我漏掉了什么?让我们假设我有以下简单的代码在GPU上运行:

                         First_Vector = 0(2、3);
                        
                         % First_Vector = 0(2、3、“gpuArray”);1
                        
                         [N M] =大小(First_Vector);
                        
                         % [N M] =大小(First_Vector gpuArray”);2
                        
                         Second_Matrix = 1 (N, M, 2);
                        
                         % Second_Matrix = 1 (N, M 2 ' gpuArray ');3.
                        
                         Tset1= [20 20 20:30 30 30];
                        
                         % Tset1gpuArray = gpuArray (Tset1);4
                        
                         Test2= [50 50 50;60 60 60];
                        
                         % Tset2 = gpuArray (Tset2);5
                        
                         K = 100;
                        
                         %主代码
                        
                         为i = 1:3
                        
                         为j = 1:3
                        
                         (元素)= Function1(测试(i, j), K)
                        
                         Test1 (i, j) =元素;
                        
                         结束
                        
                         结束
                        
                         Second_Matrix (:,: 1) = Test1;
                        
                         [Test1] = Function2 (Test1, Test2);
                        
                         主代码结束
                        
                         功能1
                        
                         函数[结果]= Function1 (K)
                        
                         结果= A + K;
                        
                         结束
                        
                         % %功能2
                        
                         函数(T1) = Function2 (T1, T2)
                        
                         T1 = T1 + T2;
                        
                         结束

注释行(1-5)是否足以在GPU上运行“主代码”?

2-我已经在GPU和CPU上测试了下面的简单代码，CPU的性能比GPU好得多。这是正常的吗?

提前谢谢你。

                         G = ones(10,10，“gpuArray”）;
                        
                         抽搐
                        
                         为k = 1:10 0
                        
                         为i = 1: 1000
                        
                         为j = 1:10
                        
                         : G (j) = G (j:) + 2;
                        
                         结束
                        
                         结束
                        
                         结束
                        
                         toc
                        
                         G = ones(10,10);
                        
                         抽搐
                        
                         为k = 1:10 0
                        
                         为i = 1: 1000
                        
                         为j = 1:10
                        
                         : G (j) = G (j:) + 2;
                        
                         结束
                        
                         结束
                        
                         结束
                        
                         toc
                        
                         %运行时间为0.628241秒。

0件のコメント
表示非表示-1件の古いコメント

サ▪▪ン▪▪ンしてコメントする。

サ▪▪ン▪▪ンしてこの質問に回答する。

採用された回答

安德里亚Picciau 2019 年 7 月 3 日

0
リンク

この回答への直接リンク

https://jp.mathworks.com/matlabcentral/answers/469973-gpu-utilization-and-parallel-computation-with-matlab-for-heavy-computation#answer_381753

編集済み:安德里亚Picciau 2019 年 7 月 3 日

我会尽量按顺序回答你的问题……

是的!这不是很棒吗?
是的，因为你的代码有两个问题:(a)你使用了大量的for循环而不是向量运算;(b)你对GPU性能的测量不正确。要解决(a)，你应该阅读此文档页解释了如何向量化代码以获得最佳性能．要解决(b)，你应该看一下我对上一个问题的回答使用函数时间而且gputimeit．

3件のコメント
表示非表示件の古いコメント

凯撒 2019 年 7 月 9 日

谢谢安德里亚Picciau 等待你的回答。

好吧，我认为没有什么我可以做的'矢量化'我的代码。

为了测试，我尝试在将上述代码转换为函数后运行它 Timeit和gputimeit和有件事我觉得很奇怪。使用('gpuArray')和100k循环，gputime是101秒，但确切的时间是11:37分钟。这同样适用于计时，实际时间是10.15分钟，但计时是100秒。

我想我肯定做错了什么。

最后一件事可能是无关紧要的，但我希望你能帮助，正如我说过的，我正在不同的平台上运行我的蒙特卡洛脚本，比如我自己的机器上，上面的规格和高性能集群(Uni cluster)。我注意到，使用16核或8核节点运行我的脚本对运行时间没有任何影响，RAM对两者都是固定的。此外，考虑到我做了几次测试，在PC上运行相同的脚本所花费的时间比在集群上要少一些。

这最后一点让我对整件事有点怀疑，也更有信心我做错了什么。希望有人以前遇到过这种情况，并有一个想法。

再次感谢

安德里亚Picciau 2019 年 7 月 9 日

关于我刚才说的 vectorising 你的代码:我在看这里

                                  为K = 1:100
                                 
                                  为I = 1:1000
                                 
                                  为J = 1:10
                                 
                                  G(j，:) = G(j，:) + 2;
                                 
                                  结束
                                 
                                  结束
                                 
                                  结束

可以写成

G = G + 200000;

我想象您只是试图对在for循环中执行的相同操作进行基准测试，因此我为此编写了一个快速脚本。我对同一算法的三个版本进行了基准测试:

完全矢量化的版本，
一个有矢量化的for循环，
一个没有向量化的for循环。

我的GPU是特斯拉K40c，处理器是英特尔至强E5-1650。

让我给你看看我的剧本:

                                  numRows = 1000;
                                 
                                  cpuData = ones(numRows, numRows);
                                 
                                  cpuData = gpuArray(cpuData);
                                 
                                  timeit(@() iVectorised(cpuData)， 1)% 0.0030秒
                                 
                                  gputimeit(@() iVectorised(gpuData)， 1)% 9.3611e-05秒
                                 
                                  timeit(@() iForLoop(cpuData)， 1)% 0.0145秒
                                 
                                  gputimeit(@() iForLoop(gpuData)， 1)% 0.0011秒
                                 
                                  timeit(@() iForLoopWithIndexing(cpuData, numRows)， 1)% 0.2310秒
                                 
                                  gputimeit(@() iForLoopWithIndexing(gpuData, numRows)， 1)% 12.6261秒
                                 
                                  %% helper函数
                                 
                                  函数dataOut = iVectorised(dataIn)
                                 
                                  %完全矢量化
                                 
                                  dataOut = dataIn + 200;
                                 
                                  结束
                                 
                                  函数dataOut = iForLoop(dataIn)
                                 
                                  %部分向量化，外部for循环保留
                                 
                                  为K = 1:100
                                 
                                  dataIn = dataIn + 2;
                                 
                                  结束
                                 
                                  dataOut = dataIn;
                                 
                                  结束
                                 
                                  函数dataOut = iForLoopWithIndexing(dataIn, numRows)
                                 
                                  %完全非向量化，使用索引
                                 
                                  为K = 1:100
                                 
                                  为i = 1:numRows
                                 
                                  dataIn(i，:) = dataIn(i，:) + 2;
                                 
                                  结束
                                 
                                  结束
                                 
                                  dataOut = dataIn;
                                 
                                  结束

你所观察到的是最后一种情况(没有向量化的for循环)。在GPU上花费这么长时间的原因是索引gpuArrays非常昂贵。例如，你是:

移动索引我GPU，
创建临时gpuArray，
写作dataIn(我,:)到这个临时GPU阵列。要做到这一点，你必须建立索引dataIn按行而不是按列(通常按列更快)，
调度dataIn(i，:) + 2在GPU上，
的正确元素赋值此操作的输出dataIn。

要做这些事情，你需要在CPU和GPU之间来回通信，这将影响你的性能(注意:这对任何GPU代码都是真的，而不仅仅是你在使用MATLAB)。矢量化版本是高度优化的，以避免GPU和CPU之间的乒乓。

您可能还想考虑更大的问题。例如，我脚本中的数据是1000x1000，这是开始考虑GPU加速的合理大小。

综上所述，我将把这两条黄金规则应用到您的蒙特卡洛代码中:

原因是矩阵和向量的运算，而不是循环。矢量化，矢量化，矢量化。
想想你的日常开支。额外的沟通时间值得吗?应该使用并行池还是GPU?

优化并行应用程序可能是一个困难的问题，但回报可能非常高!

凯撒 2019 年 7 月 9 日

再次感谢安德里亚Picciau ．你的例子对我来说是如此详尽和清楚。正如我之前提到的，我认为我没有办法对我的代码进行verctoris，特别是当它非常复杂并且包括迭代方式调用不同的函数时。

现在令人讨厌的事情是我不能利用我所拥有的资源(强大的PC和集群)到最大。

问候

サ▪▪ン▪▪ンしてコメントする。

その他の回答(0件)

サ▪▪ン▪▪ンしてこの質問に回答する。

カテゴリ

并行计算并行计算工具箱 GPU计算 MATLAB中的GPU计算

了解更多MATLAB中的GPU计算在帮助中心而且文件交换

社区寻宝

在MATLAB Central中找到宝藏，并发现社区如何帮助您!

开始狩猎!

翻译的

GPU的利用和并行计算用Matlab进行繁重的计算

0件のコメント
表示非表示-1件の古いコメント

採用された回答

3件のコメント
表示非表示件の古いコメント

その他の回答(0件)

参考

カテゴリ

タグ

社区寻宝

GPU的利用和并行计算用Matlab进行繁重的计算

0件のコメント 表示非表示-1件の古いコメント

採用された回答

3件のコメント 表示非表示件の古いコメント

その他の回答(0件)

参考

カテゴリ

タグ

社区寻宝

0件のコメント
表示非表示-1件の古いコメント

3件のコメント
表示非表示件の古いコメント