以前使用matlab

的時候，很多人都用過裡面的並行工具箱，用的最多的應該就是parfor。實際上，matlab裡面已經有不少工具箱裡面都有了支援GPU加速的函式。使用matlab+GPU加速的前提是，機器必須安裝了支援CUDA的顯示卡，而且CUDA驅動的版本在1.3以上。一些比較常用的函式

例如fft，ifft，三角函式，相關函式xcorr以及常用的運算子等等都可以進行加速。方法也很簡單，主要使用到gpuArray和gather這兩個函式。

以xcorr為例，假設我們要求向量A和B的互相關，一般是使用程式碼

M = xcorr(A,B)

以下是使用gpu加速的版本

Ag = gpuArray(A);

Bg = gpuArray(B);

Mg = xcorr(Ag,Bg);

M = gather(Mg);

一般的小矩陣可能感覺不出來，不過如果矩陣規模很大，而且在多次迴圈內部，這個區別就很明顯了。mathwork的網站上有對xcorr的gpu加速效率的詳細分析報告，基本上，隨著矩陣規模擴大，gpu加速的倍數是直線上升。

除了相關函式，還有很多支援gpuArray資料型別的函式，具體可以用下面的指令檢視

methods('gpuArray')

其中某個函式的說明可以用help檢視

help gpuArray/functionname

上面的例子中，gpuArray是把資料轉換為GPU處理的型別，儲存到GPU的視訊記憶體裡。gather是將資料轉移回來。除了將現有的矩陣轉移到GPU中，gpuArray自帶的方法還可以直接在GPU中建立資料：

gpuArray.ones

gpuArray.colon

gpuArray.zeros

gpuArray.rand

gpuArray.inf

gpuArray.randi

gpuArray.nan

gpuArray.randn

gpuArray.true

gpuArray.linspace

gpuArray.false

gpuArray.logspace

gpuArray.eye

這些方法的具體用法可以使用類似下面的命令尋求幫助

help gpuArray/eye

其實，用法和對應的普通函式的用法都是類似的。

II = gpuArray.eye(1024,'int32');

size(II)

1024 1024

還可以用下面的命令生成隨機數

parallel.gpu.rng

parallel.gpu.RandStream

對於CPU和GPU產生隨機數方法的比較，有興趣的可以看這裡。

最後，一些處理普通資料的函式也可以用來檢測GPU資料的屬性

Function

Description

classUnderlying

Class of the underlying data in the array

existsOnGPU

Indication if array exists on the GPU and is accessible

isreal

Indication if array data is real

length

Length of vector or largest array dimension

ndims

Number of dimensions in the array

size

Size of array dimensions

值得注意的是，GPU的資料是要存到視訊記憶體裡面的，視訊記憶體可沒有記憶體那麼大，雖然maltab和CUDA為我們做了很多視訊記憶體管理的工作，但是我們還是要保證處理的矩陣不會把視訊記憶體撐爆。

matlab的工具箱支援GPU的情況

可以在下面的網頁上查詢

http://www.mathworks.cn/products/parallel-computing/builtin-parallel-support.html

其中對於影象處理來說有一個很有用的。我曾經的一篇博文

介紹過使用 blockproc 函式加速滑動窗。其實，這個函式還可以進一步被GPU加速，方法就是設定其中的 'UseParallel’ 變數。例子

下面是用gpu解波動方程的例子，cpu和gpu版本程式

進行對比，改動其實不太大，細節見參考中第四個網頁

編譯.CU檔案

對於其他一些複雜的，無法用matlab內部函式進行GPU加速的程式碼，matlab還提供了一個更強大的工具，就是呼叫.cu檔案。

熟悉matlab+c混合程式設計的都知道matlab可以把.c,.cc,.cpp等檔案編譯為能夠使用的mex檔案。對於CUDA程式.cu，matlab也提供了一套方法來呼叫，最終編譯成.ptx檔案。