博主由於工作當中的需要，開始學習 GPU 上面的程式設計，主要涉及到的是基於 GPU 的深度學習方面的知識，鑑於之前沒有接觸過 GPU 程式設計，因此在這裡特地學習一下 GPU 上面的程式設計。有志同道合的小夥伴，歡迎一起交流和學習，我的郵箱: [email protected] 。使用的是自己的老古董筆記本上面的 Geforce 103m 顯示卡，雖然顯示卡相對於現在主流的系列已經非常的弱，但是對於學習來說，還是可以用的。本系列博文也遵從由簡單到複雜，記錄自己學習的過程。

0. 目錄

1. CUDA-5.5 的新特性

• —— 動態並行(Dynamic Parallelism)：GPU 加速新演算法

  GPU 執行緒可以動態地衍生新執行緒，從而更好地適應資料流。
  通過最大程度地簡化與 GPU 的往來通訊，動態並行技術可以大大簡化並行程式設計，
  讓更多流行演算法支援 GPU 加速，比如自適應網格加密、計算流體動力學等等。

• —— GPU-Callable 庫：支援第三方生態系統

  新的 CUDA BLAS 庫可以讓開發人員為他們自己的 PU-Callable 庫使用動態並行，
  比如設計外掛API、讓其他人擴充套件其核心的功能性，部署 GPU Callback、自定義第三方 GPU-Callable 庫的功能性。
  物件連結(object linking)可將多個 CUDA 原始檔編譯成不同的物件檔案，然後連結到更大的應用和庫中，從而更簡單、更高效地開發大型 GPU 應用。

• —— GPUDirect 支援 RDMA (遠端直接記憶體訪問)：消除系統記憶體瓶頸
  GPUDirect 技術建立了 GPU 與其它 PCI-E 裝置的直接通訊，並支援網絡卡與 GPU 之間的 RDMA，還能大幅降低叢集中GPU 節點間的 MPISendRecv 延遲、改進整體應用效能。

• —— NVIDIA Nsight Eclipse Edition：快速簡單地生成 GPU 程式碼

  Linux、Mac OS X 平臺上，NVIDIA Nsight Eclipse Edition 可以讓開發人員在熟悉的 Eclipse IDE 環境內開發、除錯和編譯 GPU 應用，並自帶 CUDA 編輯器和 CUDA 示例，可以更快地生成 CUDA 程式碼，還整合了專家級的分析系統，提供自動效能分析，以及修復程式碼中效能瓶頸的嚮導，還有語法高亮區分 GPU 程式碼和 CPU 程式碼。

2. 作業系統支援

CUDA 5 作業系統支援包括：Windows XP 桌上型電腦、Windows Vista/7/8 桌上型電腦和筆記本、Ubuntu 11.04/11.10、Fedora 16、Red Hat Enterprise Linux 5.x/6.x(後者僅限64位)、OpenSUSE 12.1(64位)、SUSE Server 11 SP1/SP2、Mac OS X。

3. 安裝環境檢測

3.1. 檢測自己的電腦是否具備支援 CUDA 的 GPU

可以採用如下命令：

lspci | grep -i nvidia

通過執行上面的命令，得到如下結果：

01:00.0 VGA compatible controller: NVIDIA Corporation G98M [GeForce G 103M] (rev a1)

通過命令，獲知我的筆記本是 GeForce G 103M 型號的 GPU
進入如下連結，檢視自己 GPU 型號是否支援 CUDA。
官網連結

3.2. 下載安裝包

進入後出現如下下載介面，現在已經出來 CUDA-6.5了，大家只要找到自己相應的安裝包即可，這裡視各自情況不同，自行選擇。

我的系統是 ubuntu12.04 32位的，所以選擇下載 Ubuntu 12.04 下面 32 位的 RUN 就可以了，600M+

4. CUDA-5.5 安裝

4.1. 軟體安裝

安裝 build-essential 安裝包，以確保 cuda 及顯示卡驅動所需的 gcc 的安裝

apt-get install build-essential

退出圖形介面，進入控制檯

/etc/init.d/lightdm stop

按【Ctrl】+【alt】+【F1】進入控制檯介面，執行如下命令

sudo sh cuda_5.5.22_linux_32.run

在此過程中，一開始會出來一個文件，比較長，可以通過按下按鍵【q】退出文件，然後輸入【accept】就可以安裝，一直按確認，預設安裝即可，中間會選擇驅動檔案目錄等。

4.2. 環境變數配置

在 /etc/profile 下新增如下語句：

export PATH=$PATH:/usr/local/cuda-5.5/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-5.5/lib

通過執行如下命令，使得環境變數生效：

source /etc/profile

4.3. 退出控制檯

啟動 lightdm 服務

service lightdm start

5. 編譯 Sample

直接執行 make 就可以編譯 samples 裡面的程式

隨機找了一個例子執行如下: