linux下檢視GPU使用情況的命令

nvidia-smi

幾個觀察引數
Fan：代表顯示卡轉速，以百分比顯示；
Temp：代表顯示卡溫度；
Perf：效能等級，p1~p12，數字越小，效能較好。
Pwr：usage/cap ：當前功率/總功率。
Memory-Usage:顯示卡的視訊記憶體使用容量跟顯示卡總的大小
GPU-Util：顯示卡計算單元使用率。
ok，多說一句，顯示卡也分為兩部分，即顯示卡跟計算單元，類似與記憶體跟CPU。

tensorflow的顯示卡使用方式

1、直接使用

with tf.Session() as sess:

這種方式會把當前機器上所有的顯示卡的剩餘視訊記憶體基本都佔用，注意是機器上所有顯示卡的剩餘視訊記憶體。因此程式可能只需要一塊顯示卡，但是程式就是這麼霸道，我不用其他的顯示卡，或者我用不了那麼多顯示卡，但是我就是要佔用。

2、分配比例使用

config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction=0.6
with tf.Session(config=config) as sess:

其中這種方式跟上面直接使用方式的差異就是，我不佔用所有的視訊記憶體了，例如這樣寫，我就佔有每塊顯示卡的60%。

3. 動態申請使用

config = tf.ConfigProto()
config.gpu_options.allow_growth=True
with tf.Session(config=config) as sess:
 

這種方式是動態申請視訊記憶體的，只會申請記憶體，不會釋放記憶體。而且如果別人的程式把剩餘顯示卡全部佔了，就會報錯。

以上三種方式，應根據場景來選擇。
第一種因為是全部佔用記憶體，因此只要模型的大小不超過視訊記憶體的大小，就不會產生視訊記憶體碎片，影響計算效能。可以說合適部署應用的配置。
第二種和第三種適合多人使用一臺伺服器的情況，但第二種存在浪費視訊記憶體的情況，第三種在一定程式上避免了視訊記憶體的浪費，但極容易出現程式由於申請不到記憶體導致崩潰的情況。

4 指定GPU

在有多塊GPU的伺服器上執行tensorflow的時候，如果使用python程式設計，則可指定GPU，程式碼如下：

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "2"