1. 程式人生 > >記錄:測試本機下使用 GPU 訓練時不會導致記憶體溢位的最大引數數目

記錄:測試本機下使用 GPU 訓練時不會導致記憶體溢位的最大引數數目

本機使用的 GPU 是 GeForce 840M2G 視訊記憶體,本機記憶體 8G

試驗時,使用 vgg 網路,調整 vgg 網路中的引數,使得使用對應的 batch_size 時不會提示記憶體溢位。使用的是 mnist 資料集,圖片尺寸是28×28。結果如下:

# batch_size = 1

# 引數總數:5946134

 

# batch_size = 32

# 引數總數:5262436

 

# batch_size = 64

# 引數總數:

4770788

 

# batch_size = 100

# 引數總數:4279140

 

所能接受的引數總數和 batch_size 有一定關係,但並不是成線性關係。模型訓練時需要選擇合適的網路引數和合適的 batch_size 大小,使得 GPU 能以最大速度進行訓練。