想嘗試 更深更強的網絡，或者自己寫了一個費顯存的層，發現1080 ti的11G顯存不夠用了，老師報顯存不夠怎麽辦？

Check failed: error == cudaSuccess (2 vs. 0) out of memory

調小batch_size的大小。

怎麽調呢？

調這個文件：

experiments/cfgs/faster_rcnn_end2end.yml

EXP_DIR: faster_rcnn_end2end
TRAIN:
HAS_RPN: True
IMS_PER_BATCH: 1
BBOX_NORMALIZE_TARGETS_PRECOMPUTED: True
RPN_POSITIVE_OVERLAP: 0.7
#RPN_BATCHSIZE: 256
RPN_BATCHSIZE: 160
PROPOSAL_METHOD: gt
BG_THRESH_LO: 0.0
#BATCH_SIZE: 64
BATCH_SIZE: 32
#RPN_POST_NMS_TOP_N: 700
RPN_POST_NMS_TOP_N: 500
USE_OHEM: True
ASPECT_GROUPING: False
TEST:
HAS_RPN: True

當然，寫代碼的方式也可以。比如說寫一個batch_norm層，來歸一化參數。讓每一層的參數沒那麽淩亂。不過這個減少的顯存還是比較小的。

目標檢測faster rcnn error == cudaSuccess (2 vs. 0) out of memory