1. 程式人生 > >epoch、 iteration和batchsize區別

epoch、 iteration和batchsize區別

大小 tails 集中 tps bsp 樣本 一次 size sdn

轉自: https://blog.csdn.net/qq_27923041/article/details/74927398

深度學習中經常看到epoch、 iteration和batchsize,下面按自己的理解說說這三個的區別:

(1)batchsize:批大小。在深度學習中,一般采用SGD訓練,即每次訓練在訓練集中取batchsize個樣本訓練;

(2)iteration:1個iteration等於使用batchsize個樣本訓練一次;

(3)epoch:1個epoch等於使用訓練集中的全部樣本訓練一次;

舉個例子,訓練集有1000個樣本,batchsize=10,那麽:

訓練完整個樣本集需要:

100次iteration,1次epoch。

epoch、 iteration和batchsize區別