1. 程式人生 > >【4】caffe的python介面學習:生成solver檔案

【4】caffe的python介面學習:生成solver檔案

 caffe在訓練的時候,需要一些引數設定,我們一般將這些引數設定在一個叫solver.prototxt的檔案裡面,如下:

base_lr: 0.001
display: 782
gamma: 0.1
lr_policy: "step"
max_iter: 78200
momentum: 0.9
snapshot: 7820
snapshot_prefix: "snapshot"
solver_mode: GPU
solver_type: SGD
stepsize: 26067
test_interval: 782
test_iter: 313
test_net: "/home/yeler082/data/val.prototxt"
train_net: "/home/yeler082/data/proto/train.prototxt"
weight_decay: 0.0005

有一些引數需要計算的,也不是亂設定。

假設我們有50000個訓練樣本,batch_size為64,即每批次處理64個樣本,那麼需要迭代50000/64=782次才處理完一次全部的樣本。我們把處理完一次所有的樣本,稱之為一次迭代,即epoch。所以,這裡的test_interval設定為782,即處理完一次所有的訓練資料後,才去進行測試。如果我們想訓練100代,則需要設定max_iter為78200.

同理,如果有10000個測試樣本,batch_size設為32,那麼需要迭代10000/32=313次才完整地測試完一次,所以設定test_iter為313.

 學習率變化規律我們設定為隨著迭代次數的增加,慢慢變低。總共迭代78200次,我們將變化lr_rate三次,所以stepsize設定為78200/3=26067,即每迭代26067次,我們就降低一次學習率。 

下面是生成solver檔案的python程式碼,比較簡單:

#!/usr/bin/env python
# encoding: utf-8
'''
@author: lele Ye
@contact: [email protected]
@software: pycharm 2018.2
@file: 01generate_solver.py
@time: 2018/10/12 20:09
@desc:
'''
path='/home/yeler082/caffe_learning/data/'

solver_file=path+'solver.prototxt'     #solver檔案儲存位置

sp={}
sp['train_net']='"'+path+'train.prototxt"'  # 訓練配置檔案
sp['test_net']='"'+path+'val.prototxt"'     # 測試配置檔案
sp['test_iter']='313'                  # 測試迭代次數
sp['test_interval']='782'              # 測試間隔
sp['base_lr']='0.001'                  # 基礎學習率
sp['display']='782'                    # 螢幕日誌顯示間隔
sp['max_iter']='78200'                 # 最大迭代次數
sp['lr_policy']='“step”'                 # 學習率變化規律
sp['gamma']='0.1'                      # 學習率變化指數
sp['momentum']='0.9'                   # 動量
sp['weight_decay']='0.0005'            # 權值衰減
sp['stepsize']='26067'                 # 學習率變化頻率
sp['snapshot']='7820'                   # 儲存model間隔
sp['snapshot_prefix']='"snapshot"'       # 儲存的model字首
sp['solver_mode']='GPU'                # 是否使用gpu
sp['solver_type']='SGD'                # 優化演算法

def write_solver():
    #寫入檔案
    with open(solver_file, 'w') as f:
        for key, value in sorted(sp.items()):
            if not(type(value) is str):
                raise TypeError('All solver parameters must be strings')
            f.write('%s: %s\n' % (key, value))
        print ("solver file generate in"+path)
if __name__ == '__main__':
    write_solver()

執行上面的檔案,我們就會得到一個solver.prototxt檔案,有了這個檔案,我們下一步就可以進行訓練了。

當然,如果你覺得上面這種鍵值對的字典方式,寫起來容易出錯,我們也可以使用另外一種比較簡便的方法,沒有引號,不太容易出錯,如下:

#!/usr/bin/env python
# encoding: utf-8
'''
@author: lele Ye
@contact: [email protected]
@software: pycharm 2018.2
@file: 02generate_olver_me2.py
@time: 2018/10/12 20:15
@desc:
'''

from caffe.proto import caffe_pb2
s = caffe_pb2.SolverParameter()

path='/home/yeler082/caffe_learning/data/'
solver_file=path+'solver1.prototxt'

s.train_net = path+'train.prototxt'
s.test_net.append(path+'val.prototxt')
s.test_interval = 782
s.test_iter.append(313)
s.max_iter = 78200

s.base_lr = 0.001
s.momentum = 0.9
s.weight_decay = 5e-4
s.lr_policy = 'step'
s.stepsize=26067
s.gamma = 0.1
s.display = 782
s.snapshot = 7820
s.snapshot_prefix = 'snapshot'
s.type = "SGD"
s.solver_mode = caffe_pb2.SolverParameter.GPU

with open(solver_file, 'w') as f:
    f.write(str(s))