環境：ubuntu 16.04 + TensorFlow 1.6.1 + cuda 9.0 + cudnn 7.0 +python2.7 

tensorflow 專案連結 https://github.com/tensorflow/models.git下載後解壓，所需要的工程在//deeplab/ 目錄下

1. 測試本地環境

首先新增slim路徑，每次開啟terminal都要載入路徑

# From tensorflow/models/research/
export PYTHONPATH=$PYTHONPATH:`pwd`:`pwd`/slim

Quick test by running model_test.py:

# From tensorflow/models/research/
 

python deeplab/model_test.py

Quick running the whole code on the PASCAL VOC 2012 dataset:

# From tensorflow/models/research/deeplab
sh local_test.sh

如果都執行成功，說明本地環境已經可以了，接下來訓練自己的資料集。

2. 準備資料

資料包括兩部分 images 和labels ，image 為[n*m*3]，jpeg 格式，label為[n*m*1]，png格式。還需要一個train.txt檔案，其中是所有訓練資料的檔名。接下來執行/models/research/deeplab/dataset 下的build_voc2012_data.py

python build_voc2012_data.py \
  --image_folder="儲存images的路徑" \
  --semantic_segmentation_folder="儲存labels的路徑" \
  --list_folder="儲存train.txt檔案的路徑" \
  --image_format="jpeg（image格式）" \
  --output_dir="生成tfrecord格式的資料所要儲存的位置"

3. 開始訓練

修改/models/research/deeplab/dataset 下 segmentation_dataset.py

PASCAL_VOC_SEG_INFORMATION = DatasetDescriptor(
    splits_to_sizes={
        'train': 1464,
        'trainval': 2913,
        'val': 1449,
    },
    num_classes=21,
    ignore_label=255,
)
 

我是在Pascal_voc上修改的，改成自己的資料集大小以及輸出label的類別數，num_classes已經包含了背景修改 /models/research/deeplab/下train.py

# Set to False if one does not want to re-use the trained classifier weights.
flags.DEFINE_boolean('initialize_last_layer', True,
                     'Initialize the last layer.')

把 True 改成 False ，重新訓練最後一層。開始訓練：

python train.py \
  --logtostderr \
  --train_split="trainval" \  可以選擇train/val/trainval 不同的資料集 
  --model_variant="xception_65" \
  --atrous_rates=6 \
  --atrous_rates=12 \
  --atrous_rates=18 \
  --output_stride=16 \
  --decoder_output_stride=4 \
  --train_crop_size=512 \
  --train_crop_size=512 \
  --train_batch_size=12 \
  --training_number_of_steps=30000 \
  --fine_tune_batch_norm=True \
  --tf_initial_checkpoint="載入與訓練模型/model.ckpt" \
  --train_logdir="儲存訓練的中間結果" \
  --dataset_dir="生成的tfrecord的路徑"

引數設定注意事項：1.

# When fine_tune_batch_norm=True, use at least batch size larger than 12
# (batch size more than 16 is better). Otherwise, one could use smaller batch
# size and set fine_tune_batch_norm=False.

2.

# For `xception_65`, use atrous_rates = [12, 24, 36] if output_stride = 8, or
# rates = [6, 12, 18] if output_stride = 16. Note one could use different
# atrous_rates/output_stride during training/evaluation.

4. eval

python "${WORK_DIR}"/eval.py \
  --logtostderr \
  --eval_split="val" \
  --model_variant="xception_65" \
  --atrous_rates=6 \
  --atrous_rates=12 \
  --atrous_rates=18 \
  --output_stride=16 \
  --decoder_output_stride=4 \
  --eval_crop_size=512 \
  --eval_crop_size=512 \
  --checkpoint_dir="${TRAIN_LOGDIR}" \
  --eval_logdir="${EVAL_LOGDIR}" \
  --dataset_dir="${DATASET}" 

輸出mean iou 

5. 輸出預測結果

python vis.py \
  --logtostderr \
  --vis_split="val" \
  --model_variant="xception_65" \
  --atrous_rates=6 \
  --atrous_rates=12 \
  --atrous_rates=18 \
  --output_stride=16 \
  --decoder_output_stride=4 \
  --vis_crop_size=513 \
  --vis_crop_size=513 \
  --checkpoint_dir="${TRAIN_LOGDIR}" \
  --vis_logdir="${VIS_LOGDIR}" \
  --dataset_dir="${DATASET}"

輸出圖片的預測結果到vis_logdir中