2. 程式人生 > >[目標檢測|SSD實踐一]caffe-ssd基線

[目標檢測|SSD實踐一]caffe-ssd基線

阿新 • • 發佈：2019-01-04

本次實驗利用caffe-ssd跑出了基線，主要從以下幾個方向總結。
- caffe-ssd的編譯
- caffe-ssd demo演示
- 自建資料集的資料準備
- fineTuning
- 測試分析

一、caffe基線實驗

1.1 CPU版安裝


// 依照 caffe - cpu 的安裝裝好依賴包，比如Python什麼的
// 參照 caffe - cpu部落格


https://github.com/weiliu89/caffe/tree/ssd

caffe - cpu 安裝

首先依照 caffe - cpu 的安裝裝好依賴包，比如Python什麼的。

生成Makefile.config

cp Makefile.config.example Makefile.config

修改Makefile.config的相關配置

//Step1: 取消CPU的註釋 8
CPU-ONLY := 1

//Step2: 取消BLAS的 47行
# BLAS := open
BLAS := atlas


BLAS是一個矩陣相乘的庫
BLAS (Basic Linear Algebra Subprograms)

Caffe推薦的BLAS（Basic Linear Algebra  
Subprograms）有三個選擇ATLAS，Intel
MKL，OpenBLAS。其中ATLAS是caffe是預設選擇開源免費，如果沒有安裝CUDA的不太推薦使用，因為CPU多執行緒的支援不太好；Intel
MKL是商業庫要收費，我沒有試過但caffe的作者安裝的是這個庫，估計效果應該是最好的；
OpenBLAS開源免費，支援CPU多執行緒，我安裝的就是這個。

//安裝ATLS
 

sudo apt-get install libatlas-base-dev

// 安裝OpenBLAS
sudo apt-get install libopenblas-base

編譯caffe - ssd

// Step:1 make -j8
make -j8

// Step:2 Make sure to include $CAFFE_ROOT/python to your PYTHONPATH.

vim ~/.bashrc
export PYTHONPATH: " /your caffe root/python/ "
source ~/.bashrc

// Step3: make py
make
 
 py

// Step4: make test 
make test -j8

// if you faile
make clean 
and compile again

1.2 GPU版安裝

1. 拷貝Makefile.config

cp Makefile.config.example Makefile.config

2. fix hdf5 naming problem

==report problem:==

./include/caffe/util/hdf5.hpp:6:18: fatal error: hdf5.h: No such file or directory

==Append== /usr/include/hdf5/serial/ to INCLUDE_DIRS at line 85 in Makefile.config.

--- INCLUDE_DIRS := $(PYTHON_INCLUDE) /usr/local/include
+++ INCLUDE_DIRS := $(PYTHON_INCLUDE) /usr/local/include /usr/include/hdf5/serial/

Modify hdf5_hl and hdf5 to hdf5_serial_hl and hdf5_serial at line 173 in Makefile

--- LIBRARIES += glog gflags protobuf boost_system boost_filesystem m hdf5_hl hdf5
+++ LIBRARIES += glog gflags protobuf boost_system boost_filesystem m hdf5_serial_hl hdf5_serial

3. 接著編譯

make -j8
# Make sure to include $CAFFE_ROOT/python to your PYTHONPATH.

# 這裡報錯：找不到openblas的庫，所以需要自己安裝
AR -o .build_release/lib/libcaffe.a
LD -o .build_release/lib/libcaffe.so.1.0.0-rc3
/usr/bin/ld: cannot find -lopenblas
collect2: error: ld returned 1 exit status
Makefile:568: recipe for target '.build_release/lib/libcaffe.so.1.0.0-rc3' failed
make: *** [.build_release/lib/libcaffe.so.1.0.0-rc3] Error 1


make py
make test -j8
# (Optional)
make runtest -j8

安裝openblas

#如果有sudo許可權：

sudo apt-get install libopenblas-base

#否則 

github下載原始碼
make -j 8

安裝成功後，繼續在終端輸入安裝目錄:
make install PREFIX=your_directory

根據具體的安裝路徑設定:
export LD_LIBRARY_PATH=/opt/OpenBLAS/lib

4. 測試

==錯誤1==

進入caffe/python路徑

進入Python，import caffe

可能會出現如下錯誤：

ImportError: /home/chenguang/soft/anaconda2/bin/../lib/libstdc++.so.6: version `GLIBCXX_3.4.21' not found (required by caffe/_caffe.so)

這個錯誤是因為缺少libgcc。

所以可以用conda安裝libgcc

conda install libgcc

==錯誤2==

編譯完pycaffe後。


import caffe

ImportError: /caffe-ssd/python/caffe/../../build/lib/libcaffe.so.1.0.0-rc3 undefined symbol： ZN5cv6image....

這個原因是anaconda環境的問題，詳情參見anaconda 安裝caffe，刪除anaconda，用預設的Python進行編譯。

猜想是由於anaconda opencv安裝的問題。先編譯caffe後安裝opencv。

==錯誤3==

編譯make all時發生如下錯誤。

‘type name’ declared as function returning an array

這是由於gcc版本和g++版本太低的原因，只需要升級到5以上就可以了。詳情參見gcc和g++的版本升級。

2. caffe-ssd demo演示

在github上，作者給出了ssd在Pascal VOC上的資料準備方法、訓練和測評方法。這裡我們也按照這個思路進行詳盡闡述。

2.1 資料集分析

在進行資料準備之前，我們先分析一下Pascal VOC資料集，以便之後分析得到整理資料的工作。個人認為這一部分還是非常重要的。

VOC資料是一個比較詳盡的資料集，現在主要是分為兩個部分，一個是VOC2007，一個是VOC2012。這個資料集能幹什麼呢？這個資料集能做影象分類、定位與檢測、影象語義分割。下面我們以VOC2012為例，分析一下這個資料集。如下圖所示是資料集的檔案結構。

這裡寫圖片描述

Annotation：

顧名思義，就是標註的意思。這個資料夾裡面儲存了該資料集所有影象的標註資訊。如下圖所示是每個影象的標註資訊。

1.  <annotation>  
2.      <folder>VOC2012</folder>  
3.      <filename>2007_000027.jpg</filename>  
4.      <source>  
5.          <database>The VOC2007 Database</database>  
6.          <annotation>PASCAL VOC2007</annotation>  
7.          <image>flickr</image>  
8.      </source>  
9.      <size>  
10.         <width>486</width>  
11.         <height>500</height>        # 影象大小
12.         <depth>3</depth>  
13.     </size>  
14.     <segmented>0</segmented>  
15.     <object>  
16.         <name>person</name>  
17.         <pose>Unspecified</pose>  
18.         <truncated>0</truncated>  
19.         <difficult>0</difficult>  
20.    # 一個 bounding box的位置，而且object是人
21.         <bndbox>  
22.             <xmin>174</xmin>  
23.             <ymin>101</ymin>  
24.             <xmax>349</xmax>      
25.             <ymax>351</ymax>   
26.         </bndbox>  
27.         <part>  
28.             <name>head</name>  
29.             <bndbox>  
30.                 <xmin>169</xmin>  
31.                 <ymin>104</ymin>  
32.                 <xmax>209</xmax>  
33.                 <ymax>146</ymax>  
34.             </bndbox>  
35.         </part>

ImageSets：

這個檔案裡主要按照用途(影象分類、目標檢測、姿態估計、影象語義分割)進行分類，每個裡面內容主要是按照檔名對資料集進行劃分成訓練集和訓練集。存為了txt文字格式。

這裡寫圖片描述

2.2 資料準備

Step1：首先按照作者的提示，download資料集。如下圖所示。

1.  # Download the data.  
2.  cd $HOME/data  
3.  wget http://host.robots.ox.ac.uk/pascal/VOC/voc2012/VOCtrainval_11-May-2012.tar  
4.  wget http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCtrainval_06-Nov-2007.tar  
5.  wget http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCtest_06-Nov-2007.tar  
6.  # Extract the data.  
7.  tar -xvf VOCtrainval_11-May-2012.tar  
8.  tar -xvf VOCtrainval_06-Nov-2007.tar  
9.  tar -xvf VOCtest_06-Nov-2007.tar

最後解壓後生成如下圖所示的檔案結構，在生成VOCdevkit以
及下面的兩個VOC2007和VOC2013資料夾。
這裡寫圖片描述

Step2：生成LMDB file

1.  cd $CAFFE_ROOT  
2.  # Create the trainval.txt, test.txt, and test_name_size.txt in data/VOC0712/  
3.  ./data/VOC0712/create_list.sh  
4.  # You can modify the parameters in create_data.sh if needed.  
5.  # It will create lmdb files for trainval and test with encoded original image:  
6.  #   - $HOME/data/VOCdevkit/VOC0712/lmdb/VOC0712_trainval_lmdb  
7.  #   - $HOME/data/VOCdevkit/VOC0712/lmdb/VOC0712_test_lmdb  
8.  # and make soft links at examples/VOC0712/  
9.  ./data/VOC0712/create_data.sh

執行如上程式碼，將在VOCdevkit中生成LMDB file，一個是test文
件，一個是train。

這裡寫圖片描述

Step3：訓練模型下載

因為時間和機器有限，我們直接可以執行demo，看看效果(我們自己訓練的效果也不一定有人家在coco+Pascal VOC上訓練得好)。在github上有資料集，下載07++12+coco: SSD300*， SSD512*.下載好後存放在model下。

1.  models/VGGNet

具體結構如下所示。

這裡寫圖片描述

2.3 執行測試

經過上述準備後就可以進行測試了，我們用作者已經訓練好的模型，加上作者寫的指令碼。

1.  # If you would like to test a model you trained, you can do:  
2.  python examples/ssd/score_ssd_pascal.py

但是我們準備的模型和資料夾名字可能不同，所以需要在score_ssd_pascal.py做相應的更改。具體請詳情看指令碼。如下所示就是執行的結果。

1.  I1214 11:23:19.188825 54587 solver.cpp:75] Solver scaffolding done.  
2.  I1214 11:23:19.192239 54587 caffe.cpp:155] Finetuning from models/VGGNet/VOC0712Plus/SSD_300x300_ft/VGG_VOC0712Plus_SSD_300x300_ft_iter_160000.caffemodel  
3.  I1214 11:23:20.062537 54587 net.cpp:761] Ignoring source layer mbox_loss  
4.  I1214 11:23:20.068641 54587 caffe.cpp:251] Starting Optimization  
5.  I1214 11:23:20.068656 54587 solver.cpp:294] Solving VGG_VOC0712Plus_SSD_300x300_ft_train  
6.  I1214 11:23:20.068661 54587 solver.cpp:295] Learning Rate Policy: multistep  
7.  I1214 11:23:20.175591 54587 solver.cpp:332] Iteration 0, loss = 4.1508  
8.  I1214 11:23:20.175637 54587 solver.cpp:433] Iteration 0, Testing net (#0)  
9.  I1214 11:23:20.200440 54587 net.cpp:693] Ignoring source layer mbox_loss  
10. I1214 11:25:45.889575 54587 solver.cpp:546]     Test net output #0: detection_eval = 0.822876  
11. I1214 11:25:45.889817 54587 solver.cpp:337] Optimization Done.  
12. I1214 11:25:45.889824 54587 caffe.cpp:254] Optimization Done.

2.4 常見錯誤

2.4.1 記憶體溢位

check failed: error == cudaSuccess (2 vs. 0) out of memory 

1.  F1214 20:57:45.526288 27356 parallel.cpp:85] Check failed: error == cudaSuccess (2 vs. 0)  out of memory  
2.  *** Check failure stack trace: ***  
3.      @     0x7fcf2dcb05cd  google::LogMessage::Fail()  
4.      @     0x7fcf2dcb2433  google::LogMessage::SendToLog()  
5.      @     0x7fcf2dcb015b  google::LogMessage::Flush()  
6.      @     0x7fcf2dcb2e1e  google::LogMessageFatal::~LogMessageFatal()  
7.      @     0x7fcf2e58d3b5  caffe::GPUParams<>::GPUParams()  
8.      @     0x7fcf2e58e109  caffe::P2PSync<>::P2PSync()  
9.      @           0x40ab33  train()  
10.     @           0x407350  main  
11.     @     0x7fcf2cc19830  __libc_start_main  
12.     @           0x407b79  _start  
13.     @              (nil)  (unknown)  
14. Aborted (core dumped)

這是由於GPU視訊記憶體不夠導致的，有幾個解決方案。

  • 如果是現在有程式在跑而佔用了記憶體，可以殺程序
  • 更改配置檔案的batch_size和accum_batch_size
1.   #Divide the mini-batch to different GPUs.    
2.  #batch_size = 32    
3.  #accum_batch_size = 32    
4.  batch_size = 8    
5.  accum_batch_size = 8    
6.  iter_size = accum_batch_size / batch_size    
7.  solver_mode = P.Solver.CPU    
8.  device_id = 0

2.4.2 caffe 路徑編譯

1.  [[email protected] caffe]$ sh create_lmdbdata_scenetext.sh   
2.  Traceback (most recent call last):  
3.    File "/data/home/lisiqi/my_SSD/caffe/scripts/create_annoset.py", line 7, in <module>  
4.      from caffe.proto import caffe_pb2  
5.  ImportError: No module named caffe.proto  
6.  Traceback (most recent call last):  
7.    File "/data/home/lisiqi/my_SSD/caffe/scripts/create_annoset.py", line 7, in <module>  
8.      from caffe.proto import caffe_pb2  
9.  ImportError: No module named caffe.proto

可能原因：這種情況一般是沒有把caffe中的和python相關的
內容的路徑新增到python的編譯路徑中。解決辦法：將Python路徑新增到~/.bashrc中，或者在source一下。

參考文獻

相關推薦

[目標檢測|SSD實踐一]caffe-ssd基線

本次實驗利用caffe-ssd跑出了基線，主要從以下幾個方向總結。 - caffe-ssd的編譯 - caffe-ssd demo演示 - 自建資料集的資料準備 - fineTuning - 測試分析 一、caffe基線實驗 1.1

目標檢測演算法另一分支的發展（one stage檢測演算法）：YOLO、SSD、YOLOv2/YOLO 9000、YOLOv3

目標檢測可以理解為是物體識別和物體定位的綜合，不僅僅要識別出物體屬於哪個分類，更重要的是得到物體在圖片中的具體位置。 目前的目標檢測演算法分為兩類： 一類是two-stage，two-stage檢測演算法將檢測問題劃分為兩個階段，首先產生候選區域（region proposals），然後

深度學習（目標檢測）---從RCNN到SSD，這應該是最全的一份目標檢測演算法盤點

目標檢測是很多計算機視覺任務的基礎，不論我們需要實現影象與文字的互動還是需要識別精細類別，它都提供了可靠的資訊。本文對目標檢測進行了整體回顧，第一部分從RCNN開始介紹基於候選區域的目標檢測器，包括Fast R-CNN、Faster R-CNN 和 FPN等。第二部分則重點討

經典論文重讀---目標檢測篇（一）：RCNN

核心思想 Since we combine region proposals with CNNs, we call our method R-CNN: Regions with CNN features. 即將生成proposal的方法與cnn提取特徵進行結合

基於深度神經網路的目標檢測系列文章一：摘要

注：本文源自本人的碩士畢業論文，未經許可，嚴禁轉載！ 原文請參考知網：知網本論文下載地址 摘 要 隨著計算機效能的飛速提升，蟄伏已久的深度學習演算法終於迎來了高速發展的時期。物體識別（也叫物體檢測，目標檢測）是計算機視覺領域中最有價值的研究方向之一。本論文主要

深度學習目標檢測系列：一文弄懂YOLO演算法|附Python原始碼

在之前的文章中，介紹了計算機視覺領域中目標檢測的相關方法——RCNN系列演算法原理，以及Faster RCNN的實現。這些演算法面臨的一個問題，不是端到端的模型，幾個構件拼湊在一起組成整個檢測系統，操作起來比較複雜，本文將介紹另外一個端到端的方法——YOLO演算法，該方法操作簡便且模擬速度快，效

【python】小目標檢測中對一幅高解析度圖分塊且改變目標bounding box的座標

很多時候，在小目標檢測中，對於一副高解析度影象，我們很難直接輸入一整幅大圖來進行目標檢測，特別是對於one-stage的方法，如SSD的輸入尺寸是300和512， YOLO的輸入尺寸是416，而高解析度影象通常有幾千×幾千畫素。所以我在此分享將一副高解析度影象分塊同時寫入對應目標的bound

caffe深度學習【九】目標檢測 yolo v1的caffe實現 基於VOC2007資料集

        YOLO v1演算法原文的作者是在darknet框架下實現的， 原文作者的實現    ，這裡主要講的是caffe版本的YOLO實現，主要採用yeahkun寫的：點選開啟連結  其實只是步驟相對來說有點繁瑣，但是要跑通並不困難： 大致步驟包括： 1、編譯ca

使用tensorflow object detection API 訓練自己的目標檢測模型 （一）labelImg的安裝配置過程

第一步：準備自己的資料集。比如我要檢測車牌。首先用到的是labelImg軟體：先簡要介紹一下labelimg安裝的步驟。接下來需要安裝一些python的包：我的環境是win10anacondapythonn36需要安裝的庫有：lxml, pyqt5,一般anaconda會有l

目標檢測演算法（一）——常見演算法比較

一、分類：幀間差分法、背景減除法和光流法。 (1)背景減除法通過統計前若千巾貞的變化情況,從而學習背景擾動的規律。此類演算法的缺點是由於通常需要緩衝若干幀頻來學習背景,因此往往需要消耗大量的記憶體,這使其使用範圍受到了限制。此外,對於大範圍的背景擾動,此類演算法的檢測

【SSD】用caffe-ssd框架自帶VGG網路訓練自己的資料集

一、挑選資料集我先是從ImageNet官網下載了所有關於杯子的圖片然後從ILSVRC2011，ILSVRC2012，ILSVRC2013和ILSVRC2015資料集通過搜尋xml中杯子的代號挑出了包含杯子的資料集。二、處理xml檔案我只需要杯子的資訊，其他物體資訊要從xm

基於樹莓派與YOLOv3模型的人體目標檢測小車（一）

#### 專案介紹： 本科畢業選的深度學習的畢設，一開始只是學習了一下YOLOv3模型， 按照作者的指示在官網上下載下來權重，配好環境跑出來Demo,後來想著只是跑模型會不會太單薄，於是想了能不能做出來個比較實用的東西（因為模型優化做不了）。於是乎做一個可以檢測人體的可操控移動小車的想法就誕生了。

SSD+caffe︱Single Shot MultiBox Detector 目標檢測（一）

作者的思路就是Faster R-CNN+YOLO，利用YOLO的思路和Faster R-CNN的anchor box的思想。 . 0 導讀 （本節來源於BOT大賽嘉賓問答環節 ） SSD 這裡的設計就是導致你可以一下子可以檢測 8 張圖，Faster

目標檢測之-Caffe-SSD系列（一）資料的處理-PASCAL VOC

目標檢測任務之資料的處理 常見的目標檢測資料集之PASCAL VOC 1 . PASCAL VOC資料集介紹 資料集名稱 訓練集（本地訓） 測試集（本地測） PAS

計算機視覺之目標檢測一之SSD

目標檢測——SSD 編者：楊柳依依 日期：2018年9月27日 今天給大家介紹一篇目標檢測領域中經典的一篇論文，15年發表在ECCV。 1.背景知識 在介紹論文之前，我們先簡單瞭解下本文的思路和做法。 作者提出了一種單個深度神經網路來解決影象中的目標檢測的問題。這種方法

caffe-ssd使用預訓練模型做目標檢測

首先參考https://www.jianshu.com/p/4eaedaeafcb4 這是一個傻瓜似的目標檢測樣例，目前還不清楚圖片怎麼轉換，怎麼驗證，後續繼續跟進 模型測試（1）圖片資料集上測試 python examples/ssd/score_ssd_pascal.py 輸出為

一文讀懂目標檢測 R-CNN Fast R-CNN Faster R-CNN YOLO SSD

分享一下我老師大神的人工智慧教程！零基礎，通俗易懂！http://blog.csdn.net/jiangjunshow 也歡迎大家轉載本篇文章。分享知識，造福人民，實現我們中華民族偉大復興！        

深度學習之目標檢測常用演算法原理+實踐精講 YOLO / Faster RCNN / SSD / 文字檢測 / 多工網路

深度學習之目標檢測常用演算法原理+實踐精講 YOLO / Faster RCNN / SSD / 文字檢測 / 多工網路 資源獲取連結：點選這裡 第1章 課程介紹 本章節主要介紹課程的主要內容、核心知識點、課程涉及到的應用案例、深度學習演算法設計通用流程、適應人群、學習本門

深度學習之目標檢測常用算法原理+實踐精講 YOLO / Faster RCNN / SSD / 文本檢測 / 多任務網絡

資源 測試 -h 轉換 條件 評價 框架 檢測方法 結果 深度學習之目標檢測常用算法原理+實踐精講 YOLO / Faster RCNN / SSD / 文本檢測 / 多任務網絡 資源獲取鏈接：點擊這裏 第1章 課程介紹 本章節主要介紹課程的主要內容、核心知識點、課程

SSD+caffe︱Single Shot MultiBox Detector 目標檢測+fine-tuning（二）

承接上一篇SSD介紹：SSD+caffe︱Single Shot MultiBox Detector 目標檢測（一） 如果自己要訓練SSD模型呢，關鍵的就是LMDB格式生成，從官方教程weiliu89/caffe來看，寥寥幾行code，但是前面的資料