影象演算法之七:特徵提取演算法之LBP
【2016/9/29】今天重點學習了紋理特徵提取演算法LBP,這個演算法可以用於紋理特徵提取和人臉識別,應用比較廣泛。首先介紹LBP演算法的原理,然後是LBP特徵的提取步驟,最後使用OpenCV實現了這個演算法。
LBP(Local Binary Pattern,區域性二值模式)是一種用來描述影象區域性紋理特徵的運算元;它具有旋轉不變性和灰度不變性等顯著的優點。它是首先由T. Ojala, M.Pietikäinen, 和D. Harwood 在1994年提出,用於紋理特徵提取。而且,提取的特徵是影象的區域性的紋理特徵。
1、LBP特徵的描述
原始的LBP運算元定義為在3*3的視窗內,以視窗中心畫素為閾值,將相鄰的8個畫素的灰度值與其進行比較,若周圍畫素值大於中心畫素值,則該畫素 點的位置被標記為1,否則為0。這樣,3*3鄰域內的8個點經比較可產生8位二進位制數(通常轉換為十進位制數即LBP碼,共256種),即得到該視窗中心像 素點的LBP值,並用這個值來反映該區域的紋理資訊。如下圖所示:
LBP的改進版本:
原始的LBP提出後,研究人員不斷對其提出了各種改進和優化。
(1)圓形LBP運算元:
基本的 LBP運算元的最大缺陷在於它只覆蓋了一個固定半徑範圍內的小區域,這顯然不能滿足不同尺寸和頻率紋理的需要。為了適應不同尺度的紋理特徵,並達到灰度和旋 轉不變性的要求,Ojala等對 LBP 運算元進行了改進,將 3×3鄰域擴充套件到任意鄰域,並用圓形鄰域代替了正方形鄰域,改進後的 LBP 運算元允許在半徑為 R 的圓形鄰域內有任意多個畫素點。從而得到了諸如半徑為R的圓形區域內含有P個取樣點的LBP運算元。
(2)LBP旋轉不變模式
從 LBP 的定義可以看出,LBP 運算元是灰度不變的,但卻不是旋轉不變的。影象的旋轉就會得到不同的 LBP值。
Maenpaa等人又將 LBP運算元進行了擴充套件,提出了具有旋轉不變性的 LBP 運算元,即不斷旋轉圓形鄰域得到一系列初始定義的 LBP值,取其最小值作為該鄰域的 LBP 值。
圖 2.5 給出了求取旋轉不變的 LBP 的過程示意圖,圖中運算元下方的數字表示該運算元對應的 LBP值,圖中所示的 8 種 LBP模式,經過旋轉不變的處理,最終得到的具有旋轉不變性的 LBP值為 15。也就是說,圖中的 8種 LBP 模式對應的旋轉不變的 LBP模式都是00001111。
為了解決二進位制模式過多的問題,提高統計性,Ojala提出了採用一種“等價模式”(Uniform Pattern)來對LBP運算元的模式種類進行降維。Ojala等認為,在實際影象中,絕大多數LBP模式最多隻包含兩次從1到0或從0到1的跳變。因 此,Ojala將“等價模式”定義為:當某個LBP所對應的迴圈二進位制數從0到1或從1到0最多有兩次跳變時,該LBP所對應的二進位制就稱為一個等價模式 類。如00000000(0次跳變),00000111(只含一次從0到1的跳變),10001111(先由1跳到0,再由0跳到1,共兩次跳變)都是等 價模式類。除等價模式類以外的模式都歸為另一類,稱為混合模式類,例如10010111(共四次跳變)
通過這樣的改進,二進位制模式的種類大大減少,而不會丟失任何資訊。模式數量由原來的2 P 種減少為 P ( P-1)+2種,其中P表示鄰域集內的取樣點數。對於3×3鄰域內8個取樣點來說,二進位制模式由原始的256種減少為58種,這使得特徵向量的維數更少,並且可以減少高頻噪聲帶來的影響。
2、LBP特徵用於檢測的原理
顯而易見的是,上述提取的LBP運算元在每個畫素點都可以得到一個LBP“編碼”,那麼,對一幅影象(記錄的是每個畫素點的灰度值)提取其原始的LBP運算元之後,得到的原始LBP特徵依然是“一幅圖片”(記錄的是每個畫素點的LBP值)。
LBP的應用中,如紋理分類、人臉分析等,一般都不將LBP圖譜作為特徵向量用於分類識別,而是採用LBP特徵譜的統計直方圖作為特徵向量用於分類識別。 因為,從上面的分析我們可以看出,這個“特徵”跟位置資訊是緊密相關的。直接對兩幅圖片提取這種“特徵”,並進行判別分析的話,會因為“位置沒有對準”而產生很大的誤差。後來,研究人員發現,可以將一幅圖片劃分為若干的子區域,對每個子區域內的每個畫素點都提取LBP特徵,然後,在每個子區域內建立LBP特徵的統計直方圖。如此一來,每個子區域,就可以用一個統計直方圖來進行描述;整個圖片就由若干個統計直方圖組成; 例如:一幅100*100畫素大小的圖片,劃分為10個子區域(可以通過多種方式來劃分區域),每個子區域的大小為10*10像 素;在每個子區域內的每個畫素點,提取其LBP特徵,然後,建立統計直方圖;這樣,這幅圖片就有10個子區域,也就有了10個統計直方圖,利用這10個統計直方圖,就可以描述這幅圖片了。之後,我們利用各種相似性度量函式,就可以判斷兩幅影象之間的相似性了;3、對LBP特徵向量進行提取的步驟
(1)首先將檢測視窗劃分為16×16的小區域(cell);
(2)對於每個cell中的一個畫素,將相鄰的8個畫素的灰度值與其進行比較,若周圍畫素值大於中心畫素值,則該畫素點的位置被標記為1,否則為0。這樣,3*3鄰域內的8個點經比較可產生8位二進位制數,即得到該視窗中心畫素點的LBP值;
(3)然後計算每個cell的直方圖,即每個數字(假定是十進位制數LBP值)出現的頻率;然後對該直方圖進行歸一化處理。
(4)最後將得到的每個cell的統計直方圖進行連線成為一個特徵向量,也就是整幅圖的LBP紋理特徵向量;
然後便可利用SVM或者其他機器學習演算法進行分類了。 4、LBP演算法實現 Language: C++(OpenCV)#include "opencv2/core/core.hpp"
#include "opencv2/contrib/contrib.hpp"
#include "opencv2/highgui/highgui.hpp"
#include <iostream>
#include <fstream>
#include <sstream>
using namespace cv;
using namespace std;
void elbp(Mat& src, Mat &dst, int radius, int neighbors)
{
for(int n=0; n<neighbors; n++)
{
// 取樣點的計算
float x = static_cast<float>(-radius * sin(2.0*CV_PI*n/static_cast<float>(neighbors)));
float y = static_cast<float>(radius * cos(2.0*CV_PI*n/static_cast<float>(neighbors)));
// 上取整和下取整的值
int fx = static_cast<int>(floor(x));
int fy = static_cast<int>(floor(y));
int cx = static_cast<int>(ceil(x));
int cy = static_cast<int>(ceil(y));
// 小數部分
float ty = y - fy;
float tx = x - fx;
// 設定插值權重
float w1 = (1 - tx) * (1 - ty);
float w2 = tx * (1 - ty);
float w3 = (1 - tx) * ty;
float w4 = tx * ty;
// 迴圈處理影象資料
for(int i=radius; i < src.rows-radius;i++)
{
for(int j=radius;j < src.cols-radius;j++)
{
// 計算插值
float t = static_cast<float>(w1*src.at<uchar>(i+fy,j+fx) + w2*src.at<uchar>(i+fy,j+cx) + w3*src.at<uchar>(i+cy,j+fx) + w4*src.at<uchar>(i+cy,j+cx));
// 進行編碼
dst.at<uchar>(i-radius,j-radius) += ((t > src.at<uchar>(i,j)) || (std::abs(t-src.at<uchar>(i,j)) < std::numeric_limits<float>::epsilon())) << n;
}
}
}
}
void elbp1(Mat& src, Mat &dst)
{
// 迴圈處理影象資料
for(int i=1; i < src.rows-1;i++)
{
for(int j=1;j < src.cols-1;j++)
{
uchar tt = 0;
int tt1 = 0;
uchar u = src.at<uchar>(i,j);
if(src.at<uchar>(i-1,j-1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i-1,j)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i-1,j+1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i,j+1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i+1,j+1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i+1,j)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i+1,j-1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i-1,j)>u) { tt += 1 <<tt1; }
tt1++;
dst.at<uchar>(i-1,j-1) = tt;// 更正,之前是dst.at<uchar>(i,j)=tt;
}
}
}
int main()
{
Mat img = cv::imread("bear.jpg", 0);
namedWindow("image");
imshow("image", img);
int radius, neighbors;
radius = 1;
neighbors = 8;
//建立一個LBP圖譜
Mat dst = Mat(img.rows-2*radius, img.cols-2*radius,CV_8UC1, Scalar(0));
elbp1(img,dst);
namedWindow("normal");
imshow("normal", dst);
Mat dst1 = Mat(img.rows-2*radius, img.cols-2*radius,CV_8UC1, Scalar(0));
elbp(img,dst1,1,8);
namedWindow("circle");
imshow("circle", dst1);
cv::waitKey(0);
}
實驗效果:
從實驗效果圖中可以看出,circle LBP的紋理特徵提取的更加明顯。
基本LBP演算法實現:比較簡單
void LBP(Mat& src, Mat& dst)
{
int width = src.cols;
int height = src.rows;
for (int i = 1; i <= height - 1; ++i)
{
for (int j = 1; j <= width - 1; ++j)
{
uchar neighbor[8] = { 0 };
neighbor[7] = src.at<uchar>(i-1, j-1);
neighbor[6] = src.at<uchar>(i-1,j);
neighbor[5] = src.at<uchar>(i - 1, j + 1);
neighbor[4] = src.at<uchar>(i, j + 1);
neighbor[3] = src.at<uchar>(i + 1, j + 1);
neighbor[2] = src.at<uchar>(i + 1, j);
neighbor[1] = src.at<uchar>(i + 1, j - 1);
neighbor[0] = src.at<uchar>(i, j - 1);
uchar curr = src.at<uchar>(i, j);
uchar temp = 0;
for (int k = 0; k < 8; k++)
{
temp += (neighbor[k] >= curr)<< k;
}
dst.at<uchar>(i-1, j-1) = temp;
}
}
}
5、LBP演算法在人臉識別中的應用 今天先學習到這裡,下次繼續更新LBP區域性二值模式在紋理提取和人臉識別中的具體應用。