1. 程式人生 > >空間資料探勘常用方法

空間資料探勘常用方法

問題1:空間資料探勘有哪些常用方法,舉例說明一種方法的原理及應用.

答:空間資料探勘的常用方法有:統計法,聚類方法,關聯規則發掘方法,Rough集方法,神經網路方法,雲理論,證據理論,模糊集理論,遺傳演算法等演算法(出自丁信宙,仇環,蘇曉慶. 基於雲理論的缺損資料推理和預測 山東理工大學學報 2006年11月)。除此以外還有老師課件上提到的聚類檢測,決策樹方法等。

       以下對於一些常見模型做一簡述:

1、空間分析方法 (Spatial Analysis Approach)

利用GIS的各種空間分析模型和空間操作對空間資料庫中的資料進行深加工,從而產生新的資訊和知識。目前常用的空間分析方法有綜合屬性資料分析、拓撲分析、緩衝區分析、密度分析、距離分析、疊置分析、網路分析、地形分析、趨勢面分析、預測分析等,可發現目標在空間上的相連、相鄰和共生等關聯規則,或發現目標之間的最短路徑、最優路徑等輔助決策的知識。空間分析方法常作為預處理和特徵提取方法與其它資料探勘方法結合使用。

2、統計分析方法 (Statistical Analysis Approach)

統計方法一直是分析空間資料的常用方法,著重於空間物體和現象的非空間特性的分析。在運用統計方法進行資料探勘時,一般並不將資料的空間特性作為限制因子加以考慮,空間資料所描述的事物的具體空間位置在這類挖掘中也並不起制約作用。儘管此種挖掘方式與一般的資料探勘並無本質的差別,但其挖掘後發現的結果都是以地圖形式來描述的,對發現結果的解釋也必然要依託地理空間進行,挖掘的結果揭示和反映的必然是空間規律。但是,統計方法難以處理字元型資料。而且,應用統計方法需要有領域知識和統計知識,一般由具有統計經驗的領域專家來完成。統計方法的最大缺點是要假設空間分佈資料具有統計不相關性。這在實際應用中會出現問題,因為很多空間資料是相互關聯的。

3、歸納學習方法 (Induction Learning Approach)

歸納學習方法是從大量的經驗資料中歸納抽取出一般的規則和模式,其大部分演算法來源於機器學習領域。歸納學習的演算法很多,如Michaski等的AQ11,AQ15,洪家榮等的AE1,AE9,Hunt的CLS, Quinlan的ID3,C5.0等,其中最著名的是Quinlan提出的一種決策樹演算法,由ID3演算法發展而來,採用嫡來選擇屬性,分類速度快,適合於大資料庫的學習,而C5.0在 ID3的基礎上增加了將決策樹轉換為等價的產生式規則的功能,並解決了連續取值資料的學習問題。Han Jiawei教授等提出了一種面向屬性的歸納方法 (Attribute Oriented Induction, AOI),專門用於從資料庫中發現知識,通過概念樹的提升對資料進行概括和綜合,歸納出高層次的模式或特徵。裴健等對面向屬性的歸納方法進行了擴充套件,形成了基於空間屬性的歸納方法 (Spatial Attribute Oriented Induction, SAOI)。

4、空間關聯規則挖掘方法 (Spatial Association Rule Mining Approach)

挖掘關聯規則首先由Agrawal等提出,主要是從超級市場銷售事務資料庫中發現顧客購買多種商品時的搭配規律。最著名的關聯規則挖掘演算法是Agrawal提出的Apriori演算法,其主要思路是統計多種商品在一次購買中共同出現的頻數,然後將出現頻數多的搭配轉換為關聯規則。

5、聚類方法 (Clustering Approach)和分類方法 (Classification Approach)

聚類是按一定的距離或相似性係數將資料分成一系列相互區分的組,根據定義可以把其分為四類:基於層次的聚類方法;分割槽聚類演算法;基於密度的聚類演算法;網格的聚類演算法。常用的經典聚類方法有K-mean,K-medoids,ISODATA等。

分類就是假定資料庫中的每個物件(在關係資料庫中物件是元組)屬於一個預先給定的類,從而將資料庫中的資料分配到給定的類中,簡單的講就是f:D→L,其中f的域D是屬性資料的空間,L是標號的集合。

分類和聚類都是對目標進行空間劃分,劃分的標準是類內差別最小而類間差別最大。分類和聚類的區別在於分類事先知道類別數和各類的典型特徵,而聚類則事先不知道。

6、神經網路方法 (Neural Network Approach)

神經網路是由大量神經元通過極其豐富和完善的連線而構成的自適應非線性動態系統,具有分佈儲存、聯想記憶、大規模並行處理、自學習、自組織、自適應等功能。神經網路由輸入層、中間層和輸出層組成。大量神經元集體通過訓練來學習待分析資料中的模式,形成描述複雜非線性系統的非線性函式,適於從環境資訊複雜、背景知識模糊、推理規則不明確的非線性空間系統中挖掘分類知識。

7、決策樹方法 (Decision Tree Approach)

決策樹根據不同的特徵,以樹型結構表示分類或決策集合,產生規則和發現規律。在空間資料探勘中,首先利用訓練空間實體集生成測試函式;其次根據不同取值建立樹的分支,在每個分支子集中重複建立下層結點和分支,形成決策樹;然後對決策樹進行剪枝處理,把決策樹轉化為據以對新實體進行分類的規則。

8、粗集理論 (Rough Sets Theory)

粗集理論是波蘭華沙大學Z.Pawlak教授在1982年提出的一種智慧資料決策分析工具,被廣泛研究並應用於不精確、不確定、不完全的資訊的分類分析和知識獲取。粗集理論為空間資料的屬性分析和知識發現開闢了一條新途徑,可用於空間資料庫屬性表的一致性分析、屬性的重要性、屬性依賴、屬性表簡化、最小決策和分類演算法生成等。粗集理論與其它知識發現演算法結合可以在空間資料庫中資料不確定的情況下獲取多種知識。

9、模糊集理論 (Fuzzy Sets Theory)

模糊集理論是L.A.Zadeh教授在1965年提出的。它是經典集合理論的擴充套件,專門處理自然界和人類社會中的模糊現象和問題。利用模糊集合理論,對實際問題進行模糊判斷、模糊決策、模糊模式識別、模糊簇聚分析。系統的複雜性越高,精確能力就越低,模糊性就越強,這是Zadeh總結出的互克性原理。模糊集理論在遙感影象的模糊分類、GIS模糊查詢、空間資料不確定性表達和處理等方面得到了廣泛應用。

10、空間特徵和趨勢探側(Characterization and Trend Detection)方法

這是Ester等人在第4屆KDD國際研討會 (1998)上提出的基於鄰域圖 (neighborhoodgraphs)和鄰域路徑 (neighborhoodpath)概念的挖掘演算法。Ester等將一個空間特徵定義為空間資料庫中具有空間/非空間性質的目標物件集,並以非空間屬性值出現的相對頻率和不同空間物件出現的相對頻率 (目標物件集相對於整個資料庫)作為感興趣的性質,從空間目標集合經過它的相鄰擴充套件後的集合中,發現相對頻率的明顯不同,以此提取空間規則:空間趨勢探測挖掘是從一個開始點出發,發現一個或多個非空間性質的變化規律,這種演算法的效率在很大程度上取決於其處理相鄰關係的能力。

11、雲理論 (Cloudy Theory)

這是李德毅博士提出的用於處理不確定性的一種新理論,包括雲模型 (Cloud Model),虛擬雲 (Virtual Cloud)、雲運算 (Cloud operation)、雲變換 (Cloud Transform)和不確定性推理 (Reasoning under Uncertainty)等主要內容。運用雲理論進行空間資料探勘,可進行概念和知識的表達、定量和定性的轉化、概念的綜合與分解、從資料中生成概念和概念層次結構、不確定性推理和預測等。

12、影象分析和模式識別 (Image Analysis and Pattern Recognition)方法

空間資料庫 (資料倉庫)中含有大量的圖形影象資料,一些影象分析和模式識別方法可直接用於挖掘資料和發現知識,或作為其它挖掘方法的預處理方法。用於影象分析和模式識別的方法主要有:決策樹方法、神經元網路方法、數學形態學方法、圖論方法等。

13、證據理論 (Evidence Theory)

由Schafer發展起來的證據理論是經典概率論的擴充套件。證據理論又稱Dempster-Schafer理論,它是Dempster在20世紀60年代提出,在70年代中期由Schafer進一步發展,形成處理不確定性資訊的證據理論,其重要貢獻在於嚴格區分不確定和不知道的界線。證據理論將實體分為確定部分和不確定部分,可以用於基於不確定性的空間資料探勘。利用證據理論的結合規則、可以根據多個帶有不確定性的屬性進行決策挖掘。證據理論發展了更一般性的概率論,卻不能解決矛盾證據或微弱假設支援等問題。

14、遺傳演算法 (Genetic Algorithms)

遺傳演算法(簡稱GA)是模擬生物進化過程的演算法,最先由美國的John Holland教授於20世紀60年代初提出,其本質是一種求解問題的高效並行全域性搜尋方法,它能在搜尋過程中自動獲取和積累有關搜尋空間的知識,並自適應地控制搜尋過程以求得最優解。遺傳演算法已在優化計算、分類、機器學習等方面發揮了顯著作用。資料探勘中的許多問題,如分類、聚類、預測等知識的獲取,可以表達或轉換成最優化問題,進而可以用遺傳演算法來求解。

15、資料視覺化方法 (Data Visualization Approach)

人類的視覺化能力,允許人類對大量抽象的資料進行分析。人的創造性不僅取決於人的邏輯思維,而且取決於人的形象思維。人腦的空間認知分析能力目前尚無法全部用計算機代替,因此視覺化技術為知識發現提供了有力的幫助。為了瞭解資料之間的相互關係及發展趨勢,人們可以求助於視覺化技術。海量的資料只有通過視覺化技術變成圖形或影象,才能激發人的形象思維—— 從表面上看來是雜亂無章的海量資料中找出其中隱藏的規律。資料視覺化技術將大量資料以多種形式表示出來,幫助人們尋找資料中的結構、特徵、模式、趨勢、異常現象或相關關係等。從這個角度講,資料視覺化技術不僅僅是一種計算方法,更是看見不可見事物或現象的一種重要手段和方法。

16、地學資訊圖譜方法 (Geo-informatics Graphic Methodology)

地學資訊圖譜是地球資訊的重要表現形式與研究手段,也是地球資訊科學的重要組成部分。地學資訊圖譜綜合了景觀綜合圖的簡潔性和數學模型的抽象性,是現代空間技術與我國傳統研究成果結合的產物,可反演過去、預測未來。圖是指地圖、影象、圖解,譜是指不同類別事物特徵有規則的序列編排。圖譜是指經過深入分析與高度綜合,反映事物和現象空間結構特徵與時空序列變化規律的圖形資訊處理與顯示手段。地球資訊圖譜是由遙感、地圖資料庫與地理資訊系統(或數字地球)的大量地球資訊,經過圖形思維與抽象概括,並以計算機多維動態視覺化技術顯示地球系統及各要素和現象的巨集觀、中觀與微觀的時空變化規律;同時經過中間模型與地學認知的深入分析研究,進行推理、反演與預測,形成對事物和現象更深層次的認識,有可能總結出重要的科學規律。地學資訊圖譜不僅應用於資料探勘,而且服務於科學預測與決策方案。

地學資訊圖譜具有以下4個重要功能:①藉助圖譜可以反演和模擬時空變化;②可利用圖的形象表達能力,對複雜現象進行簡潔的表達;③多維的空間資訊可展示在二維地圖上,從而大大減小了模型模擬的複雜性;④在數學模型的建立過程中,圖譜有助於模型構建者對空間資訊及其過程的理解。

地學資訊圖譜是形、數、理的有機結合,是試圖從形態來反演空間過程的一種研究複雜系統的方法論。地學資訊圖譜中的空間圖形思維、分形分維等方法均可直接用於空間資料探勘領域。目前,地學資訊圖譜的基本理論及其方法體系還不完善,還有待於進一步研究。

17、計算幾何方法 (Computer Geometry Methods)

1975年,Shamos和Hoey利用計算機有效地計算平面點集Voronoi圖,並發表了一篇著名論文,從此計算幾何誕生了。計算幾何中的研究成果已在計算機圖形學、化學、統計分析、模式識別、空間資料庫以及其它許多領域得到了廣泛應用。計算幾何研究的典型問題包括幾何基元、幾何查詢和幾何優化等。其中,幾何基元包括凸殼和Voronoi圖、多邊形的三角剖分、劃分問題與相交問題:幾何查詢包括點定位、視覺化、區域查詢等問題;幾何優化包括引數查詢和線性規劃。

上述每一種方法都有一定的適用範圍。在實際應用中,為了發現某類知識,常常要綜合運用這些方法。空間資料探勘方法還要與常規的資料庫技術充分結合。總之,空間資料探勘利用的技術越多,得出的結果精確性就越高,因此,多種方法的整合也是空間資料探勘的一個有前途的發展方向。

       以下是對雲模型和其在缺損資料的推理預測中的應用做一簡述。

雲模型:雲是用語言值描述某個定性概念與其數值表示的不確定性轉換的模型。簡單地說,雲模型是定性定量間轉換的不確定性模型。該模型用期望Ex,熵En,超熵He三個數值來表示,把模糊性和隨機性完全整合到一起,構成定性和定量間的對映,作為表示的基礎。期望值Ex是概念在論域中的中心值;熵En是定性概念模糊度的度量,反映了在論域中可被這個概念所接受的數值範圍熵越大,概念所接受的數值範圍也越大,概念越模糊。超熵He是熵的不確定性度量,即熵的熵,由熵的隨機性和模糊性共同決定。超熵He反映了雲滴的離散程度,超熵越大,離散度越大,隸屬度的隨機性越大。

設U 是一個用精確數值表示的論域(一維的、二維的或多維的),U 上對應著定性概念Ã,對於論域中的任意一個元素x,都存在一個有穩定傾向的隨機數y=μA(x),叫作x 對概念Ã 的確定度,x 在U上的分佈稱為雲模型,簡稱為雲。雲由許許多多個雲滴組成,一個雲滴是定性概念在數量上的一次實現,單個雲滴可能無足輕重,在不同的時刻產生的雲的細節可能不盡相同,但云的整體形狀反映了定性概念的基本特徵。雲的“厚度”是不均勻的,腰部最分散,“厚度”最大,而頂部和底部匯聚性好,“厚度”小。雲的“厚度”反映了確定度的隨機性的大小,靠近概念中心或遠離概念中心處,確定度的隨機性較小,而離概念中心不近不遠的位置確定度的隨機性大,這與人的主觀感受相一致。

雲的數字特徵用期望Ex、熵En 和超熵He 來表徵,它們反映了定性概念Ã 整體上的定量特徵。

期望Ex:是概念在論域中的中心值,在數域空間最能夠代表定性概念Ã 的點,即這個概念量化的最典型樣本點,通常是雲重心對應的x 值,它應該百分之百地隸屬於這個定性概念。Ex 反映了相應的定性知識的資訊中心值。

熵En:熵反映定性概念Ã 的不確定性。一方面,熵反映了在數域空間可以被語言值Ã 接受的雲滴群的範圍的大小,即模糊度,是定性概念亦此亦彼性的度量;另一方面,熵還反映了代表定性概念的雲滴出現的隨機性;此外,熵還揭示了模糊性和隨機

性的關聯性。熵可以用來代表一個定性概念的粒度。通常,熵越大,概念越巨集觀,模糊性和隨機性也越大,確定性量化越難。

超熵He:超熵是熵的不確定性的度量,即熵的熵,反映了雲滴的離散程度。超熵越大,雲滴離散度越大,確定度的隨機性越大,雲的“厚度”也越大。

       正態雲是一種很典型的雲模型,被應用於多種現實的模擬,十分具有代表性,因此,一下著重介紹一下與模型的建立方法。

       正態雲模型既不是一個確定的概率密度函式,也不是一條明晰的隸屬函式曲線,而是由兩次串接的正態發生器[5]生成的許多雲滴組成的、一對多的泛正態數學對映影象,是一朵可伸縮、無確定邊沿、有彈性的雲圖,完成定性和定量之間的相互對映。正態雲模型的期望曲線是一個正態型曲線。當正態雲模型概念對應的論域為一維時,定性定量的不確定性轉換通過正態雲發生器演算法實現。具體演算法如下:

輸入:表示定性概念Ã 的3 個數字特徵值Ex,En,He,雲滴數N。

輸出:N 個雲滴的定量值,以及每個雲滴代表概念Ã 的確定度。

Step1:生成以En 為期望值,He 為標準差的一個正態隨機數E′n;

Step2:生成以Ex 為期望值,abs(E′n)為標準差的正態隨機數x;

Step3:令x 為定性概念Ã 的一次具體量化值,稱為雲滴;

Step4:計算y=exp(-(x-Ex)2/2(E′n)2);

Step5:令y 為x 屬於定性概念Ã 的確定度;

Step6:{x,y}完整地反映了這一次定性定量轉換的全部內容;

Step7:重複Step1~Step6,直到產生N 個雲滴。

用該演算法生成的雲自然地具有不均勻厚度的特性,雲的腰部、頂部、底部等並不需要精確地定義,三個數字特徵值足以很好地描述整個雲的形態。

    雲模型的應用相當廣泛,下面僅就其在軍事中的一個應用做一描述。在《基於正態雲模型的方法求解目標可能位置域》這篇論文當中,作者利用雲模型模擬目標可能出現的位置,通過一系列計算,確定一個區域,從而為魚雷發射提供資料支援。

    潛艇使用導彈攻擊對方水面艦艇已經成為越來越重要的作戰方式。由於潛艇對隱蔽性的要求,攻擊前很難實時獲得友方兵力的目標指示通報,因此需要根據此前某一時刻通報的目標位置 、速度 、航向  推測出當前的目標可能位置。

模型中已知的前提條件:1.發現目標時刻 ;2. 時刻目標概略中心位置 和誤差分佈橢圓的方向 、半軸  和 ;3. 時刻目標速度V、航向H 及其標準偏差 , 。模型執行的目的是求出時刻T 時的目標概略中心位置( , )以及誤差分佈橢圓的方向 、半軸  和 。

確定目標可能位置域模型的建模思路:按模型中的前提條件,產生M 個  時刻目標隨機位置點;對這M 個點中的任一個點,按照目標速度、航向誤差分別取N1、N2 個隨機速度、航向,在時刻T時產生N1×N2 個隨機位置點。這樣最終產生M×N1×N2 個隨機位置點。最後對M×N1×N2 個隨機位置點進行資料分析得T 時刻的目標位置概率橢圓。該橢圓就是魚雷發射的目標區域。

問題2:論述資料探勘與空間資料探勘的異同點。

答:資料探勘(Data Mining),就是從大量資料中獲取有效的、新穎的、潛在有用的、最終可理解的模式的非平凡過程。資料探勘的廣義觀點:資料探勘就是從存放在資料庫,資料倉庫或其他資訊庫中的大量的資料中“挖掘”有趣知識的過程。資料探勘,又稱為資料庫中知識發現(Knowledge Discovery in Database, KDD), 也有人把資料探勘視為資料庫中知識發現過程的一個基本步驟。

知識發現過程以下步驟組成:(1)資料清理,(2)資料整合,(3)資料選擇,(4)資料變換,(5)資料探勘,(6)模式評估,(7)知識表示。資料探勘可以與使用者或知識庫互動。

空間資料探勘是指從空間資料庫中抽取沒有清楚表現出來的隱含的知識和空間關係,並發現其中有用的特徵和模式的理論、方法和技術。 空間資料探勘和知識發現的過程大致可分為以下多個步驟:資料準備、資料選擇、資料預處理、資料縮減或者資料變換、確定資料探勘目標、確定知識發現演算法、資料探勘、模式解釋、知識評價等,而資料探勘只是其中的一個關鍵步驟。但是為了簡便,人們常常用空間資料探勘來代替空間資料探勘和知識發現。空間資料探勘(Spatial Data Mining, SDM)是資料探勘的一個分支,是在空間資料庫的基礎上,綜合利用各種技術方法,從大量的空間資料中自動挖掘事先未知的且潛在有用的知識,提取出非顯式存在的空間關係或其它有意義的模式等,揭示出蘊含在資料背後的客觀世界的本質規律、內在聯絡和發展趨勢,實現知識的自動獲取,從而提供技術決策與經營決策的依據。資料探勘所能發現的知識最常見的有以下五種型別:廣義知識、關聯知識、分類知識、聚類知識和預測型知識。而要發現這些知識就需要運用相應空間資料探勘方法。

綜上所述,二者之間的共同點是:

1. 都是基於已經獲得的資料,無論是儲存在資料庫,資料倉庫,或者是檔案當中的資料進行分析;

2. 都是從大量的資訊當中,通過資料間的內在聯絡提取出操作者感興趣的資料;

3. 提取出的資料都是非顯式儲存的,或者說是隱藏在原有資料當中的;

4. 空間資料探勘是資料探勘技術的一個重要分支和發展;

5. 二者均以統計學為數學基礎。

另外二者的不同之處在於:

1. 傳統資料探勘處理的是數字和類別,而空間資料則是一些更為複雜的資料型別,例如:點、線、多邊形等物件;

2. 傳統資料探勘通常具有顯式的輸入,而空間資料探勘的輸入則常常是隱式的;

3. 在傳統資料探勘中,有一個至關重要的前提假設,即資料樣品是獨立生成的,而這一假設在空間分析中是不成立的,事實上,空間資料之間是高度自關聯的。

4. 資料來源十分豐富,資料量非常龐大,資料型別多,存取方法複雜;

5. 應用領域十分廣泛,只要與空間位置相關的資料,都可以對其進行挖掘;

6. 挖掘方法和演算法非常多,而且大多數演算法比較複雜,難度大;

7.知識的表達方式多樣,對知識的理解和評價依賴於人對客觀世界的認知程度。