「8-Queens Problem」皇后問題區域性極值啟發式搜尋方法

Backgrounds

背景說明：

皇后問題是演算法領域的著名問題，問題的背景是在8*8的國際象棋棋盤上擺滿8個皇后使之互相不能攻擊（由於皇后在國際象棋規則中橫、縱、斜三個方向均可以移動，即擺放要使得皇后兩兩不在同一橫、縱、斜線上）。放鬆這個問題的變長條件，我們可以將其擴大至N*N的棋盤上擺放N個皇后，使之各自在三個方向上不重複出現。

大一時剛剛學習程式語言的我們，在初次接到這道題時，主要是運用了遞迴函式和回溯的思想去解決問題，通過深度優先搜尋(depth-first search, DFS)策略，依次增加棋盤上可以擺放的位置。若遇到第k步棋子擺放的所有可能位置都發生衝突，則退回到第k-1步，修改k-1的狀態，以達到期望的最終解。

State space of 8-queens problem

皇后問題的狀態空間：

狀態空間，這裡理解成所有擺放的可能性情況。

皇后問題廣義的解的狀態空間，在沒有過多限制條件的情況下是非常龐大的。

在64個互不重複的位置上選擇無差別的8個位置，總計應該有C(64, 8)=4,426,165,368 (44億)大小的狀態空間. 圖示為較為集中的分佈情況和可以完全分散開的分佈情況。

        圖 1.1 皇后分佈緊湊          圖 1.2 皇后分佈鬆散 

注意⚠這裡C(N*N, N)表示在N*N種方案中選擇N個的方案數

不同約束條件下的不同狀態空間規模：

實際上，全域性解狀態空間的大小也由我們的限制條件決定，下面提出兩種解決方案。但總體上策略一致地是，我們用一個長度為8的一維陣列表示每一列皇后的位置，這種表示方法首先就壓縮掉了很大一部分的解的狀態空間——因為相當於即使在橫向上有皇后可能會重合，這種每列一個位置數的表示方式放棄了同一列上出現多個皇后的情況。圖示為橫縱均不重合分散分佈和允許行重複的分佈情況。  

       圖 2.1 允許同行衝突 圖 2.2 保證橫縱均不衝突

但上述兩種表示方法出於求解出儘可能多的區域性極值和儘快求解出最優解的考慮，依然是穩妥的。此時狀態空間的大小至多已經被壓縮至8^8=16,777,216 (1670萬)種，相比於44億已經極大地壓縮瞭解的數量。

(1).第一種表示方法，我們在允許行重合的情況下，每次操作只在該列上對棋子進行上下移動，並考慮每次移動對於總衝突數的影響。

此種排列的狀態空間為8^8=16,777,216.

(2).第二種表示方法，我們對1～8的數字進行全排列，得到{a1, a2, …, ai, …, a8}用於表示第i 列上的皇后位置，這樣可以保證行列均不重複。

此種排列的狀態空間為8!=40,320. 

區域性極值和全域性最值的理解：

全域性最值，是對於每一個搜尋問題需要找到的最終結果。對於不同的問題，其問題的離散/連續性可能不同，解的數量、狀態分佈也不相同。皇后問題本身是一個離散問題（解的狀態空間數量是有限個數的，雖然解空間總規模可能非常大），且解的數量也是巨大的。至少對於8皇后，不存在唯一的狀態。後續執行程式可知，在不考慮翻轉、旋轉等價的情況下，有92組互不相同的解。即在橫縱均不重合的40,320規模的狀態空間（或在更大範圍的狀態空間中）有92組全域性最值。

區域性極值，是我們通過某種途徑趨向全域性最值時經過的、不能再用當前演算法得出相對更進一步的結果（而必須由重啟、重新打亂而繼續開始一次新的搜尋）時，“卡住”的狀態。

圖 3 搜尋路徑與全域性最優、區域性最優的關係

（state space為構成搜尋路徑的n維解空間的子集，objective function為目標函式）

對於同一個問題，我們考慮f(x1, x2, …, xi, …, xn)=K的目標函式，希望通過啟發式搜尋的方式尋找全域性K的最優值，即在n維解空間上，我們得到由目標函式f(.)決定的決策-目標曲面。在這個n+1維曲面S(X<x1, x2, …, xn>, K)上，不同的約束條件和演算法就相當於通過不同的n維路徑Ls<x1s, x2s, …, xns>去逼近全域性最優K.

其中Ls是某種啟發式搜尋演算法的搜尋路徑，對於特定的搜尋演算法，Ls是n維解狀態空間的有向路徑。記Ls上的每一步解為Xj, 並設該條路徑從某一初始狀態X0出發，經過p步可以到達全域性或區域性最優值（其中任意Xj都是n維狀態空間上的點），則該路徑Ls可以表示為Ls={X0, X1, …, Xj, …, Xp}. 由於狀態空間的不平整性，顯然通過不同的演算法定義到的區域性最優解（區域性極值）也是不同的。

注意⚠這裡的定義包括後續目標函式的定義、估值函式的定義、最終的求解目的等等

Evaluation function

估值函式：

對於啟發式搜尋，我們需要在巨大的解的狀態空間中儘可能快地找出儘可能多的全域性最優解，這就需要我們在做每一步選擇（選擇繼續擴大解的已知範圍，使之儘快鋪展至n維或跳轉至下一個解的暫留狀態）時，能有效評判該解對於“發現最優解”這一目的的貢獻意義的函式。或者我們也可以這樣理解：搜尋演算法在在搜尋路徑的每一個解Xj停留時，並不知道該解是否處於到達全域性最優的必經路徑上，因此搜算演算法會根據一個估值函式，對“該步操作可以到達全域性最優或區域性最優”這一事件做出概率分析。當搜尋路徑Ls走到Xj-1這一步時，會對所有可能的後續狀態集合{Xj’|Xj’=Xj’1, Xj’2,…}進行估值，最後選出估值最大的一個Xj’作為Xj下一步。後續也據此方法繼續走下去。

當最終走到某一步，估值函式對所有可能的後繼都沒有最優估值或正向估值時，就說明搜尋路徑已經到達極值。此時檢查目標函式K即可判斷當前解是否是全域性最優。

需要說明的是，對於全域性最優，我們也可以有不同的定義方法。在本問題中，我們選擇用“衝突行、列或斜線上棋子數減一”表示衝突情況，即當某行、列或斜線上皇后棋子數目為0個或1個時，認為沒有衝突；皇后棋子數目為2個及以上時，認為衝突數是皇后數目-1. 

圖 4 估值函式

當發現兩列(i, j) 可以被操作時，我們通過計算“交換後”與“交換前”兩種狀態（兩個不同的解的停留點）之間目標函式即總衝突數的變化量，判斷該步操作是否應被執行。其中我們考慮了交換前的(i, j)兩列處於左斜向衝突（交換後存在右斜向衝突）、右斜向衝突（交換後存在左斜向衝突）、無衝突（交換後彼此依然無衝突）三種情況。 

圖 5 目標函式定義，顯然Collision=0時取得全域性最優解

Main Algorithm

狀態空間壓縮：

我們選擇交換不重複的列來完成全域性最優的搜尋結果，這樣可以在本身就比較小的狀態空間（40,320種）範圍內得出結果。並且對於全域性最優來說，由於所有的全域性最優解均包含在該狀態空間中，全域性最優的分佈率也最高。

重啟策略：

初始化時生成1到8的升序列並進行時間複雜度O(n)的遍歷，每次隨機出一個位置，將其與當前掃到的位置做一次交換。之後每次重啟僅對現有列進行一次隨機交換即可得到一個新的解空間上的X0作為新的一條搜尋路徑Ls的起點。

搜尋策略： 

圖 6 主要搜尋方法

用兩個主要變數控制搜尋程序：

int EFT用來衡量每次可交換列的對(i, j)交換後的估值函式值；

bool moveOn判斷當前迴圈是否有效，即是否有正向估值產生。

每當一步搜尋不能產生正向估值，即無論如何移動也不能使總的衝突數減小時，一個新的區域性極值就可能被找到了。這時我們若判斷出總衝突數降至0則可以進一步說明這個極值也是一個全域性最優。

Local search strategy

貪心與模擬退火：

爬山問題中，我們判斷當前搜尋方向是否還會繼續趨向於更大值。若當前搜尋方向上不再出現上升態勢，搜尋會停止並駐留在當前解上（即區域性最優解），所以爬山策略是一種嚴格貪心演算法，不保證可以找到全域性最優。

模擬退火演算法正是通過增加一定機率的反向跳轉趨勢，使得搜尋位置得以“逃脫”區域性最優，獲得移動到全域性最優的可能；通過控制反向跳轉機率的收斂，使得解有更大可能性最終停留在全域性最優解上。

區域性搜尋策略：

皇后問題中，區域性最優解的分佈較為稠密，全域性最優解的比例也相對較高。這使得模擬退火等一般意義上的概率收斂不一定能取得較好的效果。

Simple Statistic

簡單統計結果：

下面給一個執行的例子 

50000次執行求出最優解，平均每個最優解的求得只需要2.6次重啟，即經過2.6個區域性最優解到達了全域性最優；啟動最多的也只有25次；平均耗時極短。  

程式打印出的一些區域性極值示意圖

ps. 最近新開通了部落格 會放一些學習過程中的心得體會（和一些作業或者報告）

如果你覺得有用，歡迎分享，謝謝！