PSO

演算法粒子群優化演算法 PSO

1. 常見的群體智慧優化演算法分類

常見的群體智慧優化演算法主要有如下幾類：

　　（1）蟻群演算法（Ant Colony Optimization，簡稱ACO）[1992年提出]；

　　（2）粒子群優化演算法（Particle Swarm Optimization，簡稱PSO）[1995年提出]（簡單易於實現，也是目前應用最為廣泛的群體智慧優化演算法）；

　　（3）菌群優化演算法（Bacterial Foraging Optimization，簡稱BFO）[2002年提出]；

　　（4）蛙跳演算法（Shuffled Frog Leading Algorithm，簡稱SFLA）[2003年提出]；

　　（5）人工蜂群演算法（Artificial Bee Colony Algorithm，簡稱ABC）[2005年提出]；

　　除了上述幾種常見的群體智慧演算法以外，還有一些並不是廣泛應用的群體智慧演算法，比如螢火蟲演算法、布穀鳥演算法、蝙蝠演算法以及磷蝦群演算法等等。

2. 粒子群優化演算法思想

　　粒子群優化演算法是在1995年由Eberhart博士和Kennedy博士一起提出的，它源於對鳥群捕食行為的研究。它的基本核心是利用群體中的個體對資訊的共享從而使得整個群體的運動在問題求解空間中產生從無序到有序的演化過程，從而獲得問題的最優解。我們可以利用一個有關PSO的經典描述來對PSO演算法進行一個直觀的描述。設想這麼一個場景：一群鳥進行覓食，而遠處有一片玉米地，所有的鳥都不知道玉米地到底在哪裡，但是它們知道自己當前的位置距離玉米地有多遠。那麼找到玉米地的最佳策略，也是最簡單有效的策略就是是搜尋目前距離玉米地最近的鳥群的周圍區域。PSO就是從這種群體覓食的行為中得到了啟示，從而構建的一種優化模型。

　　在PSO中，每個優化問題的解都是搜尋空間中的一隻鳥，稱之為“粒子”，而問題的最優解就對應為鳥群要尋找的“玉米地”。所有的粒子都具有一個位置向量（粒子在解空間的位置）和速度向量（決定下次飛行的方向和速度），並可以根據目標函式來計算當前的所在位置的適應值（fitness value），可以將其理解為距離“玉米地”的距離。在每次的迭代中，種群中的粒子除了根據自身的“經驗”（歷史位置）進行學習以外，還可以根據種群中最優粒子的“經驗”來學習，從而確定下一次迭代時需要如何調整和改變飛行的方向和速度。就這樣逐步迭代，最終整個種群的粒子就會逐步趨於最優解。

2.1 PSO的缺點

對於有多個區域性極值點的函式，容易陷入到區域性極值中，得不到正確的結果。此外，由於缺乏精密搜尋方法的配合，PSO往往得不到精確的結果。再則，PSO的方法提供了全域性搜尋的可能，但並不能嚴格證明它在全域性最優點上的收斂性。因此，PSO一般適用於一類高維的、存在多個區域性極值點而並不需要得到很高精度的優化問題。

2.2 PSO的優點

易於描述，易於理解
對優化問題定義的連續性無特殊要求
只有非常少的引數需要調整
演算法實現簡單，速度快
相對其他的演化演算法，只需要很少的的演化群體
演算法易於收斂，相比其他演化演算法，只需要較少的評價函式計算次數就可以達到收斂
無集中控制約束，不會因為個體的故障影響整個問題的求解，確保了系統具備很強的魯棒性

3. 粒子群優化演算法的基本框架

3.1 公式

在介紹PSO的演算法流程之前，我們寫給出PSO中常用的迭代運算元的形式。
在D維空間中，有N個粒子：
* $Xi=(xi1,xi2,...,xin)$ 代表粒子 $i$ 的位置向量
* $Vi=(vi1,vi2,...,vin)$ 代表粒子 $i$ 的速度向量（其中n為優化問題的維度大小）
* 粒子i個體經歷過的最好位置： $pbesti=(p_{i1},p_{i2},...,p_{iD})$
* 種群所經歷過的最好位置： $gbest=(g_{1}, g_{2}, ..., g)$
通常，在第 $d(1<=d<=D）$ 的位置變化範圍限定在 $[X_{min,d},X_{max,d}]$ 內。若在迭代中若 $V_{id}$ , $X_{id}$ 超出了邊界值，則該維的速度或位置被限制為該維最大速度或邊界位置。

最早版本的粒子群優化演算法的迭代運算元形式如下：

速度向量迭代公式：

Vk+1i=Vki+C1∗r1∗(Pkbesti−Xki)+C2∗r2∗(Pkgbest−Xki) $\begin{equation} V_{i}^{k+1} = V_{i}^{k} + C_{1}*r_{1}*(P_{besti}^{k} - X_{i}^{k}) + C_{2}*r_{2}*(P_{gbest}^{k} - X_{i}^{k}) \end{equation}$
位置向量迭代公式：

Xk+1i=Xki+r∗Vk+1i $\begin{equation} X_{i}^{k+1} = X_{i}^k + r*V_{i}^{k+1} \end{equation}$

其中在公式（1）中， $Pbesti$ 和 $Gbest$ 分別代表粒子 $i$ 的歷史最佳位置向量和種群歷史最佳位置向量。根據公式（1）可以看出，種群中的粒子通過不斷地向自身和種群的歷史資訊進行學習，從而可以找出問題的最優解。
　　但是，在後續的研究中表明，上述原始的公式中存在一個問題：公式（1）中 $Vi$ 的更新太具有隨機性，從而使得整個PSO演算法的全域性優化能力很強，但是區域性搜尋能力較差。而實際上，我們需要在演算法迭代初期PSO有著較強的全域性優化能力，而在演算法的後期，整個種群應該具有更強的區域性搜尋能力。所以根據上述的弊端， $Shi$ 和 $Eberhart$ 通過引入慣性權重修改了公式（1），從而提出了PSO的慣性權重模型：

Vk+1id=Wk+1id∗Vkid+C1∗r1∗(Pkbestid−Xkid)+C2∗r2∗(Pkgbestd−Xkid) $\begin{equation} V_{id}^{k+1} = W_{id}^{k+1}*V_{id}^{k} + C_{1}*r_{1}*(P_{bestid}^{k} - X_{id}^{k}) + C_{2}*r_{2}*(P_{gbestd}^{k} - X_{id}^{k}) \end{equation}$

Vk+1id $V_{id}^{k+1}$ - 第k+1次迭代粒子i飛行速度向量的第d維分量

Xk+1id $X_{id}^{k+1}$ - 第k+1次迭代粒子i位置向量的第d維分量

c1,c2 $c_{1},c_{2}$ - 加速度常數，調節學習最大步長

r1,r2 $r_{1},r_{2}$ - 兩個隨機函式，取值範圍[0, 1]，以增加搜尋隨機性

w $w$ - 慣性權重，非負數，調節對解空間的搜尋範圍

3.2 慣性權重

其中引數 $w$ 稱為是PSO的慣性權重（inertia weight），它的取值介於[0,1]區間，一般應用中均採取自適應的取值方法，即一開始令 $w=0.9$ ，使得 $PSO$ 全域性優化能力較強，隨著迭代的深入，引數 $w$ 進行遞減，從而使得 $PSO$ 具有較強的區域性優化能力，當迭代結束時， $w=0.1$ 。引數 $c1$ 和 $c2$ 稱為是學習因子（learn factor），一般設定為1.4961；而 $r1$ 和 $r2$ 為介於[0,1]之間的隨機概率值。

3.3 演算法流程

　整個粒子群優化演算法的演算法框架如下：

　　Step 1 種群初始化：可以進行隨機初始化或者根據被優化的問題設計特定的初始化方法
　　
　　Step 2 計算個體的適應度(Fitness)，適應度指的是目標函式的值
　　
　　Step 3 選擇出個體的區域性最優位置向量 Pb

PSO-粒子群優化演算法

PSO

1. 常見的群體智慧優化演算法分類

2. 粒子群優化演算法思想

2.1 PSO的缺點

2.2 PSO的優點

3. 粒子群優化演算法的基本框架

3.1 公式

3.2 慣性權重

3.3 演算法流程

PSO-粒子群優化演算法

粒子群優化演算法 PSO

粒子群優化演算法（PSO）簡介及MATLAB實現

matlab學習筆記（1）——粒子群優化演算法（PSO）的程式實現

粒子群優化演算法(PSO)之基於離散化的特徵選擇(FS)（二）

MATLAB粒子群優化演算法實現（PSO）

粒子群優化演算法

[Algorithm] 群體智慧優化演算法之粒子群優化演算法

[人工智慧] 粒子群優化演算法 & 差分進化演算法

遺傳演算法　差分進化演算法　粒子群優化演算法區別

粒子群優化演算法對BP神經網路優化 Matlab實現

標準粒子群優化(Particle Swarm Optimization, PSO)算法

粒子群優化算法PSO及matlab實現

基本粒子群優化演算法（PSO）的matlab實現

論文：基於粒子群優化的測試資料生成及其實證分析－－－－－生成過程以及實驗（計算機研究與發展）

叢集智慧-蟻群優化演算法

基於粒子群優化的分類特徵選擇：多目標方法

蟻群優化演算法的JAVA實現

優化演算法——粒子群演算法(PSO)

粒子群演算法(PSO,gbest與lbest)

PSO-粒子群優化演算法

PSO

1. 常見的群體智慧優化演算法分類

2. 粒子群優化演算法思想

2.1 PSO的缺點

2.2 PSO的優點

3. 粒子群優化演算法的基本框架

3.1 公式

3.2 慣性權重

3.3 演算法流程

相關推薦