1. 程式人生 > >求解線上聯立線性方程組的有限時間收斂動力學系統總結

求解線上聯立線性方程組的有限時間收斂動力學系統總結

本文根據《A finite-time convergent dynamic system for solving online simultaneous linear equations》做的總結。

該文與基於梯度的動力系統和張動力系統做比較,提出了有限時間收斂動力系統,該系統可以在有限時間收斂,而前兩者只能在無限時間收斂,可能減少在實時處理領域中的使用。

求解線上聯立線性方程組廣泛的在科學和工程領域遇到,因此,已經開發了許多用於聯立線性方程的數值解的迭代演算法。由與序列處理演算法的時間複雜度為O(n^3),在大規模線上應用中可能不夠高效。這是因為當應用於大規模線上應用問題的線上解決方案時,這些相關的迭代數值演算法應該在每個取樣週期內完成,並且當取樣率太高而演算法無法在單個取樣週期內完成計算時演算法失敗。近些年來,由於動力學方法有高速度的並行處特點和潛在的硬體實施特點,在求解線上線性方程時被視為最佳選擇。

聯立線性方程式:

A(x)-b=0;

一、基於梯度動力系統:(無限時間)

1:定義一個基於平方的能量函式,當且僅當聯立線性方程的解x等於理論解x *時,才能實現其最小點。

2:沿著能量函式的負梯度下降方向演化,直到達到最小值。

設計引數γ> 0用於縮放收斂速度,上標T表示矩陣或向量的轉置;

3:基於負梯度的學習規則導致基於梯度的動態系統為,其中設計引數γ> 0用於調整基於梯度的動態系統的收斂率。 x(t),從初始狀態x(0)∈R開始,表示對應於理論解x *的神經狀態。

二、張動力系統(可用於解決線上時變問題和時不變問題)

與基於梯度動力系統不同,從基於梯度的動態系統來看,張動態系統通過定義無限的錯誤監控功能得到了好的引入。比梯度動力系統收斂效能好一些。

1:定義一個不定誤差函式  ;如果e(t)=0,理論解可以得到。

2:採用設計公式,使得隨著時間t的繼續,e(t)收斂於零。

 3:擴充套件設計公式,並考慮到,我們可以得到這樣一個隱式動力學模型,如

三、有限時間收斂動力學系統(增加一個特殊構造的啟用函式)

 

 

 定理:給定非奇異係數矩陣A∈Rn×n和向量b∈Rn,我們的模型(3)的狀態向量x(t)從任意隨機生成的初始狀態x(0)開始,有限時間收斂線性方程理論解。

 

其中e +(0)和e-(0)分別表示向量Ax(0)-b中的最大和最小元素。

證明:

為了便於說明,我們使用E(0)= Ax(0)-b代表誤差函式E(t)的初始值。 將e +(t)定義為E(t)中具有最大初始值e +(0)= max {E(0)}的元素; 並且將e-(t)定義為E(t)中具有最小初始值e-(0)= min {E(0)}的元素。

因此e-(0)<=ei(t)<=e +(0)。這意味著當e +(t)和e-(t)都達到零時,對於所有可能的i,ei(t)收斂到零。 換句話說,我們的模型(3)的收斂時間受到動力學e +(t)和e-(t)之間的較大的時間所限制,即tc <= max {tc +,tc-}其中tc +和tc - 分別表示e +(t)和e-(t)的動態的收斂時間。

這表示在時間段|e+(0)|1−r/γ (1 − r)時L(t)收斂到零.

t > |e+(0)|1−r/γ (1 − r)時e+(t)是零,tc+  <  |e+(0)|1−r/γ (1 − r)

t > |e−(0)|1−r/γ (1 − r)時e-(t)是零,tc−  <  |e−(0)|1−r/γ (1 − r)

所以得出結論:

這意味著我們的模型(3)的狀態向量x(t),從任何隨機生成的初始狀態x(0)開始,收斂到有限時間tc的線性方程的理論解。 另外,理論上誤差界限等於零。

收斂效能:基於梯度的動力系統 < 張動力系統 < 有限時間收斂動力系統。