1. 程式人生 > >二次規劃(quadratic programming)

二次規劃(quadratic programming)

1定義

二次規劃是指,帶有二次型目標函式和約束條件的最優化問題。
二次規劃的一般形式可以表示為,如下圖1式子。
這裡寫圖片描述
公式 1
其中G是Hessian矩陣,τ是有限指標集,c,x和{ai},都是R中的向量。
如果Hessian矩陣是半正定的,則我們說式 1是一個凸二次規劃,存在全域性最優解;
如果Hessian矩陣是正定的,則存在全域性唯一最優解;
如果Hessian矩陣是非正定的,則為非凸二次規劃,存在多個平穩點和區域性極小值點。

2 小知識

2.1 正定矩陣

設A是n階實對稱矩陣, 如果對任意一非零實向量X,都使二次型

f(X)=XTMX>0,
則稱f(X)為正定二次型,矩陣A稱為正定矩陣(Positive Definite)。

2.2 Hessian矩陣

suppose f : Rn → ℝ is a function taking as input a vector x ∈ Rn and outputting a scalar f(x) ∈ ℝ; if all second partial derivatives of f exist and are continuous over the domain of the function, then the Hessian matrix H of f is a square n×n matrix, usually defined and arranged as follows:
圖片名稱
or, component-wise:
圖片名稱


簡單記憶:Hessian矩陣就是二階偏導數構成的對稱矩陣。