【Matlab】優化工具箱使用詳解
一直知道Matlab的優化工具箱,可是一直都沒有學習,Matlab提供的功能主要有線性規劃、非線性規劃、極值問題等,這些也是比較常見的優化問題。
優化工具箱概述
1.MATLAB求解優化問題的主要函式
2.優化函式的輸入變數
使用優化函式或優化工具箱中其它優化函式時, 輸入變數見下表:
3. 優化函式的輸出變數下表:
4.控制引數options的設定
Options中常用的幾個引數的名稱、含義、取值如下:
(1) Display: 顯示水平.取值為’off’時,不顯示輸出; 取值為’iter’時,顯示每次迭代的資訊;取值為’final’時,顯示最終結果.預設值為’final’.
(2) MaxFunEvals: 允許進行函式評價的最大次數,取值為正整數.
(3) MaxIter: 允許進行迭代的最大次數,取值為正整數
控制引數options可以通過函式optimset建立或修改。命令的格式如下:
(1) options=optimset(‘optimfun’)
建立一個含有所有引數名,並與優化函式optimfun相關的預設值的選項結構options.
(2)options=optimset(‘param1’,value1,’param2’,value2,...)
建立一個名稱為options的優化選項引數,其中指定的引數具有指定值,所有未指定的引數取預設值.
(3)options=optimset(oldops,‘param1’,value1,’param2’,
value2,...)
建立名稱為oldops的引數的拷貝,用指定的引數值修改oldops中相應的引數.
例:opts=optimset(‘Display’,’iter’,’TolFun’,1e-8)
該語句建立一個稱為opts的優化選項結構,其中顯示引數設為’iter’, TolFun引數設為1e-8.
用Matlab解無約束優化問題
一元函式無約束優化問題
常用格式如下:
(1)x= fminbnd (fun,x1,x2)
(2)x= fminbnd (fun,x1,x2
(3)[x,fval]= fminbnd(...)
(4)[x,fval,exitflag]= fminbnd(...)
(5)[x,fval,exitflag,output]= fminbnd(...)
其中(3)、(4)、(5)的等式右邊可選用(1)或(2)的等式右邊。
函式fminbnd的演算法基於黃金分割法和二次插值法,它要求目標函式必須是連續函式,並可能只給出區域性最優解。
例1 求在0<x<8中的最小值與最大值
主程式為wliti1.m:
f='2*exp(-x).*sin(x)';
fplot(f,[0,8]); %作圖語句
[xmin,ymin]=fminbnd (f, 0,8)
f1='-2*exp(-x).*sin(x)';
[xmax,ymax]=fminbnd (f1, 0,8)
執行結果:
xmin = 3.9270 ymin = -0.0279
xmax = 0.7854 ymax = 0.6448
例2 對邊長為3米的正方形鐵板,在四個角剪去相等的正方形以製成方形無蓋水槽,問如何剪法使水槽的容積最大?
先編寫M檔案fun0.m如下:
function f=fun0(x)
f=-(3-2*x).^2*x;
主程式為wliti2.m:
[x,fval]=fminbnd('fun0',0,1.5);
xmax=x
fmax=-fval
運算結果為: xmax = 0.5000,fmax =2.0000.即剪掉的正方形的邊長為0.5米時水槽的容積最大,最大容積為2立方米.
2、多元函式無約束優化問題
標準型為:min F(X)
命令格式為:
(1)x= fminunc(fun,X0 );或x=fminsearch(fun,X0 )
(2)x= fminunc(fun,X0 ,options);
或x=fminsearch(fun,X0 ,options)
(3)[x,fval]= fminunc(...);
或[x,fval]= fminsearch(...)
(4)[x,fval,exitflag]= fminunc(...);
或[x,fval,exitflag]= fminsearch
(5)[x,fval,exitflag,output]= fminunc(...);
或[x,fval,exitflag,output]= fminsearch(...)
說明:
• fminsearch是用單純形法尋優. fminunc的演算法見以下幾點說明:
[1] fminunc為無約束優化提供了大型優化和中型優化演算法。由options中的引數LargeScale控制:
LargeScale=’on’(預設值),使用大型演算法
LargeScale=’off’(預設值),使用中型演算法
[2] fminunc為中型優化演算法的搜尋方向提供了4種演算法,由
options中的引數HessUpdate控制:
HessUpdate=’bfgs’(預設值),擬牛頓法的BFGS公式;
HessUpdate=’dfp’,擬牛頓法的DFP公式;
HessUpdate=’steepdesc’,最速下降法
[3] fminunc為中型優化演算法的步長一維搜尋提供了兩種演算法, 由options中引數LineSearchType控制:
LineSearchType=’quadcubic’(預設值),混合的二次和三次多項式插值;
LineSearchType=’cubicpoly’,三次多項式插
• 使用fminunc和 fminsearch可能會得到區域性最優解.
例3 min f(x)=(4x12+2x22+4x1x2+2x2+1)*exp(x1)
1、編寫M-檔案 fun1.m:
function f = fun1 (x)
f = exp(x(1))*(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1);
2、輸入M檔案wliti3.m如下:
x0 = [-1, 1];
x=fminunc(‘fun1’,x0);
y=fun1(x)
3、執行結果:
x= 0.5000 -1.0000
y = 1.3029e-10
例4 Rosenbrock 函式 f(x1,x2)=100(x2-x12)2+(1-x1)2
的最優解(極小)為x*=(1,1),極小值為f*=0.試用
不同演算法(搜尋方向和步長搜尋)求數值最優解.
初值選為x0=(-1.2 , 2).
1.為獲得直觀認識,先畫出Rosenbrock 函式的三維圖形,
輸入以下命令:
[x,y]=meshgrid(-2:0.1:2,-1:0.1:3);
z=100*(y-x.^2).^2+(1-x).^2;
mesh(x,y,z)
2. 畫出Rosenbrock 函式的等高線圖,輸入命令:
contour(x,y,z,20)
hold on
plot(-1.2,2,' o ');
text(-1.2,2,'start point')
plot(1,1,'o')
text(1,1,'solution')
3.用fminsearch函式求解
輸入命令:
f='100*(x(2)-x(1)^2)^2+(1-x(1))^2';
[x,fval,exitflag,output]=fminsearch(f, [-1.2 2])
執行結果:
x =1.0000 1.0000
fval =1.9151e-010
exitflag = 1
output =
iterations: 108
funcCount: 202
algorithm: 'Nelder-Mead simplex direct search'
4. 用fminunc 函式
(1)建立M-檔案fun2.m
function f=fun2(x)
f=100*(x(2)-x(1)^2)^2+(1-x(1))^2
(2)主程式wliti44.m
Rosenbrock函式不同演算法的計算結果
可以看出,最速下降法的結果最差.因為最速下降法特別不適合於從一狹長通道到達最優解的情況.
例5 產銷量的最佳安排
某廠生產一種產品有甲、乙兩個牌號,討論在產銷平衡的情況下如何確定各自的產量,使總利潤最大. 所謂產銷平衡指工廠的產量等於市場上的銷量.
符號說明
z(x1,x2)表示總利潤;
p1,q1,x1分別表示甲的價格、成本、銷量;
p2,q2,x2分別表示乙的價格、成本、銷量;
aij,bi,λi,ci(i,j =1,2)是待定係數.
基本假設
1.價格與銷量成線性關係
利潤既取決於銷量和價格,也依賴於產量和成本。按照市場規律,
甲的價格p1會隨其銷量x1的增長而降低,同時乙的銷量x2的增長也
會使甲的價格有稍微的下降,可以簡單地假設價格與銷量成線性關係,
即: p1 = b1 - a11 x1 - a12 x2 ,b1,a11,a12 > 0,且a11 > a12;
同理, p2 = b2 - a21 x1- a22 x2 ,b2,a21,a22 > 0
2.成本與產量成負指數關係
甲的成本隨其產量的增長而降低,且有一個漸進值,可以假設為
負指數關係,即:
同理,
模型建立
總利潤為: z(x1,x2)=(p1-q1)x1+(p2-q2)x2
若根據大量的統計資料,求出係數b1=100,a11=1,a12=0.1,b2=280,
a21=0.2,a22=2,r1=30,λ1=0.015,c1=20, r2=100,λ2=0.02,c2=30,則
問題轉化為無約束優化問題:求甲,乙兩個牌號的產量x1,x2,使
總利潤z最大.
為簡化模型,先忽略成本,並令a12=0,a21=0,問題轉化為求:
z1 = ( b1 - a11x1 ) x1 + ( b2 - a22x2 ) x2
的極值. 顯然其解為x1 = b1/2a11 = 50, x2 = b2/2a22 = 70,
我們把它作為原問題的初始值.
模型求解
1.建立M-檔案fun.m:
function f = fun(x)
y1=((100-x(1)- 0.1*x(2))-(30*exp(-0.015*x(1))+20))*x(1);
y2=((280-0.2*x(1)- 2*x(2))-(100*exp(-0.02*x(2))+30))*x(2);
f=-y1-y2;
2.輸入命令:
x0=[50,70];
x=fminunc(‘fun’,x0),
z=fun(x)
3.計算結果:
x=23.9025, 62.4977, z=6.4135e+003
即甲的產量為23.9025,乙的產量為62.4977,最大利潤為6413.5.
二次規劃
用MATLAB軟體求解,其輸入格式如下:
1. x=quadprog(H,C,A,b);
2. x=quadprog(H,C,A,b,Aeq,beq);
3. x=quadprog(H,C,A,b,Aeq,beq,VLB,VUB);
4. x=quadprog(H,C,A,b, Aeq,beq ,VLB,VUB,X0);
5. x=quadprog(H,C,A,b, Aeq,beq ,VLB,VUB,X0,options);
6. [x,fval]=quaprog(...);
7. [x,fval,exitflag]=quaprog(...);
8. [x,fval,exitflag,output]=quaprog(...);
例1 min f(x1,x2)=-2x1-6x2+x12-2x1x2+2x22
s.t. x1+x2≤2
-x1+2x2≤2
x1≥0, x2≥0
1、寫成標準形式:
2、 輸入命令:
H=[1 -1; -1 2];
c=[-2 ;-6];A=[1 1; -1 2];b=[2;2];
Aeq=[];beq=[]; VLB=[0;0];VUB=[];
[x,z]=quadprog(H,c,A,b,Aeq,beq,VLB,VUB)
3、運算結果為:
x =0.6667 1.3333 z = -8.2222
一般非線性規劃
標準型為:
min F(X)
s.t AX<=b G(X)
Ceq(X)=0 VLBXVUB
其中X為n維變元向量,G(X)與Ceq(X)均為非線性函式組成的向量,其它變數的含義與線性規劃、二次規劃中相同.用Matlab求解上述問題,基本步驟分三步:
1. 首先建立M檔案fun.m,定義目標函式F(X):
function f=fun(X);
f=F(X);
2. 若約束條件中有非線性約束:G(X)或Ceq(X)=0,則建立M檔案nonlcon.m定義函式G(X)與Ceq(X):
function [G,Ceq]=nonlcon(X)
G=...
Ceq=...
3. 建立主程式.非線性規劃求解的函式是fmincon,命令的基本格式如下:
(1) x=fmincon(‘fun’,X0,A,b)
(2) x=fmincon(‘fun’,X0,A,b,Aeq,beq)
(3) x=fmincon(‘fun’,X0,A,b, Aeq,beq,VLB,VUB)
(4) x=fmincon(‘fun’,X0,A,b,Aeq,beq,VLB,VUB,’nonlcon’)
(5)x=fmincon(‘fun’,X0,A,b,Aeq,beq,VLB,VUB,’nonlcon’,options)
(6) [x,fval]= fmincon(...)
(7) [x,fval,exitflag]= fmincon(...)
(8)[x,fval,exitflag,output]= fmincon(...)
注意:
[1] fmincon函式提供了大型優化演算法和中型優化演算法。預設時,若在fun函式中提供了梯度(options引數的GradObj設定為’on’),並且只有上下界存在或只有等式約束,fmincon函式將選擇大型演算法。當既有等式約束又有梯度約束時,使用中型演算法。
[2] fmincon函式的中型演算法使用的是序列二次規劃法。在每一步迭代中求解二次規劃子問題,並用BFGS法更新拉格朗日Hessian矩陣。
[3] fmincon函式可能會給出區域性最優解,這與初值X0的選取有關。
例2
s.t.
2、先建立M-檔案 fun3.m:
function f=fun3(x);
f=-x(1)-2*x(2)+(1/2)*x(1)^2+(1/2)*x(2)^2
3、再建立主程式youh2.m:
x0=[1;1];
A=[2 3 ;1 4]; b=[6;5];
Aeq=[];beq=[];
VLB=[0;0]; VUB=[];
[x,fval]=fmincon('fun3',x0,A,b,Aeq,beq,VLB,VUB)
4、運算結果為:
x = 0.7647 1.0588
fval = -2.0294
例3
1.先建立M檔案 fun4.m,定義目標函式:
function f=fun4(x);
f=exp(x(1))
*(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1);
2.再建立M檔案mycon.m定義非線性約束:
function [g,ceq]=mycon(x)
g=[x(1)+x(2);1.5+x(1)*x(2)-x(1)-x(2);-x(1)*x(2)-10];
3.主程式youh3.m為:
x0=[-1;1];
A=[];b=[];
Aeq=[1 1];beq=[0];
vlb=[];vub=[];
[x,fval]=fmincon('fun4',x0,A,b,Aeq,beq,vlb,vub,'mycon')
3. 運算結果為:
x = -1.2250 1.2250
fval = 1.8951
例4.資金使用問題
設有400萬元資金, 要求4年內使用完, 若在一年內使用資金x萬元, 則可得效益萬元(效益不能再使用),當年不用的資金可存入銀行, 年利率為10%. 試製定出資金的使用計劃, 以使4年效益之和為最大.
設變量表示第i年所使用的資金數,則有
1.先建立M檔案 fun44.m,定義目標函式:
function f=fun44(x)
f=-(sqrt(x(1))+sqrt(x(2))+sqrt(x(3))+sqrt(x(4)));
2.再建立M檔案mycon1.m定義非線性約束:
function [g,ceq]=mycon1(x)
g(1)=x(1)-400;
g(2)=1.1*x(1)+x(2)-440;
g(3)=1.21*x(1)+1.1*x(2)+x(3)-484;
g(4)=1.331*x(1)+1.21*x(2)+1.1*x(3)+x(4)-532.4;
ceq=0
3.主程式youh4.m為:
x0=[1;1;1;1];vlb=[0;0;0;0];vub=[];A=[];b=[];Aeq=[];beq=[];
[x,fval]=fmincon('fun44',x0,A,b,Aeq,beq,vlb,vub,'mycon1')
得到
線性規劃問題
線性規劃問題是目標函式和約束條件均為線性函式的問題,MATLAB6.0 解決的線性規劃問題的標準形式為:
min f(x)
sub.to:
x A ≤b ⋅ x Aeq = beq⋅ ub≤ x≤ lb
其中 f、x、b、beq、lb、ub 為向量,A、Aeq 為矩陣。其它形式的線性規劃問題都可經過適當變換化為此標準形式。
x = linprog(f,A,b,Aeq,beq,lb,ub,x0) %設定初值 x0
“半無限”有約束的多元函式最優解
x = fseminf(fun,x0,ntheta,seminfcon)
x = fseminf(fun,x0,ntheta,seminfcon,A,b)
x = fseminf(fun,x0,ntheta,seminfcon,A,b,Aeq,beq)
x = fseminf(fun,x0,ntheta,seminfcon,A,b,Aeq,beq,lb,ub)
x = fseminf(fun,x0,ntheta,seminfcon,A,b,Aeq,beq,lb,ub,options)
[x,fval] = fseminf(⋯)
[x,fval,exitflag] = fseminf(⋯)
[x,fval,exitflag,output] = fseminf(⋯)
[x,fval,exitflag,output,lambda] = fseminf(⋯)
極小化極大問題
例子:
最小二乘最優問題
約束線性最小二乘
非線性資料擬合
非線性最小二乘
非負線性最小二乘
非線性方程的解
非線性方程的標準形式為 f(x)=0
函式 fzero
格式 x = fzero (fun,x0) %用 fun 定義表示式 f(x),x0 為初始解。
x = fzero (fun,x0,options)
[x,fval] = fzero(⋯) %fval=f(x)
[x,fval,exitflag] = fzero(⋯)
[x,fval,exitflag,output] = fzero(⋯)
說明 該函式採用數值解求方程 f(x)=0 的根。
非線性方程組的解
非線性方程組的標準形式為:F(x) = 0
其中:x 為向量,F(x)為函式向量。
函式 fsolve
格式 x = fsolve(fun,x0) %用 fun 定義向量函式,其定義方式為:先定義方程函式
function F = myfun (x)。
F =[表示式 1;表示式 2;⋯表示式 m] %儲存為 myfun.m,並用下面方式呼叫:
x = fsolve(@myfun,x0),x0 為初始估計值。
x = fsolve(fun,x0,options)
[x,fval] = fsolve(⋯) %fval=F(x),即函式值向量
[x,fval,exitflag] = fsolve(⋯)
[x,fval,exitflag,output] = fsolve(⋯)
[x,fval,exitflag,output,jacobian] = fsolve(⋯) % jacobian 為解 x 處的 Jacobian 陣。