1. 程式人生 > >【Matlab】優化工具箱使用詳解

【Matlab】優化工具箱使用詳解

一直知道Matlab的優化工具箱,可是一直都沒有學習,Matlab提供的功能主要有線性規劃、非線性規劃、極值問題等,這些也是比較常見的優化問題。

優化工具箱概述

1.MATLAB求解優化問題的主要函式

2.優化函式的輸入變數

使用優化函式或優化工具箱中其它優化函式時, 輸入變數見下表:

3. 優化函式的輸出變數下表:

4.控制引數options的設定

Options中常用的幾個引數的名稱、含義、取值如下:

(1)   Display: 顯示水平.取值為’off’時,不顯示輸出; 取值為’iter’時,顯示每次迭代的資訊;取值為’final’時,顯示最終結果.預設值為’final’.

(2)   MaxFunEvals: 允許進行函式評價的最大次數,取值為正整數.

(3)  MaxIter: 允許進行迭代的最大次數,取值為正整數

控制引數options可以通過函式optimset建立或修改。命令的格式如下:

(1) options=optimset(‘optimfun’)

   建立一個含有所有引數名,並與優化函式optimfun相關的預設值的選項結構options.

(2)options=optimset(‘param1’,value1,’param2’,value2,...)

   建立一個名稱為options的優化選項引數,其中指定的引數具有指定值,所有未指定的引數取預設值.

(3)options=optimset(oldops,‘param1’,value1,’param2’,

            value2,...)

   建立名稱為oldops的引數的拷貝,用指定的引數值修改oldops中相應的引數.

例:opts=optimset(‘Display’,’iter’,’TolFun’,1e-8)

  該語句建立一個稱為opts的優化選項結構,其中顯示引數設為’iter’, TolFun引數設為1e-8.

用Matlab解無約束優化問題

一元函式無約束優化問題

常用格式如下:

(1)x= fminbnd (fun,x1,x2)

(2)x= fminbnd (fun,x1,x2

 ,options)

(3)[x,fval]= fminbnd(...)

(4)[x,fval,exitflag]= fminbnd(...)

(5)[x,fval,exitflag,output]= fminbnd(...)

其中(3)、(4)、(5)的等式右邊可選用(1)或(2)的等式右邊。

   函式fminbnd的演算法基於黃金分割法和二次插值法,它要求目標函式必須是連續函式,並可能只給出區域性最優解。

例1 求在0<x<8中的最小值與最大值

主程式為wliti1.m:

        f='2*exp(-x).*sin(x)';

        fplot(f,[0,8]);         %作圖語句

        [xmin,ymin]=fminbnd (f, 0,8)

        f1='-2*exp(-x).*sin(x)';

        [xmax,ymax]=fminbnd (f1, 0,8)

執行結果:

          xmin = 3.9270        ymin = -0.0279

          xmax =  0.7854       ymax =  0.6448

例2  對邊長為3米的正方形鐵板,在四個角剪去相等的正方形以製成方形無蓋水槽,問如何剪法使水槽的容積最大?

先編寫M檔案fun0.m如下:

  function f=fun0(x)

  f=-(3-2*x).^2*x;

主程式為wliti2.m:

  [x,fval]=fminbnd('fun0',0,1.5);

  xmax=x

  fmax=-fval

運算結果為: xmax = 0.5000,fmax =2.0000.即剪掉的正方形的邊長為0.5米時水槽的容積最大,最大容積為2立方米.

2、多元函式無約束優化問題

標準型為min F(X)

命令格式為:

(1)x= fminunc(fun,X0 );或x=fminsearch(fun,X0 )

(2)x= fminunc(fun,X0 ,options);

     或x=fminsearch(fun,X0 ,options)

(3)[x,fval]= fminunc(...);

     或[x,fval]= fminsearch(...)

(4)[x,fval,exitflag]= fminunc(...);

     或[x,fval,exitflag]= fminsearch

(5)[x,fval,exitflag,output]= fminunc(...);

     或[x,fval,exitflag,output]= fminsearch(...)

說明:

•    fminsearch是用單純形法尋優. fminunc的演算法見以下幾點說明:

[1] fminunc為無約束優化提供了大型優化和中型優化演算法。由options中的引數LargeScale控制:

LargeScale=’on’(預設值),使用大型演算法

LargeScale=’off’(預設值),使用中型演算法

[2] fminunc為中型優化演算法的搜尋方向提供了4種演算法,由

    options中的引數HessUpdate控制:

HessUpdate=’bfgs’(預設值),擬牛頓法的BFGS公式;

HessUpdate=’dfp’,擬牛頓法的DFP公式;

HessUpdate=’steepdesc’,最速下降法

[3] fminunc為中型優化演算法的步長一維搜尋提供了兩種演算法,    由options中引數LineSearchType控制:

LineSearchType=’quadcubic’(預設值),混合的二次和三次多項式插值;

LineSearchType=’cubicpoly’,三次多項式插

•    使用fminunc和 fminsearch可能會得到區域性最優解.

例3 min f(x)=(4x12+2x22+4x1x2+2x2+1)*exp(x1)

1、編寫M-檔案 fun1.m:

    function f = fun1 (x)

    f = exp(x(1))*(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1);

 2、輸入M檔案wliti3.m如下:

       x0 = [-1, 1];

       x=fminunc(‘fun1’,x0);

       y=fun1(x)

3、執行結果:

       x=   0.5000     -1.0000

       y =   1.3029e-10

例4   Rosenbrock 函式 f(x1,x2)=100(x2-x122+(1-x1)2

      的最優解(極小)為x*=(1,1),極小值為f*=0.試用

      不同演算法(搜尋方向和步長搜尋)求數值最優解.

          初值選為x0=(-1.2 , 2).

1.為獲得直觀認識,先畫出Rosenbrock  函式的三維圖形,

  輸入以下命令:

     [x,y]=meshgrid(-2:0.1:2,-1:0.1:3);

     z=100*(y-x.^2).^2+(1-x).^2;

     mesh(x,y,z)

2. 畫出Rosenbrock  函式的等高線圖,輸入命令:

     contour(x,y,z,20)

     hold on

     plot(-1.2,2,' o ');

     text(-1.2,2,'start point')

     plot(1,1,'o')

     text(1,1,'solution')

3.用fminsearch函式求解

輸入命令:

   f='100*(x(2)-x(1)^2)^2+(1-x(1))^2';

   [x,fval,exitflag,output]=fminsearch(f, [-1.2 2])

執行結果:

       x =1.0000    1.0000

fval =1.9151e-010

exitflag = 1

output =

             iterations: 108

             funcCount: 202

            algorithm: 'Nelder-Mead simplex direct search'

4. 用fminunc 函式

(1)建立M-檔案fun2.m

          function f=fun2(x)

          f=100*(x(2)-x(1)^2)^2+(1-x(1))^2

(2)主程式wliti44.m

Rosenbrock函式不同演算法的計算結果

可以看出,最速下降法的結果最差.因為最速下降法特別不適合於從一狹長通道到達最優解的情況.

例5  產銷量的最佳安排

    某廠生產一種產品有甲、乙兩個牌號,討論在產銷平衡的情況下如何確定各自的產量,使總利潤最大. 所謂產銷平衡指工廠的產量等於市場上的銷量.

   符號說明

z(x1,x2)表示總利潤;

p1,q1,x1分別表示甲的價格、成本、銷量;

p2,q2,x2分別表示乙的價格、成本、銷量;

    aij,bi,λi,ci(i,j =1,2)是待定係數.

基本假設

1.價格與銷量成線性關係

利潤既取決於銷量和價格,也依賴於產量和成本。按照市場規律,

甲的價格p1會隨其銷量x1的增長而降低,同時乙的銷量x2的增長也

會使甲的價格有稍微的下降,可以簡單地假設價格與銷量成線性關係,

即:   p1 = b1 - a11 x1 - a12 x2 ,b1,a11,a12 > 0,且a11 > a12

同理, p2 = b2 - a21 x1- a22 x2 ,b2,a21,a22 > 0

2.成本與產量成負指數關係

甲的成本隨其產量的增長而降低,且有一個漸進值,可以假設為

負指數關係,即:

同理,   

模型建立

總利潤為: z(x1,x2)=(p1-q1)x1+(p2-q2)x2

若根據大量的統計資料,求出係數b1=100,a11=1,a12=0.1,b2=280,

a21=0.2,a22=2,r1=30,λ1=0.015,c1=20, r2=100,λ2=0.02,c2=30,則

問題轉化為無約束優化問題:求甲,乙兩個牌號的產量x1,x2,使

總利潤z最大.

為簡化模型,先忽略成本,並令a12=0,a21=0,問題轉化為求:

        z1 = ( b1 - a11x1 ) x1 + ( b2 - a22x2 ) x2

的極值. 顯然其解為x1 = b1/2a11 = 50, x2 = b2/2a22 = 70,

我們把它作為原問題的初始值.

模型求解

1.建立M-檔案fun.m: 

      function f = fun(x)

      y1=((100-x(1)- 0.1*x(2))-(30*exp(-0.015*x(1))+20))*x(1);

      y2=((280-0.2*x(1)- 2*x(2))-(100*exp(-0.02*x(2))+30))*x(2);

      f=-y1-y2;

2.輸入命令:

      x0=[50,70];

      x=fminunc(‘fun’,x0),

      z=fun(x)

3.計算結果:

      x=23.9025, 62.4977,  z=6.4135e+003

  即甲的產量為23.9025,乙的產量為62.4977,最大利潤為6413.5.

 二次規劃

用MATLAB軟體求解,其輸入格式如下:

   1.      x=quadprog(H,C,A,b);

   2.      x=quadprog(H,C,A,b,Aeq,beq);

   3.      x=quadprog(H,C,A,b,Aeq,beq,VLB,VUB);

   4.      x=quadprog(H,C,A,b, Aeq,beq ,VLB,VUB,X0);

   5.      x=quadprog(H,C,A,b, Aeq,beq ,VLB,VUB,X0,options);

   6.      [x,fval]=quaprog(...);

   7.      [x,fval,exitflag]=quaprog(...);

   8.      [x,fval,exitflag,output]=quaprog(...);

例1    min f(x1,x2)=-2x1-6x2+x12-2x1x2+2x22

         s.t.   x1+x2≤2

                -x1+2x2≤2

                x1≥0, x2≥0

1、寫成標準形式:

2、 輸入命令

     H=[1 -1; -1 2];

      c=[-2 ;-6];A=[1 1; -1 2];b=[2;2];

      Aeq=[];beq=[]; VLB=[0;0];VUB=[];

      [x,z]=quadprog(H,c,A,b,Aeq,beq,VLB,VUB)

3、運算結果為:

     x =0.6667  1.3333   z = -8.2222

一般非線性規劃

標準型為:

   min F(X)

        s.t AX<=b       G(X)

            Ceq(X)=0    VLBXVUB

其中Xn維變元向量,G(X)Ceq(X)均為非線性函式組成的向量,其它變數的含義與線性規劃、二次規劃中相同.用Matlab求解上述問題,基本步驟分三步:

1. 首先建立M檔案fun.m,定義目標函式F(X):

function f=fun(X);

f=F(X);

2. 若約束條件中有非線性約束:G(X)Ceq(X)=0,則建立M檔案nonlcon.m定義函式G(X)與Ceq(X):

function [G,Ceq]=nonlcon(X)

G=...

Ceq=...

3. 建立主程式.非線性規劃求解的函式是fmincon,命令的基本格式如下:

       (1)  x=fmincon(‘fun’,X0,A,b)

 (2)  x=fmincon(‘fun’,X0,A,b,Aeq,beq)

 (3)  x=fmincon(‘fun’,X0,A,b, Aeq,beq,VLB,VUB)

 (4) x=fmincon(‘fun’,X0,A,b,Aeq,beq,VLB,VUB,’nonlcon’)

(5)x=fmincon(‘fun’,X0,A,b,Aeq,beq,VLB,VUB,’nonlcon’,options)  

 (6) [x,fval]= fmincon(...)

 (7) [x,fval,exitflag]= fmincon(...)

  (8)[x,fval,exitflag,output]= fmincon(...)

注意:

[1] fmincon函式提供了大型優化演算法和中型優化演算法。預設時,若在fun函式中提供了梯度(options引數的GradObj設定為’on’),並且只有上下界存在或只有等式約束,fmincon函式將選擇大型演算法。當既有等式約束又有梯度約束時,使用中型演算法。

[2] fmincon函式的中型演算法使用的是序列二次規劃法。在每一步迭代中求解二次規劃子問題,並用BFGS法更新拉格朗日Hessian矩陣。

[3] fmincon函式可能會給出區域性最優解,這與初值X0的選取有關。

例2

s.t.

2、先建立M-檔案 fun3.m:

    function f=fun3(x);

    f=-x(1)-2*x(2)+(1/2)*x(1)^2+(1/2)*x(2)^2

3、再建立主程式youh2.m:

        x0=[1;1];

     A=[2 3 ;1 4]; b=[6;5];

     Aeq=[];beq=[];

     VLB=[0;0]; VUB=[];

   [x,fval]=fmincon('fun3',x0,A,b,Aeq,beq,VLB,VUB)

4、運算結果為:

   x = 0.7647       1.0588

   fval =   -2.0294

例3

1.先建立M檔案 fun4.m,定義目標函式:

      function f=fun4(x);  

      f=exp(x(1))

       *(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1);

2.再建立M檔案mycon.m定義非線性約束:

      function [g,ceq]=mycon(x)

      g=[x(1)+x(2);1.5+x(1)*x(2)-x(1)-x(2);-x(1)*x(2)-10];

3.主程式youh3.m為:

x0=[-1;1];

A=[];b=[];

Aeq=[1 1];beq=[0];

vlb=[];vub=[];

[x,fval]=fmincon('fun4',x0,A,b,Aeq,beq,vlb,vub,'mycon')

3. 運算結果為:

       x = -1.2250    1.2250

       fval = 1.8951

例4.資金使用問題

設有400萬元資金, 要求4年內使用完, 若在一年內使用資金x萬元, 則可得效益萬元(效益不能再使用),當年不用的資金可存入銀行, 年利率為10%. 試製定出資金的使用計劃, 以使4年效益之和為最大.

設變量表示第i年所使用的資金數,則有

1.先建立M檔案 fun44.m,定義目標函式:

       function f=fun44(x)

       f=-(sqrt(x(1))+sqrt(x(2))+sqrt(x(3))+sqrt(x(4)));

2.再建立M檔案mycon1.m定義非線性約束:

      function [g,ceq]=mycon1(x)

      g(1)=x(1)-400;

g(2)=1.1*x(1)+x(2)-440;

g(3)=1.21*x(1)+1.1*x(2)+x(3)-484;

g(4)=1.331*x(1)+1.21*x(2)+1.1*x(3)+x(4)-532.4;

ceq=0

3.主程式youh4.m為:

x0=[1;1;1;1];vlb=[0;0;0;0];vub=[];A=[];b=[];Aeq=[];beq=[];

[x,fval]=fmincon('fun44',x0,A,b,Aeq,beq,vlb,vub,'mycon1')

得到

線性規劃問題

線性規劃問題是目標函式和約束條件均為線性函式的問題,MATLAB6.0 解決的線性規劃問題的標準形式為:

min f(x)

sub.to:

          x A ≤b ⋅  x Aeq = beq⋅ ub≤ x≤ lb 

其中 f、x、b、beq、lb、ub 為向量,A、Aeq 為矩陣。其它形式的線性規劃問題都可經過適當變換化為此標準形式。

x = linprog(f,A,b,Aeq,beq,lb,ub,x0)      %設定初值 x0

“半無限”有約束的多元函式最優解

x  =  fseminf(fun,x0,ntheta,seminfcon)
x = fseminf(fun,x0,ntheta,seminfcon,A,b)
x = fseminf(fun,x0,ntheta,seminfcon,A,b,Aeq,beq)
x = fseminf(fun,x0,ntheta,seminfcon,A,b,Aeq,beq,lb,ub)
x = fseminf(fun,x0,ntheta,seminfcon,A,b,Aeq,beq,lb,ub,options)
[x,fval] = fseminf(⋯)
[x,fval,exitflag] = fseminf(⋯)
[x,fval,exitflag,output] = fseminf(⋯)
[x,fval,exitflag,output,lambda] = fseminf(⋯)

極小化極大問題

例子:

最小二乘最優問題

約束線性最小二乘

非線性資料擬合

非線性最小二乘

非負線性最小二乘

非線性方程的解


非線性方程的標準形式為 f(x)=0
函式    fzero
格式    x  =  fzero  (fun,x0)      %用 fun 定義表示式 f(x),x0 為初始解。
x = fzero (fun,x0,options)
[x,fval] = fzero(⋯)          %fval=f(x)
[x,fval,exitflag] = fzero(⋯)

[x,fval,exitflag,output] = fzero(⋯)
說明    該函式採用數值解求方程 f(x)=0 的根。

非線性方程組的解


非線性方程組的標準形式為:F(x) = 0
其中:x 為向量,F(x)為函式向量。
函式    fsolve
格式    x  =  fsolve(fun,x0)      %用 fun  定義向量函式,其定義方式為:先定義方程函式
function F = myfun (x)。
F =[表示式 1;表示式 2;⋯表示式 m]      %儲存為 myfun.m,並用下面方式呼叫:
x = fsolve(@myfun,x0),x0 為初始估計值。
x = fsolve(fun,x0,options)
[x,fval] = fsolve(⋯)          %fval=F(x),即函式值向量
[x,fval,exitflag] = fsolve(⋯)
[x,fval,exitflag,output] = fsolve(⋯)
[x,fval,exitflag,output,jacobian] = fsolve(⋯)      %  jacobian 為解 x 處的 Jacobian 陣。