1. 程式人生 > >演算法優化(1):基礎知識-凸集,單峰函式,擬凸函式與凸函式,函式凹凸性定義

演算法優化(1):基礎知識-凸集,單峰函式,擬凸函式與凸函式,函式凹凸性定義

本文筆記介紹我最近學習的演算法優化的基礎知識,有:

  • 最優化問題的一般形式
  • 約束問題的分類及形式
  • 優化問題的分類
  • 單峰函式(Unimodal function)的定義
  • 擬凸函式(Quasiconvex function)的定義
  • 凸集(convex set)與凸函式(convex function)的定義
  • 函式凹凸性的定義(注意和凹凸函式的定義區別,下篇文章會講二者區別)

(1)最優化問題的一般形式是
最優化問題的一般形式

注:x是優化過程中的最優變數;f(x)【目標函式】是標量;h(x)=0代表等式約束;g(x)<=0代表不等式約束

(2)約束問題可以分為兩類:無約束優化和約束優化,二者形式如下
約束分類
注:目標函式f(x)與約束h(x)或g(x)均為線性函式時,問題為線性規劃;目標函式f(x)與約束h(x)或g(x)至少有一個是變數x的非線性函式時,問題為非線性規劃。

(3)一般情況下maximization問題是可以和minimization問題相互轉化的【取負數即可,x*代表最優變數】
問題轉化
(4)優化問題的分類主要有四類:線性規劃,二次規劃,凸優化,非線性規劃
優化問題分類

(5)凸集定義【這是我的手寫筆記可能。。。稍微模糊了一點】
凸集定義
(6)單峰函式(Unimodal function)
先來看看老師給的定義
單峰函式
我翻譯一下,它的意思其實就是:
我的筆記單峰函式


就是指一個函式如果在某個區間內有一個區域性最大值,那麼它就是在那個區間上的單峰函式,要注意是在某個區間上定義的喔!

(7)擬凸函式(Quasiconvex function)定義
擬凸
如果沒看懂英文的話,看我下面的筆記:
例題裡面只有2圖不是擬凸函式
擬凸函式

(8)凸函式(convex function)定義
凸函式定義
凸函式繪圖
下面的筆記,是我參考的袁亞湘老師的《最優化理論》裡面凸函式的定義
筆記凸函式
所以說從上面可以看出來,我們凸函式的圖形總是位於相應弦的下方的。

(9)函式的凹凸性
這是我考研的時候複習,當時複習到了函式的凹凸性(影象),要注意函式的凹凸性和凹凸函式的定義是不一樣的喔,別弄混了!
函式凹凸性
有一點很奇怪的是,中國關於凹凸函式的定義和國外是相反的,下篇文章我詳解一下這其中的奧妙,千萬不要弄混了!