演算法優化(1):基礎知識-凸集,單峰函式,擬凸函式與凸函式,函式凹凸性定義
阿新 • • 發佈:2018-12-02
本文筆記介紹我最近學習的演算法優化的基礎知識,有:
- 最優化問題的一般形式
- 約束問題的分類及形式
- 優化問題的分類
- 單峰函式(Unimodal function)的定義
- 擬凸函式(Quasiconvex function)的定義
- 凸集(convex set)與凸函式(convex function)的定義
- 函式凹凸性的定義(注意和凹凸函式的定義區別,下篇文章會講二者區別)
(1)最優化問題的一般形式是
注:x是優化過程中的最優變數;f(x)【目標函式】是標量;h(x)=0代表等式約束;g(x)<=0代表不等式約束
(2)約束問題可以分為兩類:無約束優化和約束優化,二者形式如下
注:目標函式f(x)與約束h(x)或g(x)均為線性函式時,問題為線性規劃;目標函式f(x)與約束h(x)或g(x)至少有一個是變數x的非線性函式時,問題為非線性規劃。
(3)一般情況下maximization問題是可以和minimization問題相互轉化的【取負數即可,x*代表最優變數】
(4)優化問題的分類主要有四類:線性規劃,二次規劃,凸優化,非線性規劃
(5)凸集定義【這是我的手寫筆記可能。。。稍微模糊了一點】
(6)單峰函式(Unimodal function)
先來看看老師給的定義
我翻譯一下,它的意思其實就是:
就是指一個函式如果在某個區間內有一個區域性最大值,那麼它就是在那個區間上的單峰函式,要注意是在某個區間上定義的喔!
(7)擬凸函式(Quasiconvex function)定義
如果沒看懂英文的話,看我下面的筆記:
例題裡面只有2圖不是擬凸函式
(8)凸函式(convex function)定義
下面的筆記,是我參考的袁亞湘老師的《最優化理論》裡面凸函式的定義
所以說從上面可以看出來,我們凸函式的圖形總是位於相應弦的下方的。
(9)函式的凹凸性
這是我考研的時候複習,當時複習到了函式的凹凸性(影象),要注意函式的凹凸性和凹凸函式的定義是不一樣的喔,別弄混了!
有一點很奇怪的是,中國關於凹凸函式的定義和國外是相反的,下篇文章我詳解一下這其中的奧妙,千萬不要弄混了!