0123數學-向量-梯度-梯度下降
向量Vector
向量就是有方向的數量。
我們日常使用的數字都是一維的，就是說只有一個x方向，越往右數字越大。同樣可以說，任意一個數字都表示了這個方向上的一個位置。 只有一個方向的一般不叫向量而叫標量 。
但在二維平面中要表示一個點，就需要橫向和豎向兩個數字了。
上圖可以換一個用箭頭表示的方法，你會發現神奇的規律。
圖中線段a'是由線段a向右平移2向上平移1複製得到的，b'是由b平移複製得到的，這樣就得到一個平行四邊形，而右上角的點的x、y位置肯定相當於A、B兩個點x和y分別相加的結果，即A+B。
(1,3)這樣用兩個數字表示平面上一個點，或者說表示從(0,0)出發到這個點的一個箭頭。這樣的有兩個方向的數字組合成為 二維向量 。
思考題：你能想象由x,y,z三個數字組成的三維向量的影象含義嗎？三維空間兩個向量點相加結果，是否也會等於每個方向上的數字相加呢？
梯度 
Gradient
回到上節講到的偏微分影象，如下圖。
兩條綠色短線分別表示A點在x方向上和y方向上的兩個切線的斜率值，而紅色箭頭所指的就是x、y方向上兩個斜率值相加的結果。
這個紅色箭頭意味著什麼？
如果整個紅橙色兜形曲面表示一個山坳，那麼你站在A點，紅色箭頭就指向你面前最陡峭的山坡方向，相反，你沿著紅色箭頭反方向前進，就是下坡最快的的方向。
這個紅色箭頭表示的方向就叫做 梯度，它是指各變數方向偏微分導數（斜率）向量之和，用梯度符號 ['næblə]表示 。
梯度下降Gradient Descent
繼續上面的梯度問題，我們如何快速走到山坳最低點（黑色區域最黑處）？
在曲面上任選一個點A，然後我們不斷沿著 負梯度 的方向前進，變化x、y值，一步步下去就可以快速走到山坳。
這種 沿著負梯度不斷前進，從而找到豎向z值最低點的方法就叫做梯度下降 ，這是機器學習和神經網路最初演算法的數學核心概念。
每個人的智慧新時代
如果您發現文章錯誤，請不吝留言指正；
如果您覺得有用，請點喜歡；
如果您覺得很有用，歡迎轉載~
END