2. 程式人生 > >Neural Networks and Deep Learning 學習筆記(十)

Neural Networks and Deep Learning 學習筆記(十)

阿新 • • 發佈：2019-01-26

MIT那本書不適合短平快的學習方式，轉戰Udacity裡基於Tensorflow的一個視訊教學

1. softmax的優勢

格式為

exi∑jexj
相比較xi∑jxj

假設原資料為

[3.0,1.0,0.2]
那麼經過softmax運算，則得到[0.8360188,0.11314284,0.05083836]
經過普通運算得到[0.714285,0.238095,0.047619]
看起來差不太多。

但是原資料×10後，差別就顯示出來了。

經過普通運算的原資料是沒有變化的。

[0.714285,0.238095,0.047619]

經過softmax運算前將原資料乘以10以後，softmax運算的結果為

[9.99999998
e−01,2.06115362e−09,6.91440009e−13]
顯而易見，最大的可能得到的結果幾乎為1，其它可能得到的結果幾乎為0，換句話說不是0就是1。

經過softmax運算前將原資料除以10以後，softmax運算的結果為

[0.38842275,0.31801365,0.2935636]
同樣顯而易見，他們幾乎相等，均勻分佈。

一個分類器開始的時候，需要對分類結果不要抱有太大信心，而在結束的時候要對分類結果抱有很大的信心，顯然softmax可以做到這一點。

2. One-hot encoding

就是說
[1,0,0,0,0]對應a
[0,1,0,0,0]對應b
[0,0,0,0,1]對應c
[0,0,1,0,0]對應d
[

0,0,0,1,0]對應e
注意後三個沒有寫錯。
每一排是結果向量，顯然形成了一一對應關係。

相關推薦

Neural Networks and Deep Learning 學習筆記(十)

MIT那本書不適合短平快的學習方式，轉戰Udacity裡基於Tensorflow的一個視訊教學 1. softmax的優勢 格式為exi∑jexj 相比較xi∑jxj 假設原資料為[3.0,1.0,0.2] 那麼經過softmax運算，則得到[

Neural Networks and Deep Learning學習筆記ch1 - 神經網絡

1.4 true ole 輸出 使用 .org ptr easy isp 近期開始看一些深度學習的資料。想學習一下深度學習的基礎知識。找到了一個比較好的tutorial，Neural Networks and Deep Learning，認真看完了之後覺

Neural Networks and Deep Learning 學習筆記(五)

1. 如何理解梯度下降最後變成了 wk→w′k=wk−η∑j∂CXj∂wk 每次都要遞迴相減一個，不如直接把一小撮∇Cxj算出來再直接相減。由於概率論，這一小撮隨機的Cxj可以基本代表所有的，然後再

Neural Networks and Deep Learning學習筆記ch1

最近開始看一些深度學習的資料，想學習一下深度學習的基礎知識。找到了一個比較好的tutorial，Neural Networks and Deep Learning，認真看完了之後覺得收穫還是很多的。從最基本的感知機開始講起，到後來使用logistic函式作為啟用

Neural Networks and Deep Learning 學習筆記(三)

1. 怎麼理解C(w,b)≡12n∑x∥y(x)−a∥2 首先，∥v∥是指範數 範函是一個函式，其為向量空間內的所有向量賦予非零的正長度或大小 好吧，這其實是個均方誤差函式，可自行查閱百度百科，但是不明白為什麼是12n。 2. 什麼是梯度下降

Neural Networks and Deep Learning 學習筆記(一)

1. 為什麼假設w⋅x≡∑jwjxj後，w與x就變成向量了？ The first change is to write ∑jwjxj as a dot product, w⋅x≡∑jwjxj, where w and x are vectors who

【DeepLearning學習筆記】Coursera課程《Neural Networks and Deep Learning》——Week1 Introduction to deep learning課堂筆記

決定 如同 樣本 理解 你是 水平 包含 rod spa Coursera課程《Neural Networks and Deep Learning》 deeplearning.ai Week1 Introduction to deep learning What is a

【DeepLearning學習筆記】Coursera課程《Neural Networks and Deep Learning》——Week2 Neural Networks Basics課堂筆記

樣本數目 and 編程 多次 之間 優化 我們 round 符號 Coursera課程《Neural Networks and Deep Learning》 deeplearning.ai Week2 Neural Networks Basics 2.1 Logistic

課程一(Neural Networks and Deep Learning)，第一週（Introduction to Deep Learning）—— 0、學習目標

1. Understand the major trends driving the rise of deep learning. 2. Be able to explain how deep learning is applied to supervised learning. 3. Unde

如何免費學習coursera上吳恩達的Neural Networks and Deep Learning課程

首先，在註冊時不要選擇免費試用，而是要選擇旁聽。 進入旁聽之後，中間的部分課程是無法做的，這時候，需要用anaconda的jupyter notebook功能來進行作業。具體方法如下： 安裝後開啟進入到一個資料夾目錄，找到這個目錄在你的資料夾的具體位置。並將作業檔案複

Neural Networks and Deep Learning 筆記

目錄 1 Introduction to Deep Learning 1.1 結構化資料/非結構化資料 1.2 為什麼深度學習會興起 2 Neural Networks Basics 2.1 二分類問題 2.2 邏輯迴歸 2.3 損失函式

神經⽹絡與深度學習 Neural Networks and Deep Learning

26 Theano-based large-scale visual recognition with multiple GPUs, by Weiguang Ding, Ruoyan Wang, Fei Mao, andGraham Taylor (2014). 27 Going deeper with

Neural Networks and Deep Learning 神經網路和深度學習

在http://neuralnetworksanddeeplearning.com/看到這篇文章。寫的簡單易懂。適合初學者學習，不過是英文的。 自己嘗試著一邊翻譯一邊學習。 第一章 使用神經網路識別手寫數字 人眼是世界上最奇妙的東西之一。有如下一串手寫數字： 大部

【吳恩達 Coursera深度學習課程】 Neural Networks and Deep Learning 第一週課後習題

因為這學期選了深度學習的課程，所以也會自學一下相關內容，在網上選擇了吳恩達的深度學習來進行學習，首先是第一門課程，Neural Networks and Deep Learning。第一週的內容是深度學習概論，課後習題為十個選擇題，個人觀點，僅供參考，歡迎指正。這題問為什麼稱

課程一(Neural Networks and Deep Learning)總結：Logistic Regression

pdf idt note hub blog bsp http learn gre -------------------------------------------------------------------------

第四節，Neural Networks and Deep Learning 一書小節(上)

rain 集合 最大值 劃分 import {0} mar result bsp 最近花了半個多月把Mchiael Nielsen所寫的Neural Networks and Deep Learning這本書看了一遍，受益匪淺。 該書英文原版地址地址：http://neur

課程一(Neural Networks and Deep Learning)，第二週（Basics of Neural Network programming）—— 1、10個測驗題（Neural N

              --------------------------------------------------中文翻譯-------

Neural Networks and Deep Learning

too near poi sel ace data- big Dimension important Neural Networks and Deep Learning This is the first course of the deep learning specia

課程一(Neural Networks and Deep Learning)，第一週（Introduction to Deep Learning）—— 2、10個測驗題

1、What does the analogy “AI is the new electricity” refer to?  (B) A. Through the “smart grid”, AI is delivering a new wave of electricity.

sp1.1-1.2 Neural Networks and Deep Learning

    Relu這影象也叫線性流動函式 不再用sigmoid函式當啟用函式     相當於max(0,x)函式 比較0和當前值哪個大   可以把隱藏層看作 前面整合