吳恩達deeplearning.ai課程作業，自己寫的答案。
補充說明：
1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，請自己到GitHub上下載完整的。這裡的部分僅僅是參考用的，建議還是自己按照提示一點一點寫，如果實在卡住了再看答案。個人覺得這樣才是正確的學習方法，況且作業也不算難。
2. 關於評論中有人說我是抄襲，註釋還沒別人詳細，複製下來還執行不過。答覆是：做伸手黨之前，請先搞清這個作業是幹什麼的。大家都是從GitHub上下載原始的作業，然後根據程式碼前面的提示（通常會指定函式和公式）來編寫程式碼，而且後面還有expected output供你比對，如果程式正確，結果一般來說是一樣的。請不要無腦噴，說什麼跟別人的答案一樣的。說到底，我們要做的就是，看他的文字部分，根據提示在程式碼中加入部分自己的程式碼。我們自己要寫的部分只有那麼一小部分程式碼。
3. 由於實在很反感無腦噴子，故禁止了下面的評論功能，請見諒。如果有問題，請私信我，在力所能及的範圍內會盡量幫忙。

Planar data classification with one hidden layer

Welcome to your week 3 programming assignment. It’s time to build your first neural network, which will have a hidden layer. You will see a big difference between this model and the one you implemented using logistic regression.

You will learn how to:

- Implement a 2-class classification neural network with a single hidden layer
- Use units with a non-linear activation function, such as tanh
- Compute the cross entropy loss
- Implement forward and backward propagation

1 - Packages

Let’s first import all the packages that you will need during this assignment.
-

numpy is the fundamental package for scientific computing with Python.
- sklearn provides simple and efficient tools for data mining and data analysis.
- matplotlib is a library for plotting graphs in Python.
- testCases provides some test examples to assess the correctness of your functions
- planar_utils provide various useful functions used in this assignment

# Package imports
import numpy as np
import matplotlib.pyplot as plt
from testCases import *
import sklearn
import sklearn.datasets
import sklearn.linear_model
from planar_utils import plot_decision_boundary, sigmoid, load_planar_dataset, load_extra_datasets

%matplotlib inline

np.random.seed(1) # set a seed so that the results are consistent

2 - Dataset

First, let’s get the dataset you will work on. The following code will load a “flower” 2-class dataset into variables X and Y.

X, Y = load_planar_dataset() 

Visualize the dataset using matplotlib. The data looks like a “flower” with some red (label y=0) and some blue (y=1) points. Your goal is to build a model to fit this data.

# Visualize the data:
plt.scatter(X[0, :], X[1, :], c=Y, s=40, cmap=plt.cm.Spectral);

You have:
- a numpy-array (matrix) X that contains your features (x1, x2)
- a numpy-array (vector) Y that contains your labels (red:0, blue:1).

Lets first get a better sense of what our data is like.

Exercise: How many training examples do you have? In addition, what is the shape of the variables X and Y?

Hint: How do you get the shape of a numpy array? (help)

### START CODE HERE ### (≈ 3 lines of code)
shape_X = X.shape
shape_Y = Y.shape
m = shape_X[1]  # training set size
### END CODE HERE ###

print ('The shape of X is: ' + str(shape_X))
print ('The shape of Y is: ' + str(shape_Y))
print ('I have m = %d training examples!' % (m))

The shape of X is: (2, 400)
The shape of Y is: (1, 400)
I have m = 400 training examples!

Expected Output:

shape of X	(2, 400)
shape of Y	(1, 400)
m	400

3 - Simple Logistic Regression

Before building a full neural network, lets first see how logistic regression performs on this problem. You can use sklearn’s built-in functions to do that. Run the code below to train a logistic regression classifier on the dataset.

# Train the logistic regression classifier
clf = sklearn.linear_model.LogisticRegressionCV();
# clf.fit(X.T, Y.T);
clf.fit(X.T, Y.T.ravel());

You can now plot the decision boundary of these models. Run the code below.

# Plot the decision boundary for logistic regression
plot_decision_boundary(lambda x: clf.predict(x), X, Y)
plt.title("Logistic Regression")

# Print accuracy
LR_predictions = clf.predict(X.T)
print ('Accuracy of logistic regression: %d ' % float((np.dot(Y,LR_predictions) + np.dot(1-Y,1-LR_predictions))/float(Y.size)*100) +
       '% ' + "(percentage of correctly labelled datapoints)")

Accuracy of logistic regression: 47 % (percentage of correctly labelled datapoints)

Expected Output:

Accuracy

47%

Interpretation: The dataset is not linearly separable, so logistic regression doesn’t perform well. Hopefully a neural network will do better. Let’s try this now!

4 - Neural Network model

Logistic regression did not work well on the “flower dataset”. You are going to train a Neural Network with a single hidden layer.

Here is our model:

Mathematically:

For one example x(i)$x^{(i)}$:

z[1](i)=W[1]x(i)+b[1](i)(1)$$\begin{array}{}\text{(1)}& z^{[1](i)}=W^{[1]}{x}^{(i)}+b^{[1](i)}\end{array}$$
a[1](i)=tanh(z[1](i))(2)$$\begin{array}{}\text{(2)}& a^{[1](i)}=\tanh (z^{[1](i)})\end{array}$$
z[2](i)=W[2]a[1](i)+b[2](i)(3)$$\begin{array}{}\text{(3)}& z^{[2](i)}=W^{[2]}{a}^{[1](i)}+b^{[2](i)}\end{array}$$
y^(i)=a[2](i)=σ(z[2](i))(4)$$\begin{array}{}\text{(4)}& {\hat{y}}^{(i)}=a^{[2](i)}=\sigma (z^{[2](i)})\end{array}$$
y(i)prediction={10if a[2](i)>0.5otherwise (5)$$\begin{array}{}\text{(5)}& y_{prediction}^{(i)}=\{\begin{array}{ll}1& \text{if }{a}^{[2](i)}>0.5\\ 0& \text{otherwise }\end{array}\end{array}$$

Given the predictions on all the examples, you can also compute the cost J$J$ as follows:

J=−1m∑i=0m(y(i)log(a[2](i))+(1−y(i))log(1−

相關推薦

吳恩達深度學習課程deeplearning.ai課程作業：Class 1 Week 3 assignment3

吳恩達deeplearning.ai課程作業，自己寫的答案。 補充說明： 1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，請

吳恩達深度學習第二課第二週作業及學習心得體會——minibatch、動量梯度下降、adam

概述 學習課程後，在L2正則化程式碼的基礎上完成該周作業，現將心得體會記錄如下。 Mini-batch梯度下降 概念 對m個訓練樣本，每次採用t（1<t<m）個樣本進行迭代更新。 具體過程為：將特徵X分為T個batch，每個batch的樣本數為t（最後一

【學習日記】吳恩達深度學習工程師微專業第一課：神經網路和深度學習

以下內容是我聽吳恩達深度學習微專業第一課做的學習筆記，主要是按自己的理解回答一些問題，並非全部出自課程內容。1. 什麼是神經網路？神經網路是諸多機器學習方法中的一種，受人類大腦工作方式的啟發而發明的。人類大腦的一個神經元通過多個樹突來接收來自不同神經元的訊號，接著細胞核處理訊

吳恩達深度學習課程deeplearning.ai課程作業：Class 1 Week 4 assignment4_2

吳恩達deeplearning.ai課程作業，自己寫的答案。 補充說明： 1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，請

吳恩達深度學習課程deeplearning.ai課程作業：Class 4 Week 3 Car detection

吳恩達deeplearning.ai課程作業，自己寫的答案。 補充說明： 1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，

吳恩達深度學習課程deeplearning.ai課程作業：Class 4 Week 2 Residual Networks

吳恩達deeplearning.ai課程作業，自己寫的答案。 補充說明： 1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，請

吳恩達深度學習課程deeplearning.ai課程作業：Class 4 Week 2 Keras

吳恩達deeplearning.ai課程作業，自己寫的答案。 補充說明： 1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，請

吳恩達深度學習課程deeplearning.ai課程作業：Class 2 Week 3 TensorFlow Tutorial

吳恩達deeplearning.ai課程作業，自己寫的答案。 補充說明： 1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，請

吳恩達深度學習課程deeplearning.ai課程作業：Class 1 Week 4 assignment4_1

吳恩達deeplearning.ai課程作業，自己寫的答案。 補充說明： 1. 評論中總有人問為什麼直接複製這些notebook執行不了？請不要直接複製貼上，不可能執行通過的，這個只是notebook中我們要自己寫的那部分，要正確執行還需要其他py檔案，請

吳恩達深度學習筆記（deeplearning.ai）之循環神經網絡（RNN）（一）

不同的 圖片 存在 最終 一個 har end markdown 輸入 1. RNN 首先思考這樣一個問題：在處理序列學習問題時，為什麽不使用標準的神經網絡（建立多個隱藏層得到最終的輸出）解決，而是提出了RNN這一新概念？ 標準神經網絡如下圖所示： 標準神經網絡在解決序列

吳恩達深度學習筆記（deeplearning.ai）之循環神經網絡（RNN）（二）

blog 如何 這一 累加 soft 學習 測試 接下來 數據 導讀 本節內容介紹如何使用RNN訓練語言模型，並生成新的文本序列。 語言模型（Language model） 通過語言模型，我們可以計算某個特定句子出現的概率是多少，或者說該句子屬於真實句子的概率是多少。正式點

吳恩達深度學習筆記（deeplearning.ai）之循環神經網絡（RNN）（三）

崩潰 body 很難 mark 因此 梯度 處理方法 弊端 原理 1. 導讀 本節內容介紹普通RNN的弊端，從而引入各種變體RNN，主要講述GRU與LSTM的工作原理。 2. 普通RNN的弊端 在NLP中，句子內部以及句子之間可能存在很長的依賴關系（long-term d

吳恩達深度學習筆記（deeplearning.ai）之卷積神經網路（CNN）（上）

1. Padding 在卷積操作中，過濾器（又稱核）的大小通常為奇數，如3x3，5x5。這樣的好處有兩點： 在特徵圖（二維卷積）中就會存在一箇中心畫素點。有一箇中心畫素點會十分方便，便於指出過濾器的位置。 在沒有padding的情況下，經過卷積操作，輸出的資

吳恩達深度學習deeplearning.ai-Week2課後作業-Logistic迴歸與梯度下降向量化

一、deeplearning-assignment 這篇文章會幫助構建一個用來識別貓的邏輯迴歸分類器。通過這個作業能夠知道如何進行神經網路學習方面的工作,指導你如何用神經網路的思維方式做到這些，同樣也會加深你對深度學習的認識。 儘量不要在程式碼中出現for迴圈，可以用nu

吳恩達-深度學習-課程筆記-3: Python和向量化( Week 2 )

有時 指數 檢查 都是 效果 很快 -1 tro str 1 向量化( Vectorization ) 在邏輯回歸中，以計算z為例，z = w的轉置和x進行內積運算再加上b，你可以用for循環來實現。 但是在python中z可以調用numpy的方法，直接一句z = np.d

吳恩達-深度學習-課程筆記-6: 深度學習的實用層面( Week 1 )

data 絕對值 initial 均值化 http 梯度下降法 ati lod 表示 1 訓練/驗證/測試集( Train/Dev/test sets ) 構建神經網絡的時候有些參數需要選擇，比如層數，單元數，學習率，激活函數。這些參數可以通過在驗證集上的表現好壞來進行選擇

吳恩達-深度學習-課程筆記-8: 超參數調試、Batch正則化和softmax( Week 3 )

erp 搜索 給定 via 深度 mode any .com sim 1 調試處理( tuning process ) 如下圖所示，ng認為學習速率α是需要調試的最重要的超參數。 其次重要的是momentum算法的β參數（一般設為0.9），隱藏單元數和mini-batch的

吳恩達深度學習專項課程2學習筆記/week2/Optimization Algorithms

sce 適應 耗時 bubuko 優化算法 src bat -a 過程 Optimization algorithms 優化算法以加速訓練。 Mini-batch gradient descend Batch gradient descend：每一小步梯度下降否需要計算所

吳恩達深度學習專項課程3學習筆記/week2/Error analysis

ini 調整 數據 class http 評估 參數 pos 修正 Error analysis Carrying out error analysis Error analysis是手動分析算法錯誤的過程。 通過一個例子來說明error analysis的過程。假設你在做

Elam的吳恩達深度學習課程筆記（一）

記憶力是真的差，看過的東西要是一直不用的話就會馬上忘記,於是乎有了寫部落格把學過的東西儲存下來，大概就是所謂的集鞏固，分享，後期查閱與一身的思想吧，下面開始正題 深度學習概論 什麼是神經網路 什麼是神經網路呢，我們就以房價預測為例子來描述一個最簡單的神經網路模型。 　　假設有6間