課程簡介

課程筆記

設空間S是位於Rn的子空間，維度為m。求Rn中的任意向量在子空間S中的投影p。

1. 子空間維度為１

對於m=1的情況，則有S={λa,∀λ}. 任意b∈Rn，其在與a方向相同的線上的投影p為p=aTb||a||∗a||a||=aaTbaTa。上訴方法是從內積的物理意義出發，為了拓展到高維子空間，我們仔細討論各項的幾何意義。
因為p∈S，所以∃λ,p=λa。同時p是b的投影，所以有b−p與a垂直。回憶垂直的性質，可以推出aT(p−b)=0。帶入λ，得到λ=aTbaTa，從而p=λa=aλ=aaTaTab。注意b是原向量，p是投影向量，定義投影矩陣P為p=Pb

，從而對於m=1的情況，P=aaTaTa。

2. 子空間維度大於１

向高維拓展，對於子空間S，我們有m個基向量a1,a2,⋯,am。定義A=[a1,a2,⋯,am]，從而S=C(A)，即子空間為基向量組成矩陣的column space。
重複上訴步驟，因為p∈S，所以∃x,Ax=p。然後因為p是b的投影，所以有b−p與a垂直。回憶垂直的性質，可以推出AT(p−b)=0。求解x可得x=(ATA)−1ATb。帶入得p=A(ATA)−1ATb。即投影矩陣P=A(ATA)−1AT。
上訴步驟中，也可以發現p−b∈N(AT)，和p−b與S的垂直關係相呼應。
若A為可逆方陣，則有P=I，因為C

(A)=R

相關推薦

MIT18.06線性代數課程筆記15：子空間投影矩陣

課程簡介 課程筆記 設空間S是位於Rn的子空間，維度為m。求Rn中的任意向量在子空間S中的投影p。 1. 子空間維度為１ 對於m=1的情況，則有S={λa,∀λ}. 任意b∈Rn，其在與

MIT18.06線性代數課程筆記19：矩陣行列式公式與代數餘子式

課程簡介 課程筆記 基於 MIT18.06線性代數課程筆記18：矩陣行列式的性質 中三個基礎性質推出的矩陣行列式公式。然後介紹了利用代數餘子式從n維到1維的遞迴計算行列式方法。 1. 2維矩陣的簡單例子 對於二維矩陣 A=[a,bc,d]

MIT18.06課程筆記15：Projection Matrix投射矩陣

課程簡介 課程筆記 1. 求取投射矩陣P 這部分主要探討如何通過一個矩陣將任意向量投射到指定超平面。 超平面通常通過basic（基）給出，即設給出的不相關基為{a1,a2,...,a

線性代數之——四個基本子空間

1. 四個基本子空間 行空間 C ( A

MIT18.06課程筆記16：最小二乘法，線性迴歸

課程簡介 課程筆記 1. 線性迴歸問題簡介 簡單敘述：給定一系列的資料點（例如{(x1,y1),(x2,y2)...}，其中x表示特徵向量，y表示目標值)，求取一個線性函式（例如一維直線就是y=cx+d）擬合數據點，即使得函式值的誤差的平方和最

斯坦福CS229機器學習課程筆記一：線性迴歸與梯度下降演算法

機器學習三要素 機器學習的三要素為：模型、策略、演算法。 模型：就是所要學習的條件概率分佈或決策函式。線性迴歸模型 策略：按照什麼樣的準則學習或選擇最優的模型。最小化均方誤差，即所謂的 least-squares(在spss裡線性迴歸對應的模組就叫OLS即Ordinary Least Squares)：

CS231n課程筆記2：線性分類上

內容列表： 線性分類器簡介 線性評分函式 闡明線性分類器  線性分類 上一篇筆記介紹了影象分類問題。影象分類的任務，就是從已有的固定分類標籤集合中選擇一個並分配給一張影象。我們還介紹了k-Nearest Neighbor （k-NN）分類器，該分類器的基本思想是通

乾貨|MIT線性代數課程精細筆記[第一課]

1知識概要 本節開始，我們一起來學習線性代數的有關知識，首節我們從解方程談起，學習線性代數的應用之一就是求解複雜方程問題，本節核心之一即為從行影象與列影象的角度解方程。 2方程組的幾何解釋基礎  2.1 二維的行影象 我們首先通過一個例子來從行影象角度求解方程： 我們首先按行將方程

Hinton Neural Networks課程筆記3a：線性神經元的學習演算法

這節其實是在為反向傳播（BP）演算法鋪路，解釋了delta rule（chain rule），然後舉了個簡單的例子，並做了一些評價。 回顧感知機的部分，其學習演算法簡單快速，在資料集線性可分的情況下保證收斂。回顧感知機的學習演算法，因為是Binary Th

【學習筆記】線性代數學習筆記

n階行列式 相關性 等於 線性代數 筆記 class ... 學習 一行 慢慢的學吧……先挖個坑提醒自己好好填【霧】 一、行列式相關 n階行列式定義：Σ(-1)t a1p1*a2p2*....anpn(p∈(1~n的全排列)，t為此排列中的逆序對個數) 相關性質： 1.

專為程序員設計的線性代數課程

含義 深入學習 本質 智能 svd 正交 內積空間 規則 研究 第1章 歡迎大家來到《專給程序員設計的線性代數》 歡迎大家來到《專給程序員設計的線性代數》，在這個課程中，我們將使用編程的方式，學習線性代數，這個近現代數學發展中最為重要的分支。學懂線性代數，是同學們深入學習人

學習筆記15：VS2015常用配置

一、呼叫控制檯： 在VS中使用opencv或者QT過程中，完成程式設計後， 執行發現沒有控制檯視窗， 比如我們用Qt編寫的介面軟體， 又想看到我們在程式碼中新增的列印日誌資訊，這個時候加上控制檯視窗就能實現 方法：專案–> 屬性–>連結器–>系統–>子系統（選擇控制檯即可） &n

Angular6學習筆記15：核心知識-模組（NgModule）

模組（NgModule） 繼學習筆記14，可以大概的知道Angular的大概架構，現在在一一深入瞭解。 Angular的應用，會將整個應用進行模組化處理，即：將一個應用分成幾個模組，一個應用，至少有一個模組（AppModule-根模組），簡答的講，一個模組，就是一個容器，存放一些內聚的程式碼

Andrew Ng 機器學習筆記 15 ：大資料集梯度下降

隨機梯度下降 隨機梯度下降原理 小批量梯度下降 小批量梯度下降vs隨機梯度下降 隨機梯度下降的收

2018最新專為程式設計師設計的線性代數課程

第1章 歡迎大家來到《專給程式設計師設計的線性代數》 歡迎大家來到《專給程式設計師設計的線性代數》，在這個課程中，我們將使用程式設計的方式，學習線性代數，這個近現代數學發展中最為重要的分支。學懂線性代數，是同學們深入學習人工智慧，機器學習，深度學習，圖形學，影象學，密碼學，等等諸多領域的基礎。

線性代數學習筆記二

www. groov -html per mis haskell con times aps 線性代數學習筆記二 線性代數學習筆記二 目录 1. 線性方程組 1 線性方程組 矩陣記號是為解

專為程式設計師設計的線性代數課程雲盤下載

第1章 歡迎大家來到《專給程式設計師設計的線性代數》 歡迎大家來到《專給程式設計師設計的線性代數》，在這個課程中，我們將使用程式設計的方式，學習線性代數，這個近現代數學發展中最為重要的分支。學懂線性代數，是同學們深入學習人工智慧，機器學習，深度學習，圖形學，影象學，密碼學

全網獨家專為程式設計師設計的線性代數課程

第1章 歡迎大家來到《專給程式設計師設計的線性代數》 歡迎大家來到《專給程式設計師設計的線性代數》，在這個課程中，我們將使用程式設計的方式，學習線性代數，這個近現代數學發展中最為重要的分支。學懂線性代數，是同學們深入學習人工智慧，機器學習，深度學習，圖形學，影象學，密碼學

專為程式設計師設計的線性代數課程最全分享

第1章 歡迎大家來到《專給程式設計師設計的線性代數》 歡迎大家來到《專給程式設計師設計的線性代數》，在這個課程中，我們將使用程式設計的方式，學習線性代數，這個近現代數學發展中最為重要的分支。學懂線性代數，是同學們深入學習人工智慧，機器學習，深度學習，圖形學，影象學，密碼學

某課最新專為程式設計師設計的線性代數課程分享

第1章 歡迎大家來到《專給程式設計師設計的線性代數》 歡迎大家來到《專給程式設計師設計的線性代數》，在這個課程中，我們將使用程式設計的方式，學習線性代數，這個近現代數學發展中最為重要的分支。學懂線性代數，是同學們深入學習人工智慧，機器學習，深度學習，圖形學，影象學，密碼學