2. 程式人生 > >深度學習實踐（一）—tensorflow之概述

深度學習實踐（一）—tensorflow之概述

阿新 • • 發佈：2018-12-03

內容預覽

  • 1.1 深度學習與機器學習的區別

    • 1.1.1 特徵提取方面
    • 1.1.2 資料量和計算效能要求
    • 1.1.3 演算法代表

  • 1.2 深度學習的應用場景

    • 1.2.1 影象識別
    • 1.2.2 自然語言處理技術
    • 1.2.3 語音技術

  • 1.3 深度學習框架介紹

    • 1.3.1 常見深度學習框架對比
    • 1.3.2 TensorFlow的特點
    • 1.3.3 TensorFlow的安裝

1.1 深度學習與機器學習的區別

  • 特徵提取方面

    • 機器學習的特徵工程要靠手動完成的，這需要大量的專業領域的知識
    • 深度學習由多層組成，它通常將更簡單的模型組合在一起，將資料一層一層地傳遞來構建複雜的模型。通過大量資料訓練自動得出模型，不需要人工特徵提取環節。
    • 深度學習演算法試圖從資料中提取高階特徵，這是深度學習的一個非常獨特的部分。因此深度學習中不再為每個問題開發新特徵提取器，這樣深度學習更適用在難提取特徵的影象、語音、自然語言處理領域。

  • 資料量和計算效能要求

    深度學習需要的執行時間遠大於機器學習，深度學習引數往往很龐大，需要通過大量資料的多次優化來訓練引數。

    因此：

    1. 深度學習需要大量的訓練資料集
    2. 訓練深度神經網路需要大量的算力

    可能要花費數天、甚至數週的時間，才能使用數百萬張影象的資料集訓練出一個深度網路。

    所以深度學習通常：

  • 演算法代表

    • 機器學習
      • 樸素貝葉斯、決策樹等
    • 深度學習
      • 神經網路

1.2 深度學習的應用場景

  • 影象識別

    • 物體識別
    • 場景識別
    • 車型識別
    • 人臉檢測跟蹤
    • 人臉關鍵點定位
    • 人臉身份認證

  • 自然語言處理技術

    • 機器翻譯
    • 文字識別
    • 聊天對話

  • 語音技術

    • 語音識別

1.3 深度學習框架介紹

  • 常見深度學習框架對比

    框架名 主語言 從語言 靈活性 上手難易 開發者
    Tensorflow C++ cuda/python 好 難 Google
    Torch Lua C/cuda 好 中等 Facebook
    PyTorch Python C/C++ 好 中等 Facebook
    Caffe C++ cuda/python/Matlab 一般 中等 賈楊清
    Theano Python C++/cuda 好 易 蒙特利爾理工學院
    MXNet C++ cuda/R/julia 好 中等 李沐和陳天奇等
    1. 最常用的框架當數 TensorFlow 和 Pytorch , Caffe 和 Caffe2 次之
    2. PyTorch , Torch 更適用於學術研究，TensorFlow，Caffe，Caffe2 更適用於工業界的生產環境部署
    3. Caffe 適用於處理靜態影象；Torch 和 PyTorch 更適用於動態影象；TensorFlow 在兩種情況下都很實用。
    4. Tensorflow 和 Caffe2 可在移動端使用。

  • TensorFlow 的特點

    官網：https://www.tensorflow.org/

    • 高度靈活
      • 它可以做神經網路演算法，也可以做機器學習演算法，甚至只要把計算表示成資料流圖，都可以用TensorFlow 。
    • 語言多樣
      • TensorFlow 使用 C++ 實現的，使用了 Python 進行封裝。谷歌號召社群通過 SWIG 開發更多的語言介面來支援 TensorFlow 。
    • 裝置支援
      • TensorFlow 可以執行在各種硬體上，同時根據計算的需要，合理將運算分配到相應的裝置。比如卷積就分配到 GPU 上，也允許在 CPU 和 GPU 上的計算分佈，甚至支援使用 gRPC 進行水平擴充套件。gRPC 是一個高效能、通用的開源RPC框架。
    • TensorBoard 視覺化
      • TensorBoard 是 TensorFlow 的一組 Web 應用，用來監控 TensorFlow 執行過程 或 視覺化Computation Graph。
      • TensorBoard 目前支援 5 種視覺化：標量（scalars）、圖片（images）、音訊（audio）、直方圖（histograms）和計算圖（Computation Graph）。TensorBoard 的 Events Dashboard 可以用來持續地監控執行時的關鍵指標，比如 損失（loss）、學習速率（learning rate）或是 驗證集上的準確率（accuracy）等等。

  • TensorFlow 的安裝

    • CPU版本

      安裝較慢，最好指定映象源，並在帶有 numpy 等庫的虛擬環境中安裝

      pip install tensorflow -i https://mirrors.aliyun.com/pypi/simple
    • GPU版本
      pip install tensorflow-gpu -i https://mirrors.aliyun.com/pypi/simple
    • CPU與GPU的對比

      CPU：核芯的數量更少；但是每一個核芯的速度更快，效能更強；更適用於處理連續性（sequential）任務。

      GPU：核芯的數量更多；但是每一個核芯的處理速度較慢；更適用於並行（parallel）任務。

    • 推薦下載 whl 檔案

      下載地址：TensorFlow

相關推薦

深度學習實踐（一）—tensorflow之概述

內容預覽 1.1 深度學習與機器學習的區別 1.1.1 特徵提取方面 1.1.2 資料量和計算效能要求 1.1.3 演算法代表 1.2 深度學習的應用場景 1.2.1 影象識別 1.2

機器學習實踐（一）—sklearn之概述

1956年，人工智慧元年。 人類能夠創造出人類還未知的東西。 這未知的東西人類能夠保證它不誤入歧途嗎。 一、機器學習和人工智慧，深度學習的關係 機器學習是人工智慧的一個實現途徑 深度學習是機器學習的一個方法發展而來 二、機器學習，深度

深度學習實踐（一）——logistic regression

一、準備 為了更深入的理解logistic regression，筆者基本採用純C++的手寫方式實現，其中矩陣方面的運算則呼叫opencv，資料集則來自公開資料集a1a。 實驗環境： Visual studio 2017 opencv3.2.0 a1a資料

TensorFlow深度學習實戰（一）：AlexNet對MNIST資料集進行分類

概要 進來一段時間在看深度學習中經典的CNN模型相關論文。同時，為了督促自己學習TensorFlow，通讀論文之後開始，利用TensorFlow實現各個模型，復現相關實驗。這是第一篇論文講解的是AlexNet，論文下載網址為：ImageNet Classific

優達學城-深度學習筆記（一）

優達學城-深度學習筆記（一） 標籤： 機器學習 優達學城-深度學習筆記一 一 神經網路簡介 最大似然概率 交叉熵Cross entropy

機器學習實踐（七）—sklearn之K-近鄰演算法

一、K-近鄰演算法(KNN)原理 K Nearest Neighbor演算法又叫KNN演算法，這個演算法是機器學習裡面一個比較經典的演算法， 總體來說KNN演算法是相對比較容易理解的演算法 定義 如果一個樣本在特徵空間中的k個最相似(即特徵空間中最鄰近)的樣本中的

機器學習實踐（六）—sklearn之轉換器和估計器

一、sklearn轉換器 想一下之前做的特徵工程的步驟？ 1 例項化 (例項化的是一個轉換器類(Transformer)) 2 呼叫fit_transform(對於文件建立分類詞頻矩陣，不能同時呼叫) 我們

機器學習實踐（三）—sklearn之特徵工程

一、特徵工程介紹 1. 為什麼需要特徵工程 Andrew Ng ： “Coming up with features is difficult, time-consuming, requires expert knowledge. “Applied machine learnin

機器學習實踐（二）—sklearn之資料集

一、可用資料集 Kaggle網址：https://www.kaggle.com/datasets UCI資料集網址： http://archive.ics.uci.edu/ml/ scikit-learn網址：http://scikit-learn.org/sta

機器學習實踐（五）—sklearn之特徵降維

一、特徵降維概述 為什麼要對特徵進行降維處理 如果特徵本身存在問題或者特徵之間相關性較強，對於演算法學習預測會影響較大 什麼是降維 降維是指在某些限定條件下，降低隨機變數(特徵)個數，得到一組“不

機器學習實踐（四）—sklearn之特徵預處理

一、特徵預處理概述 什麼是特徵預處理 # scikit-learn的解釋 provides several common utility functions and transformer classes to change raw feature vectors into

機器學習實踐（九）—sklearn之樸素貝葉斯演算法

一、樸素貝葉斯演算法 什麼是樸素貝葉斯分類方法 屬於哪個類別概率大，就判斷屬於哪個類別 概率基礎 概率定義為一件事情發生的可能性 P(X) : 取值在[0, 1] 聯合概率、條件概率與相互獨立

機器學習實踐（八）—sklearn之交叉驗證與引數調優

一、交叉驗證與引數調優 交叉驗證(cross validation) 交叉驗證：將拿到的訓練資料，分為訓練集、驗證集和測試集。 訓練集：訓練集+驗證集 測試集：測試集

實戰深度學習OpenCV（一）:canny邊緣檢測

利用canny邊緣檢測，我們可以很好地得到哦一個影象的輪廓，下面是基於C++的，這是我們通過這段程式碼得到的結果： #include "pch.h" #include <iostream> #include <opencv2/core/core.hpp> #inc

Tensorflow學習筆記（一）Tensorflow入門

Tensorflow入門 前言： 本文是閱讀《TensorFlow：實戰Google深度學習框架》第三章提煉出來的筆記，非本人原創。 這一章主要介紹： TensorFlow 名字說明最重要兩個概念：Tensor(張量)，Flow(流)。 tensor張量可以理解

深度學習tricks（一）——shuffle——同時打亂兩個陣列，保持原先的對應關係仍然存在

自己做資料處理，因為資料比較複雜的關係（我自己也不太熟練），不太方便藉助框架封裝好了的包 在做到需要打亂資料這一步的時候，遇到了如何打亂陣列，使得原始輸入與label的對應關係仍然存在 以上是S

# 深度學習筆記（一）

從感知機到神經網路 感知機中：作為神經網路的起源演算法，感知機有若干輸入，而只有一個輸出 這裡以最簡單的一層感知機舉例： W1W2x1yx2 此時，x1對應的權重為W1,x2對應的權重為W2,而W1和W2權重的大小對應著x1與x2各自重要程度，而他們的乘積和共同

深度學習入門（二）——TensorFlow介紹

TensorFlow     1.使用圖 (graph) 來表示計算任務.     2.在被稱之為 會話 (Session) 的上下文 (context) 中執行圖.     3.使用 tensor 表示資料.     4通過 變數 (Variable) 維護狀態.

Spring Boot學習實踐（一）（1）建立一個簡單的spring boot應用

一、使用idea建立一個簡單的Spring Boot應用程式 環境準備： idea：2018.2 jdk: 1.8 spring boot:是2.0版本以上的 以上環境可以根據實際情況去調整。 （1）首先找到idea建立應用的New Project,選擇好

深度學習基礎（一） —— softmax 及 logsoftmax

                softmax：重新定義了多層神經網路的輸出層（output layer），注意僅和輸出層有關係，和其他層無關。softmax function，也稱為 normalized exponential（指數族分佈的觀點）；1. softmax我們知道在神經網路的前饋（feedfo