2. 程式人生 > >Keras遷移學習提取特徵

Keras遷移學習提取特徵

阿新 • • 發佈：2018-12-29

Application應用

Kera的應用模組Application提供了帶有預訓練權重的Keras模型，這些模型可以用來進行預測、特徵提取和finetune

模型的預訓練權重將下載到~/.keras/models/並在載入模型時自動載入

可用的模型

應用於影象分類的模型,權重訓練自ImageNet：

所有的這些模型(除了Xception)都相容Theano和Tensorflow，並會自動基於~/.keras/keras.json的Keras的影象維度進行自動設定。例如，如果你設定image_dim_ordering=tf

，則載入的模型將按照TensorFlow的維度順序來構造，即“Width-Height-Depth”的順序

應用於音樂自動標籤(以Mel-spectrograms為輸入)

圖片分類模型的示例

利用ResNet50網路進行ImageNet分類

from keras.applications.resnet50 import ResNet50
from keras.preprocessing import image
from keras.applications.resnet50 import preprocess_input, decode_predictions
import
 
 numpy as np

model = ResNet50(weights='imagenet')

img_path = 'elephant.jpg'
img = image.load_img(img_path, target_size=(224, 224))
x = image.img_to_array(img)
x = np.expand_dims(x, axis=0)
x = preprocess_input(x)

preds = model.predict(x)
# decode the results into a list of tuples (class, description, probability)
 

# (one such list for each sample in the batch)
print('Predicted:', decode_predictions(preds, top=3)[0])
# Predicted: [(u'n02504013', u'Indian_elephant', 0.82658225), (u'n01871265', u'tusker', 0.1122357), (u'n02504458', u'African_elephant', 0.061040461)]

利用VGG16提取特徵

from keras.applications.vgg16 import VGG16
from keras.preprocessing import image
from keras.applications.vgg16 import preprocess_input
import numpy as np

model = VGG16(weights='imagenet', include_top=False)

img_path = 'elephant.jpg'
img = image.load_img(img_path, target_size=(224, 224))
x = image.img_to_array(img)
x = np.expand_dims(x, axis=0)
x = preprocess_input(x)

features = model.predict(x)

從VGG19的任意中間層中抽取特徵

from keras.applications.vgg19 import VGG19
from keras.preprocessing import image
from keras.applications.vgg19 import preprocess_input
from keras.models import Model
import numpy as np

base_model = VGG19(weights='imagenet')
model = Model(input=base_model.input, output=base_model.get_layer('block4_pool').output)

img_path = 'elephant.jpg'
img = image.load_img(img_path, target_size=(224, 224))
x = image.img_to_array(img)
x = np.expand_dims(x, axis=0)
x = preprocess_input(x)

block4_pool_features = model.predict(x)

利用新資料集finetune InceptionV3

from keras.applications.inception_v3 import InceptionV3
from keras.preprocessing import image
from keras.models import Model
from keras.layers import Dense, GlobalAveragePooling2D
from keras import backend as K

# create the base pre-trained model
base_model = InceptionV3(weights='imagenet', include_top=False)

# add a global spatial average pooling layer
x = base_model.output
x = GlobalAveragePooling2D()(x)
# let's add a fully-connected layer
x = Dense(1024, activation='relu')(x)
# and a logistic layer -- let's say we have 200 classes
predictions = Dense(200, activation='softmax')(x)

# this is the model we will train
model = Model(input=base_model.input, output=predictions)

# first: train only the top layers (which were randomly initialized)
# i.e. freeze all convolutional InceptionV3 layers
for layer in base_model.layers:
    layer.trainable = False

# compile the model (should be done *after* setting layers to non-trainable)
model.compile(optimizer='rmsprop', loss='categorical_crossentropy')

# train the model on the new data for a few epochs
model.fit_generator(...)

# at this point, the top layers are well trained and we can start fine-tuning
# convolutional layers from inception V3. We will freeze the bottom N layers
# and train the remaining top layers.

# let's visualize layer names and layer indices to see how many layers
# we should freeze:
for i, layer in enumerate(base_model.layers):
   print(i, layer.name)

# we chose to train the top 2 inception blocks, i.e. we will freeze
# the first 172 layers and unfreeze the rest:
for layer in model.layers[:172]:
   layer.trainable = False
for layer in model.layers[172:]:
   layer.trainable = True

# we need to recompile the model for these modifications to take effect
# we use SGD with a low learning rate
from keras.optimizers import SGD
model.compile(optimizer=SGD(lr=0.0001, momentum=0.9), loss='categorical_crossentropy')

# we train our model again (this time fine-tuning the top 2 inception blocks
# alongside the top Dense layers
model.fit_generator(...)

在定製的輸入tensor上構建InceptionV3

from keras.applications.inception_v3 import InceptionV3
from keras.layers import Input

# this could also be the output a different Keras model or layer
input_tensor = Input(shape=(224, 224, 3))  # this assumes K.image_dim_ordering() == 'tf'

model = InceptionV3(input_tensor=input_tensor, weights='imagenet', include_top=True)

模型文件

## Xception模型 ```python keras.applications.xception.Xception(include_top=True, weights='imagenet', input_tensor=None，input_shape=None) ```

Xception V1 模型, 權重由ImageNet訓練而言

在ImageNet上,該模型取得了驗證集top1 0.790和top5 0.945的正確率

注意,該模型目前僅能以TensorFlow為後端使用,由於它依賴於"SeparableConvolution"層,目前該模型只支援tf的維度順序(width, height, channels)

預設輸入圖片大小為299x299

引數

  • include_top：是否保留頂層的3個全連線網路
  • weights：None代表隨機初始化，即不載入預訓練權重。'imagenet’代表載入預訓練權重
  • input_tensor：可填入Keras tensor作為模型的影象輸出tensor
  • input_shape: 可選引數，僅當include_top=False時才應指定該引數。input_shape須為長3的tuple，圖片的寬和高不得小於71.

返回值

Keras 模型物件

參考文獻

License

預訓練權重由我們自己訓練而來，基於MIT license釋出

## VGG16模型 ```python keras.applications.vgg16.VGG16(include_top=True, weights='imagenet', input_tensor=None， input_shape=None) ```

VGG16模型,權重由ImageNet訓練而來

該模型再Theano和TensorFlow後端均可使用,並接受th和tf兩種輸入維度順序

模型的預設輸入尺寸時224x224

引數

  • include_top：是否保留頂層的3個全連線網路
  • weights：None代表隨機初始化，即不載入預訓練權重。'imagenet’代表載入預訓練權重
  • input_tensor：可填入Keras tensor作為模型的影象輸出tensor
  • input_shape: 可選引數，僅當include_top=False時才應指定該引數。input_shape須為長3的tuple，維度順序依賴於image_dim_ordering，圖片的寬和高不得小於48.

返回值

Keras 模型物件

參考文獻

License

預訓練權重由牛津VGG組釋出的預訓練權重移植而來，基於Creative Commons Attribution License

## VGG19模型 ```python keras.applications.vgg19.VGG19(include_top=True, weights='imagenet', input_tensor=None， input_shape=None) ``` VGG19模型,權重由ImageNet訓練而來

該模型再Theano和TensorFlow後端均可使用,並接受th和tf兩種輸入維度順序

模型的預設輸入尺寸時224x224

引數

  • include_top：是否保留頂層的3個全連線網路
  • weights：None代表隨機初始化，即不載入預訓練權重。'imagenet’代表載入預訓練權重
  • input_tensor：可填入Keras tensor作為模型的影象輸出tensor
  • input_shape: 可選引數，僅當include_top=False時才應指定該引數。input_shape須為長3的tuple，維度順序依賴於image_dim_ordering，圖片的寬和高不得小於48.

返回值

Keras 模型物件

參考文獻

License

預訓練權重由牛津VGG組釋出的預訓練權重移植而來，基於Creative Commons Attribution License

## ResNet50模型 ```python keras.applications.resnet50.ResNet50(include_top=True, weights='imagenet', input_tensor=None, input_shape=None) ```

50層殘差網路模型,權重訓練自ImageNet

該模型再Theano和TensorFlow後端均可使用,並接受th和tf兩種輸入維度順序

模型的預設輸入尺寸時224x224

引數

  • include_top：是否保留頂層的全連線網路
  • weights：None代表隨機初始化，即不載入預訓練權重。'imagenet’代表載入預訓練權重
  • input_tensor：可填入Keras tensor作為模型的影象輸出tensor
  • input_shape: 可選引數，僅當include_top=False時才應指定該引數。input_shape須為長3的tuple，維度順序依賴於image_dim_ordering，圖片的寬和高不得小於197.

返回值

Keras 模型物件

參考文獻

License

預訓練權重由Kaiming He釋出的預訓練權重移植而來，基於MIT License

## InceptionV3模型 ```python keras.applications.inception_v3.InceptionV3(include_top=True, weights='imagenet', input_tensor=None，input_shape=None) ``` InceptionV3網路,權重訓練自ImageNet

該模型再Theano和TensorFlow後端均可使用,並接受th和tf兩種輸入維度順序

模型的預設輸入尺寸時299x299

引數

  • include_top：是否保留頂層的全連線網路
  • weights：None代表隨機初始化，即不載入預訓練權重。'imagenet’代表載入預訓練權重
  • input_tensor：可填入Keras tensor作為模型的影象輸出tensor
  • input_shape: 可選引數，僅當include_top=False時才應指定該引數。input_shape須為長3的tuple，其維度順序依賴於所使用的image_dim_ordering，圖片的寬和高不得小於139.

返回值

Keras 模型物件

參考文獻

License

預訓練權重由我們自己訓練而來，基於MIT License

## MusicTaggerCRNN模型 ```python keras.applications.music_tagger_crnn.MusicTaggerCRNN(weights='msd', input_tensor=None, include_top=True) ``` 該模型時一個卷積迴圈模型,以向量化的MelSpectrogram音樂資料為輸入,能夠輸出音樂的風格. 你可以用`keras.applications.music_tagger_crnn.preprocess_input`來將一個音樂檔案向量化為spectrogram.注意,使用該功能需要安裝[Librosa](http://librosa.github.io/librosa/),請參考上面的使用範例. ### 引數 * include_top：是否保留頂層的全連線網路 * weights：None代表隨機初始化，即不載入預訓練權重。'imagenet'代表載入預訓練權重 * input_tensor：可填入Keras tensor作為模型的影象輸出tensor

返回值

Keras 模型物件

參考文獻

License

預訓練權重由我們自己訓練而來，基於MIT License

引用

https://github.com/MoyanZitto/keras-cn/blob/master/docs/other/application.md~

相關推薦

Keras遷移學習提取特徵

Application應用 Kera的應用模組Application提供了帶有預訓練權重的Keras模型，這些模型可以用來進行預測、特徵提取和finetune 模型的預訓練權重將下載到~/.keras/models/並在載入模型時自動載入 可用的模型 應用於影象分類的模型,權

Keras遷移學習實現影象分類和特徵提取

Kera的應用模組Application提供了帶有預訓練權重的Keras模型，這些模型可以用來進行預測、特徵提取和finetune 模型的預訓練權重將下載到~/.keras/models/並在載入模型時自動載入 可用的模型 所有的這些模型(除了Xception和Mo

【火爐煉AI】深度學習006-移花接木-用Keras遷移學習提升效能

【火爐煉AI】深度學習006-移花接木-用Keras遷移學習提升效能 (本文所使用的Python庫和版本號: Python 3.6, Numpy 1.14, scikit-learn 0.19, matplotlib 2.2, Keras 2.1.6, Tensorflow 1.9.0) 上一篇文章我們用

【火爐煉AI】深度學習009-用Keras遷移學習提升性能（多分類問題）

tro ray size array 全連接 步驟 loss pytho numpy 【火爐煉AI】深度學習009-用Keras遷移學習提升性能（多分類問題） (本文所使用的Python庫和版本號: Python 3.6, Numpy 1.14, scikit-learn

Keras —— 遷移學習fine-tuning

該程式演示將一個預訓練好的模型在新資料集上重新fine-tuning的過程。我們凍結卷積層，只調整全連線層。 在MNIST資料集上使用前五個數字[0…4]訓練一個卷積網路。 在後五個數字[5…9]用

keras-遷移學習(fine-tuning)

不同修改預訓練模型方式的情況： 特徵提取 我們可以將預訓練模型當做特徵提取裝置來使用。具體的做法是，將輸出層去掉，然後將剩下的整個網路當做一個固定的特徵提取機，從而應用到新的資料集中。 採用預訓練模型的結構 我們還可以採用預訓練模型的結構，但先將所有的權重隨機化，然後依據自

keras 遷移學習， 微調， model的predict函式定義

def add_new_last_layer(base_model, nb_classes): """Add last layer to the convnet Args: base_model: keras model excluding top

TensorFlow從入門到放棄（二）——基於InceptionV3的遷移學習以及影象特徵的提取

1. flower資料集 共五種花的圖片 2. 圖片處理 將圖片劃分為train、val、test三個子集並提取圖片特徵。這個過程有點兒漫長請耐心等待。。。。。。 import glob import os.path import numpy as np im

基於keras.MNIST的遷移學習(Transfer Learning)

       遷移學習用來解決當某一任務A資料量不足時，通過另一相似任務B提供經驗（也就是從任務B遷移到任務A）的問題。此處的情形是，在MNIST資料集中，通過對前5個數字(0~4)的學習遷移到後5個數字(5~9)的任務（在一些paper中似乎也有teacher和studen

機器學習-2.特徵工程和文字特徵提取

1. 資料集的組成 前面講了，機器學習是從歷史資料當中獲得規律，那這些歷史資料的組成是個什麼格式？大都儲存在哪裡？ – 在機器學習裡大多數資料不會存在資料庫中，大都存在檔案中（比如csv檔案） – 不存在資料庫原因：1. 讀取速度導致存在效能瓶頸。2. 儲存的格式不太符合機器學習

OpenCV中feature2D學習——FAST特徵點檢測與SIFT/SURF/BRIEF特徵提取與匹配

       在前面的文章《OpenCV中feature2D學習——FAST特徵點檢測》中講了利用FAST運算元進行特徵點檢測，這裡嘗試使用FAST運算元來進行特徵點檢測，並結合SIFT/SURF/BRIEF運算元進行特徵點提取和匹配。 I、結合SIFT運算元進行特徵點提取

Keras —— 基於InceptionV3模型（不含全連線層）的遷移學習應用

一、ImageDataGenerator def image_preprocess(): # 　訓練集的圖片生成器，通過引數的設定進行資料擴增 train_datagen = ImageDataGenerator( prep

Windows Caffe 學習筆記（二）提取特徵

這次的筆記是記錄如何從預先訓練的模型中提取特徵。仍然是由於Windows版本Caffe的問題，繞了一些彎路。 正文如下： 1.選擇執行的資料 在examples/下新建一個資料夾，命名為_te

深度學習tensorflow實戰筆記（4）利用儲存的VGG-16CNN網路模型提取特徵

    前幾篇部落格寫了如何處理資料，如何把用自己的資料訓練VGG-16，如何把訓練好的模型儲存。而在實際應用中，並不是所有的操作都是為了分類的，有時候需要提取影象的特徵，那麼怎麼利用已經儲存的模型提取特徵呢？   “桃葉兒尖上尖，柳葉兒就遮滿了天”    測試資料轉換成tf

Spark機器學習之特徵提取、選擇、轉換

本節介紹了處理特徵的演算法，大致分為以下幾組：      1、提取：從“原始”資料提取特徵      2、轉換：縮放，轉換或修改要素      3、選擇：從一組較大的要素中選擇一個子集      4、區域性敏感雜湊（LSH）：這類演算法將特徵變換的方面與其他演算法

keras 深度學習之遷移學習和fine tune

一.遷移學習 就是說把別人訓練好的網路(比如說卷積特徵提取部分)拿過來配合上自己分類器，這樣可以增加訓練的速度和提高分類效果。 ''' Created on 2018年8月28日 ''' #遷移學習 import keras from keras.

Keras 入門課6 -- 使用Inception V3模型進行遷移學習

Keras 入門課6：使用Inception V3模型進行遷移學習 keras 請使用2.1.2版 深度學習可以說是一門資料驅動的學科，各種有名的CNN模型，無一不是在大型的資料庫上進行的訓練。像ImageNet這種規模的資料庫，動輒上百萬張圖片。對於普通

『TensorFlow』遷移學習_他山之石，可以攻玉

不同 target lis 理解 pla 之前 photo 多說 esc 目的： 使用google已經訓練好的模型，將最後的全連接層修改為我們自己的全連接層，將原有的1000分類分類器修改為我們自己的5分類分類器，利用原有模型的特征提取能力實現我們自己數據對應模型的快速訓練

『TensorFlow』遷移學習_他山之石，可以攻玉_V2

tsl jpeg 西遊記 snr lib 成了 exist ads 感覺 『TensorFlow』遷移學習_他山之石，可以攻玉 絮絮叨叨 開學以來課業繁重（雖然也不怎麽認真聽講...）一直沒怎麽閑著，一直沒寫什麽長的代碼，正巧好幾件事趕在一塊了：導師催著我把超新星檢測的神經

tensorflow實現遷移學習

解壓 optimize pool ini ble rate http soft 包含 此例程出自《TensorFlow實戰Google深度學習框架》6.5.2小節 卷積神經網絡遷移學習。 數據集來自http://download.tensorflow.org/example