2. 程式人生 > >3.1、隨機森林之隨機森林例項

3.1、隨機森林之隨機森林例項

阿新 • • 發佈：2019-02-05

例項一、用隨機森林對鳶尾花資料進行分類

#1、載入資料並檢視
data("iris")
summary(iris)
##   Sepal.Length    Sepal.Width     Petal.Length    Petal.Width   
##  Min.   :4.300   Min.   :2.000   Min.   :1.000   Min.   :0.100  
##  1st Qu.:5.100   1st Qu.:2.800   1st Qu.:1.600   1st Qu.:0.300  
##  Median :5.800   Median :3.000   Median :4.350   Median :1.300  
##  Mean   :5.843   Mean   :3.057   Mean   :3.758   Mean   :1.199  
##  3rd Qu.:6.400   3rd Qu.:3.300   3rd Qu.:5.100   3rd Qu.:1.800  
##  Max.   :7.900   Max.   :4.400   Max.   :6.900   Max.   :2.500  
##        Species  
##  setosa    :50  
##  versicolor:50  
##  virginica :50  
##                 
##                 
## 
 
str(iris)
## 'data.frame':    150 obs. of  5 variables:
##  $ Sepal.Length: num  5.1 4.9 4.7 4.6 5 5.4 4.6 5 4.4 4.9 ...
##  $ Sepal.Width : num  3.5 3 3.2 3.1 3.6 3.9 3.4 3.4 2.9 3.1 ...
##  $ Petal.Length: num  1.4 1.4 1.3 1.5 1.4 1.7 1.4 1.5 1.4 1.5 ...
##  $ Petal.Width : num  0.2 0.2 0.2 0.2 0.2 0.4 0.3 0.2 0.2 0.1 ...
##  $ Species     : Factor w/ 3 levels "setosa","versicolor",..: 1 1 1 1 1 1 1 1 1 1 ...
 
#2、建立訓練集和測試集資料
set.seed(2001)
library(caret)
## Loading required package: lattice
## Loading required package: ggplot2
## Warning: package 'ggplot2' was built under R version 3.2.3
index <- createDataPartition(iris$Species, p=0.7, list=F)
train_iris <- iris[index, ]
test_iris <- iris[-index, ]
 


#3、建模 
library(randomForest)
## randomForest 4.6-12
## Type rfNews() to see new features/changes/bug fixes.
## 
## Attaching package: 'randomForest'
## The following object is masked from 'package:ggplot2':
## 
##     margin
model_iris <- randomForest(Species~., data=train_iris, ntree=50, nPerm=10, mtry=3, proximity=T, importance=T)

#4、模型評估
model_iris
## 
## Call:
##  randomForest(formula = Species ~ ., data = train_iris, ntree = 50,      nPerm = 10, mtry = 3, proximity = T, importance = T) 
##                Type of random forest: classification
##                      Number of trees: 50
## No. of variables tried at each split: 3
## 
##         OOB estimate of  error rate: 4.76%
## Confusion matrix:
##            setosa versicolor virginica class.error
## setosa         35          0         0  0.00000000
## versicolor      0         32         3  0.08571429
## virginica       0          2        33  0.05714286
str(model_iris)
## List of 19
##  $ call           : language randomForest(formula = Species ~ ., data = train_iris, ntree = 50,      nPerm = 10, mtry = 3, proximity = T, importance = T)
##  $ type           : chr "classification"
##  $ predicted      : Factor w/ 3 levels "setosa","versicolor",..: 1 1 1 1 1 1 1 1 1 1 ...
##   ..- attr(*, "names")= chr [1:105] "5" "7" "8" "11" ...
##  $ err.rate       : num [1:50, 1:4] 0.0513 0.0758 0.0741 0.0435 0.0505 ...
##   ..- attr(*, "dimnames")=List of 2
##   .. ..$ : NULL
##   .. ..$ : chr [1:4] "OOB" "setosa" "versicolor" "virginica"
##  $ confusion      : num [1:3, 1:4] 35 0 0 0 32 2 0 3 33 0 ...
##   ..- attr(*, "dimnames")=List of 2
##   .. ..$ : chr [1:3] "setosa" "versicolor" "virginica"
##   .. ..$ : chr [1:4] "setosa" "versicolor" "virginica" "class.error"
##  $ votes          : matrix [1:105, 1:3] 1 1 1 1 1 1 1 1 1 1 ...
##   ..- attr(*, "dimnames")=List of 2
##   .. ..$ : chr [1:105] "5" "7" "8" "11" ...
##   .. ..$ : chr [1:3] "setosa" "versicolor" "virginica"
##   ..- attr(*, "class")= chr [1:2] "matrix" "votes"
##  $ oob.times      : num [1:105] 15 23 22 16 17 11 20 20 17 19 ...
##  $ classes        : chr [1:3] "setosa" "versicolor" "virginica"
##  $ importance     : num [1:4, 1:5] 0 0 0.3417 0.34918 -0.00518 ...
##   ..- attr(*, "dimnames")=List of 2
##   .. ..$ : chr [1:4] "Sepal.Length" "Sepal.Width" "Petal.Length" "Petal.Width"
##   .. ..$ : chr [1:5] "setosa" "versicolor" "virginica" "MeanDecreaseAccuracy" ...
##  $ importanceSD   : num [1:4, 1:4] 0 0 0.04564 0.04711 0.00395 ...
##   ..- attr(*, "dimnames")=List of 2
##   .. ..$ : chr [1:4] "Sepal.Length" "Sepal.Width" "Petal.Length" "Petal.Width"
##   .. ..$ : chr [1:4] "setosa" "versicolor" "virginica" "MeanDecreaseAccuracy"
##  $ localImportance: NULL
##  $ proximity      : num [1:105, 1:105] 1 1 1 1 1 1 1 1 1 1 ...
##   ..- attr(*, "dimnames")=List of 2
##   .. ..$ : chr [1:105] "5" "7" "8" "11" ...
##   .. ..$ : chr [1:105] "5" "7" "8" "11" ...
##  $ ntree          : num 50
##  $ mtry           : num 3
##  $ forest         :List of 14
##   ..$ ndbigtree : int [1:50] 11 5 9 9 9 9 9 11 11 9 ...
##   ..$ nodestatus: int [1:17, 1:50] 1 -1 1 1 1 -1 -1 1 -1 -1 ...
##   ..$ bestvar   : int [1:17, 1:50] 4 0 4 3 3 0 0 1 0 0 ...
##   ..$ treemap   : int [1:17, 1:2, 1:50] 2 0 4 6 8 0 0 10 0 0 ...
##   ..$ nodepred  : int [1:17, 1:50] 0 1 0 0 0 2 3 0 3 2 ...
##   ..$ xbestsplit: num [1:17, 1:50] 0.8 0 1.65 5.25 4.85 0 0 6.05 0 0 ...
##   ..$ pid       : num [1:3] 1 1 1
##   ..$ cutoff    : num [1:3] 0.333 0.333 0.333
##   ..$ ncat      : Named int [1:4] 1 1 1 1
##   .. ..- attr(*, "names")= chr [1:4] "Sepal.Length" "Sepal.Width" "Petal.Length" "Petal.Width"
##   ..$ maxcat    : int 1
##   ..$ nrnodes   : int 17
##   ..$ ntree     : num 50
##   ..$ nclass    : int 3
##   ..$ xlevels   :List of 4
##   .. ..$ Sepal.Length: num 0
##   .. ..$ Sepal.Width : num 0
##   .. ..$ Petal.Length: num 0
##   .. ..$ Petal.Width : num 0
##  $ y              : Factor w/ 3 levels "setosa","versicolor",..: 1 1 1 1 1 1 1 1 1 1 ...
##   ..- attr(*, "names")= chr [1:105] "5" "7" "8" "11" ...
##  $ test           : NULL
##  $ inbag          : NULL
##  $ terms          :Classes 'terms', 'formula' length 3 Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width
##   .. ..- attr(*, "variables")= language list(Species, Sepal.Length, Sepal.Width, Petal.Length, Petal.Width)
##   .. ..- attr(*, "factors")= int [1:5, 1:4] 0 1 0 0 0 0 0 1 0 0 ...
##   .. .. ..- attr(*, "dimnames")=List of 2
##   .. .. .. ..$ : chr [1:5] "Species" "Sepal.Length" "Sepal.Width" "Petal.Length" ...
##   .. .. .. ..$ : chr [1:4] "Sepal.Length" "Sepal.Width" "Petal.Length" "Petal.Width"
##   .. ..- attr(*, "term.labels")= chr [1:4] "Sepal.Length" "Sepal.Width" "Petal.Length" "Petal.Width"
##   .. ..- attr(*, "order")= int [1:4] 1 1 1 1
##   .. ..- attr(*, "intercept")= num 0
##   .. ..- attr(*, "response")= int 1
##   .. ..- attr(*, ".Environment")=<environment: R_GlobalEnv> 
##   .. ..- attr(*, "predvars")= language list(Species, Sepal.Length, Sepal.Width, Petal.Length, Petal.Width)
##   .. ..- attr(*, "dataClasses")= Named chr [1:5] "factor" "numeric" "numeric" "numeric" ...
##   .. .. ..- attr(*, "names")= chr [1:5] "Species" "Sepal.Length" "Sepal.Width" "Petal.Length" ...
##  - attr(*, "class")= chr [1:2] "randomForest.formula" "randomForest"
pred <- predict(model_iris, train_iris)
mean(pred==train_iris[, 5])
## [1] 1
#5、預測
pred_iris <- predict(model_iris, test_iris)
table(pred_iris, test_iris[, 5])
##             
## pred_iris    setosa versicolor virginica
##   setosa         15          0         0
##   versicolor      0         13         2
##   virginica       0          2        13
mean(pred_iris==test_iris[, 5])
## [1] 0.9111111
library(gmodels)
CrossTable(pred_iris, test_iris[, 5])
## 
##  
##    Cell Contents
## |-------------------------|
## |                       N |
## | Chi-square contribution |
## |           N / Row Total |
## |           N / Col Total |
## |         N / Table Total |
## |-------------------------|
## 
##  
## Total Observations in Table:  45 
## 
##  
##              | test_iris[, 5] 
##    pred_iris |     setosa | versicolor |  virginica |  Row Total | 
## -------------|------------|------------|------------|------------|
##       setosa |         15 |          0 |          0 |         15 | 
##              |     20.000 |      5.000 |      5.000 |            | 
##              |      1.000 |      0.000 |      0.000 |      0.333 | 
##              |      1.000 |      0.000 |      0.000 |            | 
##              |      0.333 |      0.000 |      0.000 |            | 
## -------------|------------|------------|------------|------------|
##   versicolor |          0 |         13 |          2 |         15 | 
##              |      5.000 |     12.800 |      1.800 |            | 
##              |      0.000 |      0.867 |      0.133 |      0.333 | 
##              |      0.000 |      0.867 |      0.133 |            | 
##              |      0.000 |      0.289 |      0.044 |            | 
## -------------|------------|------------|------------|------------|
##    virginica |          0 |          2 |         13 |         15 | 
##              |      5.000 |      1.800 |     12.800 |            | 
##              |      0.000 |      0.133 |      0.867 |      0.333 | 
##              |      0.000 |      0.133 |      0.867 |            | 
##              |      0.000 |      0.044 |      0.289 |            | 
## -------------|------------|------------|------------|------------|
## Column Total |         15 |         15 |         15 |         45 | 
##              |      0.333 |      0.333 |      0.333 |            | 
## -------------|------------|------------|------------|------------|
## 
##

例項二、用坦泰尼克號乘客是否存活資料應用到隨機森林演算法中

在隨機森林演算法的函式randomForest()中有兩個非常重要的引數，而這兩個引數又將影響模型的準確性，它們分別是mtry和ntree。一般對mtry的選擇是逐一嘗試，直到找到比較理想的值，ntree的選擇可通過圖形大致判斷模型內誤差穩定時的值。 randomForest包中的randomForest(formula, data, ntree, nPerm, mtry, proximity, importace)函式：隨機森林分類與迴歸。ntree表示生成決策樹的數目（不應設定太小，預設為 500）；nPerm表示計算importance時的重複次數，數量大於1給出了比較穩定的估計，但不是很有效（目前只實現了迴歸）；mtry表示選擇的分裂屬性的個數；proximity表示是否生成鄰近矩陣，為T表示生成鄰近矩陣；importance表示輸出分裂屬性的重要性。

下面使用坦泰尼克號乘客是否存活資料應用到隨機森林演算法中，看看模型的準確性如何。

#1、載入資料並檢視：同時讀取訓練樣本和測試樣本集
train <- read.table("F:\\R\\Rworkspace\\RandomForest/train.csv", header=T, sep=",")
test <- read.table("F:\\R\\Rworkspace\\RandomForest/test.csv", header=T, sep=",")
#注意：訓練集和測試集資料來自不同的資料集，一定要注意測試集和訓練集的factor的levels相同，否則，在利用訓練集訓練的模型對測試集進行預測時，會報錯！！！

str(train)
## 'data.frame':    891 obs. of  8 variables:
##  $ Survived: int  0 1 1 1 0 0 0 0 1 1 ...
##  $ Pclass  : int  3 1 3 1 3 3 1 3 3 2 ...
##  $ Sex     : Factor w/ 2 levels "female","male": 2 1 1 1 2 2 2 2 1 1 ...
##  $ Age     : num  22 38 26 35 35 NA 54 2 27 14 ...
##  $ SibSp   : int  1 1 0 1 0 0 0 3 0 1 ...
##  $ Parch   : int  0 0 0 0 0 0 0 1 2 0 ...
##  $ Fare    : num  7.25 71.28 7.92 53.1 8.05 ...
##  $ Embarked: Factor w/ 4 levels "","C","Q","S": 4 2 4 4 4 3 4 4 4 2 ...
str(test)
## 'data.frame':    418 obs. of  7 variables:
##  $ Pclass  : int  3 3 2 3 3 3 3 2 3 3 ...
##  $ Sex     : Factor w/ 2 levels "female","male": 2 1 2 2 1 2 1 2 1 2 ...
##  $ Age     : num  34.5 47 62 27 22 14 30 26 18 21 ...
##  $ SibSp   : int  0 1 0 0 1 0 0 1 0 2 ...
##  $ Parch   : int  0 0 0 0 1 0 0 1 0 0 ...
##  $ Fare    : num  7.83 7 9.69 8.66 12.29 ...
##  $ Embarked: Factor w/ 3 levels "C","Q","S": 2 3 2 3 3 3 2 3 1 3 ...
#從上可知：訓練集資料共891條記錄，8個變數，Embarked因子水平為4；測試集資料共418條記錄，7個變數，Embarked因子水平為3；訓練集中存在缺失資料；Survived因變數為數字型別，測試集資料無因變數

#2、資料清洗
#1）調整測試集與訓練基地因子水平
levels(train$Embarked)
## [1] ""  "C" "Q" "S"
levels(test$Embarked)
## [1] "C" "Q" "S"
levels(test$Embarked) <- levels(train$Embarked)

#2)把因變數轉化為因子型別
train$Survived <- as.factor(train$Survived)

#3)使用rfImpute()函式補齊訓練集的缺失值NA
library(randomForest)
train_impute <- rfImpute(Survived~., data=train)
## ntree      OOB      1      2
##   300:  16.39%  7.83% 30.12%
## ntree      OOB      1      2
##   300:  16.50%  8.93% 28.65%
## ntree      OOB      1      2
##   300:  16.72%  8.74% 29.53%
## ntree      OOB      1      2
##   300:  16.50%  8.56% 29.24%
## ntree      OOB      1      2
##   300:  17.28%  9.47% 29.82%
#4)補齊測試集的缺失值：對待測樣本進行預測,發現待測樣本中存在缺失值，這裡使用多重插補法將缺失值補齊
summary(test)
##      Pclass          Sex           Age            SibSp       
##  Min.   :1.000   female:152   Min.   : 0.17   Min.   :0.0000  
##  1st Qu.:1.000   male  :266   1st Qu.:21.00   1st Qu.:0.0000  
##  Median :3.000                Median :27.00   Median :0.0000  
##  Mean   :2.266                Mean   :30.27   Mean   :0.4474  
##  3rd Qu.:3.000                3rd Qu.:39.00   3rd Qu.:1.0000  
##  Max.   :3.000                Max.   :76.00   Max.   :8.0000  
##                               NA's   :86                      
##      Parch             Fare         Embarked
##  Min.   :0.0000   Min.   :  0.000    :102   
##  1st Qu.:0.0000   1st Qu.:  7.896   C: 46   
##  Median :0.0000   Median : 14.454   Q:270   
##  Mean   :0.3923   Mean   : 35.627   S:  0   
##  3rd Qu.:0.0000   3rd Qu.: 31.500           
##  Max.   :9.0000   Max.   :512.329           
##                   NA's   :1
#可是看出測試集資料存在缺失值NA,Age和Fare的資料有NA

#多重插補法填充缺失值：
library(mice)
## Loading required package: Rcpp
## mice 2.25 2015-11-09
imput <- mice(data=test, m=10)
## 
##  iter imp variable
##   1   1  Age  Fare
##   1   2  Age  Fare
##   1   3  Age  Fare
##   1   4  Age  Fare
##   1   5  Age  Fare
##   1   6  Age  Fare
##   1   7  Age  Fare
##   1   8  Age  Fare
##   1   9  Age  Fare
##   1   10  Age  Fare
##   2   1  Age  Fare
##   2   2  Age  Fare
##   2   3  Age  Fare
##   2   4  Age  Fare
##   2   5  Age  Fare
##   2   6  Age  Fare
##   2   7  Age  Fare
##   2   8  Age  Fare
##   2   9  Age  Fare
##   2   10  Age  Fare
##   3   1  Age  Fare
##   3   2  Age  Fare
##   3   3  Age  Fare
##   3   4  Age  Fare
##   3   5  Age  Fare
##   3   6  Age  Fare
##   3   7  Age  Fare
##   3   8  Age  Fare
##   3   9  Age  Fare
##   3   10  Age  Fare
##   4   1  Age  Fare
##   4   2  Age  Fare
##   4   3  Age  Fare
##   4   4  Age  Fare
##   4   5  Age  Fare
##   4   6  Age  Fare
##   4   7  Age  Fare
##   4   8  Age  Fare
##   4   9  Age  Fare
##   4   10  Age  Fare
##   5   1  Age  Fare
##   5   2  Age  Fare
##   5   3  Age  Fare
##   5   4  Age  Fare
##   5   5  Age  Fare
##   5   6  Age  Fare
##   5   7  Age  Fare
##   5   8  Age  Fare
##   5   9  Age  Fare
##   5   10  Age  Fare
Age <- data.frame(Age=apply(imput$imp$Age, 1, mean))
Fare <- data.frame(Fare=apply(imput$imp$Fare, 1, mean))

#新增行標號：
test$Id <- row.names(test)
Age$Id <- row.names(Age)
Fare$Id <- row.names(Fare)

#替換缺失值：
test[test$Id %in% Age$Id, 'Age'] <- Age$Age
test[test$Id %in% Fare$Id, 'Fare'] <- Fare$Fare
summary(test)
##      Pclass          Sex           Age            SibSp       
##  Min.   :1.000   female:152   Min.   : 0.17   Min.   :0.0000  
##  1st Qu.:1.000   male  :266   1st Qu.:22.00   1st Qu.:0.0000  
##  Median :3.000                Median :26.19   Median :0.0000  
##  Mean   :2.266                Mean   :29.41   Mean   :0.4474  
##  3rd Qu.:3.000                3rd Qu.:36.65   3rd Qu.:1.0000  
##  Max.   :3.000                Max.   :76.00   Max.   :8.0000  
##      Parch             Fare         Embarked      Id           
##  Min.   :0.0000   Min.   :  0.000    :102    Length:418        
##  1st Qu.:0.0000   1st Qu.:  7.896   C: 46    Class :character  
##  Median :0.0000   Median : 14.454   Q:270    Mode  :character  
##  Mean   :0.3923   Mean   : 35.583   S:  0                      
##  3rd Qu.:0.0000   3rd Qu.: 31.472                              
##  Max.   :9.0000   Max.   :512.329
#從上可知：測試資料集中已經沒有了NA值。

#3、選著隨機森林的mtry和ntree值
#1）選著mtry
(n <- length(names(train)))
## [1] 8
library(randomForest)
for(i in 1:n) {
  model <- randomForest(Survived~., data=train_impute,  mtry=i)
  err <- mean(model$err.rate)
  print(err)
}
## [1] 0.2100028
## [1] 0.1889116
## [1] 0.1776607
## [1] 0.1902606
## [1] 0.1960938
## [1] 0.1953451
## [1] 0.1951303
## [1] 0.2018745
#從上可知：mtry=2或者mtry=3時，模型內評價誤差最小，故確定引數mtry=2或者mtry=3

#2)選著ntree
set.seed(2002)
model <- randomForest(Survived~., data=train_impute, mtry=2, ntree=1000)
plot(model)

#從上圖可知：ntree在400左右時，模型內誤差基本穩定，故取ntree=400

#4、建模
model_fit <- randomForest(Survived~., data=train_impute, mtry=2, ntree=400, importance=T)

#5、模型評估
model_fit
## 
## Call:
##  randomForest(formula = Survived ~ ., data = train_impute, mtry = 2,      ntree = 400, importance = T) 
##                Type of random forest: classification
##                      Number of trees: 400
## No. of variables tried at each split: 2
## 
##         OOB estimate of  error rate: 16.61%
## Confusion matrix:
##     0   1 class.error
## 0 500  49  0.08925319
## 1  99 243  0.28947368
#檢視變數的重要性
(importance <- importance(x=model_fit))
##                  0         1 MeanDecreaseAccuracy MeanDecreaseGini
## Pclass   16.766454 28.241508             32.16125         33.15984
## Sex      46.578191 76.145306             72.42624        100.74843
## Age      19.882605 24.586274             30.52032         60.85186
## SibSp    19.070707  2.834303             18.95690         16.11720
## Parch    10.366140  8.380559             13.18282         12.28725
## Fare     18.649672 20.967558             29.43262         66.31489
## Embarked  7.904436 11.479919             14.18780         12.68924
#繪製變數的重要性圖
varImpPlot(model_fit)

#從上圖可知：模型中乘客的性別最為重要，接下來的是Pclass,age,Fare和Fare,age,Pclass。

#6、預測
#1）對訓練集資料預測：
train_pred <- predict(model_fit, train_impute)
mean(train_pred==train_impute$Survived)
## [1] 0.9135802
table(train_pred, train_impute$Survived)
##           
## train_pred   0   1
##          0 535  63
##          1  14 279
#模型的預測精度在90%以上

#2)對測試集資料預測：
test_pred <- predict(model_fit, test[, 1:7])
head(test_pred)
## 1 2 3 4 5 6 
## 0 0 0 0 1 0 
## Levels: 0 1

相關推薦

3.1、隨機森林之隨機森林例項

例項一、用隨機森林對鳶尾花資料進行分類 #1、載入資料並檢視 data("iris") summary(iris) ## Sepal.Length Sepal.Width Petal.Length Petal.Width ## Min. :4.300 Min.

3.1、C#基礎 - C# 的 Hello World（2）

大小寫 我們 解釋 pre blog 分享 ref sharp 圖片 在上篇文章中，你跟著我寫了一個HelloWorld，本篇中，我們來談談一些C#程序中的小概念 1、C# 程序結構 一個 C# 程序主要包括以下部分： 命名空間聲明（Namespace declarati

3.1、字典生成式、集合生成式、生成器

key 如果 我們 繼續 generator yield true spa 補充 字典生成式： 跟列表生成式一樣，字典生成式用來快速生成字典,不同的是，字典需要兩個值 #d = {key: value for (key, value) in iterable} d1 =

4.1、Django - URL之DEBUG模式詳解

1、DEBUG模式 新建一個專案，預設在setting.py中開啟了DEBUG模式，如下： # SECURITY WARNING: don't run with debug turned on in production! DEBUG = True ALLOWED_HOSTS

CCF CSP考試題 2018-3 1、2題（跳一跳、碰撞）

第一題 跳一跳 試題編號：201803-1 試題名稱：跳一跳 時間限制：1.0s 記憶體限制：256.0MB 問題描述 問題描述        近來，跳一跳這款小遊戲風靡全國，受到不少玩家的喜愛。

1.3.1線性連結串列之靜態（結構體陣列）連結串列

結構表示 #define     MAXSIZE    1000  //連結串列的最大長度 typedef   struct {      ElemType      data;      int                 cur;     //該結點所在位序 }c

3.1、Android Studio在虛擬機器中執行應用

Android虛擬機器Monitor一個裝置並且顯示在你的開發計算機上。它可以允許你在不適用硬體裝置的情況下開發、測試你的Android應用。虛擬機器支援Android手機，Android Wear和平板和Android TV裝置。因為它有一些預定義的裝置型別，

python3教程系列（三.3.1、除錯技術簡介）

除錯技術 除錯流程：單元測試->整合測試->交測試部 分類： 靜態除錯 動態除錯 pdb除錯 推薦文章 官方網頁（英文) pdb模組介紹 pdb除錯

1、鏈表之增、刪、查實現（C語言）

pan 沒有 null [] src ase 找到 調用 strlen 一、功能描述： 可以創建節點並添加到鏈表中、查看鏈表中的所有節點、並可以刪除特定的節點 二、代碼實現 1、主函數main主要實現的是從後臺鍵入不同的字符，執行對應的函數來實現特定的操作代碼如下：

隨機演算法之隨機選擇

1. 問題定義         輸入：n個無序元素 S = {x1, x2, ... , xn}；         輸出：S中第k個最小元素。 2. 隨機演算法         如果先對n個元

《程式設計導論（Java）·3.1.2 方法》之 副作用

4. 副作用 在一些語言如Pascal中，子程式被分成兩種：函式和過程。雖然Java沒有強制性地要求將方法區分為命令和函式，然而這種區別對於良好地設計程式有很大的幫助[1]。 首先說明一個概念：副作用(side effect)。副作用一般是針對操作(表示式)而言的，一個操作

1.Spring學習筆記之 ———— Bean的例項化

    什麼是Bean的例項化?     在面向物件的程式中，想要使用某個物件，就需要先例項化這個物件。Spring中，想要使用容器中的Bean，也需要例項化Bean。     其類似於當我們需要建立一個類物件而去new這個類一樣。通常來說，當我們需要用到一個Bean的時

實現中等難度通訊錄。需求： 1、定義聯絡人類AddressContact。例項變數：姓名（拼音，首字母大寫）、性別、電話號碼、住址、分組名稱、年齡。方法：自定義初始化方法（姓名、電話號碼）、顯示聯絡人

<span style="font-size:24px;">// 1、定義聯絡人類AddressContact。例項變數：姓名（拼音，首字母大寫）、性別、電話號碼、住址、分組名稱、年齡。方法：自定義初始化方法（姓名、電話號碼）、顯示聯絡人資訊 { NS

1.3.1 Julia機器學習實戰——使用Random Forest隨機森林進行字元影象識別

0 Preface 相關引數說明 - Julia: 1.0 - OS: MacOS 訓練測試資料百度雲連結：點選下載 密碼: u71o 檔案說明： - rf_julia_charReg - resizeData.py #批量

機器學習演算法之隨機森林（1）pyspark.mllib中的RF

spark的persist操作可以使得資料常駐記憶體，而機器學習最主要的工作——迭代，需要頻繁地存取資料，這樣相比hadoop來說，天然地有利於機器學習。 ———- 單機版。 至於叢集的搭建——現在手頭最多兩臺電腦，後面再折騰。 1、安裝pysaprk

大白話5分鐘帶你走進人工智慧-第二十八節整合學習之隨機森林概念介紹(1)

                          &nbs

決策樹模型組合之隨機森林與GBDT（轉）

get 9.png 生成 代碼 margin ast decision 損失函數 固定 版權聲明： 本文由LeftNotEasy發布於http://leftnoteasy.cnblogs.com, 本文可以被全部的轉載或者部分使用，但請註明出處，如果有問題，請

機器學習之隨機森林——CART模型的PYTHON實現

機器學習之隨機森林——CART模型PYTHON實現 把機器學習的過程記錄一下。隨機森林即利用決策樹群對樣本進行訓練並預測的一種分類器，其與單棵決策樹相比可以平衡誤差。 其中CART模型： 二叉決策樹 ，節點特徵只取值“是”與“否”； 輸入特徵的切分方式 ，啟

scikit-learn /sklearn ： 整合學習 之 隨機森林分類器（Forests of Randomized Tree）官方檔案翻譯

整合學習 之 隨機森林分類器 整合學習的定義和分類。 隨機森林法的定義和分類。 隨機森林sklearn.ensemble.RandomForestClassifier()引數分類和含義。 附註：Bias和Variance的含義和關係。 一、整合學習 （Ensemble

決策樹之隨機森林

一、簡單介紹 1、Bootstraping 一種有放回抽樣的選擇訓練樣本資料的方法。 2、Bagging策略 二、隨機森林 一個樣本集合中有n個樣本，用Bootstrap方法對它取樣m次就會得到m個有n個樣本的樣本集合，就等於得到了m個訓練資料集。對於每一個訓