樣本熵理論相關知識與程式碼實現

關於本部落格的說明： 本次部落格主要分享樣本熵（Sample Entropy, SampEn, SE）的理論相關知識及其程式碼實現.
之前分享過一篇有關近似熵的部落格“近似熵理論相關知識與程式碼實現”，有興趣的博友歡迎前往觀看，不足之處還請不吝賜教！https://blog.csdn.net/cratial/article/details/79707169

一、理論基礎

樣本熵(SampEn)是基於近似熵(ApEn)的一種用於度量時間序列複雜性的改進方法，在評估生理時間序列的複雜性和診斷病理狀態等方面均有應用[1].
由於樣本熵是近似熵的一種改進方法，因此可以將其與近似熵聯絡起來理解.

演算法表述如下：

設存在一個以等時間間隔取樣獲得的 $N$ 維的時間序列 $u (1), u (2), . . ., u (N)$ .
定義演算法相關引數 $m$ , $r$ ，其中， $m$ 為整數，表示比較向量的長度， $r$ 為實數，表示“相似度”的度量值.
重構 $m$ 維向量 $X (1), X (2), . . ., X (N - m + 1)$ ,其中 $X (i) = [u (i), u (i + 1), . . ., u (i + m - 1)]$ .
對於 $1 \leq i \leq N - m + 1$ ，統計滿足以下條件的向量個數
$B_{i}^{m} (r) = (n u m b e r o f X (j) s u c h t h a t d [X (i), X (j)] \leq r) / (N - m), i \neq j$
其中， $d [X, X^{*}]$ 定義為 $d [X, X^{*}] = max_{a} | u (a) - u^{*} (a) |, X \neq X^{*}$
$u (a)$ 為向量 $X$ 的元素， $d$ 表示向量 $X (i)$ 與 $X (j)$ 的距離，由對應元素的最大差值決定， $j$ 的取值範圍為 $[1, N - m + 1]$ ，但是 $j \neq i$ .
求 $B_{i}^{m} (r)$ 對所有 $i$ 值的平均值，記為 $B^{m} (r)$ ，即
$B^{m} (r) = (N - m + 1)^{- 1} \sum_{i = 1}^{N - m + 1} B_{i}^{m} (r)$ .
令 $k = m + 1$ ，重複步驟3-4，得 $A^{k} (r) = (N - k + 1)^{- 1} \sum_{i = 1}^{N - k + 1} A_{i}^{k} (r)$

相關推薦

樣本熵理論相關知識與程式碼實現

關於本部落格的說明：本次部落格主要分享樣本熵（Sample Entropy, SampEn, SE）的理論相關知識及其程式碼實現. 之前分享過一篇有關近似熵的部落格“近似熵理論相關知識與程式碼實現”

神經網絡的相關知識(1.python 實現MLp)

技術分享 num pre func sin date 傳播 prop etime 轉載於：http://blog.csdn.net/miangangzhen/article/details/51281989 #!usr/bin/env python3 # -*- c

PHP 控制反轉與依賴注入詳細分析與程式碼實現

PHP有很多的設計模式，比如單例模式，訂閱模式，策略模式，工廠模式，觀察者模式，這些設計模式其實無非都是為了讓程式簡化，容易維護，模組間解耦。現在我們來講講PHP的另外一種設計模式，控制反轉/依賴注入，這兩者其實是同一個概念，只是凶不同的角度去解釋的而已。依賴注入：是從需要實現的業務邏輯上面去

Ubuntu虛擬環境的相關知識與問題

簡介： virtualenv 是一個隔離Python環境的工具。virtualenv 可以讓你在同一個作業系統上建立多個不同的Python環境.如一個Python2, 另一個Python3,　還有Django1.2 和 Django1.5專案Python環境互不相同，互不干涉。 virtua

Java常用的八種排序演算法與程式碼實現（三）：桶排序、計數排序、基數排序

三種線性排序演算法：桶排序、計數排序、基數排序線性排序演算法（Linear Sort）：這些排序演算法的時間複雜度是線性的O(n)，是非比較的排序演算法桶排序（Bucket Sort）　　將要排序的資料分到幾個有序的桶裡，每個桶裡的資料再單獨進行排序，桶內排完序之後，再把桶裡的

Java常用的八種排序演算法與程式碼實現（二）：歸併排序法、快速排序法

注：這裡給出的程式碼方案都是通過遞迴完成的－－－歸併排序（Merge Sort）：　　分而治之，遞迴實現　　如果需要排序一個數組，我們先把陣列從中間分成前後兩部分，然後對前後兩部分進行分別排序，再將排好序的數組合並在一起，這樣整個陣列就有序了　　歸併排序是穩定的排序演算法，時間

ml課程：概率圖模型—貝葉斯網路、隱馬爾可夫模型相關（含程式碼實現）

以下是我的學習筆記，以及總結，如有錯誤之處請不吝賜教。本文主要介紹機器學習中的一個分支——概率圖模型、相關基礎概念以及樸素貝葉斯、隱馬爾可夫演算法，最後還有相關程式碼案例。說到機器學習的起源，可以分為以下幾個派別：連線主義：又稱為仿生學派(bionicsism)或生理學派

ml課程：SVM相關（含程式碼實現）

以下是我的學習筆記，以及總結，如有錯誤之處請不吝賜教。本文主要介紹svm的創始人Vapnik‘s如何一步一步構建出這個經典演算法模型的，同時也可以給我們以後演算法之路提供一個思路，即使你對優化等數學方法不熟悉，依然可以創造出很好的演算法。下svm關鍵的幾個idea： KEY ID

ml課程：決策樹、隨機森林、GBDT、XGBoost相關（含程式碼實現）

以下是我的學習筆記，以及總結，如有錯誤之處請不吝賜教。基礎概念：熵Entropy：是衡量純度的一個標準,表示式可以寫為：資訊增益Information Gain：熵變化的一個量，表示式可以寫為：資訊增益率Gain Ratio：資訊增益的變化率，表示式可以寫為：

機器學習之logistic迴歸演算法與程式碼實現

Logistic迴歸演算法與程式

機器學習之AdaBoost原理與程式碼實現

1 2.000000 1.000000 38.500000 66.000000 28.000000 3.000000 3.000000 0.000000 2.000000 5.000000 4.000000 4.000000 0.0

機器學習之KNN原理與程式碼實現

KNN原理與程式碼實現 KNN原理 KNN（k-Nearest Neighbour）：K-近鄰演算法，主要思想可以歸結為一個成語：物以類聚工作原理給定一個訓練資料集，對新的輸入例項，在訓練資料集中找到與該例項最鄰近的 k （k

機器學習系列文章：Apriori關聯規則分析演算法原理分析與程式碼實現

1.關聯規則淺談關聯規則（Association Rules）是反映一個事物與其他事物之間的相互依存性和關聯性，如果兩個或多個事物之間存在一定的關聯關係，那麼，其中一個事物就能通過其他事物預測到。關聯規則是資料探勘的一個重要技術，用於從大量資料中挖掘出有價值的資料

Java常用的八種排序演算法與程式碼實現（一）：氣泡排序法、插入排序法、選擇排序法

這三種排序演算法適合小規模資料排序－－－　　共同點：基於比較，時間複雜度均為O(n2)，空間複雜度均為O(1)（原地排序演算法）　　不同點：插入排序和氣泡排序是穩定的排序演算法，選擇排序不是－－－　　穩定排序演算法：可以保持數值相等的兩個物件，在排序之

機器學習之樸素貝葉斯演算法與程式碼實現

樸素貝葉斯演算法與程式碼實現演算法原理樸素貝葉斯是經典的機器學習演算法之一，也是為數不多的基於概率論的分類演算法。樸素貝葉斯原理簡單，也很容易實現，多用於文字分類，比如垃圾郵件過濾。該演算法的優點在於簡單易懂、學習效率高、在某些領

Neutron的基本原理與程式碼實現

分享正文大家好，很高興今天能與大家分享一些Neutron的知識。今天分享的思路是：Openstack網路基礎、Neutron的軟體實現、Nova虛擬機器啟動時的網路處理以及OVS流表分析。一、Openstack網路基礎下面對Openstack和Neutr

Factorization Machines簡介與程式碼實現

介紹 FM是聯合SVM與因式分解模型的優點所得。在有比較大的資料稀疏情況下，也能從中找出聯絡。FM可以線上性時間內優化。優點可以在非常稀疏的資料中進行合理的引數估計 FM模型的時間複雜度是線性的 FM是一個通用模型，它可以用於任何特徵為實值的

歸併排序演算法原理分析與程式碼實現

歸併排序是建立在歸併操作上的一種有效的排序演算法。該演算法是採用分治法（Divide and Conquer）的一個非常典型的應用，歸併排序將兩個已排序的表合併成一個表。歸併排序基本原理

Embedding理解與程式碼實現

Embedding 字面理解是 “嵌入”，實質是一種對映，從語義空間到向量空間的對映，同時儘可能在向量空間保持原樣本在語義空間的關係，如語義接近的兩個詞彙在向量空間中的位置也比較接近。下面以一個基於Keras的簡單的文字情感分類問題為例解釋Embedding的訓練過程：首先，

vysor原理與程式碼實現

看過 vysor原理以及Android同屏方案 , 我突然想到整個過程應該如何驗證的問題。於是反編譯了vysor 最新的apk, 其中的程式碼邏輯依然具有很強的借鑑意義。其中通過 shell 環境下呼叫 adb 獲取截圖許可權成為了全篇的亮點所在。以下文字簡要地記錄了個人的理解過程，同時希