其中a，b是偏倚係數，而W是權重矩陣。有了能量函式，v,h的聯合概率分佈為：

　　其中Z是被稱為配分函式的歸一化常數（對於概率輸出一般都要做歸一化）：

　　由於配分函式Z的難以處理，所以必須使用最大似然梯度來近似。首先從聯合分佈中匯出條件分佈：

　　為了推導方便將無關值歸於Z’中：

　　可以容易的得到在給定可視層v的基礎上，隱層第j個節點為1或者為0的概率為：

　　可以看到就是相當於使用了sigmoid啟用函式，現在可以寫出關於隱藏層的完全條件分佈： 

　　有了啟用函式，我們就可以從可見層和引數推匯出隱藏層的神經元的取值概率了。對於0,1取值的情況，則大於0.5即取值為1。從隱藏層和引數推匯出可見的神經元的取值方法也是一樣的。

3、RBM損失函式　

　　RBM模型的關鍵就是求出我們模型中的引數W,a,b。首先我們得寫出損失函式，RBM一般採用對數損失函式，即期望最小化下式：

　　然後求偏導可得：

　　雖然說梯度下降從理論上可以用來優化RBM模型，但實際中是很難求得P(v)的概率分佈的（P(v)表示可見層節點的聯合概率）。計算複雜度非常大，因此採用一些隨機取樣的方法來得到近似的解。看這三個梯度的第二項實際上都是求期望，而我們知道，樣本的均值是隨機變數期望的無偏估計。因此一般都是基於對比散度方法來求解。

4、 對比散度演算法（CD）

　　CD演算法大概思路是這樣的，從樣本集任意一個樣本v⁰開始，經過k次Gibbs取樣（實際中k=1往往就足夠了），即每一步是：

　　得到樣本v^k，然後對應於上一篇三個單樣本的梯度，用v^k去近似：

　　上述近似的含義是說，用一個取樣出來的樣本來近似期望的計算。下面給出CD-k的演算法執行流程。

　　具體RBM演算法的流程：

5、深度玻爾茲曼機（DBM）

　　加深RBM的層數後，就變成了DBM，結構圖如下：

　　此時的能量函式變為：

　　聯合概率變成：

　　其實DBM也可以看做是一個RBM，比如對上圖稍微加以變換就可以看做是一個RBM。

　　將可見層和偶數隱藏層放在一邊，將奇數隱藏層放在另一邊，我們就得到了RBM，和RBM的細微區別只是現在的RBM並不是全連線的，其實也可以看做部分權重為0的全連線RBM。RBM的演算法思想可以在DBM上使用。只是此時我們的模型引數更加的多，而且迭代求解引數也更加複雜了。