[科普中國]-隨機池化

隨機池化（Stochastic Pooling）可以看作在一個池化窗口內對特征圖數值進行歸一化， 按照特征圖歸一化后的概率值大小隨機采樣選擇，即元素值大的被選中的概率也大。

介紹我們首先通過歸一化區(qū)域內的激活來計算每個區(qū)域j的概率p：

然后，我們從基于p的多項式分布中抽取一個在區(qū)域內選擇一個位置 .然后，合并的激活僅僅是 : where 。

該過程如圖1所示。每個訓練實例的每個層中的每個池區(qū)的樣本被相互獨立地繪制。 當通過網絡向后傳播時，這個相同的選定位置l用于將梯度引導回池區(qū)，類似于具有最大池的后向傳播1。

隨機池化的優(yōu)點隨機池化方法是對局部接受域采樣點按照其值大小賦予概率值，再根據概率值大小隨機選擇，該池化
方法確保了特征面中不是最大激勵的神經元也能夠被利用到， 隨機池化具有最大池化的優(yōu)點（消除非極大值，降低了上層的計算復雜度），同時由于隨機性它能夠避免過擬合。

本詞條內容貢獻者為:

李岳陽 - 副教授 - 江南大學