重疊池化,即相鄰池化窗口之間會有重疊區(qū)域。如果定義池化窗口的大小為sizeX,定義兩個相鄰池化窗口的水平位移/豎直位移為stride,此時sizeX>stride。
傳統(tǒng)池化存在的問題傳統(tǒng)的池化策略在固定池化比率系數(shù)下,輸出的特征大小跟輸入大小成正比,當(dāng)輸入圖片或者視頻的分辨率很大的時候,池化后的特征維度往往也會很高。解決的方法有進(jìn)一步深層網(wǎng)絡(luò)的堆疊,這樣多層池化后輸出的特征維數(shù)必然下降,但深度學(xué)習(xí)中網(wǎng)絡(luò)的層數(shù)往往是個經(jīng)驗值,也并不是網(wǎng)絡(luò)的層數(shù)越多模型的性能就越好。
重疊池化詳述重疊池化引入了空間金字塔的思想,將池化層的輸出擴(kuò)充為多級較小的特征,采用稀疏編碼進(jìn)行多級特征的融合,降低了池化層輸出的特征維度。傳統(tǒng)的池化策略輸出的是單一大小的特征映射,而多級的輸出已經(jīng)顯示了對目標(biāo)形變的魯棒性,所以結(jié)合多級金字塔的池化策略也是可以提高深度網(wǎng)絡(luò)性能的。
設(shè)空間卷積操作后得到的特征映射大小為a*a,某級金字塔大小為n*n,則對應(yīng)的池化操作的池化比率為,步長為
,這里
和
分別對應(yīng)向上取整和向下取整的操作。我們發(fā)現(xiàn)當(dāng)