池化层、感受野、空洞卷积、反卷积

池化层

在卷积神经网络中，连续几个卷积层接连在一起，称为卷积模块，随着卷积层增加，参数总数也相应增加，为了减少后续卷积层的参数，在卷积层之间加入池化层，提取抽象特征。池化核在输入上滑动，并通过函数对局部区域特征进行运算。如图所示。

其中，池化层的池化核大小为 2×2 ，在输入上滑动步伐 stride = 2。根据上图 ，池化层能够降低特征图的维度。局部特征图像素间存在相关性，最大池化法将选取输入特征图中局部特征图像素的最大值并输出，将其他像素当作冗余的信息弃掉，而平均池化法将取输入特征图中局部特征图所有像素平均值并输出。

池化层具有局部平移不变性的特点，即不关注特征图局部区域的某个特征具体出现在那个位置，而是使用池化函数对特征图局部区域的相邻像素点的总体特征作为在该局部的某个特征输出。例如，最大池化函数，输出局部相邻像素点的最大值，丢弃其他像素点，因此降低了特征图的分辨率。但是对于图像语义分割而言，卷积神经网络是对特征图的像素点进行分类，并分割出含有语义信息的区域，所以局部特征像素点的位置信息是重要的。

感受野

特征图像素点在原输入上映射的范围是该像素点的感受野，如图所示。

上图是两组特征提取过程，输入特征图的尺寸为5×5 。第一组有两层卷积层，它的卷积核尺寸都是 3×3。第二组仅有一层卷积层，它的卷积核尺寸是5×5 。两组的滑动步伐 stride = 1，且输入特征图边缘没有填充 0，都是输出分辨率相同的特征图。在第一组特征提取过程中，第一次输出特征图的红色像素点对应输入特征图的红色区域，第二次输出特征图的阴影像素点对应前一层输出特征图的阴影部分和对应输入特征图的阴影部分。在第二组特征提取过程中，输出特征图的阴影像素点对应输入特征图的阴影区域。对比两组特征提取过程，输出特征图像素点的在输入特征图的映射区域都是一样的。那么小的卷积核可以通过加深卷积层数获得大的卷积核一样感受野，并且小的卷积核使网络非线性表达更强。

空洞卷积

语义分割网络的池化层能够按比例降低特征图宽和高，增大输出特征图像素点的感受野，但是也影响到了特征图的空间结构，而且上采样结构无法准确还原特征图的位置信息。另外，空洞卷积也可以且不增加参数情况下使像素点扩大映射范围。空洞卷积的表达式为：
y [ i ] = ∑ k = 1 k x [ i r ⋅ k ] w [ k ] y[i]=\sum\limits_{k = 1}^k x[i r·k]w[k] y[i]=k=1∑kx[i r⋅k]w[k]
其中， k是卷积核的大小， y是输出信号， w是卷积核函数， r是空洞率。
相同卷积运算是在输入特征图边缘填充零来满足卷积核对其进行卷积运算的过程。相同卷积运算可以保持特征图不变，而空洞卷积运算是在卷积核上对其卷积核的相邻元素之间填充 0元素，即填充空洞。实际上，卷积核填充 0并没有因给卷积层增加参数而降低训练的效率，但是元素为 0的卷积核元素可以辅助卷积核增大，这种卷积方式称为空洞卷积。空洞卷积的卷积过程与标准卷积一样，由空洞卷积的内核在输入特征图上滑动。由于卷积核大小改变，在输入特征图上滑动所占用的空间大小将会改变，对于输出同样分辨率的特征图，那么输出特征图的像素点所映射出来的感受野比标准卷积的还大。不同空洞率的空洞卷积如图所示。

在图中，有三种不同空洞率的空洞卷积，分别是空洞率 r = 1的空洞卷积、空洞率r = 2的空洞卷积和空洞率 r = 4的卷积，图（a）是它们的感受野。

当空洞率 r = 1时，没有在卷积核相邻元素之间填充零元素，如图(b1)，卷积核的大小和标准卷积核的大小一样，它的大小为3×3 ，此时空洞卷积是一个标准卷积，输出特征图的每个像素点感受野为3×3 ，如图(a)紫色边区域所示。当空洞率r = 2时，卷积核大小为5×5 ，并且给相邻元素间隔增添 1个零元素，如图(b2)，即相邻元素之间存在1个空洞，输出特征图的每个像素点感受野为 7 7 ，如图(a)红色边区域所示。当空洞率 r = 4时，卷积核的大小为9×9 ，在卷积核相邻元素之间填充了 3个零元素，如图(b3),即相邻元素之间存在了 3个空洞，输出特征图的每个像素点的感受野为15×15 ，如图(a)黄色边区域所示。

从以上三种卷积核的感受野对比图看，对于特征图像素点，它的卷积核空洞率越大，它的感受野就越大，该像素点表示局部特征范围就越大，在同一个输入图像中，输出等分辨率的特征图，空洞卷积的特征图比标准卷积的特征图更具有全局性，同时，空洞卷积并没有给深度卷积神经网络增加参数。

反卷积

上采样结构的上采样层能恢复特征图的分辨率，且上采样层通常用反卷积运算，如图所示。Zeiler在 2010年提出反卷积，反卷积运算是将输入特征图拉成一个列向量并且右乘卷积核，反卷积是一种转置的卷积。

跨步卷积

跨步卷积，即卷积时并不是简单的逐步卷积：

这篇好文章是转载于：学新通技术网