论文原文
https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=7803544
摘要
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>本文提出了一种用于像素级语义分割的深度全卷积神经网络结构SegNet。该网络包含一个编码网络和一个解码网络。其中编码网络使用了VGG16中的13层卷积。解码器的作用主要是将低分辨率的特征图还原到完整的输入分辨率上，从而用于像素级的分类任务。
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>SegNet的创新点在于解码器对低特征图的上采样处理方式。具体来讲，解码器利用在max-pooling过程中计算出的池化indices，计算对应的编码器的非线性上采样。这个过程就省去了上采样学习的过程。上采样后的特征图是稀疏的，再用可学习的卷积层来计算稠密的特征图。
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>我们比较了本文的结构与FCN，DeepLab-LargeFOV和DeconvNet结构。由于SegNet的设计思路源于场景理解，因此在内存和计算时间上效率很高，可学习参数量也比其他结构小，可以用SGD端到端进行训练。在道路和SUN RGB-D室内场景下进行了排名。
网络结构
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>编码器中的每一层都对应了解码器中的一层，因此解码器也有13层。解码器的输出随后传递给一个softmax分类器，生成每个像素点在个类别下的独立概率。
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>编码器网络中的每一个encoder都用一组filter进行卷积计算，随后接一个bn层，再接一个relu激活函数。之后用一个窗口尺寸为2，步长为2的Max-Pooling，得到一个下采样结果。用Max pooling的原因是实现输入图像上小空间位移的平移不变性。下采样使得特征图中的每个像素点都对应了大输入图像内容。
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>尽管Max Pooling能够实现分类任务下更多的平移不变性，但这些操作也降低了特征图的空间分辨率。而这些逐渐损失的图像描述(例如边界信息)对于分割任务是非常重要的。因此，需要在下采样进行之前记录和保存这些边界信息。在不考虑内存的情况下，编码器中的每一层特征层都应该记录下来。但是这种方式在实际应用中是不现实的，因此本文提出了另外一种存储方式。这种方式只保存max-pooling indices，也就是每一个窗口内的最大特征值的位置。在实际应用中，这个信息可以用一个2位的二进制数来记录一个2*2的窗口，因此相比较记录整个特征图而言也就更加实用。后面会证明，这种方式损失了一定的精度，但是对于实际应用还是够用了。解码器用之前记录的max-pooling indices上采样输入的特征图。这个过程生成的特征图是稀疏的。解码技巧如下图所示：
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>DeconvNet和U-Net与SegNet结构相似，但是也有不同。主要用于使用了全连接层（尽管是以卷积的形式使用），DeconvNet参数量非常大而且很难端到端训练（如前面Table6显示的）。而U-Net（为医学场景提出的）以消耗内存的方式，直接将整个特征图级联在后面，而没有使用pooling indices。而且U-Net没有conv5和max-pool five block，而SegNet用了完整的VGG结构和预训练的参数。
解码器变体
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>许多分类结构的编码器都是相同的，不同之处在于使用了不同的解码器。为了与FCN比较（解码器部分），这里用了一个编解码器都只有4层的SegNet。解码器中在卷积后没有bias，也没有应用ReLU。整个编解码过程使用固定的7*7窗口，也就是说第4层特征图的一个像素对应了原图的106x106个像素。
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>前面的Fig.3中左侧是SegNet中使用的技巧，不需要学习，但是得到稀疏特征图后需要卷积得到稠密的特征图。不同的是这个卷积过程只针对一个通道，也就是说每个卷积只处理自己对应的那层卷积，这也是MobileNet中的深度可分离卷积。Fig.3右侧是FCN解码技巧。FCN将整个特征图记录下来，这样是很消耗内存的。比如存储第一层的64个特征图，图像分辨率为180x240，以32bit浮点精度存储，需要11MB。
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>除了上面的几种变体，我们还研究使用的固定的双线性插值权重做上采样，这样就没有权重学习的过程了。在另外一个极端下，可以把64层特征层都加到解码器上。内存消耗再大一些，可以没有尺度减小，也就是说解码器的最后一层也是跟第一层一样的通道数比如64，而不是类别个数K。
<math> <semantics> <mrow> </mrow> <annotation encoding="application/x-tex"> \quad </annotation> </semantics> </math>我们还有一些其他变体，比如用replication上采样，或用固定的（稀疏的）indices array上采样。但是这些方法的表现相比较前面几种都不太好。没有max-pooling和sub-sampling的变体消耗的内存更大、收敛所需时间更长，且表现不好。
训练和结果分析
这部分我就不写了，可以参考论文原文。
SegNet的Keras实现
我的github链接：
https://github.com/BBuf/Keras-Semantic-Segmentation
京公网安备 11010502036488号