返回论文笔记资料库
arXiv 2017轻量模型论文笔记

MobileNet-V1

深度可分离卷积的发扬者

原始论文

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

论文作者

Andrew G. Howard · Menglong Zhu · Bo Chen …

查看全部 8 位作者

Andrew G. Howard · Menglong Zhu · Bo Chen · Dmitry Kalenichenko · Weijun Wang · Tobias Weyand · Marco Andreetto · Hartwig Adam

发表版本
正式发表信息尚未核实
arXiv 首次提交
arXiv:1704.04861
引用此论文 · BibTeX

引用信息对应所链接的论文版本,作者为原论文作者。

@misc{lightweightmobilenetv12017,
  title = {{MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications}},
  author = {Andrew G. Howard and Menglong Zhu and Bo Chen and Dmitry Kalenichenko and Weijun Wang and Tobias Weyand and Marco Andreetto and Hartwig Adam},
  year = {2017},
  eprint = {1704.04861},
  archivePrefix = {arXiv},
  url = {https://arxiv.org/abs/1704.04861}
}
本页内容

深度可分离卷积是一种卷积神经网络的结构,它将标准卷积分解为两个独立的层:深度卷积和逐点卷积。

这种结构可以减少模型的参数数量和计算量,从而使得模型更加轻量化,这对于移动设备等资源受限的场景非常有用。

虽然这篇论文通篇在讲深度可分离卷积,但实际上这个结构的创始者却是另有其人:

MobileNets 的作者也提到,他们的主要贡献在于将「深度可分离卷积」这个结构,系统性地应用到了卷积神经网络中,并且在 ImageNet 上取得了不错的效果。

也就是现在赫赫有名的: MobileNet-V1。

定义问题

在这几年的发展中,人们对于构建小型且高效的神经网络愈来愈感兴趣。

但是,许多关于小型网络的论文「只关注大小而不考虑效率」。

显然地,又小又快的网络架构,才是我们真正需要的。

解决问题

深度可分离卷积

传统卷积层将输入的特征图通过一个多通道的卷积核过滤并结合,生成新的特征图。这个过程在每个输出通道上都会考虑所有输入通道的信息,计算成本很高。而深度可分离卷积则将此过程分解为两个阶段,先进行深度卷积,即每个输入通道独立应用一个滤波器,只处理输入数据的一个通道,然后通过逐点卷积将这些输出通道的结果进行组合。

深度卷积不会改变输入特征图的通道数,只对每个通道进行空间上的过滤操作。每个通道使用一个独立的卷积核,这意味着如果输入特征图有 M 个通道,那么就有 M 个深度卷积核。逐点卷积则是使用 1×1 的卷积核来对这些过滤后的通道进行线性组合,产生最终的输出通道。这种分解方式的主要优势是显著降低了计算量。

对于深度卷积,其计算成本为DK×DK×M×DF×DFDK \times DK \times M \times DF \times DF,其中DKDK 是卷积核的空间尺寸,DFDF 是特征图的空间尺寸,MM 是输入通道数;此处沿用论文输入与输出尺寸相同的假设。

对于逐点卷积,计算成本则为M×N×DF×DFM \times N \times DF \times DF,其中NN 是输出通道数。

将这两个步骤的成本相加,仍然远低于传统卷积的DK×DK×M×N×DF×DFDK \times DK \times M \times N \times DF \times DF。

因此,使用深度可分离卷积可以在保持相对较高准确度的同时,显著减少模型的计算需求和参数量,非常适合需要在计算资源有限的设备上运行的应用。

网络架构

根据论文,MobileNet-V1 的网络架构,「只有第一层的 3x3 是一般卷积核」之外,其他都是由深度可分离卷积堆叠而成。

The MobileNet structure is built on depthwise separable convolutions as mentioned in the previous section except for the first layer which is a full convolution.

整体结构如下表:

训练技巧

MobileNet-V1 的作者在训练过程中使用了一些技巧来提高模型的性能:

  • 使用较少的正则化和数据增强,因为小模型的过拟合问题较少。
  • 在深度可分离卷积的滤波器上,放置很少或不放置任何权重衰减(L2 正则化)。
  • 使用 RMSprop 作为优化器。
  • 采用类似 Inception-V3 的异步梯度下降。

讨论

在整体的实验设计中,上述提到的网络架构做为 Baseline,作者另外引入两个常数的超参数:

  • Width Multiplier α\alpha:用来控制网络的宽度,即各层的输入与输出通道数。
  • Resolution Multiplier ρ\rho:用来控制输入图像的分辨率,进而缩小各层特征图的空间尺寸。

深度可分离卷积的性能

与全卷积版本相比,使用深度可分离卷积的 ImageNet 准确率从 71.7% 降至 70.6%,差 1.1 个百分点,乘加运算与参数量也大幅减少。

要深度还是要宽度?

表中计算量相近的两个模型,0.75 倍宽度版本的准确率为 68.4%,删去五层的浅层版本为 65.3%,相差 3.1 个百分点。

在这组比较中,算力受限时缩窄模型比删去这五层保留了更高的准确率。

和其他模型比较

将完整的 MobileNet 与原始的 GoogLeNet 和 VGG16 进行了比较。

MobileNet 几乎与 VGG16 一样准确,同时体积小 32 倍,计算量降低 27 倍。而且比 GoogLeNet 更准确,同时体积更小,计算量减少 2.5 倍以上。

在大小相近的情况下,0.50 MobileNet-160 的乘加运算量约为 SqueezeNet 的 1/22,ImageNet 准确率高 2.7 个百分点。

结论

MobileNet-V1 的推出,将深度可分离卷积技术正式地带入了大众的视野。这种结构在保持相对高准确度的同时,大幅降低了模型的大小和计算需求,从而解决了在资源受限的环境上运行复杂深度学习模型的挑战。

这篇论文不仅提供了一种在资源有限环境中部署深度学习模型的有效方案,而且其设计理念启发了后续多种轻量级深度学习架构的开发,进一步推动了深度学习架构在移动设备和边缘计算中的应用。