(更新中)深度学习论文笔记: MobileNets

Introduction:

论文链接:https://arxiv.org/abs/1704.04861

Terms mentioned:

depthwise separable convolution(factorized convolution)

  • depthwise convolution
  • pointwise convolution

hyper-parameter

  • width multiplier
  • resolution multiplier

Abstract:

  • MobileNet V1: 通过分解标准卷积网络构造轻量型深度神经网络,其中将标准卷积过程分解为depthwise convolution和pointwise convolution。
  • MobileNet模型主要为了实现移动端or嵌入式装置实际应用,主打轻便、高效、迅速。因而在其改良模型上引进两个超参数,a(width multiplier)与p(resolution multiplier)。满足不同场景对对模型的需求。
  • 深度学习领域里对图像识别实际应用中,模型选择一直处在一个天平架上,要么选择一个平衡点,准确度和延迟相较比较平均,要么选取一个极端,准或者快。MobileNet模型则利用accuracy tradeoff latency。训练出来的模型小,识别快,但准确度没有那么高。

MobileNets

Depthwise separable convolution

Depthwise separable convolution将一般标准卷积过程分解为两部分,分别叫做depthwise convolution和pointwise convolution(1X1 convolution)