[动手学深度学习DAY5]:卷积神经网络

1.卷积神经网络基础
2.LeNet
3.经典CNN模型

1.卷积神经网络基础

  • 卷积层
  • 池化层
  • 细节解释
卷积层
二维互相关运算

二维互相关(cross-correlation)运算的输入是一个二维输入数组和一个二维核(kernel)数组,输出也是一个二维数组,其中核数组通常称为卷积核或过滤器(filter)。卷积核的尺寸通常小于输入数组,卷积核在输入数组上滑动,在每个位置上,卷积核与该位置处的输入子数组按元素相乘并求和,得到输出数组中相应位置的元素。图1展示了一个互相关运算的例子,阴影部分分别是输入的第一个计算区域、核数组以及对应的输出。

代码实现

二维卷积层将输入和卷积核做互相关运算,并加上一个标量偏置来得到输出。卷积层的模型参数包括卷积核和标量偏置。

pytorch接口

我们使用Pytorch中的nn.Conv2d类来实现二维卷积层,主要关注以下几个构造函数参数:

  • in_channels (python:int) – Number of channels in the input imag
  • out_channels (python:int) – Number of channels produced by the convolution
  • kernel_size (python:int or tuple) – Size of the convolving kernel
  • stride (python:int or tuple, optional) – Stride of the convolution. Default: 1
  • padding (python:int or tuple, optional) – Zero-padding added to both sides of the input. Default: 0
  • bias (bool, optional) – If True, adds a learnable bias to the output. Default: True
    forward函数的参数为一个四维张量,形状为\((N, C_{in}, H_{in}, W_{in})\),返回值也是一个四维张量,形状为\((N, C_{out}, H_{out}, W_{out})\),其中N是批量大小,C,H,W分别表示通道数、高度、宽度。

    卷积层得名于卷积运算,但卷积层中用到的并非卷积运算而是互相关运算。我们将核数组上下翻转、左右翻转,再与输入数组做互相关运算,这一过程就是卷积运算。由于卷积层的核数组是可学习的,所以使用互相关运算与使用卷积运算并无本质区别。

    细节解释
    特征图与感受野

    二维卷积层输出的二维数组可以看作是输入在空间维度(宽和高)上某一级的表征,也叫特征图(feature map)。影响元素x的前向计算的所有可能输入区域(可能大于输入的实际尺寸)叫做x的感受野(receptive field)。
    以上图为例,输入中阴影部分的四个元素是输出中阴影部分元素的感受野。我们将图中形状为22的输出记为Y,将Y与另一个形状为22的核数组做互相关运算,输出单个元素。那么,z在Y上的感受野包括的全部四个元素,在输入上的感受野包括其中全部9个元素。可见,我们可以通过更深的卷积神经网络使特征图中单个元素的感受野变得更加广阔,从而捕捉输入上更大尺寸的特征。

    填充

    填充(padding)是指在输入高和宽的两侧填充元素(通常是0元素),下图里我们在原输入高和宽的两侧分别添加了值为0的元素。

    如果原输入的高和宽是\(n_h\)和\(n_w\),卷积核的高和宽是\(k_h\)和\(k_w\),在高的两侧一共填充\(p_h\)行,在宽的两侧一共填充\(p_w\)列,则输出形状为:$$(n_h+p_h-k_h+1)\times(n_w+p_w-k_w+1)$$
    我们在卷积神经网络中使用奇数高宽的核,比如33,55的卷积核,对于高度(或宽度)为大小为2k+1的核,令步幅为1,在高(或宽)两侧选择大小为k的填充,便可保持输入与输出尺寸相同。

    步幅

    在互相关运算中,卷积核在输入数组上滑动,每次滑动的行数与列数即是步幅(stride)。此前我们使用的步幅都是1,下图展示了在高上步幅为3、在宽上步幅为2的二维互相关运算。

    一般来说,当高上步幅为\(s_h\),宽上步幅为\(s_w\)时,输出形状为:$$\lfloor(n_h+p_h-k_h+s_h)/s_h\rfloor \times \lfloor(n_w+p_w-k_w+s_w)/s_w\rfloor$$

    输入通道与输出通道

    卷积层的输入可以包含多个通道,下展示了一个含2个输入通道的二维互相关计算的例子。

    假设输入数据的通道数为\(c_i\),卷积核形状为\(k_h\times k_w\),我们为每个输入通道各分配一个形状为\(k_h\times k_w\)的核数组,将个互相关运算的二维输出按通道相加,得到一个二维数组作为输出。我们把\(c_i\)个核数组在通道维上连结,即得到一个形状为\(c_i\times k_h\times k_w\)的卷积核。
    同理卷积层的输出也可以包含多个通道,设卷积核输入通道数和输出通道数分别为\(c_i\)和\(c_o\),高和宽分别为\(k_h\times k_w\)。如果希望得到含多个通道的输出,我们可以为每个输出通道分别创建形状为\(c_i\times k_h\times k_w\)的核数组,将它们在输出通道维上连结,卷积核的形状即\(c_0 \times c_i\times k_h\times k_w\)
    对于输出通道的卷积核,我们提供这样一种理解,一个\(c_i\times k_h\times k_w\)的核数组可以提取某种局部特征,但是输入可能具有相当丰富的特征,我们需要有多个这样的的\(c_i\times k_h\times k_w\)核数组,不同的核数组提取的是不同的特征。

    池化层

    池化层主要用于缓解卷积层对位置的过度敏感性。同卷积层一样,池化层每次对输入数据的一个固定形状窗口(又称池化窗口)中的元素计算输出,池化层直接计算池化窗口内元素的最大值或者平均值,该运算也分别叫做最大池化或平均池化。下图展示了池化窗口形状为2*2的最大池化。

    池化层也可以在输入的高和宽两侧填充并调整窗口的移动步幅来改变输出形状。池化层填充和步幅与卷积层填充和步幅的工作机制一样。
    在处理多通道输入数据时,池化层对每个输入通道分别池化,但不会像卷积层那样将各通道的结果按通道相加。这意味着池化层的输出通道数与输入通道数相等。

    pytorch接口

    我们使用Pytorch中的nn.MaxPool2d实现最大池化层,关注以下构造函数参数:

  • kernel_size – the size of the window to take a max over
  • stride – the stride of the window. Default value is kernel_size
  • padding – implicit zero padding to be added on both sides
    forward函数的参数为一个四维张量,形状为\((N, C, H_{in}, W_{in})\),返回值也是一个四维张量,形状为\((N, C, H_{out}, W_{out})\),其中N是批量大小,C,H,W分别表示通道数、高度、宽度。

    2.LeNet

    • Lenet模型介绍
    • LeNet模型搭建
    • LeNet用于图像识别
LeNet模型介绍

LeNet分为卷积层块和全连接层块两个部分。卷积层块里的基本单位是卷积层后接平均池化层:卷积层用来识别图像里的空间模式,如线条和物体局部,之后的平均池化层则用来降低卷积层对位置的敏感性。
卷积层块由两个这样的基本单位重复堆叠构成。在卷积层块中,每个卷积层都使用5*5的窗口,并在输出上使用sigmoid激活函数。第一个卷积层输出通道数为6,第二个卷积层输出通道数则增加到16。
全连接层块含3个全连接层。它们的输出个数分别是120、84和10,其中10为输出的类别个数。

搭建LeNet

LeNet用于图像分类

我们使用Fashion-MNIST作为训练数据集

训练及测试

Part3.经典CNN模型

  • AlexNet
  • VGG
  • NiN
  • GoogLeNet
AlexNet

首次证明了学习到的特征可以超越⼿⼯设计的特征,从而⼀举打破计算机视觉研究的前状。
特征:

  • 8层变换,其中有5层卷积和2层全连接隐藏层,以及1个全连接输出层。
  • 将sigmoid激活函数改成了更加简单的ReLU激活函数。
  • 用Dropout来控制全连接层的模型复杂度。
  • 引入数据增强,如翻转、裁剪和颜色变化,从而进一步扩大数据集来缓解过拟合。

    VGG

    VGG:通过重复使⽤简单的基础块来构建深度模型。
    Block:数个相同的填充为1、窗口形状为的卷积层,接上一个步幅为2、窗口形状为的最大池化层。
    卷积层保持输入的高和宽不变,而池化层则对其减半。

NiN

NiN:串联多个由卷积层和“全连接”层构成的小⽹络来构建⼀个深层⽹络。
⽤了输出通道数等于标签类别数的NiN块,然后使⽤全局平均池化层对每个通道中所有元素求平均并直接⽤于分类。

GoogLeNet
  • 由Inception基础块组成。
  • Inception块相当于⼀个有4条线路的⼦⽹络。它通过不同窗口形状的卷积层和最⼤池化层来并⾏抽取信息,并使⽤1×1卷积层减少通道数从而降低模型复杂度。
  • 可以⾃定义的超参数是每个层的输出通道数,我们以此来控制模型复杂度。


You May Also Like

About the Author: zhuyeye

发表评论

电子邮件地址不会被公开。 必填项已用*标注