CNN卷积神经网络一、概述全连接层相较于卷积层的弊端难以提取局部不变特征缩放、平移、旋转不影响语义信息CNN卷积神经网络的优势减少参数量的手段局部连接权值共享一个卷积层共用一个卷积核池化操作缩减特征图尺寸下采样增大感受野进一步减少参数量二、基础组件1、基本构成输入层、卷积层、激活、池化层、全连接层输入层零中心化归一化卷积层浅层基础特征提取/深层抽象特征提取全连接层特征组合分类评分基本特征局部连接降低参数量权值共享一个卷积层共用一个卷积核滤波器降低参数量平移不变性捕获与图像整体空间位置无关的特征图像不同位置出现的相似特征池化操作缩减特征图尺寸增大感受野进一步减少参数量2、卷积层:定义1、数学定义一维、二维卷积定义式CNN中的卷积为数学中的互相相关原因1、目标不同卷积仅为提取特征。2、可变性不同数学中的滤波器人为确定而CNN中的滤波器由学习得到2、深度学习定义特征提取器提取后得到特征图特点参数共享对图像的一部分有用的特征检测器滤波器对图像的另一部分也很可能是有用的稀疏连接在每一个卷积层输出值仅取决于一小部分输入值典型卷积核1、低通滤波卷积核绝对值小、处理图像变平滑、模糊、噪声减少2、高通滤波卷积核绝对值大、处理图像边缘明显、细节突出3、1×1滤波器特征降维在通道数方向上进行降维channel_num→fliter_num))减少参数 量和计算量4、垂直和水平特征提取vertical/horizontal卷积核相关计算1、卷积核运算对应位置相乘再加加权求和2、输入输出维度计算a、平面卷积的两种基本操作padding填充的作用防止图像大小的收缩shrinking防止图像边缘像素信息被“轻视”比如如果不填充图像左上角的像素只被卷积一次分类Valid未使用填充卷积后图像变小Same使用填充卷积后图像大小不变。pk-1/2k为偶数非对称填充导致的特征图空间漂移和对齐问题stride步幅的作用成倍缩小卷积输出的空间尺寸且缩小倍数等于步幅大小b、立体卷积注1、立体卷积中一个标准卷积核中的不同fliter的尺寸必须相同而其中参数不同对应提取不同方向尺度上的特征。2、在GoogleNet的inception中是并行使用多个不同的卷积再在通道中进行堆叠而不是使用不同尺寸的fliter滤波器。3、参数量计算补充空洞卷积空洞卷积“挖掉”的参数即引入的零值不影响最终的感受野大小在感受野不变的前提下减少参数量/在参数量不变的前提下增大感受野空洞卷积也叫扩张卷积 在保持参数个数不变的情况下增大了卷积核的感受野 同时它可以保证输出的特征映射的大小保持不变。 一个扩张率为 2 的 3×3 卷积核 感受野与 5×5 的卷积核相同 但参数数量仅为 9 个。常用激活函数卷积为线性操作激活函数增强网络非线性建模能力3、池化层含义使用某一位置的相邻区域的总体特性来替代该位置的输出目标1、在保留有用信息同时减小输出特征图的大小同时增大感受野降低特征维度2、减少参数量3、防止过拟合结合平移不变性理解分类1、最大池化2、平均池化维度和参数计算池化层参数量为04、感受野计算公式层数越深感受野越大eg三、基础卷积神经网络1、AlexNet第一个现代深度卷积网络模型采用ReLU作为非线性激活函数 使用Dropout防止过拟合5个卷积层、 3个池化层和3个全连接层2、VGGVGG采用连续的几个3× 3的卷积核代替AlexNet中的较大卷积核多个小卷积核堆叠代替大卷积核使用3个3× 3卷积核来代替7× 7卷积核使用2个3× 3卷积核来代替5× 5卷积核优点 在保证具有相同感知野的条件下提升了网络深度 减小网络参数量 从而提升了神经网络性能更多非线性变换增强了学习能力7.3% top 5 error in2014ILSVRC定位任务第一名分类任务第二名3、VGG2014 ILSVRC winner(错误率 6.7%)22层 参数量 4M (vsAlexNet: 8层 参数量60M 错误率16.4%没有全连接层引入1×1小卷积核相当于直接加入非线性激活函数提高模型的表达能力通过升维和降维简化运算inception中的1×1卷积简化运算示例由多个Inception模块堆叠而成一层并行使用多个不同尺寸的卷积核得到不同的特征进行拼接得到输出不同大小卷积核→不同大小感受野→拼接意味着不同尺度特征融合4、ResNet残差网络2015年ILSVRC比赛分类任务第一名152层 错误率 3.6%跳连/残差连接以提升信息的传播效率 使网络更容易优化解决了机械累加模型深度而使网络退化问题随着网络的深度增加 准确度反而下降了 由梯度消失模型过拟合等原因导致ResNet快于VGGNet 也引入1×1卷积降维/减少全连接层5、MobileNetGoogle团队提出 专注于移动设备的轻量级神经网络 性能较差深度可分离卷积减少计算量深度卷积空间特征提取卷积核宽 × 卷积核高 ×1× 输入通道数逐点卷积通道特征提取1 × 1 × 输入通道数 × 输出通道数计算验证标准卷积参数量约为深度可分离卷积的8.41倍eg输入图尺寸为11211264 卷积核尺寸3*3 使用128个卷积核v1缺点深度可分离卷积中的深度卷积操作逐通道处理降维在低维空间后接ReLU激活函数容易造成信息丢失在高维度进行RELU运算信息丢失会很少。v2优化将RELU换为线性激活函数先逐点卷积升维再深度卷积再逐点卷积降维引入ResNet的shortcut结构6、DenseNet前面所有层与后面层均密集连接(Dense Connection)通过特征在channel上的连接来实现特征重用Feature Reuse优点特征复用/减少参数量/缓解梯度消失/能看到全局特征有正则化作用防止过拟合缺点内存占用高四、卷积网络可视化Conv浅层基础特征颜色、边缘、纹理—可复用深层抽象特征物体位置、语义类别—新数据集特征五、预训练与微调1、为什么需要预训练和微调1、如果数据集量大训练调参时间长2、如果数据集量小过拟合3、参数量大调参时间长、过拟合风险高注参数量大和数据集小都会导致过拟合不要把这两个概念弄混了4、其他模型性能差、泛化能力差2、什么是预训练和微调预训练在大数据集上训练训练浅层可复用通用特征注预训练并非必要微调小数据集上微调以优化性能训练深层专业化特征注微调时可以采用比训练时更小的学习率3、如何进行预训练和微调1、数据集小和原数据集相似只需微调顶端线性分类层输出层2、数据集大和原数据集相似小学习率微调较多的卷积层3、数据集小和原数据集差异明显数据扩增4、数据集大和原数据集差异明显重新训练