经典神经网络的分析与总结

经典图像分类 神经网络总结

在CNN网络结构的演化上，出现过许多优秀的CNN网络，CNN的经典结构始于1998年的LeNet，成于2012年历史性的AlexNet，从此盛于图像相关领域。

发展历史：Lenet –> Alexnet –> ZFnet –> VGG –> NIN –> GoogLeNet –>ResNet–> DenseNet –>ResNeXt —> EfficientNet

Alexnet –2012ImageNet图像识别竞赛一骑绝尘

AlexNet——验证了深度卷积神经网络的高效性

主体贡献

1. 提出了一种卷积层加全连接层的卷积神经网络结构

2. 首次使用ReLU函数做为神经网络的激活函数

3. 首次提出Dropout正则化来控制过拟合

4. 使用加入动量的小批量梯度下降算法加速了训练过程的收敛；

5. 使用数据增强策略极大地抑制了训练过程的过拟合；

6. 利用了GPU的并行计算能力，加速了网络的训练与推断。

VGG