从LeNet 到AlexNet 到VGGNet
LeNet
- LeNet是第一个真正意义上的卷积神经网络模型，LeNet5在识别手写数字中取得了非常好的成绩
- 结构：3个卷积层，2个池化层，2个全连接层。卷积层的卷积核都为5*5，stride-1，池化层都为Maxpooling，激活函数都为sigmoid
AlexNet
- 网络比LeNet更深，结构包括五个卷积层和3个全连接层
- 使用ReLu激活函数，收敛速度很快，克服了sigmoid函数在网络较深时出现的梯度发散现象
- 加入Dropout层，防止过拟合
- 使用了归一化层，增强了模型的泛化性能
- 使用了裁剪翻转等操作做数据增强
- 分块训练
VGGNet
- 增加了网络的深度，证明了使用更小的卷积核且增加网络的深度可以有效改变模型的性能。
参考资料：“有三AI”公众号
来源：https://blog.csdn.net/qq_40330604/article/details/100806490