1.Deep learning AlexNet (1)

僤鯓⒐⒋嵵緔 提交于 2020-02-07 11:36:33

在这里插入图片描述
NIPS (神经信息处理系统进展大会)

读哪些东西? 论文背景 成果及其意义

未来的研究趋势

在这里插入图片描述
在这里插入图片描述

Auto L 自动的设计网络结构

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
softmax 可以将数值变成概率分布 再与 label 交叉熵
softmax 可以将负数变为正数 加起来概率和为1
交叉熵数值越大说明越不接近。。。

在这里插入图片描述

在这里插入图片描述
fc8 未归一化的概率分布。。。

在这里插入图片描述
在这里插入图片描述
第一个计算公式 除不尽的时候进行下取整
第二和第三个 除不尽的时候上取整 F为特征图的尺寸
k卷积核尺寸 卷积核通道数 Kc Foc 输出特征图的通道数

输入图片大小为 2272273
包含了96个大小为 11*11通道数为3的卷积核
卷积核的通道数等于输入map的通道数 所以是3 方式为valid
parameters =(卷积核尺寸 * 卷积核通道 *+ 1) * 特征图通道数

因为之前GPU性能不够 所以分开来进行处理, 再将其进行了 合并操作 concate

在这里插入图片描述

Alexnet应为包含了很多权重参数因此很容易过拟合 所以训练的时候采用了数据增强处理

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!