1 神经网络
神经网络其实是一个非常宽泛的称呼,它包括两类,一类是用计算机的方式去模拟人脑,这就是我们常说的ANN(人工神经网络),另一类是研究生物学上的神经网络,又叫生物神经网络。
神经网络是一种模拟人脑的神经网络以期能够实现类人工智能的机器学习技术。人脑中的神经网络是一个非常复杂的组织。成人的大脑中估计有1000亿个神经元之多。
2 生物神经元
一个生物神经元通常具有多个树突,主要用来接受传入信息;而轴突只有一条,轴突尾端有许多轴突末梢可以给其他多个神经元传递信息。轴突末梢跟其他神经元的树突产生连接,从而传递信号。这个连接的位置在生物学上叫做“突触”。
3 神经元模型
1943年,心理学家McCulloch和数学家Pitts参考了生物神经元的结构,发表了抽象的神经元模型MP。
神经元模型是一个包含输入,输出与计算功能的模型。输入可以类比为神经元的树突,而输出可以类比为神经元的轴突,计算则可以类比为细胞核。 下图是一个典型的神经元模型:包含有3个输入,1个输出,以及2个计算功能。注意中间的箭头线。这些线称为“连接”。每个上有一个“权值”。 在MP模型里,函数g是sgn函数,也就是取符号函数。这个函数当输入大于0时,输出1,否则输出0。
模型扩展:
首先将sum函数与sgn函数合并到一个圆圈里,代表神经元的内部计算。其次,把输入a与输出z写到连接线的左上方,便于后面画复杂的网络。最后说明,一个神经元可以引出多个代表输出的有向箭头,但值都是一样的。
神经元可以看作一个计算与存储单元。计算是神经元对其的输入进行计算功能。存储是神经元会暂存计算结果,并传递到下一层。
4 网络的分类
按层分类: 单层神经网络(感知器)、两层神经网络(多层感知器MLP)、多层神经网络(深度学习) 。
按结构分类:前馈神经网络和反馈神经网络2类。
那么它们两者的区别是什么呢?这个其实在于它们的结构图。我们可以把结构图看作是一个有向图。其中神经元代表顶点,连接代表有向边。对于前馈神经网络中,这个有向图是没有回路的。而对于反馈神经网络中,结构图的有向图是有回路的。反馈神经网络也是一类重要的神经网络。其中Hopfield网络就是反馈神经网络,深度学习中的RNN也属于一种反馈神经网络。
5 神经网络为什么这么火热
简而言之,就是其学习效果的强大。随着神经网络的发展,其表示性能越来强。 随着网络层数的增加,以及激活函数的调整,神经网络所能拟合的决策分界平面的能力也越来越强。
神经网络是一个很大的领域,里面又有很多细分领域,有许多的知识点需要去掌握,学习要乘早,加油吧少年!
关于图像处理、机器学习的介绍请看上几篇博客。
原创不易,转载请附地址: https://my.oschina.net/ffintell/blog/3209886
(示例图片来源网络,如有侵权,联系删除)
来源:oschina
链接:https://my.oschina.net/ffintell/blog/3209886