现今,深度神经网络,都是预先定义好了网络结构,在大量学习中得到模型权重,模型的连接本身是固定的,也就是各个神经元的连接关系是在网络结构中确定了的。最后训练的结果,依旧可表示为多元多次函数的表达式模型。面对不同的输入,其表达式并不会改变,造成有的模型泛化能力就很差。
但是,如果我们可以设计某一种机制,可以通过改变权重本身的系数(只有0和1),那么我们就能够改变神经元之间的连接关系,并单独设计一个网络,训练生成0和1(也就是神经元连接的通和断)的网络,针对不同的输入,网络本身的通断是不同的,是不是更加灵活。同时也更加符合人大脑的神经网络机制,所谓的0/1就是神经递质,有神经递质,神经元之间才能互相影响。
同时,一个深度神经网络都是实现某一特定任务,因为它的输出本身就是确定了它最终要完成什么任务,但是若是我们的(0/1)的结构足够灵活,我们甚至可以利用同一个网络,实现不同的任务。
可能因为我是一个菜鸟,对于深度学习,我甚至都还没入门,所以我不确定这是否是一个合理的想法,但是我同样也没有被现有的深度学习套路所束缚,先在此记录以下,若等到真的有一天,这种想法可以被实现,那么我也能够吹吹牛逼了。
来源:CSDN
作者:UESTC_liuxin
链接:https://blog.csdn.net/qq_20549061/article/details/104444373