neuron

https://www.youtube.com/watch?v=CXgbekl66jc&list=PLJV_el3uVTsPy9oCRY30oBPNLCo89yu49 https://www.bilibili.com/video/av65521101 因为之前有些基础,对于本视频课程的学习仅仅记录一些要点.目前只学习涉及深度学习和对抗攻击的部分. 1 Regression 通过Gradient Descent找到Loss Function的局部最优点.Gradient就是Loss Function对每个参数的偏导数排成的向量. 如果Loss Function是Convex的,即凸函数,那么Gradient Descent一定可以找到全局最优点. 过于复杂的model就会Overfitting. 类别型特征可以通过δ函数变成Linear Model. 对于特征的处理,可以通过Domain Knowledge或者Regularization. Regularization的一种简单方式是在Loss Function中加入λΣ(w i ) 2 ,因为越小的w越平滑,即对变化越不敏感. Regularization一般不考虑bias,因为它只影响Loss Function的上下移动,而与是否平滑无关. 可以给w和b设定不同的Learning Rate来加强拟合效果. 2 Where

李宏毅老师的机器学习课程和吴恩达老师的机器学习课程都是都是ML和DL非常好的入门资料，在YouTube、网易云课堂、B站都能观看到相应的课程视频，接下来这一系列的博客我都将记录老师上课的笔记以及自己对这些知识内容的理解与补充。(本笔记配合李宏毅老师的视频一起使用效果更佳！） Lecture 6: Brief Introduction of Deep Learning 本节课主要围绕Deep Learing三步骤： （1）function set （2）goodness of function （3）pick the best function 1.function set Neuron之间采用不同的连接方式，就会得到不同的网络结构。 给定了网络结构，就定义了一个function set。 给定了网络结构并给定了参数，网络就是一个函数：而输入输出的形式都是向量。如下图所示： 在output layer之前的部分，可以看做特征提取(上一节描述的概念)。output layer是Multi-class Classifier. 但是问题来了，Deep learning中的隐层到底要订多少层合适呢？ 2.goodness of function 损失函数表达式以及优化过程如下所示： 3.pick the best function 显而易见，优化损失函数采用的依旧是 Gradient

生命科学 Life science 西医治疗疼痛大多希望通过阻断神经通路来抑制疼痛。但是人们身上有无数条神经通路，每条通路又可以被非常多的因子激活。治疗疼痛的新药物开发也遇到了不少阻碍。此时， 中医背后“治病要治本”的理念，为从事疼痛背后神经机制研究的团队带来了新启示。 中美两国神经科学家合作发现，微弱的电流刺激神经可能有助于治疗系统炎症反应。而炎症是导致疾病和疼痛的一个重要诱因。在8月12日发表在Cell Press细胞出版社旗下期刊 Neuron （《神经元》）的一项研究中，研究人员进一步揭示了针灸这种传统的中医疗法背后的神经解剖学原理。 *以下中文内容仅供参考，请以英文原文为准。 长按图片识别二维码阅读原文 论文的通讯作者、哈佛医学院的马秋富教授，多年从事疼痛背后的神经机制研究。 “西医治疗疼痛大多希望通过阻断神经通路来抑制疼痛。但是我们身上有无数条神经通路，每条通路又可以被非常多的因子激活。所以这么多年来，尽管我们在动物实验中有那么多突破和成就，却没有制出什么新的治疗疼痛的药物，”马教授说。 受到中医背后“治病要治本”的理念启发，马教授与他的团队关注到炎症，一个导致疼痛的重要诱因。 曾经有研究显示，用电流刺激位于颈部的一些神经可以有效缓解炎症。但这种疗法常常需要通过入侵式的手术方法实现，增加了治疗的风险。所以马教授与他的团队设计了一个仅需通过电针来输送电流、刺激神经的方法。

Deep Learning 参考资料：台湾大学李宏毅机器学习课程和PPT Deep learning跟machine learning一样，也是“大象放进冰箱”的三个步骤： 在Deep learning的step1里define的那个function，就是neural network神经网络 我个人的理解： 深度学习就是多层神经网络，有着多层隐藏层，所以显得有“深度” Neural Network concept 把多个Logistic Regression前后连接在一起，然后把一个Logistic Regression称之为neuron（神经元），整个称之为neural network 我们可以用不同的方法连接这些neuron，就可以得到不同的structure，neural network里的每一个Logistic Regression都有自己的weight和bias，这些weight和bias集合起来，就是这个network的parameter，我们用 θ \theta θ 来描述 Fully Connect Feedforward Network 那该怎么把它们连接起来呢？这是需要你手动去设计的，最常见的连接方式叫做 Fully Connect Feedforward Network(全连接前馈网络) 如果一个neural network的参数weight和bias已知的话

　　近日，马斯克名下公司 Neuralink 宣布脑机接口新技术，脑科学再次受到广泛关注。Neuralink 主要聚焦于脑机接口芯片和植入手术机器人等硬件，试图在人脑植入芯片和电极，来建立人机交互的宽带通道，并从大脑直接读取脑电信号。该技术有望应用于检测或治疗各种脑疾病，如瘫痪、抑郁和失忆等。 　　但由于中国的患者资源更集中，脑疾病新技术在国内更容易验证和推广。事实上，近年来国内已经涌现不少相关公司，其中不乏海归团队专门回国创办的脑科技公司。 　　优脑银河正是这样一家公司。该公司 CEO 魏可成，先后毕业于清华大学和麻省理工学院，本次回国创业之前，在美国已成功创办多家科技公司，并拥有二十多项美国专利和国际专利。 　　更重要的是，这家公司背后的创始人团队堪称豪华组合，除魏可成本人，还有哈佛医学院刘河生教授、麻省理工学院罗伯特·德西蒙（Robert Desimone）院士和麻省理工学院冯国平院士。 　　 图｜魏可成（来源：受访者） 　　日前，魏可成与 DeepTech 交流了脑机接口技术在中国的发展机会。 　　据魏可成介绍，该公司创始人团队在过去十多年一直在研究个体脑功能： 　　2013 年，创始团队中的刘河生教授领导多个单位，在国际上首次绘出脑功能网络的个体差异性分布，开启了脑科学从群体方向向个体精准方向的转变。该文曾在 Almetric 统计的 422

上周的 Nature 封面研究被 4 月登上《细胞》杂志的论文抄袭了？ 昨日，一条消息突然引爆学术界：美国加州大学圣地亚哥分校细胞与分子医学系付向东教授实名举报中科院上海神经所 80 后明星学者杨辉学术抄袭、造假。 此次举报的直接原因是两篇关于通过敲降 PTBP1 治疗帕金森综合征的研究。其中，付向东教授的论文发表于今年 6 月 25 日的《自然》杂志，投稿时间为 2018 年 11 月 12 日。杨辉博士的论文发表于今年 4 月的《细胞》杂志。 6 月 25 日《自然》杂志的封面。 论文链接： https://www. nature.com/articles/s41 586-020-2388-4 付向东等人在 Nature 发表的研究中，研究人员成功地将患帕金森综合症的小鼠恢复了正常，这可能会改变帕金森症治疗的现状，被认为意义重大。但很多人可能没有注意到在这篇论文中还有这样一句话： 「在我们的工作接收同行评审时，概念相关的结果也出现在了其他地方。」 在 Nature 文章中出现这样意有所指的话实属罕见。付向东等人提到的，就是杨辉等人发表在 Cell 上的论文《Glia-to-neuron conversion by CRISPR-CasRx alleviates symptoms of neurological disease in mice》 论文链接： https://www

前言 神经网络 是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应”.我们在机器学习中谈论神经网络时指的是“神经网络学习”，或者说，是机器学习与神经网络这两个学科领域的衣叉部分。 文章目录 前言 1. 神经元模型 2. 感知机与多层网络 2.1感知机 2.2 多层神经网络 3. 误差逆传播算法 4. 全局最小与局部极小 5. 其他常见神经网络 5.1 RBF网络 5.2 ART网络 5.3 SOM 网络 5.4 级联相关网络 5.5 Elman网络 1. 神经元模型 神经网络中最基本的成分是 神经元(neuron)模型 ，即上述定义中的“ 简单单元 ”。在生物神经网络中，每个神经元与其他神经元相连，当它“兴奋”时，就会向相连的神经元发送 化学物质 ，从而改变这些神经元内的电位；如果某神经元的电位超过了一个“ 阈值”(threshold), 那么它就会被激活，即“兴奋”起来,向其他神经元发送化学物质。 1943年，将上还情形抽象为下图所示的简单模型，这就是一直沿用至今的 “M-P神经元模型” 。在这个模型中，神经元接收到来自 n 个其他神经元传递过来的输入信号，这些输入信号通过带权重的连接(connection)进行传递，神经元接收到的 总输入值 将与神经元的 阈值 进行比较，然后通过“ 激活函数 ”(activation

云栖号资讯：【 点击查看更多行业资讯 】 在这里您可以找到不同行业的第一手的上云资讯，还在等什么，快来！ 大约一年前，我们中的一些人开始研究开源机器学习平台 Cortex 。我们的动机很简单：鉴于从模型中构建应用程序是一种可怕的体验，充满了胶水代码和样板，我们需要一个工具，能将这些都予以抽象化。 虽然我们对自己在 Cortex 上的工作感到非常自豪，但我们只是过去一年来加速趋势的一部分，那就是机器学习工程生态系统的发展。公司雇佣机器学习工程师的速度比以往任何时候都要快，发布的项目也越来越好。 尽管这让我们感到很兴奋，但我们仍然经常听到这样一个问题：“什么是机器学习工程？” 在本文中，我想为读者们解释什么是机器学习工程，以及为机器学习工程师构建一个平台意味着什么。 什么是机器学习工程？为什么它不是数据科学？ 让我们先从更多人熟悉的数据科学的背景来定义机器学习工程。 要给数据科学下一个定义，还不会让人愤怒评论，这很难，但我还是会试着下一个定义： 从广义上讲，数据科学是一门应用科学过程从数据中获得见解的学科。 机器学习工程是一门利用机器学习构建应用程序的学科。 显然，这里有很多重叠之处。两者都是封装了机器学习的学科。不同之处主要在于目标。顾名思义，数据科学是一门科学，而机器学习工程是一门工程学科。 这种区别在大多数学科中都存在。想一想生物学和生物医学工程。工程学科显然离不开科学家的工作

撰文丨海德（南开大学 生物技术本科生） 责编丨Danny 排版丨麋鹿 1958年，32岁的亨利·莫莱森 (by Suzanne Corkin) 我们每天都活在充满“记忆”和“遗忘”的世界里。学会一首新的歌曲，忘记前一天完成的任务，记住一个新朋友的名字，想不起自己将钥匙放在哪里……“记忆”和“遗忘”充斥着我们的生活，令人感觉熟悉又神秘，是神经科学中研究人员十分关注的话题之一。 “失忆”对我们来说，好像是一件遥不可及又能够引发无限遐想的事。有时，艺术作品会为我们描绘出“失忆”美丽又锋利的一面，让我们随着跌宕起伏的情节中欢笑或痛苦。韩剧中痛彻心扉最后又海枯石烂的虐恋，《五十次初恋》中男主角无数次制造偶遇、每天爱上无法记住“昨天”的女主角的浪漫，《谍影重重》中杰森伯恩不断追寻记忆的痛苦与神秘…… 现实生活中也不乏遗忘症患者。他们看似与正常人无异，却大多有着我们难以想象的生活经历——亨利·莫莱森就是其中的一个，或许，是最著名的一个。 1926年2月26日，37岁的丽兹·莫莱森（Lizzie Molaison）在曼彻斯特纪念医院产下了一个健康的男婴。这个男孩是她与丈夫古斯·莫莱森（Gus Molaison）的第一个孩子，他们为他起名为亨利·莫莱森（Henry Molaison）。 亨利小时候一直住在哈特福德市区附近的居民区。像其他孩子一样，他在小学里结识了许多朋友，学会了滑冰

导读：行万里、刘厚、lhx、皮皮佳、circle 责编：Zhu Xiao 配音：小胡 背景音乐：iMovie主题声音 排版：麋鹿 FM脑科学新闻 | 抑郁和认知障碍治疗新思路；大鼠也有同理心；视蛋白跨界啦 ​ mp.weixin.qq.com Neuron｜认知障碍者的救赎—米诺环素 生命因何而存在？不仅仅是我们的肉体，更重要的是我们与外在世界的互动，而这与β、γ波振荡密不可分。β、γ波，是脑电波中的2个种类，β波是我们维持清醒状态的基础，使我们对周围事物保持敏感性；γ波则与丘脑-皮层系统有关，具有易化突触可塑性以及调节神经网络的作用。有这么一群不幸的人，在出生时前额叶皮层浅层中的锥体神经元发生异常，导致β-γ波振荡出现混乱，引起认知障碍。他们无法学习，无法与人正常交流，给家人带来了无尽的痛苦和烦恼。 米诺环素（Minocycline）是一种广谱抗菌的四环素类抗生素，能与tRNA结合达到抑菌的效果。已证明米诺环素可以减轻因压力引发的炎症，减少精神分裂症患者小胶质细胞的病变，而小胶质细胞是大脑早期发育过程中的关键参与者，对神经元功能和心理发展具有深远影响。Mattia Chini团队的研究发现，在产后的第一个星期给予接受环境打击及相关基因（DISC1）敲除的双重打击小鼠米诺环素，可以弥补神经元的缺陷并恢复一定的认知能力，为早期认知障碍的治疗提供了新的方向。（导读 行万里） 文章链接：