神经网络

　　只要模型是一层一层的，并使用AD/BP算法，就能称作 BP神经网络。RBF 神经网络是其中一个特例。本文主要包括以下内容： 什么是径向基函数 RBF神经网络 RBF神经网络的学习问题 RBF神经网络与BP神经网络的区别 RBF神经网络与SVM的区别 为什么高斯核函数就是映射到高维区间 前馈网络、递归网络和反馈网络 完全内插法 一、什么是径向基函数 　　1985年，Powell提出了多变量插值的径向基函数（RBF）方法。径向基函数是一个取值仅仅依赖于离原点距离的实值函数，也就是Φ（x）=Φ(‖x‖),或者还可以是到任意一点c的距离，c点称为中心点，也就是Φ（x，c）=Φ(‖x-c‖)。任意一个满足Φ（x）=Φ(‖x‖)特性的函数Φ都叫做径向基函数，标准的一般使用欧氏距离（也叫做欧式径向基函数），尽管其他距离函数也是可以的。最常用的径向基函数是高斯核函数 ,形式为 k(||x-xc||)=exp{- ||x-xc||^2/(2*σ)^2) } 其中x_c为核函数中心,σ为函数的宽度参数 , 控制了函数的径向作用范围。 二、RBF神经网络 　　RBF神将网络是一种三层神经网络，其包括输入层、隐层、输出层。从输入空间到隐层空间的变换是非线性的，而从隐层空间到输出层空间变换是线性的。流图如下： 　　RBF网络的基本思想是：用RBF作为隐单元的“基”构成隐含层空间

这里给大家带来一篇武大刘威威老师、南理工沈肖波老师和 UTS Ivor W. Tsang 老师合作的 2020 年多标签最新的 Survey，我也有幸参与其中，负责了一部分工作。 论文链接： https://arxiv.org/abs/2011.11197 上半年在知乎上看到有朋友咨询多标签学习是否有新的 Survey，我搜索了一下，发现现有的多标签 Survey 基本在 2014 年之前，主要有以下几篇： 1. Tsoumakas 的《Multi-label classification: An overview》(2007) 2. 周志华老师的《A review on multi-label learning algorithms》(2013) 3. 一篇比较小众的，Gibaja 《Multi‐label learning: a review of the state of the art and ongoing research》2014 时过境迁，从 2012 年起，AI 领域已经发生了翻天覆地的变化，Deep Learning 已经占据绝对的主导地位，我们面对的问题越来越复杂，CV 和 NLP 朝着各自的方向前行。模型越来越强，我们面对的任务的也越来越复杂，其中，我们越来越多地需要考虑高度结构化的输出空间。多标签学习，作为一个传统的机器学习任务，近年来也拥抱变化

“宇宙之大，粒子之微，火箭之速，化工之巧，地球之变，生物之谜，日用之繁，无处不用数学。” >>>> 前期，四部门联合印发《关于加强数学科学研究工作方案》。统计计算、模型算法…数学不止用于星空之上，也用于社会之中。 为何要学数学？ 或许 这就是答 案 ↓↓ 数学如此重要 网友们都很认同 可是 …… 大家对数学的看法是什么呢？ 欢迎评论区留言讨论 —THE END— 编辑 ∑Gemini 来源：人民日报 文章推荐 ☞ 清华“最强本科生”揭晓！网友：我大概是来凑数的…… ☞ 喝酒、看剧、吃火锅……这些硬核选修课，我怎么没赶上？ ☞ 哲思 | 情商高的人，都懂得这五种处事方式 ☞ 陈省身访谈录：数学是我唯一能做的事 ☞ 神经网络其实和人一样懒惰，喜欢走捷径...... ☞ 霍金承认有鬼神，为什么霍金和牛顿这些人最后都信神 来源： oschina 链接： https://my.oschina.net/u/4382774/blog/4808238

©PaperWeekly 原创 · 作者｜张玮玮 学校｜东北大学硕士 研究方向｜情绪识别 论文标题： Crystal Graph Neural Networks for Data Mining in Materials Science 论文链接： https://storage.googleapis.com/rimcs_cgnn/cgnn_matsci_May_27_2019.pdf 代码链接： https://github.com/Tony-Y/cgnn OQMD 数据库（这个数据库比较大，提供 python API 与晶体结构可视化，可以使用 MySQL 读入）：OQMD [2] 晶体材料性质一般通过输入晶胞内的原子数目、原子分子坐标、晶格常数利用密度泛函理论（DFT）计算得出。机器学习方法在加速新材料设计方面正变得越来越流行，其预测材料性能的准确性接近从头算计算，但计算速度要快数量级。最近有人提出用称为晶体图来表示晶体材料 [1]，适应于晶体图的卷积神经网络利用平衡键距作为空间信息成功地预测了材料的体积特性。 预备知识 1.1 晶格常数（点阵常数 ） 晶胞三个棱的常数以及这三个棱之间的夹角 6 个参数组成。按晶格常数的不同可以分为七大晶系。在本文中点阵矢量定义为 。 1.2 原子坐标 原子坐标有两种表示形式：分数坐标和笛卡尔坐标

近日，媒体《学知报》刊发了方言的文章，介绍了威海职业学院深化教育改革工作情况。方言称，尽管该院的改革有些还处于探索阶段，有些只是初见成效，但该院必将以更大力度深化改革攻坚，以更实举措提高改革成效。 >>>> 据报道，这所高职主动告别“终身制”，破除“唯论文、唯帽子、唯职称、唯学历、唯奖项”的“五唯”桎梏。 该校刚刚结束的第五聘期专业技术岗位竞聘在校内外引起震动：1名教授、4名副教授因为业绩处于同级竞聘岗位末尾被降级低聘，同时有14名青年教师则因业绩突出而被破格直聘为副教授。 职称制度的改革给长期沉闷的校园带来的活力，也在全国院校中激起波澜。 在威海这样一个非中心城市，一个人口不多的滨海小城，却有着这么一所堪为职教表率的努力者，其实无他，就是一个词——“主动”。这大概就是威海职业学院能够脱颖而出的根本。 这个“主动”，既包括向外的主动亮相、主动争取，又包括向内的主动挖潜、主动“挥泪斩马谡”。 用该校领导带着些自嘲也尴尬的话说，就是“充分发扬‘小事不要脸，大事不要命’的精神，抓住一切机会，全力争取，以“一切资源都是教学资源”“一切为了学生的发展”的办学理念成为当地的职教担当。 在该校的简介中，有一段话引起了笔者的关注：“推进‘放管服’改革，编制下放事项清单，逐项推进流程再造。” 这段话常见于政府部门的“简政放权”介绍，在高校中却不多见。 大学作为一个学术共同体

作者 | 高卫华 出品 | AI科技大本营 随着深度学习的发展，GAN模型在图像风格转换的应用越来越多，其中不少都实现了很好的效果。 此前，reddit上的一个技术博主AtreveteTeTe基于GAN模型混合将普通的人像照片卡通化，并通过First Order Motion模型生成了动画，引起诸多网友的热捧。像这类卡通风格的画像生成，通常对单元素的质量要求不高，对于模型的训练，会忽略一些细节上的不足。 不过，最近一个开发者在GitHub上放出了一个可用于创建线条艺术肖像的项目，基于深度学习开发了ArtLine，其创建的线条肖像画在细节上的呈现效果惊人。 项目链接： https://github.com/vijishmadhavan/ArtLine ArtLine最简单的入门方法： https://colab.research.google.com/github/vijishmadhavan/Light-Up/blob/master/ArtLine(Try_it_on_Colab).ipynb 艺术肖像线条画方面，去年清华大学曾提出一个层次化的GAN模型 APDrawingGAN ，可以有效地基于人脸照片生成高质量、富有表现力的线条画。 但APDrawingGAN在识别面部特征方面存在局限性，例如在识别与ID照片类似的正面照片时

Non-local Neural Networks 非局部神经网络 Non-local Neural Networks 1introduction 2.Related Work 3.Non-local Neural Networks 3.1Formulation 3.2Instantiations 3.3Non-local Block 文章链接： 2018cvprNon-local neural Network 摘要：所有的卷积和递归操作单次使用都是通过一个局部邻域来生成一个特征块，这篇文章展示了一种提取远距离关系的通用方法， 灵感 来源于计算机视觉领域的传统方法 非局部均值 ，**non-local计算所有位置特征的加权和来表示一个位置的相应，**此方法能够即插即用到很多CV框架中。 1introduction 获取远距离信息的互相关系在神经网络中是非常重要的。对于连续的数据，递归作为主流的方法来建模长程关系。对于图像数据，远距离的依赖关系通过 堆叠卷积得到的大感受野 来建模；不管是空间或者时间，卷积和递归都处理的局部邻域的信息；因此只有通过重复这些操作，利用数据渐进的传播信号才能提取到长程的依赖关系，反复的局部操作有以下几点限制： 1计算效率低，2优化困难需要非常细微的调整，3上述问题导致了多链接关系建模困难。 Non

 经典的机器学习框架主要支持包括Images和Text/Speech 这两种数据，主要设计用来解决sequence、grids问题， 而Graph 结构相对较为复杂：  无法产生特定顺序的节点序列，因而很难转换为普通序列问题； 图结构频繁变化，且通常需要建模多模态特征； Basics of deep learning for graphs 假定存在图G，其中V表示节点集合，A是邻接矩阵，X∈Rm∗|V|是节点的特征矩阵（a matrix of node features）。这里的节点特征，根据不同的网络有不同的定义——如在社交网络里面，节点特征就包括用户资料、用户年龄等；在生物网络里面，节点的特征就包括基因表达、基因序列等；如果节点没有特征，就可以用one-hot编码表示或者常数向量 1: [ 1 , 1 , … , 1 ] [1, 1, …, 1][1,1,…,1]来表示节点的特征。 Local Network neighborhoods 节点的邻居定义计算图， 能够有效地建模信息的传播；  如上图，根据节点邻居得到计算图， 然后根据计算图生成节点的向量表示，如下图，A的节点表示由其邻居节点{B,C,D}，而这些节点又由其邻居节点决定，形成如下图的计算图，其中方形框即为其聚合邻居节点的策略，可采用average操作：  由此，可将图中任意节点，根据其邻居节点

相比于电子计算，光计算具有高速、高带宽、低功耗的优势，但目前光计算还不够成熟，只在某些特定领域得到了非常有限的应用。近日，Nature 上一篇 Perspective 文章剖析了深度光学和深度光子学的人工智能推理应用，展示了该领域（尤其是光 - 电混合系统）的发展潜力。 选自Nature，作者：Gordon Wetzstein等，机器之心编译，参与：Panda、杜伟。 为了高速且低功耗地执行各种应用中的人工智能任务，我们需要加速器。光计算系统也许能够满足这些领域特定的需求，但即便已经历半个世纪的研究，通用型光计算系统仍还未发展成一项成熟的实用技术。但是，人工智能推理（尤其是用于视觉计算应用的推理）也许能为基于光学和光子学系统的推理提供机会。 本文将回顾用于人工智能的光学计算的近期研究成果并探讨其潜力和挑战。 计算系统的能力正与它们试图理解的飞速增长的视觉数据进行军备竞赛。在自动驾驶、机器人视觉、智能家居、遥感、显微技术、监控、国防和物联网等多种应用中，计算成像系统都会记录和处理前所未有的巨量数据。对这些数据的解读不可能由人类完成，而是要使用基于人工智能（AI）构建的算法。 在这些应用之中，深度神经网络（DNN）正快速发展成为视觉数据处理的标准算法方法。这主要是因为 DNN 在许多基准上都取得了当前最佳的结果，而且往往超出其它方法一大截

北京时间2018年5月9日凌晨， Google I/O 2018大会在美国加州山景城拉开帷幕。当天有近 7000人来到现场。 在今天的 Keynote 中，谷歌 CEO 桑德尔·皮查伊等人介绍了谷歌一年来的多方面 AI 研究成果，例如深度学习医疗、TPU3.0、Google Duplex 等，也展示了 AI 如何全方位地融入了谷歌每一条产品线，从安卓到 Google Lens 和 Waymo。在本文中，机器之心对 Keynote 的核心内容进行了整理。 让我们看一下有哪些精彩的展示： TPU 3.0 现在正式推出TPU 3.0，相比去年发布的2.0版本，性能提升8倍，高达100 petaflops，而且由于芯片太强大，Google第一次引入液体冷却方法——对于希望为机器学习创建定制硬件的公司来说，散热越来越成为一个难题。 Google Assistant Google Assistant将提供超过13万儿童故事，新加入了针对儿童的Pretty please功能，鼓励小孩对Google Assistant进行礼貌提问。 GoogleMap GoogleMap加入了全新的AR 导航系统，当你去一些路口较多的地方，可以开启相机进行实景导航。 Google News Google News也开始和AI结合，以精准判断用户感兴趣的新闻。 根据用户的阅读偏好，Google News 还可以在