神经网络

【论文标题】A review on deep learning for recommender systems: challenges and remedies （ Artificial Intelligence Review ，201906 ） 【论文作者】Zeynep Batmaz 1 · Ali Yurekli 1 · Alper Bilge 1 · Cihan Kaleli 1 【论文链接】 Paper （37-pages // Single column） =======================<札记非FY> （以下着重 mark 关于CNN的推荐系统 ！）========================= 4 Perspectival synopsis of deep learning within recommender systems 4.1 推荐系统的深度学习技术 4.1.1 推荐系统的限制玻尔兹曼机 4.1.2 推荐系统的深度信念网络 4.1.3 推荐系统的自动编码器 4.1.4 推荐系统的循环神经网络 4.1.5 推荐系统的卷积神经网络 CNN使用至少一个层的卷积，这类神经网络用于特定的任务，如图像识别和对象分类。 推荐系统也受益于CNNs。 1）Oordet al.(2013)利用CNNs从 音频数据 中提取无法从用户反馈中获得的隐含因子。 2

背景动机 AI，机器学习/深度学习技术（包括深层神经网络，DNN）在许多领域和应用中取得了很大的进展，包括医药、自动驾驶、社交媒体、金融工业等。在私有领域，人工智能的准确性和可用性方面的惊人增长具有显著意义。人工智能在气象学和海洋学领域也取得了显著的进展。然而，直到最近，在环境科学领域只有很少的AI应用开发工作。 令人鼓舞的是，AI在这些领域的应用在不断增加，而且取得了令人鼓舞的结果，其中包括预测技能。随着卫星数据的不断增加以及社会依赖的增加，将会持续改善预报准确率和精度。来自高分辨率卫星和传感器，一系列新传感器，以及物联网背景下新观测设备的数据不断增加。这些数据的增加将给这些数据的应用带来极大的挑战，AI已经成为潜在的解决技术。 主要内容 用于后处理集合天气预报的神经网络。 什么是 "AI-Ready "开放数据？ 利用多雷达/多传感器系统（MRMS）对GOES-R观测的降水类型进行分析 改进被动声学设备来监测库克湾濒危白鲸。 利用数值天气预报为沿海和环境利益相关者进行业务机器学习预测。 资源获取 第十五期的资料获取方式： 「好奇心Log」 公众号后台回复 NOAA15 数据处理·机器学习·可视化 行业资讯·学习资料 长按关注不迷路 本文分享自微信公众号 - 好奇心Log（Curiosity-log）。 如有侵权，请联系 support@oschina.cn 删除。 本文参与“

摘要： 本文介绍两种端到端训练通用目标检测算法--DETR和DeFCN。 通用目标检测作为计算机视觉中一个基础的任务，对着图像理解、信息提取有着极为重要的意义。对于该任务目前已经发展出了许多方法，如基于全卷积的单阶段方法DenseBox，YOLO,SSD, RetinaNet和CenterNet等，以及更加复杂的多阶段方法RCNN, Fast RCNN, Faster RCNN和 Cascade RCNN等。根据目标检测任务的定义，这些方法需要对图像中出现的目标物体进行定位和分类，为了确保目标的召回率，结合卷积神经网络的采用的滑动窗口预测的特性，上述的方法均使用卷积进行密集的候选区提取和目标预测，因此对于输入的每个目标，往往有多个网络预测值相对应。 这些方法通常使用非极大值抑制方法（NMS）对重复的预测结果进行过滤，从而得到最终预测结果。不同于卷积操作，NMS过程不可导，模型无法对去重的过程进行优化，最终的检测检测模型也由于该操作的存在不能做到完全端到端。 通用目标检测近期的一些进展中，一些方法实现了端到端训练，训练和推理均无需NMS操作。如基于Transformer的DETR[1]和全卷积DeFCN[2], 两种方法采用了较为不同的实现路线，分别具有不同的优势和潜力，下面对这两种方法进行介绍。 DETR Transformer在自然语言处理任务中取得了巨大的成功

什么是量化投资 出处：http://www.80soho.com/?p=333 简单来讲，量化投资就是利用计算机科技并采用一定的数学模型去践行投资理念，实现投资策略的过程； 传统的投资方法主要有基本面分析法和技术分析法两种，与它们不同的是，量化投资主要依靠数据和模型来寻找投资标的和投资策略。 量化投资主要内容 量化选股 量化选股就是利用数量化的方法选择股票组合，期望该股票组合能够获得超越基准收益率的投资行为。 量化择时 量化择时及时利用数量化的方法，通过对各种宏观，微观指标的量化分析，试图找到影响大盘走势的关键信息，并且对未来走势进行预测。 该策略收益率最高，但风险也极大，研究的难度也很高。 股指期货套利 股指期货套利是指利用股指期货市场存在的不合理价格，同时参与股指期货与股票现货市场交易，或者同时进行不同期限，不同（但相近）类别股票指数合约交易，已赚取差价的行为。 股指期货套利分为期现套利，跨期套利，跨市套利和跨品种套利。 商品期货套利 商品期货套利指的是在买入或者卖出某种商品期货合约的同时，卖出或买入相关的另一种合约，并在某个时间同时将两种合约平仓的交易方式。 统计套利 统计套利是指利用证券价格的历史统计规律继续套利，是一种风险套利，其风险在于这种历史统计规律在未来一段时间内是否继续存在。 期权套利 期权套利交易是指同时买进卖出同一相关期货

来源 | 数据实战派 转载自：AI科技评论 原文链接： Hinton最新访谈：无监督胶囊网络、对比学习以及大脑中的反向传播 ​ mp.weixin.qq.com Geoff Hinton 是公认的深度学习先驱。2018 年，他与 Yoshua Bengio、Yann LeCun 共同获得了图灵奖。而在这之前的一年，他提出了一个想法 —— 胶囊网络（Capsule Network）。这是卷积神经网络的替代方案，它考虑了物体在 3D 世界中的姿势，尝试弥补当今计算机视觉模型学习能力上的不足，比如学会从不同的角度来识别同一个物体。 从那之后， Hinton 在学术界的公开活动有所沉寂。直到2020 年 12 月，在 NeurIPS 上，他的团队介绍了一项堆叠式胶囊自动编码器（stacked capsule autoencoders）相关的研究成果。更早之前 2 月的 AAAI 会议上，他谈到，胶囊网络是无监督学习的关键。4 月，Hinton 又重新提出了将反向传播作为人类大脑中的一种学习功能，并介绍了近似反向传播的算法 ——用活动差异表示神经梯度（neural gradient representation by activity differences，简称 NGRAD）。 近日，在播客节目 Eye on AI 中，受到播客主理人、纽约时报资深记者 Craig Smith 的邀请

点击上方“AI公园”，关注公众号，选择加“星标“或“置顶” 作 者： Prateek Joshi 编译： ronghuaiyang 导读 昨天给大家介绍了CRF的基本概念，今天我们聊一聊为什么需要这么个东西。 这是一个分为两部分的讨论。在这篇博文中，我们将讨论条件随机场的需求。在下一篇文章中，我们将讨论它们到底是什么以及如何使用它们。在计算机视觉、生物信息学、计算语言学和语音识别等诸多领域，都出现了为一组观测序列分配标签的任务。例如，考虑自然语言处理任务，即在句子中使用相应的词性标记标记单词。在这个任务中，每个单词都有一个标记，表示其适当的词性，从而产生带标注的文本。再举一个例子，考虑根据所观察到的行为给一个视频贴上一个人的心理状态标签的任务。你必须分析用户的面部表情，确定用户是否高兴、生气、悲伤等等。我们经常希望预测大量相互依赖的变量以及其他观察到的变量。如何实现这些任务？我们应该使用什么模型？ 为什么要用条件随机场？ 在许多应用中，我们希望能够预测相互依赖的多个变量。例如，一个运动队的表现取决于该队每个队员的健康状况。每个成员的健康可能会受到团队旅行计划的影响。比赛的结果可能会影响全队的士气。反过来，士气可能会影响健康。正如你所看到的，有多个变量错综复杂地相互依赖。条件随机场(CRFs)对这些问题的建模非常有用。与此类似的应用有很多，比如对图像的区域进行分类

点击上方“AI公园”，关注公众号，选择加“星标“或“置顶” 作者： Abhinav Sagar 编译：ronghuaiyang 导读 用于自动驾驶的新的state of the art的网络。 本文提出了一种新的神经网络，利用不同尺度的多尺度特征融合来实现精确高效的语义分割。 重点 我们在下采样部分使用了膨胀卷积层，在上采样部分使用了转置卷积层，并在concat层中对它们进行拼接。 alternate blocks之间有跳跃连接，这有助于减少过拟合。 我们对我们的网络训练和优化细节进行了深入的理论分析。 我们在Camvid数据集上使用每个类的平均精度和IOU作为评价指标来评估我们的网络。 我们的模型在语义分割上优于之前的state of the art网络，在超过100帧每秒的速度下，平均IOU值为74.12。 语义分割 语义分割需要对输入图像的每个像素预测一个类，而不是对整个输入图像进行分类。为了预测图像中每个像素的内容，分割不仅需要找到输入图像中的内容，还需要找到它的位置。语义分割在自动驾驶、视频监控、医学影像等方面都有应用。这是一个具有挑战性的问题，因为要在准确性和速度之间进行权衡。由于模型最终需要在现实环境中部署，因此精度和速度都应该很高。 数据集 在训练和评估中使用了CamVid数据集。数据集提供了ground truth标签，将每个像素与32个类中的一个相关联

只需两步，将文献的 arXiv 信息转换为正式来源信息。 机器之心报道，作者：魔王。 伴随着预印本平台 arXiv 的广泛使用，越来越多的研究者喜欢在写论文参考文献时直接使用 arXiv 信息。这看似非常方便，但也存在问题：这篇 arXiv 论文是否在 ACL、EMNLP、NAACL、ICLR 或 AAAI 等学术会议上发表过？ 没错，在某些情况下，只引用 arXiv 信息显得不那么准确，这种不准确的文献条目甚至可能会违反某些会议的论文提交或 camera-ready 版本提交规则。 如何解决这一问题呢？最近，上交毕业生、南加州大学博士生林禹臣开发了一个简单的 Python 工具——Rebiber，它能够基于 ACL Anthology 和 DBLP 数据库自动解决这一问题。 项目地址： https:// github.com/yuchenlin/re biber 下图展示了 Rebiber 的使用示例： 在该示例中，文章的原始信息来自 Google Scholar，仅包括标题、作者、期刊（arXiv）、年份。而事实上该论文已被 EMNLP 2020 接收，原始信息显然不够准确。 经过 Rebiber 转换后，原始 arXiv 信息被转换为来自正式来源的准确信息，包括标题、作者、年月、出版商、数字对象识别码（doi）、网址等详细内容。 Rebiber 支持的会议包括 ACL

https://mp.weixin.qq.com/s?__biz=MzIyNzE5NjExMA==&mid=2651342812&idx=1&sn=2f74c852200d6868f68a2f05ba561ac8&chksm=f3980a7dc4ef836b764c7ad2bab7c92e696074af43efa2a6be03d686fcec0a4a91a05a116b38&scene=178&cur_album_id=1381650339941761024&exportkey=AaZpj6rbOKQmUg2WIvFt0k0%3D&pass_ticket=lXzBpkoZ2YPJsUPAT3fbhToQqpCP%2BpcjC24v76SUrC6t0zqXhUNtg4RI8W8iC6It&wx_header=0#rd 前言 CRF是一个概率无向图模型，在NLP领域应用广泛，目前大部分的序列标注问题(分词、实体识别等)都会采用Neural Network+CRF作为baseline，本文将会对CRF做一个基本的介绍，并讲解其推导过程。 CRF解决的是什么问题 假设你有许多小明同学一天内不同时段的照片，从小明起床到睡觉各个时间段都有。现在的任务是对这些照片进行分类。比如有的照片是吃饭，那就给它打上吃饭的标签；有的照片是跑步时拍的，那就打上跑步的标签；有的照片是开会时拍的

前戏 最近出了真的很多论文，各种SOTA。比如前天po的商汤等提出：统一多目标跟踪框架，今天po的人群计数（Crowd Counting），又称人群密度估计。下次应该会po一篇目标检测方向的SOTA论文。 注意最新的论文，Amusi就不详细解读了（可能自己也不会）。更主要的是论文这玩意，还是要自己去品才有滋味。或许过两天，论文的作者团队会解读一番，对照着作者的解答来理解，这才原滋原味。 正文 《Scale-Aware Attention Network for Crowd Counting》 arXiv： https://arxiv.org/abs/1901.06026 作者团队：Amazon 注：2019年01月21日刚出炉的paper Abstract：In crowd counting datasets, people appear at different scales, depending on their distance to the camera. To address this issue, we propose a novel multi-branch scale-aware attention network that exploits the hierarchical structure of convolutional neural networks