wise

torch.mm只能让两个二维tensor作矩阵乘法 torch.mul作element-wise的矩阵点乘，维数不限，可以矩阵乘标量 torch.bmm作batch单位的矩阵乘法，维度只能为3。当第0维维数不等时报错，但可用matmul相乘 torch.matmul 正常的矩阵乘法运算，两个输入必须都是Tensor torch.mul有broadcast机制，可以把其中一个input扩展成和另一个input维度一样的Tensor，再点乘。需要input的最后一维维数相同，例如[4]→[5,3,4]，否则报错。 broadcast机制 来源： oschina 链接： https://my.oschina.net/u/4357969/blog/3300365

Learning to Predict Context-adaptive Convolution for Semantic Segmentation 2020-04-20 17:41:35 Paper : https://arxiv.org/pdf/2004.08222.pdf Code : 1. Background and Motivation : 本文提出一种新的方法来学习背景信息，以辅助语义分割。不同于常规的 channel attention的思路，本文利用动态卷积核的做法来搞。但是不同于最基本的卷积核方法（即 Dynamic Filter Network），因为这种方法有太多 FC layer，从而导致参数量过大。而是通过一种 matrix multiplication 的方法来得到 kernel parameters。这种 kernel 不但完全编码了输入特征图的全局内容，而且通过 depth-wise convolution 在 输入特征上， 对每一个空间位置都产生了 context-aware spatially-varying feature weighting factors。此外，我们利用了一系列的空洞卷积，以及不同空洞率的方法，来有效地捕获多尺寸的信息。 本文的主要创新点如下： 1). 为了更好的利用全局场景信息来正则化语义分割，作者提出通过预测

什么是Jupyter Notebook？ 简介 Jupyter Notebook是基于网页的用于交互计算的应用程序。其可被应用于全过程计算：开发、文档编写、运行代码和展示结果。 Jupyter Notebook官方 简而言之，Jupyter Notebook是以网页的形式打开，可以在网页页面中 直接 编写代码和运行代码，代码的运行结果也会直接在代码块下显示。如在编程过程中需要编写说明文档，可在同一个页面中直接编写，便于作及时的说明和解释。 组成部分 1，网页应用 网页应用即基于网页形式的、结合了编写说明文档、数学公式、交互计算和其他富媒体形式的工具。 简言之，网页应用是可以实现各种功能的工具。 2，文档 即Jupyter Notebook中所有交互计算、编写说明文档、数学公式、图片以及其他富媒体形式的输入和输出，都是以文档的形式体现的。 Jupyter Notebook的主要特点 编程时具有 语法高亮 、缩进、tab补全的功能。 可直接通过浏览器运行代码，同时在代码块下方展示运行结果。 对代码编写说明文档或语句时，支持Markdown语法。 如何安装Jupyter Notebook？ Jupyter Notebook原来也叫iPython Notebook，顾名思义，它和Python关系紧密。如果要在PC上安装笔记本，首先你要确保自己已经安装了Python（2.7/3.3或更高）

【推荐阅读】微服务还能火多久？>>> Everyone knows Fill Bates but I guess fewer people know that he was famous in his high school days for a different reason. I just put below the exact lines from one of his short biographies: Before high-school graduation, Bates was renowned for designing the class scheduling software that placed him in a class full of girls. With his present success, those girls are probably mutilating themselves for not buying in on an early investment. Now you are to help him with a completely different purpose. His company has initiated a talent search program in QSA. It has 52 states

【推荐阅读】微服务还能火多久？>>> 一、前言 本文是文本分类模型的第三弹，利用词袋模型（BoW），词频逆文档频率（TF-IDF）与 LightGBM 模型进行文本分类。 原本计划的第三弹内容为 TextCNN 网络，介于最近刚刚利用 LightGBM 完成了一个简单的文本分类的任务，就趁热记录一下，作为第三弹的内容。 这里是文本分类系列： 文本分类模型第一弹：关于Fasttext，看这一篇就够了 文本分类模型第二弹：HAN(Hierarchy Attention Network) 文本分类模型第三弹：BoW(Bag of Words) + TF-IDF + LightGBM 二、相关论文及理论 1.LightGBM 这里是 LightGBM 提出的论文《 LightGBM: A Highly Efficient Gradient Boosting Decision Tree 》，LightGBM 本质上也是 梯度提升树（GBDT）的优化模型，GBDT 的本质是回归树模型，在做分类任务时，通过“回归相应类别”的概率值，来曲线完成分类任务。LightGBM 与上一代 kaggle 神器 Xgboost 相比，由于采用了直方图算法（用于特征处理），和 Leaf-wise 的树分裂方法（用于模型构建），模型准确度更高，训练耗时更低。其不仅应用于传统的机器学习回归及二分类，多分类任务，在

【推荐阅读】微服务还能火多久？>>> 众所周知，Vue 2.x 的数据绑定是通过 defineProperty 。而在 Vue 3.x 的设计中，数据绑定是通过 Proxy 实现的，这两者到底有何异同？ 一、definePropety defineProperty 是 Object 的一个方法，可以在对象上新增或编辑某个属性，可编辑的内容除了属性值 value 之外，还有该属性的描述信息 Object . defineProperty (obj, prop, descriptor) 该方法接收三个参数，分别是 目标对象 obj ，被编辑的 属性名 prop ，以及该属性的 描述 descriptor 需要注意的是，只能在 Object 构造器对象使用该方法，实例化的 object 类型是没有该方法的 1. 基础描述符 configurable : 当该键值为 true 时，该属性的描述符才能够被改变，同时该属性也能从对应的对象上被删除。默认为 false。 当该描述符为 false 的时候，其它的描述符一旦定义，就无法再更改，且该属性无法被 delete 删除 enumerable : 当该键值为 true 时，该属性才会出现在对象的枚举属性中。默认为 false。 当 enumerable 为 false 时， Objcet.keys() 和 for...in

3 月，跳不动了？>>> > 论文提出了类似于dropout作用的diversification block，通过抑制特征图的高响应区域来反向提高模型的特征提取能力，在损失函数方面，提出专注于top-k类别的gradient-boosting loss来优化训练过程，模型在ResNet-50上提升3.2%，算法思路巧妙，结构易移植且效果也不错，值得学习 论文:Fine-grained Recognition: Accounting for Subtle Differences between Similar Classes 论文地址： https://arxiv.org/abs/1912.06842 Introduction   在FGVC(fine-grained visual categorization)上，一般的深度学习模型都是通过学习输入图片到输出标签的映射，这样会导致模型倾向于专注少部分显著区域来同时区分模糊的种群内(inter-class)相似性和种群间(intra-class)的变化   如图1所示，一般的深度学习模型的attention经常密集地集中在小部分区域，因此只会提出有限的特征。因此，论文建议分散attention来构建多样的分布在特征图上的特征。因为在特征层面进行attention分散，在预测时则需要反过来，例如只关注最相似的类别来提高模型的辨别能力

3 月，跳不动了？>>> lightgbm使用leaf_wise tree生长策略，leaf_wise_tree的优点是收敛速度快，缺点是容易过拟合。 # lightgbm关键参数 # lightgbm调参方法cv 代码github地址 1 # -*- coding: utf-8 -*- 2 """ 3 # 作者：wanglei5205 4 # 邮箱：wanglei5205@126.com 5 # 博客：http: //cnblogs.com/wanglei5205 6 # github：http: //github.com/wanglei5205 7 """ 8 ### 导入模块 9 import numpy as np 10 import pandas as pd 11 import lightgbm as lgb 12 from sklearn import metrics 13 14 ### 载入数据 15 print ('载入数据') 16 dataset1 = pd.read_csv('G:/ML/ML_match/IJCAI/ data 3.22/3.22ICJAI/ data /7_train_data1.csv') 17 dataset2 = pd.read_csv('G:/ML/ML_match/IJCAI/ data 3.22/3.22ICJAI/ data

3 月，跳不动了？>>> 1.背景 第13届“国际网络搜索与数据挖掘会议”( WSDM 2020 )于2月3日在美国休斯敦召开，该会议由SIGIR、SIGKDD、SIGMOD和SIGWEB四个专委会共同协调筹办，在互联网搜索、数据挖掘领域享有很高学术声誉。本届会议论文录用率仅约15%，并且WSDM历来注重前沿技术的落地应用，每届大会设有的WSDM Cup环节提供工业界真实场景中的数据和任务用以研究和评测。 今年的 WSDM Cup 设有3个评测任务，吸引了微软、华为、腾讯、京东、中国科学院、清华大学、台湾大学等众多国内外知名机构的参与。美团搜索与NLP部继去年获得了 WSDM Cup 2019第二名 后，今年继续发力，拿下了WSDM Cup 2020 Task 1：Citation Intent Recognition榜单的第一名。 本次参与的是由微软研究院提出的Citation Intent Recognition评测任务，该任务共吸引了全球近600名研究者的参与。本次评测中我们引入高校合作，参评团队Ferryman由搜索与NLP部-NLP中心的刘帅朋、江会星及电子科技大学、东南大学的两位科研人员共同组建。团队提出了一种基于BERT和LightGBM的多模融合检索排序解决方案，该方案同时被WSDM Cup 2020录用为 专栏论文 。 2.任务简介 本次参与的任务一（WSDM

3 月，跳不动了？>>> 工业互联网的提出，让在数字化转型升级中面临严峻考验的制造业看到了进入下一个快速增长期的希望。同时，也让不少人嗅到了新的商机。 工信部副部长陈肇雄在10月21日的世界互联网大会公布数据显示，仅工业互联网产业联盟，成员数量已经超过1300多家。 具体到当下备受关注的工业互联网平台，陈肇雄指出，“目前，具备一定行业区域影响力的平台数量超过了50个，重点平台平均工业设备连接数已经突破65万台套，工业APP达1950多个，涵盖细分行业达100多个。” 尽管如此，具体到实际应用实践中，仍是问题重重。 行业是蓝海，工业互联网也是行业大势所趋，然而， “「工业」与「互联网」如何结合，如何找到真正价值点？ 如何提高工业企业对当下数以百计的工业互联网平台、数以千计的中小型工业互联网企业的接受度？” 这仍是身处这波大潮中的众多工业互联网企业，尤其初创企业面临的焦虑。 面对这样的产业焦虑，研华（中国）工业物联网事业群总经理蔡奇男告诉雷锋网，“过去的互联网思维是传统的IT思维，这一次的工业互联网不可以完全用互联网思维来考虑，必须是产业（互联网）思维。” 对于一家成立35年、尤其专长于工控设备的传统工业企业，研华同样极度重视此次工业互联网带来的变革与转型机遇。 当雷锋网就“研华在工业互联网的「产业思维」是什么”这一问题，向在研华有超过20年从业经验的蔡奇男寻求答案时，他告诉雷锋网：