加权平均

5.1 模型融合目标 对于多种调参完成的模型进行模型融合。 完成对于多种模型的融合，提交融合结果并打卡。 5.2 内容介绍 模型融合是比赛后期一个重要的环节，大体来说有如下的类型方式。 简单加权融合: 回归（分类概率）：算术平均融合（Arithmetic mean），几何平均融合（Geometric mean）； 分类：投票（Voting) 综合：排序融合(Rank averaging)，log融合 stacking/blending: 构建多层模型，并利用预测结果再拟合预测。 boosting/bagging（在xgboost，Adaboost,GBDT中已经用到）: 多树的提升方法 5.3 Stacking相关理论介绍 什么是 stacking 简单来说 stacking 就是当用初始训练数据学习出若干个基学习器后，将这几个学习器的预测结果作为新的训练集，来学习一个新的学习器。 将个体学习器结合在一起的时候使用的方法叫做结合策略。对于分类问题，我们可以使用投票法来选择输出最多的类。对于回归问题，我们可以将分类器输出的结果求平均值。 上面说的投票法和平均法都是很有效的结合策略，还有一种结合策略是使用另外一个机器学习算法来将个体机器学习器的结果结合在一起，这个方法就是Stacking。 在stacking方法中，我们把个体学习器叫做初级学习器

Highcharts构建加权平均值图表 加权平均值图表是将图表中多个数据列值。依据加权算法计算获取平均值，并加入生成一个加权折线。在这里，我们直接使用第三方插件Dynamic Weighted Average实现该功能。因为该图表须要额外加入数据，所以这里以某工厂产品商品价钱为例进行解说。 生成效果例如以下： 加权平均值图表 PS：该内容已经增加《网页图表Highcharts实践教程图表篇》v1.2.2中。 来源： https://www.cnblogs.com/claireyuancy/p/6852568.html

非正常情况下的移动加权平均算法 什么叫移动加权平均法？ 百度上的解释：移动加权平均法是指以每次进货的成本加上原有库存存货的成本，除以每次进货数量与原有库存存货的数量之和， 据以计算加权平均单位成本，以此为基础计算当月发出存货的成本和期末存货的成本的一种方法。 这只能说是正常使用情况下的（或者说书面上理想情况下的）移动加权平均算法。 这种算法是建立在先进货（有了库存成本），后销售的条件上才能计算。 什么叫非正常情况？ 因为有“先卖后进”的现象存在。商品没有进货，就要销售。这时，商品资料不完善（商品只有售价，没有进价，没有库存数量），商品就要售卖。 商品每销售一个就减少一个库存数量，因为没有进货，所以商品的库存数量会出现“负库存”。 销售的时候不知道销售成本价。 非正常情况下如何计算商品的移动加权平均价（以下简称平均价）？ 要分3种情况： 1）当商品的原平均价=0，商品的平均价=本次进货成本价 2）当商品的原平均价为NULL（商品未初始化过，故平均价为NULL），商品的平均价=本次进货成本价 3）当商品的原平均价>0,（原平均价*库存数量+本次进货成本）/(库存数量+本次进货数量) 库存数量=原库存数量+本次进货数量 库存成本=平均价*库存数量 来源： https://www.cnblogs.com/hnxxcxg/p/8001196.html

第二周 优化算法 2.1 & 2.2 Mini-batch梯度下降法 之前所提到的梯度下降法其实指的都是 batch gradient descent，每一次进行梯度下降都要对整个数据集进行前向传播。当数据集的规模较大时，计算很慢。 Mini-batch gradient descent 则是将整个数据集分成多个小块，每一次梯度下降只利用一小块的数据，这样计算速度更快。每次遍历完整个数据集称为一个epoch（读作“一破壳”），显然每个epoch可以进行多次梯度下降，而根据实际训练的需求可以进行多个epoch. 新的符号表示，每个mini-batch记为 \( X^{ \{t\} } \)，区别于之前提到的两种表示。 Mini-batch 梯度下降中的 batch size 是一个需要调节的参数： batch size = m : 等同于batch gradient descent，学习率合适的前提下可以确保代价函数单调下降，缺点说过了，一次梯度下降的计算量大 batch size = 1 : 等同于stochastic gradient descent(随机梯度下降，SGD)，单个样本进行学习，效率低，代价函数的值波动较大 1 < batch size < m : 介于上面两者中间 三种情况下的示意图如下图，当 batch size 不等于 m 时

a内容是转载的. 前几天，我跟公司一些新招的实施人员开了一个座谈会，请他们谈谈将近一年的顾问生涯的感受及遇到的阻碍。发现他们普遍对于成本计算不是很清楚，特别是发料成本相关的知识更是缺乏，这主要是因为他们以前都没有接触过财务相关的内容，对于成本的计算，更是第一次接触。 　　我发现他们主要是对于成本的相关知识没有形成一个体系，如对于发料成本，只知其一，不知其二。故，我在会后给他们总结了一份关于发料成本的资料，以供他们参考。 　　发料成本的计算，不同的企业有不同的要求，采用不同的方法。一般来说，发料成本的计算方法有先进先出法、后进先出法、加权平均法等等，其中，加权平均法又分为月加权平均法与日加权平均法。现在，我就以具体的实例，来说明一下，各种计算方法的不同以及在ERP操作中的相关技巧。 　 　一、先进先出法。 　　假如某个材料，在11月15日以5元的单价进了500件，在11月30日又以5.5元的价格进了400件。在12月1日，车间领走了700件。假设，该材料没有库存，就这两比进货。那仓库领走的这700件材料，成本到底算多少呢?算5元一件，还是5.5元一件，又或者是两者的平均值5.25元呢? 　　这主要看采取什么样的方法，来进行发料成本的核算。若企业采用先进先出法，则以上的成本都是错误的。先进先出法，顾名思义，就是先进来的材料先出去，后进来的材料后出去，成本价格按实际的价格来核算

对ES官网的reference的翻译，同时也是备忘，ES版本为7.5 下面是正文翻译，附上原文链接 https://www.elastic.co/guide/en/elasticsearch/reference/current/search-aggregations-metrics-weight-avg-aggregation.html ================================================================================================== 加权平均聚合 一种单值指标聚合，计算从聚合的文档中提取出来的数值的加权平均。这些数值可以从文档中某些特定的数值字段中提取出来，也可以使用给定的脚本生成。 当计算常规的平均值时，每个数据点的权重是一样的...每个数据点对最终值的贡献是一样的。另一方面，加权平均给每个数据点附上来不同权重。每个数据点对最终值的贡献度是从文档中提取的，或者脚本提供的。 加权平均的公式是： 常规的平均值可以认为是每个值的权重都为1的加权平均。 weighted_avg参数 参数名 描述 是否必须 value 字段配置或者提供值的脚本 必须 weight 字段配置或者提供值的脚本 必须 format 数值响应的格式器 可选 value_type 纯脚本或者未被映射的字段的值的提示

―momentum、Nesterov Momentum、AdaGrad、Adadelta、RMSprop、Adam― 我们通常使用梯度下降来求解神经网络的参数，关于梯度下降前面一篇博客已经很详细的介绍了（ 几种梯度下降方法对比 ）。我们在梯度下降时，为了加快收敛速度，通常使用一些优化方法，比如：momentum、RMSprop和Adam等。这篇博客主要介绍： 指数加权平均（Exponentially weighted average） 带偏差修正的指数加权平均（bias correction in exponentially weighted average） momentum Nesterov Momentum Adagrad Adadelta RMSprop Adam 在介绍这几种优化方法之前，必须先介绍下 指数加权平均（Exponentially weighted average） ，因为这个算法是接下来将要介绍的三个算法的重要组成部分。 一、 指数加权平均（Exponentially weighted average） 指数加权平均是处理时间序列的常用工具，下面用一个例子来引入指数加权平均的概念。下图是一个180天的气温图（图片来自ng Coursera deep learning 课）： 如果我们想找一条线去拟合这个数据，该怎么去做呢。我们知道某一天的气温其实和前几天

一、序言 　　动量梯度下降也是一种神经网络的优化方法，我们知道在梯度下降的过程中，虽然损失的整体趋势是越来越接近0，但过程往往是非常曲折的，如下图所示： 　　特别是在使用mini-batch后，由于单次参与训练的图片少了，这种“曲折”被放大了好几倍。前面我们介绍过L2和dropout，它们要解决的也是“曲折”的问题，不过这种曲折指的是求得的W和b过于拟合训练数据，导致求解曲线很曲折。动量梯度下降所解决的曲折指的是求得的dw、db偏离正常值导致成本时高时低，求得最优W和b的过程变慢。 二、指数加权平均 　　动量梯度下降是相较于普通的梯度下降而言，这里所谓的动量其实说的是动量效应，最早是在经济学领域提出的： 　　“指股票的收益率有延续原来的运动方向的趋势” 　　其实换个名字叫“惯性效应”更好理解，即事物的发展趋势是有惯性的。 　　那应用到神经网络的优化中，就是在计算dw、db时参考下之前的计算结果，具体操作起来的方法就叫“指数加权平均”，示例如下： 　　dw0 = 1 　　dw1 = 1.2，指数加权平均后：dw1 = 0.9*dw0 + 0.1*dw1 = 1.05 　　dw2 = 1.5，指数加权平均后：dw2 = 0.9*dw1 + 0.1*dw2 = 1.095 　　dw3 = 1.8，指数加权平均后：dw3 = 0.9*dw2 + 0.1*dw3 = 1.1655