预测模型

面向共鸣的开放域对话模型：一种新的基准和数据集 摘要 对话代理面临的一个挑战是识别对话伙伴的情感并作出相应的回应，这是一项关键的交流技能。尽管对人类来说在对话中识别和承认其他人的情感是一件很直接的事情，但由于缺乏合适的可公开获取的训练和评估数据集，所以对于智能系统来说这仍然是一个典型的挑战。本文对于共鸣对话生成和共鸣对话提出了一个新的基准和一个基于情感情景、包含25000条对话数据的新型数据集。我们的实验表明那些使用我们数据集的对话模型被人类评估员认为比那些仅使用大规模网络对话数据进行训练的模型更具共鸣力。我们也对对话模型向共鸣反应的改编进行了实证比较，即利用现有的模型和数据集，而不需要繁琐的再训练完整的模型。 1.简介 面向人类对话代理的一个可取特点是通过理解和承认所有的潜在情感，对于那些描述个人经历的对话伙伴给出适当的响应，这是一项我们视为共鸣响应的技能。例如，虽然图1中被划掉的响应也是与主题相符合的，但是“恭喜，那太好了”或许更让人满意，因为它以共鸣的方式承认了对于对方潜在成就感的认同。在本项工作中，我们研究了当前对话系统的共鸣响应生成，并且提出使用一个新的资源（EMPATHETICDIALOGUES）的实验，作为评估这个技能的基准。 共鸣响应对于那些面向一般对话或闲聊的对话系统是十分重要的。的确，普通的交流是通过人们分享他们的情绪和境况而被频繁的提示

感想 隐马尔可夫模型涉及的算法很多，周志华的《机器学习》，李航的《统计学系方法》都有讲过，可能当时理解的不深，导致现在都忘干净了，现在是时候弥补一下了。 problem 解决隐马模型中预测问题的算法是? A. 前向算法 B. 后向算法 C. Baum-Welch算法 D. 维特比算法 analysis A、B：前向、后向算法解决的是一个评估问题，即给定一个模型，求某特定观测序列的概率，用于评估该序列最匹配的模型。 C：Baum-Welch算法解决的是一个模型训练问题，即参数估计，是一种无监督的训练方法，主要通过EM迭代实现； D：维特比算法解决的是给定 一个模型和某个特定的输出序列，求最可能产生这个输出的状态序列。如通过海藻变化（输出序列）来观测天气（状态序列），是预测问题，通信中的解码问题。 隐含马尔可夫模型的三个基本问题 （1）概率计算问题。给定一个模型 和观测序列O=(o1,o2,...,oT),计算该模型下观测序列O出现的概率 　　Forward-Backward算法 (2）学习问题，已知观测序列O=(o1,o2,...,oT),估计模型 参数，使得在该模型下观测序列概率 最大。即用极大似然估计的方法估计参数。 Baum-Welch算法 (3）预测问题，也称解码问题。已知模型 和观测序列O=(o1,o2,...,oT),求对给定观测序列条件概率P(I|o)最大的状态序列I=

时间序列算法 time series data mining 主要包括 decompose （分析数据的各个成分，例如趋势，周期性）， prediction （预测未来的值）， classification （对有序数据序列的 feature 提取与分类）， clustering （相似数列聚类）等。 时间序列的预测 常用的思路： 1、计算平均值 2、 exponential smoothing 指数衰减 不同的时间点，赋予不同的权重，越接近权重越高 3、snaive：假设已知数据的周期，上一个周期对应的值作为下一个周期的预测值 4、drift：飘移，即用最后一个点的值加上数据的平均趋势 5、Holt-Winters： 三阶指数平滑 Holt-Winters的思想是把数据分解成三个成分：平均水平（level），趋势（trend），周期性（seasonality）。R里面一个简单的函数stl就可以把原始数据进行分解： 一阶Holt—Winters假设数据是stationary的（静态分布），即是普通的指数平滑。 二阶算法假设数据有一个趋势，这个趋势可以是加性的(additive,线性趋势)，也可以是乘性的(multiplicative,非线性趋势)，只是公式里面一个小小的不同而已。 三阶算法在二阶的假设基础上，多了一个周期性的成分

在程序化广告投放中，一个优秀的CTR预测算法会给广告主、Adx以及用户都将带来好处。Google公司2013在《ResearchGate》上发表了一篇“Ad click prediction: a view from the trenches”论文，这篇论文是基于FTRL的在线CTR预测算法，下面将讲解该算法的主要思想以及Java实现。 什么是Online Learning 传统的 批量算法 的每次迭代是对全体训练数据集进行计算（例如计算全局梯度），优点是精度和收敛还可以，缺点是无法有效处理大数据集（此时全局梯度计算代价太大），且没法应用于数据流做在线学习。而 在线学习算法 的特点是：每来一个训练样本，就用该样本产生的loss和梯度对模型迭代一次，一个一个数据地进行训练，因此可以处理大数据量训练和在线训练。准确地说，Online Learning并不是一种模型，而是一种模型的训练方法，Online Learning能够根据线上反馈数据，实时快速地进行模型调整，使得模型及时反映线上的变化，提高线上预测的准确率。Online Learning的流程包括：将模型的预测结果展现给用户，然后收集用户的反馈数据，再用来训练模型，形成闭环的系统。如下图所示： 这篇论文提出的基于FTRL的在线CTR预测算法，就是一种Online Learning算法。即，针对每一个训练样本

1. 引言 挑战与思路 搜索是大众点评App上用户进行信息查找的最大入口，是连接用户和信息的重要纽带。而用户搜索的方式和场景非常多样，并且由于对接业务种类多，流量差异大，为大众点评搜索（下文简称点评搜索）带来了巨大的挑战，具体体现在如下几个方面： 意图多样 ：用户查找的信息类型和方式多样。信息类型包括POI、榜单、UGC、攻略、达人等。以找店为例，查找方式包括按距离、按热度、按菜品和按地理位置等多种方式。例如用户按照品牌进行搜索时，大概率是需要寻找距离最近或者常去的某家分店；但用户搜索菜品时，会对菜品推荐人数更加敏感，而距离因素会弱化。 业务多样 ：不同业务之间，用户的使用频率、选择难度以及业务诉求均不一样。例如家装场景用户使用频次很低，行为非常稀疏，距离因素弱，并且选择周期可能会很长；而美食多为即时消费场景，用户行为数据多，距离敏感。 用户类型多样 ：不同的用户对价格、距离、口味以及偏好的类目之间差异很大；搜索需要能深度挖掘到用户的各种偏好，实现定制化的“千人千面”的搜索。 LBS的搜索 ：相比电商和通用搜索，LBS的升维效应极大地增加了搜索场景的复杂性。例如对于旅游用户和常驻地用户来说，前者在搜索美食的时候可能会更加关心当地的知名特色商户，而对于距离相对不敏感。 上述的各项特性，叠加上时间、空间、场景等维度，使得点评搜索面临比通用搜索引擎更加独特的挑战。而解决这些挑战的方法

最近在打天池的比赛，里面需要用AUC来评测模型的性能，所以这里介绍一下AUC的相关概念，并介绍TensorFlow含有的函数来计算AUC。 先介绍一些前置的概念。在一个二分类问题中，如果本身是正例（positive），预测正确也预测成正例，则称为真正例（true positive），简称TP，而预测错误预测成了反例，则称为假反例（false negative），简称FN，如果本身是反例（negative），预测正确也预测成反例，则称为真反例（true negative），简称TN，而预测错误预测成了正例，则称为假正例（false positive），简称FP。查准率、查全率以及F1值都是根据上述四个值计算出来的，这里不做赘述。 真正例率（True Positive Rate，简称TPR），计算公式为TPR = TP / (TP + FN)，和查全率的公式一致，表示预测为正例且本身是正例的样本数占所有本身是正例的样本数的比重。假正例率（False Positive Rate，简称FPR），计算公式为FPR = FP / (TN + FP)，表示预测为正例且本身是反例的样本数占所有本身是反例的样本数的比重。 ROC全称是受访者工作特征（Receiver Operating Characteristic）曲线，用来研究一般情况下模型的泛化性能。先根据模型的预测结果将样本进行排序

　　统计学习包括监督学习、非监督学习、半监督学习及强化学习。监督学习（supervised learning）的任务是学习一个模型，使模型能够对任意给定的输入，对其相应的输出做出一个好的预测（注意，这里的输入、输出是指某个系统的输入与输出，与学习的输入与输出不同）。计算机的基本操作就是给定一个输入产生一个输出，所以监督学习是极其重要的统计学习分支，也是统计学习中内容最丰富、应用最广泛的部分。 　　1．输入空间、特征空间与输出空间 　　在监督学习中，将输入与输出所有可能取值的集合分别称为输入空间（input space）与输出空间（output space）。输入与输出空间可以是有限元素的集合，也可以是整个欧氏空间。输入空间与输出空间可以是同一个空间，也可以是不同的空间，但通常输出空间远远小于输入空间。 每个具体的输入是一个实例（instance），通常由特征向量（feature vector）表示。这时，所有特征向量存在的空间称为特征空间（feature space）。特征空间的每一维对应于一个特征。有时假设输入空间与特征空间为相同的空间，对它们不予区分；有时假设输入空间与特征空间为不同的空间，将实例从输入空间映射到特征空间。模型实际上都是定义在特征空间上的。 在监督学习过程中，将输入与输出看作是定义在输入（特征）空间与输出空间上的随机变量的取值。输入、输出变量用大写字母表示

　　释义：统计学习（statistical learning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。又称统计机器学习（statistical machine learning）。“如果一个系统能够通过执行某个过程改进它的性能，这就是学习”。统计学习就是计算机系统通过运用数据和统计方法提高系统性能的机器学习。当下提及的机器学习一般是指统计机器学习。 　　一、统计学习的特点 　　1. 以计算机和网络为平台，建立在计算机和网络之上； 　　2. 以数据为研究对象，是数据驱动的学科； 　　3. 目的是对数据进行预测与分析； 　　4. 以方法为中心，构建模型并应用模型进行预测与分析； 　　5. 是概率论、统计学、信息论、计算理论、最优化理论、计算机科学等多个领域的交叉学科。 　　二、统计学习的对象 　　统计学习的对象是数据（data）。从数据出发，提取数据特征，抽象数据模型，发现数据中的知识，再回到对数据的分析与预测中去。数据是多样的，包括各种文字、图片、音视频，以及它们的组合。 　　重点：统计学习关于数据的基本假设是同类数据具有一定的统计规律性，这是机器学习的前提。同类数据指具有某种共同性质的数据，具有统计规律性，所以可以使用概率统计方法来处理。如：可以用随机变量描述数据中的特征，用概率分布描述数据的统计规律。在统计学习过程中，以变量或变量组表示数据

简介 半监督学习算法 Self-Training Models Mixture Models and EM 有监督分类的混合模型 半监督分类的混合模型 EM算法求解 THE ASSUMPTIONS OF MIXTURE MODELS CLUSTER-THEN-LABEL METHODS Co-Training协同训练 THE ASSUMPTIONS OF CO-TRAINING Graph-Based Semi-Supervised Learning THE GRAPH MINCUT HARMONIC FUNCTION调和函数 THE ASSUMPTION OF GRAPH-BASED METHODS Semi-Supervised Support Vector Machines THE ASSUMPTION OF S3VMS 参考文献 简介 半监督学习主要是研究如何在有标签和无标签的数据中学习，其目的是设计算法来满足既包含有标记数据，又包含无标记数据的情况，并理解对于这种混合数据下学习的差异性。很多时候，人工标记的数据是很少的，而且代价是很大的，为了改善在缺少训练数据情况下的有监督学习，可以使用半监督学习来利用未标记数据。这里，主要介绍几种半监督学习的算法，如self-training、mixture models、co-training、graph-based

分类与回归 监督学习的问题主要有两种，分别是分类classification和回归regression。 分类： 分类问题的目的是预测类别标签class label，这些标签来自预定义的可选列表。 回归： 回归任务的目的是预测一个连续值，也叫作浮点数floating-point number，即预测值不是一个类别而是一个数字值。打个比方，假如要根据一个人的年龄学历等feature来预测这个人的收入，那么预测值为一个金额，可以在给定范围内任意取值。 区分分类与回归： 最好的办法就是看输出是否具有某种连续性，如果在可能的结果之间具有连续性，那么它就是一个回归问题。 泛化 generalize： 如果一个模型能对没有见过的数据做出准确的预测，那么就表明这个模型能从训练集generalize到测试集。 过拟合 overfitting 欠拟合 underfitting： 如果我们总想找到最简单的模型，构建与一个对于现有信息量过于复杂的模型，即在拟合模型的时候过分关注训练集的细节，得到了一个与训练集上表现很好但是不能泛化到新数据上的模型，那么就是overfitting过拟合。 反之 ，如果模型过于简单，无法抓住数据的全部内容以及数据中的变化，甚至在训练集上表现就很差，那么就是underfitting欠拟合。 所以 ，在二者之间存在一个最佳位置，找到这个位置就是我们最想要的模型。 监督学习算法