分类

Adaboost

|▌冷眼眸甩不掉的悲伤 提交于 2021-02-15 00:50:41
“三个臭皮匠赛过诸葛亮”的理念在ensemble methods中体现的可谓淋漓尽致。在boosting中,adaboost是其中的代表。下面让我们简单领略adaboost背后的那些不可思议的要点...... 1. adaboost的框架【 adaboost提供的是一个算法 框架 】 2.原理简述 【分类问题】 训练集D,样本权重w。基估计器(预测器)base estimator:G(x)【与框架中的y(x)相对应】。 adaboost通过G(x)【训练得到G(x)】对D进行预测(分类),那些被 误分类的样本的权重会被提高 ,在进入下一轮训练时, 分类器会特别“关照”那些权重高的样本 ,这样再次分类时,误分类的样本数量【误分类绿率】就会下降,直至为0.此时也会得到相应的M个弱分类器,最终 通过分类器的权重进行线性组合 ,得到一个最终的boss。 熟悉adaboost的读者,相信你对adaboost算法的流程已经熟记于心,它就是这么吊! 【adaboost算法流程】 可以看出,adaboost的原理在其算法流程中也体现的很清晰。 3.adaboost另一种解释 adaboost的另一个解释是模型为 加法模型 、损失函数是 指数函数 、学习算法为 前向分步算法 时的二分类学习方法。 可以在此基础下,推导出在adaboost中的 分类器权重更新 的公式以及 样本权重更新 的公式!相信

ACM程序设计大赛题目分类

一笑奈何 提交于 2019-12-13 11:40:42
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> 第一类:基础算法 (1) 基础算法: 枚举,贪心,递归,分治,递推,构造,模拟 (2) 动态规划: 背包问题,树形dp,状态压缩dp,单调性优化,插头dp (3) 搜索: dfs,bfs,记忆化搜索,优化与剪枝,双广,A*,IDA*,跳舞链 第二类:数据结构 (1) 简单数据结构: 链表,栈和队列,串,树和二叉树,图,排序与检索 (2) 树形结构: 线段树,树状数组,字典树,伸展树,左偏树,动态树,lca&rmq,划分树,SBT (3) 字符串: kmp,AC自动机,后缀数组,最小表示法 (4) 其他: 并查集,散列表,块状链表,双向链表 第三类:图论 (1) 最短路: dijkstra,bellman-ford(spfa优化),floyd,heap+dijkstra,差分约束,第K最短路 (2) 生成树: prim,kruskal, 度限制最小生成树, 最优比率生成树, 次小生成树, 最小树形图,生成树的计数,树的划分,树的枚举 (3) 匹配问题: 二分图的最大匹配 (匈牙利算法),KM,2-SAT,同构 (4) 网络流: 最大流,最小费用最大流,最小割模型、网络流规约 (5) 其他: 拓扑排序,双连通分量,强连通分支及其缩点,图的割边与割点,无向图、有向图的最小环,欧拉路径,哈密顿路径,平面图,分层图思想

关于SVM的那点破事

送分小仙女□ 提交于 2019-12-07 11:45:36
SVM的实现工具箱有很多,但我还是认为libsvm最好用(lssvm也不错的说),我认为把这一个SVM的实现工具箱研究的透彻就够了,反正我是够用了,即如果现在需要SVM这个工具来进行分类或者回归我可以拿来libsvm-mat-2.89-3[FarutoUltimate3.0]就能熟练使用以达到解决自己的问题的目的,而不用再重新学习掌握SVM这个工具。 其实还有一些话要说,姑且先留着吧 … … ==================== MATLAB技术论坛电子 期刊 第九期(2011.06)[faruto帖子集锦] http://www.matlabsky.com/thread-17223-1-1.html ==================== 《Learn SVM Step by Step 》系列 视频 应用篇 Libsvm的下载、安装和使用 http://www.matlabsky.com/thread-18080-1-1.html Libsvm参数实例详解 http://www.matlabsky.com/thread-18457-1-1.html 一个实例搞定libsvm分类 http://www.matlabsky.com/thread-18521-1-1.html 一个实例搞定libsvm回归 http://www.matlabsky.com/thread-18552

iOS时间那点事--NSDate分类

我的未来我决定 提交于 2019-11-27 12:06:01
#iOS 时间那点事 ##NSDate分类(Catogery) ###分类 类,是面向对象语言的基本;类,是具有相同属性和行为的一类事物的概括,这是一种抽象;但是,事物总是多方面的,如此之多以至于我们每每看到深不见底的头文件就恐高,于是乎我们使用了继承,鉴于管理和使用的高额成本,我们创造了“抽象工厂模式”,Perfect!但我们怎么有时心里就是高兴不起来呢?因为有些时候可以不用继承,但是又没有其他办法,只好用继承,并且不得不承担使用继承的带来的后果。Objective-C就在这时来到了你的身边。[单继承!!??什么东西?(C++)] [还不是跟我们一样~(Java)]。关于单继承和多继承的问题,作为一介平民,不做过多讨论,用着用着就习惯了…… 全世界针对这个问题给出了同样的答案:接口(和Objective-C中的协议一样的东西)。这就结束了吗??!!类还是深不见底啊!那就彻底一次吧,不要磨磨唧唧的了,一个类可以分开定义和实现,放到多个的文件里,这样把基本的东西留在原来的文件中,其他比较特定的东西放到其他文件里面,搞个合理的命名规则,就叫“分类”吧。 分类,通过分离特定功能的代码,解决大型代码框架的维护的问题。任何东西的出现都是有其一定的原因的,就像面向对象语言的出现一样,我们现在只不过是在不断地完善面向对象语言而已,可见前方的路还很远。 NSDate是一个时间类