Nag

Adam与SGD

泪湿孤枕 提交于 2021-02-10 17:57:14
本文转载自「机器学习炼丹记」,搜索「julius-ai」即可关注。 原文链接: 小象 (一)一个框架看懂优化算法 机器学习界有一群炼丹师,他们每天的日常是: 拿来药材(数据),架起八卦炉(模型),点着六味真火(优化算法),就摇着蒲扇等着丹药出炉了。 不过,当过厨子的都知道,同样的食材,同样的菜谱,但火候不一样了,这出来的口味可是千差万别。火小了夹生,火大了易糊,火不匀则半生半糊。 机器学习也是一样,模型优化算法的选择直接关系到最终模型的性能。有时候效果不好,未必是特征的问题或者模型设计的问题,很可能就是优化算法的问题。 说到优化算法,入门级必从 SGD 学起,老司机则会告诉你更好的还有 AdaGrad / AdaDelta,或者直接无脑用 Adam。可是看看学术界的最新 paper,却发现一众大神还在用着入门级的 SGD,最多加个 Momentum 或者 Nesterov,还经常会黑一下Adam。比如 UC Berkeley 的一篇论文就在 Conclusion 中写道: Despite the fact that our experimental evidence demonstrates that adaptive methods are not advantageous for machine learning, the Adam algorithm remains

Gartner:2019年全球IaaS公有云服务市场强劲增长37.3%

99封情书 提交于 2020-08-13 13:24:14
根据Gartner的统计数据,2019年全球基础设施即服务(IaaS)市场增长了37.3%,达到445亿美元,高于2018年的324亿美元。2019年Amazon在IaaS市场上排名第一,其次是微软、阿里巴巴、谷歌和腾讯。 Gartner研究副总裁Sid Nag表示:“云为推动数字业务奠定了基础,数字业务仍然是CIO的首要任务,为边缘计算、人工智能、机器学习和5G等技术提供支撑。归根结底,所有这些技术都需要像公有云IaaS这样可扩展的、弹性的、高容量的基础设施平台,这也是公有云IaaS市场呈现强劲增长态势的原因。” 2019年,排名前五的IaaS厂商占据了80%的市场份额,高于2018年的77%。2018年,所有IaaS厂商中有四分之三都实现了增长。 Amazon继续引领全球IaaS市场,2019年的收入估计为200亿美元,占整个市场的45%(请参阅表1)。Amazon利用在2018年位列第一的优势,将功能特性扩展到云堆栈中IaaS层之外,并在2019年继续保持领先地位。 表1:2018年到2019年全球IaaS公有云服务市场份额(单位:百万美元)资料来源:Gartner(2020年8月) 微软在IaaS市场上排名第二,近80亿美元的收入中有一半多来自北美。2019年微软的IaaS产品收入增长了57.8%

团队贡献分分配规则

浪子不回头ぞ 提交于 2020-05-04 13:06:29
项目 内容 课程:北航-2020-春-软件工程 博客园班级博客 作业要求 团队贡献分分配规则 我们在这个课程的目标是 提升团队管理及合作能力,开发一项满意的工程项目 这个作业在哪个具体方面帮助我们实现目标 明确评分规则,确定团队模式 一、评分制度 我们的团队有7人之多,那么贡献分应当如何科学的分配,并且以这种分配方式得到队员最大的积极性,是一个十分重要的问题。我们不希望任何一个对小组做出卓越贡献的人,与那些做出贡献很少的人有相近的分数。于是,我们需要一种方式来合理的评价,使所有的分数评判都有据可循。 经过讨论,小组最终对于个人的评分定为两个部分: 70%工作记录+30%互评 。由于总分为 7*50=350 分,用于工作记录的评分占245分,用于互评的占105分。 1. 工作记录 A.通过什么来记录? 如下图所示为设计的问卷,基本上填完整个表只需要20s,而随着工作量的累加,所有人所做过的事情一目了然。 链接: NAG2020工作记录 B.在工作记录里填什么? 自己做过的工作填入工作记录表中,这些事情对小组的贡献可能很小,比如在博客园对老师的评论进行回答,也可能较大,比如承担了某次作业的核心模块。最后填写对于本次工作的自评,作为最终该工作得分的参考。其中有以下例子: 撰写博客 回答评论 提出某个关键的idea 完成A模块 完成A模块测试 团队采访 ... 注: 除此之外

OD调试学习笔记7—去除未注册版软件的使用次数限制

风格不统一 提交于 2020-03-02 00:37:25
OD调试学习笔记7—去除未注册版软件的使用次数限制 本节使用的软件链接 (想自己试验下的可以下载) 一:破解的思路   仔细观察一个程序,我们会发现,无论在怎么加密,无论加密哪里,这个程序加密的目的就是需要你掏腰包来获得更多的功能或者解除限制。那么我们就可以逆向的来思考,如果该程序成功的注册后,那么程序的行为必将发生变化,如NAG去除了,如功能限制没有了等等。也就是说,程序的代码的走法也会跟未注册的时候截然不同。因为程序的行为改变了,那么决定它所有行为的代码走法也会发生变化。 二:认识OD的两种断点 OllyDBG从原理上来区分,有两种不同的断点:软件断点和硬件断点。 也许会有朋友说那不是还有内存断点吗? 内存断点严格来说是属于一种特殊的软件断点。 内存断点: – 内存断点每次只能设置一个,假如你设置了另一个内存断点,则上一个会被自动删除。 – 设置一个内存断点,会改变整块(4KB)内存的属性,哪怕你只设置一个字节的内存断点。 – 另外还需要提一下的是,内存断点会明显降低OD的性能,因为OD经常会校对内存。 软件断点: – 当我们按下F2设置的断点就是软件断点。 – 设置该断点的原理是在断点处重写代码,插入一个int3中断指令,当CPU执行到int3指令的时候,OD就可以获得控制权。 硬件断点: – 这个原理跟软件断点不同,硬件断点的可行性依赖于CPU的物理支持。 – 传说中

Gartner:2019年公有云服务六大趋势

这一生的挚爱 提交于 2019-11-27 11:33:23
作系:Gartner杰出研究副总裁Ed Anderson、Gartner研究副总裁David Ackerman、Gartner研究副总裁Sid Nag、Gartner高级研究总监吴涛 在2017年至2018年间,云服务市场发生了巨大的变化。企业机构从低风险地尝试使用云转向全面、大规模地使用云。云项目已进入到数据中心的核心,彻底的云迁移成为普遍现象。 在传统数据中心环境叠加公有云技术和运营手段,这给使用云的企业机构带来了新的问题。公有云技术加传统数据中心环境成为了常见的混合IT环境。每家企业机构都成为了混合型组织,并且随着云方面的支出增加,它们将注意力放在了成本和云资源的使用效率上。除此之外,风险管理已成为工作的重中之重,企业机构希望通过多云和混合云策略实现投资的多元化,减少对某一家提供商的依赖性。 在2018年,我们已经看到各一些趋势开始“生根发芽”,这些趋势定义了公有云市场并催生出公有云产品经理必须关注的六大要素。自2018年开始的云市场趋势定义了如今的云市场,并将成为整个2019年乃至2020年的主流。 为了跟上趋势并保持竞争力,产品经理必须具备一种“云思维”:客户群正在不断发展而且变得更加明智,他们希望从云项目中同时获得短期和长期的效益。从传统工作负载上云开始,双模IT理论将引导用户在应用架构和运营两个方面逐渐走向云原生。随着企业分散风险和充分地利用每项云服务的需求日益增强