hessian

Paper：Xavier参数初始化之《Understanding the difficulty of training deep feedforward neural networks》的翻译与解读 目录 Understanding the difficulty of training deep feedforward neural networks Abstract 5 Error Curves and Conclusions 误差曲线及结论 相关文章 Paper：Xavier参数初始化之《Understanding the difficulty of training deep feedforward neural networks》的翻译与解读 Paper：He参数初始化之《Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet C》的翻译与解读 DL之DNN优化技术：DNN中参数初始值优化【He初始化和Xavier初始化】的简介、使用方法详细攻略 Understanding the difficulty of training deep feedforward neural networks 原论文地址 ： http://proceedings.mlr.press/v9

本文首发自公众号： RAIS 前言 本系列文章为《Deep Learning》读书笔记，可以参看原书一起阅读，效果更佳。 ​数值计算 机器学习算法需要大量的数字计算，并且这些计算包含有一些迭代拟合的过程，在这个计算过程中，由于计算机的局限，无法完全精确的表示，因此总是存在误差的，小的误差经过迭代次数的增多，或者多个误差的叠加，甚至会使得算法不可用，系统失效。 上溢和下溢 下溢：在现有的精度无法表示那么小的数的时候，接近零的数四舍五入为零时，会发生下溢。 上溢：在现有的精度无法表示那么大的数的时候，数过大被近似为无限大的时候，会发生上溢。 解决办法：softmax 函数，也称 归一化指数函数 ，是逻辑函数的一种推广，将任意实数的 K 维向量映射到另外一个 K 维空间内，使得每一个元素都在 (0, 1) 之间。这里的 归一化 与之前在房价预测中提到的 标准化 不是一个概念（标准化对数据进行某种非线性变换，使其服从某一种分布，归一化对数值的范围进行缩放，不改变数据分布的一种线性变换）。 病态条件（poor conditioning） 这个词我觉得翻译不准确，但是大家都喜欢这么叫暂且先这么叫吧。一般来说这个概念针对的是方程组或矩阵，微小的扰动让方程组的解发生巨大的变化，这样的方程组称为病态方程组，他们的系数组成的矩阵叫病态矩阵。 与之相关的还有一个概念叫 条件数

3 月，跳不动了？>>> 1.什么是rpc RPC全称为Remote Procedure Call，翻译过来为“远程过程调用”。目前，主流的平台中都支持各种远程调用技术，以满足分布式系统架构中不同的系统之间的远程通信和相互调用。远程调用的应用场景极其广泛，实现的方式也各式各样。 2.从通信协议的层面 基于HTTP协议的（例如基于文本的SOAP（XML）、Rest（JSON），基于二进制Hessian（Binary）） 基于TCP协议的（通常会借助Mina、Netty等高性能网络框架） 3.从不同的开发语言和平台层面 单种语言或平台特定支持的通信技术(例如Java平台的RMI、.NET平台Remoting) 支持跨平台通信的技术（例如HTTP Rest、Thrift等） 4.从调用过程来看 同步通信调用（同步RPC） 异步通信调用（MQ、异步RPC） 5.常见的几种通信方式 远程数据共享（例如：共享远程文件，共享数据库等实现不同系统通信） 消息队列 RPC（远程过程调用） 6.php实现简单的rpc 目录结构 rpc服务端 <?php /** * User: yuzhao * CreateTime: 2018/11/15 下午11:46 * Description: Rpc服务端 */ class RpcServer { /** * User: yuzhao * CreateTime

3 月，跳不动了？>>> 本文就常见的几种序列化协议介绍下简单的实践 ProtoBuf ProtoBuf 是有谷歌开源，可以跨语言，可编译成各种语言。可称之为一个IDL, Interface description language. 下载编译器，protoc protoc-3.11.4-osx-x86_64.zip;可下载不同操作系统的版本, https://github.com/google/protobuf/releases 设置环境变量 vi ~/.bash_profile export PATH=$PATH:/path/to/protoc-3.4.0/bin 在maven项目中引入相关依赖 <!-- https://mvnrepository.com/artifact/com.google.protobuf/protobuf-java --> <dependency> <groupId>com.google.protobuf</groupId> <artifactId>protobuf-java</artifactId> <version>3.11.4</version> </dependency> <!-- https://mvnrepository.com/artifact/com.googlecode.protobuf-java-format/protobuf

　　前面实现RMS系统时，我们让其直接访问底层数据库。后面我们在idlewow-game模块实现游戏逻辑时，将不再直接访问底层数据，而是通过hessian服务暴露接口给表现层。 　　本章，我们先把hessian服务搭好，并做一个简单的测试，这里以用户注册接口为例。 　　先简单介绍下，实现hessian接口，只需要在facade模块暴露接口，然后在core模块实现接口，最后在hessain模块配置好接口路由，将其启动即可。 实现步骤 idlewow-facade 　　新建包com.idlewow.user.model，在此包下添加模型类： package com.idlewow.user.model; import com.idlewow.common.model.BaseModel; import lombok.Data; import java.io.Serializable; @Data public class UserAccount extends BaseModel implements Serializable { private String username; private String password; private String mail; private String phone; private String realName; private

某厂面试归来，发现自己落伍了！>>> dubbo:// Dubbo 缺省协议采用单一长连接和 NIO 异步通讯，适合于小数据量大并发的服务调用，以及服务消费者机器数远大于服务提供者机器数的情况。 反之，Dubbo 缺省协议不适合传送大数据量的服务，比如传文件，传视频等，除非请求量很低。 Transporter: mina, netty, grizzy （传输层） Serialization: dubbo, hessian2, java, json （序列化） Dispatcher: all, direct, message, execution, connection ThreadPool: fixed, cached （线程池） 特性 缺省协议，使用基于 mina 1.1.7 和 hessian 3.2.1 的 tbremoting 交互。 连接个数：单连接 连接方式：长连接 传输协议：TCP 传输方式：NIO 异步传输 序列化：Hessian 二进制序列化 适用范围：传入传出参数数据包较小（建议小于100K），消费者比提供者个数多，单一消费者无法压满提供者，尽量不要用 dubbo 协议传输大文件或超大字符串。 适用场景：常规远程服务方法调用 约束 参数及返回值需实现 Serializable 接口 参数及返回值不能自定义实现 List , Map , Number , Date

作者：Longofo@知道创宇404实验室 时间：2020年2月20日 原文地址： https://paper.seebug.org/1131/#_2 前不久有一个关于Apache Dubbo Http反序列化的漏洞，本来是一个正常功能（通过正常调用抓包即可验证确实是正常功能而不是非预期的Post），通过Post传输序列化数据进行远程调用，但是如果Post传递恶意的序列化数据就能进行恶意利用。Apache Dubbo还支持很多协议，例如Dubbo（Dubbo Hessian2）、Hessian（包括Hessian与Hessian2，这里的Hessian2与Dubbo Hessian2不是同一个）、Rmi、Http等。Apache Dubbo是远程调用框架，既然Http方式的远程调用传输了序列化的数据，那么其他协议也可能存在类似问题，例如Rmi、Hessian等。@pyn3rd师傅之前在twiter发了关于Apache Dubbo Hessian协议的反序列化利用，Apache Dubbo Hessian反序列化问题之前也被提到过， 这篇文章 里面讲到了Apache Dubbo Hessian存在反序列化被利用的问题，类似的还有Apache Dubbo Rmi反序列化问题。之前也没比较完整的去分析过一个反序列化组件处理流程，刚好趁这个机会看看Hessian序列化、反序列化过程，以及

作者：Longofo@知道创宇404实验室 时间：2020年2月20日 原文链接： https://paper.seebug.org/1131/ 前不久有一个关于Apache Dubbo Http反序列化的漏洞，本来是一个正常功能（通过正常调用抓包即可验证确实是正常功能而不是非预期的Post），通过Post传输序列化数据进行远程调用，但是如果Post传递恶意的序列化数据就能进行恶意利用。Apache Dubbo还支持很多协议，例如Dubbo（Dubbo Hessian2）、Hessian（包括Hessian与Hessian2，这里的Hessian2与Dubbo Hessian2不是同一个）、Rmi、Http等。Apache Dubbo是远程调用框架，既然Http方式的远程调用传输了序列化的数据，那么其他协议也可能存在类似问题，例如Rmi、Hessian等。@pyn3rd师傅之前在 twiter 发了关于Apache Dubbo Hessian协议的反序列化利用，Apache Dubbo Hessian反序列化问题之前也被提到过， 这篇文章 里面讲到了Apache Dubbo Hessian存在反序列化被利用的问题，类似的还有Apache Dubbo Rmi反序列化问题。之前也没比较完整的去分析过一个反序列化组件处理流程，刚好趁这个机会看看Hessian序列化、反序列化过程，以及

阿里妹导读：API 是模块或者子系统之间交互的接口定义。好的系统架构离不开好的 API 设计，而一个设计不够完善的 API 则注定会导致系统的后续发展和维护非常困难。比较好的API设计样板可以参考 github 和 k8s ，它们都是典型的RESTful接口。云服务对外开放的窗口就是OpenAPI，今天要讨论的话题是“云服务场景下OpenAPI设计的挑战”。 为什么要有API规范 之所以强调“云服务”的原因在于，小规模独立API的设计与大规模批量生产API面临的问题是不一样的。同样，只专注于自身产品API的可用性与从更高的层次去看云服务整体API体系的健壮性，要建设的体系也是不一样的。 例如，做一个WEB页面使用的API，只需要考虑性能、稳定性、鉴权就好，因为页面与API是一体的，可以一起发布和回滚，只要功能正常，即便API设计有缺陷，用户也可以接受。而云服务要开放API考虑问题就多了： 首先，云服务开放的是基础设施和服务接口，一般是系统级的对接，API一旦开放想要变更就非常困难； 其次，云服务并非单独运行，不同的产品实际场景中是互相组合的，需考虑产品间的一致性和互通便利性； 云服务API数量庞大，为了更方便使用，配套的API查找、编排、自动化生成SDK等需求也比普通服务强烈； 云服务的稳定性非常重要，核心产品的稳定性就是客户的生命线，要求非常高。 所以云服务由于产品线众多

Dubbo默认使用的是什么通信框架？ Netty Dubbo的序列化？ dubbo序列化，阿里尚不成熟的java序列化实现。 hessian2序列化：hessian是一种跨语言的高效二进制的序列化方式，但这里实际不是原生的hessian2序列化，而是阿里修改过的hessianlite，它是dubboRPC默认启用的序列化方式。 json序列化：目前有两种实现，一种是采用的阿里的fastjson库，另一种是采用dubbo中自已实现的简单json库，一般情况下，json这种文本序列化性能不如二进制序列化。 java序列化：主要是采用JDK自带的java序列化实现，性能很不理想。 Dubbo的调用关系？ 提供者启动时，向注册中心注册自己提供的服务。 消费者启动时，向注册中心订阅自己所需的服务。 注册中心返回提供者地址列表给消费者，如果有变更，注册中心将基于长连接推送变更数据给消费者。 消费者，从远程接口列表中，调用远程接口，dubbo会基于负载均衡算法，选一台提供者进行调用，如果调用失败则选择另一台。 消费者和提供者，在内存中累计调用次数和调用时间，定时每分钟发送一次统计数据到监控中心。 Dubbo中ZooKeeper做注册中心，如果注册中心集群都挂掉，发布者和订阅者之间还能通信么？ 注册中心对等集群，任意一台宕掉后，会自动切换到另一台。 注册中心全部宕掉