大数据

云原生|消息中间件的演进路线

三世轮回 提交于 2021-02-13 09:39:22
Photo @ Julien Riedel 文 | 尘央 引言 本文以一张云进化历史图开场,来谈谈云原生时代消息中间件的演进路线,但本文绝对不是“开局一张图,内容全靠编”。 从虚拟化技术诞生以来,IaaS/PaaS/SaaS 概念陆续被提了出来,各种容器技术层出不穷。到 2015 年, Cloud Native 概念应运而生,一时间,各种云厂商,云服务以及云应用都加上了“云原生”前缀。 我们也一直在思考,传统的消息中间件需要做些什么才能加上云原生这个修饰词,这也是本文探讨的主题:传统的消息中间件如何持续进化为云原生的消息服务。 云原生消息服务 什么是云原生 首先来谈谈什么是云原生,云原生是一个天然适用于云计算的架构理念,实践云原生技术理念的应用可以最大化享受云计算的技术红利,包括弹性伸缩、按量付费、无厂商绑定、高 SLA 等。 应用在实践云原生技术理念时一般会遵循四个要素: 采取 DevOps 领域的最佳实践来管理研发和运维流程。 通过 CICD 工具链做到应用的快速迭代和持续交付。 采取微服务架构。 采取容器及相关技术进行应用的托管。 消息服务作为应用的通信基础设施,是微服务架构应用的核心依赖,也是实践云原生的核心设计理念的关键技术,通过消息服务能够让用户很容易架构出分布式的、高性能的、弹性的、鲁棒的应用程序。消息服务在云原生的重要性也导致其极可能成为应用实践云原生的阻塞点

顶刊综述 | mNGS的临床应用与挑战

北城以北 提交于 2021-02-13 08:48:17
如果说宏基因组学是大家关注的焦点,那么mNGS应该是宏基因组学焦点中的NO.1,尤其是在新冠疫情的大环境下。 mNGS在临床中的实际应用如何?在临床实验室中又面临着怎样的挑战?... 这些问题的答案都在今天分享的这篇综述中。2020年6月,来自美国的研究人员在《 Nature Reviews Genetics 》杂志(IF=33.133)发表了关于mNGS的综述, 回顾了mNGS在临床和公共卫生环境中的各种应用, 讨论了在临床实验室中采用mNGS所面临的挑战,并提出了克服这些挑战的步骤。同时展望了mNGS在临床领域的未来发展方向。 临床微生物学:从传统技术到mNGS 临床微生物学领域包括诊断微生物学、从临床样本中识别病原体以指导感染患者的管理和治疗策略、公共卫生微生物学以及社区监测和监测传染病暴发等。微生物的传统诊断技术包括:培养物中微生物的生长和分离,病原体特异性抗体(血清学)或抗原的检测以及微生物核酸(DNA或RNA)的分子鉴定,通常是通过PCR进行的。 尽管大多数分子分析使用特定的引物或探针仅靶向有限的病原体,但宏基因组学方法可表征样品中存在的所有DNA或RNA,从而能够分析患者样品中的整个微生物组以及人类宿主基因组或转录组。 宏基因组学方法已经应用了数十年,以表征各种生态位,从海洋环境到有毒土壤到节肢动物疾病载体再到人类微生物组。 mNGS是对患者样品中微生物和宿主遗传物质

熊逸吴军武志红万维钢薛兆丰等得到专栏书34本,5星1本,4星12本

夙愿已清 提交于 2021-02-13 08:36:48
这个书单是最近两三年内看过的得到APP专栏与课程作者的得到精选文集和他们写过的书共34本。新增 熊逸《道可道》 和万维钢 《你有你的计划,世界另有计划》 。 按作者计数: 熊逸 1本 王烁 1本, 吴军 4本, 武志红 3本, 熊太行 1本, 薛兆丰 2本, 何帆 3本, 曾鸣 2本, 万维钢 2本, 李笑来 2本, 刘润 4本, 罗永浩 1本, 李翔 1本, 王煜全 3本, 罗振宇 4本。 按星级计数: 5星 1本, 4星 12本, 3.5星 1本 3星 11本 2.5星 4本 2星 2本 1星 3本 带有(new)字样的条目是跟 上一个版本 比新增或修改的内容。 5星|熊逸《道可道》: 秒杀樊登力荐的《道德经说什么》(new) 从古今中外哲学与政治的思想体系大框架中,看后世大家如何评价《道德经》,看《道德经》思想跟其他学派、其他宗教思想的异同与演变碰撞历史。 作者对《道德经》是研究的态度而不是崇拜的态度。 对《道德经》不是81章逐个讲解,而是按作者的思路整理,涉及到许多中外古代哲学思想,提到历史上多位大家对《道德经》的讲解,提到好几个《道德经》自相矛盾的地方。最有趣的一点是1993年出土的郭店竹简中的《道德经》,是一个司马迁都没见过的古老版本。另外唐代就有史学家刘知几指出当时通行的河上公版《道德经》有问题。 当代学者的相关著作中,书中提到最多的是李零的《人往低处走》

5款好用的 REST API 工具,推荐给你!

自作多情 提交于 2021-02-13 07:01:10
程序员的成长之路 互联网/程序员/技术/资料共享 关注 阅读本文大概需要 5 分钟。 来源:hackernoon.com/ rest-api-tools-smackdown-nov3ulw tips:文末有好书推荐~ 市面上可用的 REST API 工具选项有很多,我们来看看其中一些开发人员最喜欢的工具。 API 定义 Swagger Editor 是图形可视化的流行选项。你可以使用 JSON 或 YAML 定义 API。此外,你可以为大多数相关技术(从 ASP.NET Core 和 Kotlin 到 Node.JS 和 Python)生成服务端或客户端存根。 Apicurio 是一个开源项目,简单而优雅,支持 JSON 和 YAML。它可以: 从源代码控制、文件和 URL 导入 API。 与你的 GitHub、GitLab 或 Bitbucket 帐户集成。 预览实时文档。 提供基于 Open API 标准设计 API 的可视化编辑器(无需任何编码技能!)。 测试和监视 Postman 是一个直观且井井有条的桌面工具,用于创建、测试和监视 API。这是我个人最喜欢的工具之一,因为它是我用来测试自己 API 的第一个工具,而且学习它的过程再顺利不过了。该产品功能全面,涵盖了从创建到测试和监视的 API 开发流程。 使用 Postman,你可以: 添加 mock 服务器。

大数据

我的未来我决定 提交于 2021-02-13 06:50:53
随着计算机系统在处理能力、存储能力等方面,特别是计算机软件技术的不断提高,使得信息处理技术得到飞速发展。 数据处理主要分为两大类:联机事物处理OLTP、联机分析处理OLAP。OLTP也就是传统的关系型数据库应用,主要功能是基本的、日常的事务处理操作,对响应时间要求非常高,是一种面向应用的生产系统。OLAP是基于数据仓库的面向主题的信息分析处理过程。 什么是数据仓库 与传统关系型数据库不同的是,数据仓库储存的是历史数据,针对数据仓库系统的查询大都非常复杂,特别消耗系统资源,对系统的可扩展能力和并行处理能力要求很高。数据仓库主要面向业务人员和管理人员,用来帮助企业管理人员作出更符合业务发展规律的决策,所以也称数据仓库为决策支持系统。数据仓库的数据来自多个数据库,并且按照预先定义好的模型对抽取的数据进行转换过滤,再将结果存放到数据仓库中。 Teradata 数据库 为了解决传统数据库在大量数据的查询分析等方面的局限性,Teradata公司推出了Teradata关系数据库管理系统。Teradata采用标准的SQL查询语言,适用于处理复杂查询数据仓库应用。 架构 Teradata的主要组件是解析引擎、BYNET和访问模块处理器(AMP)。 解析引擎负责从客户端接收查询命令并制定执行计划。 BYNET相当于网络层,它从解析引擎接收执行计划并发送给相应的AMP,AMP的选择采用哈希算法实现。

云原生|消息中间件的演进路线

北城以北 提交于 2021-02-13 01:57:53
Photo @ Julien Riedel 文 | 尘央 引言 本文以一张云进化历史图开场,来谈谈云原生时代消息中间件的演进路线,但本文绝对不是“开局一张图,内容全靠编”。 从虚拟化技术诞生以来,IaaS/PaaS/SaaS 概念陆续被提了出来,各种容器技术层出不穷。到 2015 年, Cloud Native 概念应运而生,一时间,各种云厂商,云服务以及云应用都加上了“云原生”前缀。 我们也一直在思考,传统的消息中间件需要做些什么才能加上云原生这个修饰词,这也是本文探讨的主题:传统的消息中间件如何持续进化为云原生的消息服务。 云原生消息服务 什么是云原生 首先来谈谈什么是云原生,云原生是一个天然适用于云计算的架构理念,实践云原生技术理念的应用可以最大化享受云计算的技术红利,包括弹性伸缩、按量付费、无厂商绑定、高 SLA 等。 应用在实践云原生技术理念时一般会遵循四个要素: 采取 DevOps 领域的最佳实践来管理研发和运维流程。 通过 CICD 工具链做到应用的快速迭代和持续交付。 采取微服务架构。 采取容器及相关技术进行应用的托管。 消息服务作为应用的通信基础设施,是微服务架构应用的核心依赖,也是实践云原生的核心设计理念的关键技术,通过消息服务能够让用户很容易架构出分布式的、高性能的、弹性的、鲁棒的应用程序。消息服务在云原生的重要性也导致其极可能成为应用实践云原生的阻塞点

数据指标体系建设

大城市里の小女人 提交于 2021-02-13 01:46:58
大数据技术与架构 点击右侧关注,大数据开发领域最强公众号! 暴走大数据 点击右侧关注,暴走大数据! 一、数据 数据是指未经过处理的原始记录。 数据的本质是利用数学观察、记录、理解世界;数据分析的过程就是人类从定性到定量、模糊到精准过程; 大家都喜欢看数据,而不是通过一堆的文字、现象进行决策判断: 二、指标 指标=数据+业务场景,能够指导业务制定下一步行动方案。 例如:【体重】是一个数据,120KG不代表胖,60KG也不代表瘦,这个数字的或大或小并不能从说明什么问题,因为还有身高的因素。而【体脂率】是一个衡量人体内脂肪含量的多少的指标,对男性而言3-4%左右的体脂是必须脂肪,对女性而言10-12%的脂肪是必须脂肪,低于这个标准就会影响健康。另外,男性体脂高于25%、女性高于35%则属于肥胖,不但难看还会影响健康。因此【体脂率】是一个可以指导人们下一步行动的“指标”,而【体重】只是一个数据。 一个好的指标的应该能够解决以下5W的问题: 1、使用场景(who、when、where) 解决指标的维度问题,通过定义维度可以明确指标所能支持的分析场景,例如【体脂率】可以支持性别、年龄段、地区等维度,那对应的可以支持对不同性别、年龄段、地区人群的分析; 2、指标定义(what) 解决指标的计算口径问题,大多数情况下需要解决的是同名不同义、同义不同名的问题,如下图的销售额、上架数量两个指标所示:

云原生时代消息中间件的演进路线

笑着哭i 提交于 2021-02-13 01:45:53
简介: 本文整理自作者于 2020 年云原生微服务大会上的分享《云原生时代的消息中间件演进》,主要探讨了传统的消息中间件如何持续进化为云原生的消息服务。 作者 | 周礼(不铭) 阿里巴巴集团消息中间件架构师 导读 :本文整理自作者于 2020 年云原生微服务大会上的分享《云原生时代的消息中间件演进》,主要探讨了传统的消息中间件如何持续进化为云原生的消息服务。 引言 本文以一张云进化历史图开场,来谈谈云原生时代消息中间件的演进路线,但本文绝对不是“开局一张图,内容全靠编”。 从虚拟化技术诞生以来,IaaS / PaaS / SaaS 概念陆续被提了出来,各种容器技术层出不穷。到 2015 年,Cloud Native 概念应运而生,一时间,各种云厂商,云服务以及云应用都加上了“云原生”前缀。 我们也一直在思考,传统的消息中间件需要做些什么才能加上云原生这个修饰词,这也是本文探讨的主题:传统的消息中间件如何持续进化为云原生的消息服务。 云原生消息服务 1. 什么是云原生 首先来谈谈什么是云原生,云原生是一个天然适用于云计算的架构理念,实践云原生技术理念的应用可以最大化享受云计算的技术红利,包括弹性伸缩、按量付费、无厂商绑定、高 SLA 等。 应用在实践云原生技术理念时一般会遵循四个要素: 采取 DevOps 领域的最佳实践来管理研发和运维流程; 通过 CICD

网络神经科学

廉价感情. 提交于 2021-02-12 22:49:50
In this review, we have attempted to sketch the outlines of a new interdisciplinary field, which we call network neuroscience. The field gathers momentum as networks have become ubiquitous phenomena encountered in empirical investigation as well as computational analysis and modeling of neurobiological systems at all scales. The ever-growing volume of big data in neuroscience demands not only advanced analytics and sound statistical inference, but it also calls for theoretical ideas that can unify our understanding of brain structure and function. Theory is indispensable, as it allows us to

【值得收藏】一份非常完整的Mysql规范

◇◆丶佛笑我妖孽 提交于 2021-02-12 22:41:04
做一个积极的人 编码、改bug、提升自己 我有一个乐园,面向编程,春暖花开! 本文从芋道源码转载,在原有内容基础上结合阿里巴巴Java开发手册中Mysql数据库章节的介绍,加上自己的理解和说明,整理而成。涉及的内容较多,建议收藏后仔细阅读! 一、数据库命名规范 数据库的表名、字段名必须使用 小写字母或数字 (不要使用驼峰哦),并禁止出现数字开头,禁止两个下划线中间只出现数字。 正例:aliyun _ admin , rdc _ config , level 3_ name 反例:AliyunAdmin , rdcConfig , level _3_ name 所有数据库对象名称 禁止使用mysql保留关键字 (如果表名中包含关键字查询时,需要将其用单引号括起来) mysql5.7 关键字 官方文档地址: https://dev.mysql.com/doc/refman/5.7/en/keywords.html 设计时多查一查,下面只是列举了一部分,全部关键字查看官方文档内容。如下: ACCESSIBLE (R) ACCOUNT [ a] ACTION ADD (R) AFTER AGAINST AGGREGATE ALGORITHM ALL (R) ALTER (R) ALWAYS [ b] ANALYSE ANALYZE (R) AND (R) ANY AS (R) ASC (R