Delta

AirVis: Visual Analytics of Air Pollution Propagation

人盡茶涼 提交于 2020-10-06 07:36:47
论文传送门 视频 作者 浙江大学: Zikun Deng Di Weng Jiahui Chen Ren Liu Zhibin Wang Yingcai Wu 京东智慧城市研究院 Jie Bao Yu Zheng 摘要 空气污染已经成为世界上许多城市的一个严重的公共健康问题。为了找出空气污染的原因,必须在大的空间尺度上研究空气污染物的传播过程。然而,复杂和动态的风场导致污染物输送的高度不确定性。如果没有领域知识的整合,最先进的数据挖掘方法不能完全支持跨多个地区的这种不确定时空传播过程的广泛分析。这些自动化方法的局限性促使我们设计和开发 AirVis,这是一种新颖的可视分析系统,它可以帮助领域专家基于图形可视化有效地捕捉和解释空气污染的不确定传播模式。设计这样的系统提出了三个挑战:a)传播模式的提取;b)模式表示的可伸缩性;和 c)传播过程的分析。为了应对这些挑战,我们开发了一个新的模式挖掘框架来模拟污染物迁移,并从大规模大气数据中有效地提取频繁传播模式。此外,我们基于最小描述长度原则对提取的模式进行分层组织,并允许专家用户基于模式拓扑有效地探索和分析这些模式。我们通过使用真实数据集和领域专家的积极反馈进行的两个案例研究证明了我们方法的有效性。 Introduction 空气污染成为一个严重的公共问题 来源: Vehicle emission Incineration Factory

在 Delta Lake 中启用 Spark SQL DDL 和 DML

空扰寡人 提交于 2020-10-04 23:29:49
Delta Lake 0.7.0 是随着 Apache Spark 3.0 版本发布之后发布的,这个版本比较重要的特性就是支持使用 SQL 来操作 Delta 表,包括 DDL 和 DML 操作。本文将详细介绍如何使用 SQL 来操作 Delta Lake 表,关于 Delta Lake 0.7.0 版本的详细 Release Note 可以参见 这里 。 文章目录 1 使用 SQL 在 Hive Metastore 中创建表 2 支持使用 SQL 进行 Insert, Delete, Update 和 Merge 操作 3 自动或增量的形式生成 Presto/Athena manifest 文件 4 通过表属性来对表进行配置 5 支持在 Delta 表 commit 文件中添加用户定义的元数据 使用 SQL 在 Hive Metastore 中创建表 Delta Lake 0.7.0 支持在 Hive Metastore 中定义 Delta 表,而且这些操作支持使用 SQL 进行,包括创建表和修改表,如下: -- Create table in the metastore CREATE TABLE events ( date DATE, eventId STRING, eventType STRING, data STRING) USING DELTA PARTITIONED

暴力方法将成过去?UC伯克利等新研究返璞归真,探索网络的本质

帅比萌擦擦* 提交于 2020-10-04 00:19:51
         深度卷积神经网络的训练很难,方法很多,有没有可能从中提炼出一条指导性原则呢?加州大学的研究者抛弃暴力搜索方法,试图回归网络最核心简洁的性质。研究作者之一、加州大学伯克利分校马毅教授表示:这应该是真正按原理设计而得到的深度网络。   初始化、归一化和残差连接(skip connection)被认为是训练深度卷积神经网络(ConvNet)并获得最优性能的三大必备技术。   最近,来自加州大学伯克利分校和圣迭戈分校的研究者发布一项研究, 提出不使用归一化和残差连接的深度 ConvNet 在标准图像识别基准上也能实现优异的性能 。其实现方式是:在初始化和训练期间,令卷积核具备近似保距性(near isometric);使用 ReLU 激活函数的变体,实现保距性。      论文地址:https://arxiv.org/pdf/2006.16992.pdf   GitHub 地址:https://github.com/HaozhiQi/ISONet   研究人员进行了大量实验,结果表明此类近似保距网络与残差连接结合后,在 ImageNet 数据集上的性能与 ResNet 相当,在 COCO 数据集上的性能甚至超过 ResNet。而前者甚至都没有应用归一化。   该研究作者之一计算机视觉学者、加州大学伯克利分校马毅教授表示:   这应该是真正按原理设计而得到的深度网络……

java架构师成长路线-详解MAP跨链协议的SMART系统和虚拟机

送分小仙女□ 提交于 2020-10-03 07:09:50
鲁班学院java架构师成长路线 MAP中的SMART系统是一种独特的设计。SMART代表可持续MAP运行时环境,它是MAP的关键组成部分。 它可用于以模块化方式构建标准的公共链,同时为多样化的应用程序链提供智能合约平台。 SMART包括以下组件: MAP-VM:值得信赖的WebAssembly虚拟机 Delta语言:适用于SMART开发的智能合约语言 Runtime:基于MAP VM的Runtime环境。 与以太坊的虚拟机相比,MAP VM支持本地WebAssembly编译和运行时环境。 使用WebAssembly作为智能合约的格式可获得多种好处,下面列出了其中的一些: -智能合约的近乎本地执行速度 -可以使用许多传统编程语言(例如C,C ++和Rust)开发智能合约的可能性 -访问庞大的开发人员社区和WebAssembly周围的工具链 Delta语言 Delta语言是一种面向对象的编程语言,提供高级抽象和易于入门的特征。与Solidity相比,Delta 语言可以以其本机格式向下编译为WASM格式,并且可以跨MAP VM进行部署。MAP团队正在积极开发Delta语言,并将其作为在MAP之上构建智能合约的首选,但它不仅限于Delta语言。由于支持WebAssembly以及其他现有流行语言的性质,我相信也可以将其用于在MAP上开发Rust或C ++等智能合约。有关更多详细信息

RTKLIB源码解析(一)——单点定位(pntpos.c)

筅森魡賤 提交于 2020-10-02 08:32:26
RTKLIB源码解析(一)——单点定位(pntpos.c) 标签: GNSS RTKLIB 单点定位 前段时间一直忙着写毕业论文,所以也没有太多时间来阅读 RTKLIB源码,最近好歹把 pntpos中的相关代码看了一遍,知道了 RTKLIB是如何实现单点伪距定位的。这里把每一个函数都做成了小卡片的形式,每个函数大都包含函数签名、所在文件、功能说明、参数说明、处理过程、注意事项和我的疑惑这几个部分,介绍了阅读代码时我自己的看法和疑惑。所以希望诸位看官能帮忙解答我的疑惑,与我交流,也希望能帮助后来也有需要阅读 RTKLIB源码的人,给他们多提供一份思路。总而言之,既为人,也为己。 这份文档是使用 Cmd Markdown完成的,在作业部落上其格式显式的非常完整,但是在博客园中 目录 、 代码块 和 流程图 似乎都没有显示出来,所以这里也贴上本文在作业部落上的链接 RTKLIB源码解析(一)——单点定位(pntpos.c) ,对格式“零容忍”的同学请移步那里。 目录 RTKLIB源码解析(一)——单点定位(pntpos.c) pntpos satposs estpos raim_fde estvel ephclk satpos satsys seleph eph2clk ephpos eph2pos rescode lsq valsol matmul dops ecef2enu

[WPF]使用附加属性处理 ScrollViewer 的滚动轮劫持问题

核能气质少年 提交于 2020-10-01 16:26:27
之前写过一篇博客 关于 ScrollViewer 和滚动轮劫持(scroll-wheel-hijack) ,里面介绍了 ScrollViewer 的滚动轮劫持问题,以及如果解决。当时的做法是继承 ScrollViewer 并重写 OnMouseWheel,全部代码如下: public class ExtendedScrollViewer : ScrollViewer { protected override void OnMouseWheel(MouseWheelEventArgs e) { if (ViewportHeight + VerticalOffset >= ExtentHeight && e.Delta <= 0) return; if (VerticalOffset == 0 && e.Delta >= 0) return; base.OnMouseWheel(e); } } 最近有人提到能不能使用附加属性处理,所以我就试试。暂时发现简单地用附加属性处理,除非查找 VisualTree 上的父节点 ScrollView 并调用它的 LineUp 和 LineDown ,全部代码如下: public class ScrollViewerService { /// <summary> /// 从指定元素获取 CanScrollOuter 依赖项属性的值。 /// <

洛谷 P6772

痴心易碎 提交于 2020-10-01 10:46:51
NOI 签到题我都不会哦~ 洛谷题目页面传送门 题意见洛谷。(以下用 \(K\) 表示 \(k\) 以避免与迭代变量冲突) 首先有个很显然的 DP: \(dp_{i,j}\) 表示第 \(i\) 天小 W 在城市 \(j\) 的情况下获得的最大愉悦值之和。边界: \(dp_{0,i}=\begin{cases}c_1&i=1\\-\infty&i\neq1\end{cases}\) ;目标: \(dp_{T,1}\) ;状态转移方程: \[dp_{i,j}=\max_{(k,j,len)\in E}\{dp_{i-len,k}+c_j+ext(i,j)\} \] 其中 \(ext(i,j)\) 表示第 \(i\) 天城市 \(j\) 通过美食节额外获得的愉悦值。 暴力 DP 肯定是不行的。这个 \(T\) 这么大,一脸矩阵快速幂的样子。 考虑用矩阵的形式将状态转移方程写出来。我们重定义矩阵乘法,将 \(\times\) 改为 \(+\) ,将 \(+\) 改为 \(\max\) ,学过 DDP 的都知道这样满足原矩阵乘法的一切性质 (我没学过 DDP 都知道) 。需要注意的是,这种乘法意义下的单位元是 \[I=\begin{bmatrix}0&-\infty&-\infty &\cdots&-\infty\\-\infty&0&-\infty&\cdots&-\infty\\-

用Python学《微积分B》(定积分)

淺唱寂寞╮ 提交于 2020-10-01 00:01:33
  本文主要学习《微积分B》第7章——“定积分的概念和存在条件”,结合课程中的知识进行一些扩展,并用Python辅助求解课后练习题。关于定积分(Definite Integral)的概念,课本中只介绍了“黎曼积分”(Riemann Integral),而wiki上对定积分的介绍更全面: Integral-Wikipedia 。此外,再介绍一个好玩的数学知识讲解网站: Math is fun ,它上面对 Integration 和 Definite Integral 进行了非常形象的讲解,值得一看。 黎曼积分 矩形逼近法 “可积”的条件 速度表与里程表 练习题解答 一、知识点 1, Riemann Integral   Riemann积分是从求曲线在某区间内与x轴围成的区域的面积出发,分为五个步骤推演出来的。这五个步骤分别是(详见 Integral-Wikipedia ): 1)分割   如上图所示,将区间[a, b]“ 任意 ”分割成n份。其中, a = x 0 < x 1 < x 2 < . . . < x n − 1 < x n = b a = x 0 < x 1 < x 2 < . . . < x n − 1 < x n = b <script type="math/tex" id="MathJax-Element-190">a=x_{0} <... 任意的,从上图也可以看出

sphinx 增量索引更新的实现

我怕爱的太早我们不能终老 提交于 2020-09-29 07:05:57
由于sphinx主索引建立后,如果数据库有新的数据添加的话,需要重新生成主索引,如果数据量大就耗费资源,不如添加哪些数据就生成这些数据的索引,称为‘增量索引’。 实现思路: 需要准备:1》建立一张表,记录数据最大id值。2》两个索引 1.先在MySQL中插入一个计数表和两个索引表 CREATE TABLE sph_counter( counter_id INTEGER PRIMARY KEY NOT NULL, max_doc_id INTEGER NOT NULL); 2.修改sphinx.conf source main_src{ type = mysql sql_host = localhost sql_user = yourusername sql_pass = yourpassword sql_db = test //你所用的数据库 sql_port = 3306 //所用端口,默认是3306 sql_query_pre = SET NAMES utf8 sql_query_pre = SET SESSION query_cache_type=OFF #下面的语句是更新sph_counter表中的 max_doc_id。 sql_query_pre = REPLACE INTO sph_counter SELECT 1, MAX(id) FROM documents

OpenDRIVE 1.6 参考线采样方法

北城余情 提交于 2020-09-27 11:46:47
目录 Catalog 前言 Foreword 坐标系 Coordinate Systems 参考线几何描述 Geometry 直线 Line 参考线坐标系 e s ⃗ , e t ⃗ , e h ⃗ \vec{e_s}, \vec{e_t}, \vec{e_h} e s ​ ​ , e t ​ ​ , e h ​ ​ 曲率 κ \kappa κ 位置 p ⃗ \vec{p} p ​ 欧拉螺旋线 & 弧线 Sipral & Arc 曲率 κ \kappa κ 参考线坐标系 e s ⃗ , e t ⃗ , e h ⃗ \vec{e_s},\vec{e_t},\vec{e_h} e s ​ ​ , e t ​ ​ , e h ​ ​ 位置 p ⃗ \vec{p} p ​ 参数三次曲线 Parametric Cubic Curve 位置 p ⃗ \vec{p} p ​ 参考线坐标系 e s ⃗ , e t ⃗ , e h ⃗ \vec{e_s},\vec{e_t},\vec{e_h} e s ​ ​ , e t ​ ​ , e h ​ ​ 曲率 κ \kappa κ 前段时间在看OpenDRIVE文档,做相关的建模。现整理一下参考线(Reference Line)的采样方式,考虑采样出来的每个点都记录一些辅助信息。 前言 Foreword 本文根据OpenDRIVE 1.6