云存储

大数据时代下的海量数据存储技术有哪些?

若如初见. 提交于 2019-12-08 17:54:40
高清、长周期呈现海量存储需求 高清已经在安防行业全面铺开应用。除了带给用户能够看得更清的良好视觉感受外,对存储容量的需求亦成几何式增长。例如:前端IPC有130W到500W像素,码流也从有2Mbps到8Mbps,而一个130W像素,8Mbps码流的前端,录像一个月就需要2531.3GB,数据量不可小觑。 存储周期方面,现在也有了政府的有力推动。对当前整个安防市场来讲,特别是大公安、大交通、楼宇、司法监所、金融、文教卫、能源项目等行业迅猛发展,甲方客户的需求及大集成商的存储解决方案越来越倾向集中化。需要保存的数据也成线性增长。应对如此巨大的数据量,数据存储及客户数据快速有效查询就变得至关重要。海康一直紧跟行业发展方向,致力于推出更符合用户需求与行业需求的监控/数据中心解决方案。 现有的安防存储模式 1. DVR/NVR前端本地存储 此种模式,一般应用于实施较早项目,使用的是DVR/NVR前端本地存储,随着大数据时代的来临,采用了比较直接的方法,在DVR/NVR直接连接扩展柜来实现容量的扩容。原来系统及原数据保持不变。此种模式由于采用DVR/NVR存储容量相对较小,况且DVR/NVR性能较低,信息孤岛现象严重,无法满足大数据需求。 2. 集中存储模式 客户数据采用磁盘阵列模式。可以采用在存储节点后直接增加扩展柜的模式,随着集群的推出也可以通过增加存储节点来实现容量增加。相对于DVR

分布式存储Ceph的几种安装方法,源码,apt-get,deploy工具,Ubuntu CentOS

点点圈 提交于 2019-12-07 21:31:25
最近搞了下分布式PB级别的存储CEPH 尝试了几种不同的安装,使用 期间遇到很多问题,和大家一起分享。 一、源码安装 说明:源码安装可以了解到系统各个组件, 但是安装过程也是很费劲的,主要是依赖包太多。 当时尝试了centos 和 ubuntu 上安装,都是可以安装好的。 1下载ceph http://ceph.com/download/ wget http://ceph.com/download/ceph-0.72.tar.gz 2 安装编译工具apt-get install automake autoconf automake libtool make 3 解压 #tar zxvf ceph-0.72.tar.gz #cd ceph-0.72.tar.gz #./autogen.sh 4、 先安装依赖包 #apt-get install autotools-dev autoconf automake cdbs g++ gcc git libatomic-ops-dev libboost-dev \ libcrypto++-dev libcrypto++ libedit-dev libexpat1-dev libfcgi-dev libfuse-dev \ libgoogle-perftools-dev libgtkmm-2.4-dev libtool pkg-config

Ceph librados编程访问

允我心安 提交于 2019-12-07 15:20:12
引言 我需要针对Ceph的对象存储直接进行编程访问,看看用网关和不用网关下的性能差别。基于gate-way进行访问例子已经走通。现在 要测的是不走网关,用librados直接和Ceph集群打交道。 环境配置 1. Ceph集群:你要有一个已经配置好的Ceph集群,通过ceph -s可以看到集群的状态。 2. 开发库安装 我的系统是CentOS6.5 采用如下命令安装相关开发包(C/C++开发包) sudo yum install librados2-devel 安装成功后,你可以在/usr/include/rados路径下看到相应的头文件 示例程序 该实例程序来自官网,可参官网实例 http://docs.ceph.com/docs/master/rados/api/librados-intro/ #include <rados/librados.hpp> #include <string> #include <list> int main(int argc, const char **argv) { int ret = 0 ; // Get cluster handle and connect to cluster std::cout<<"ceph Cluster connect begin."<<std::endl; std::string cluster_name("ceph

把阿里巴巴的核心系统搬到云上,架构上的挑战与演进是什么?

时间秒杀一切 提交于 2019-12-06 20:54:55
作者丨张瓅玶(谷朴)阿里巴巴研究员 阿里巴巴核心系统作为全球最大规模、峰值性能要求最高的电商交易系统,在 2018 年之前只通过混合云弹性上云方式,为 双11 节约大量成本。直到 2019 年,阿里巴巴实现了核心交易系统全面上云并经历了 双11 峰值的考验。 在今天由极客邦科技举办的 ArchSummit 全球架构师峰会 2019 北京站上,阿里巴巴研究员张瓅玶博士作了主题演讲《阿里巴巴核心系统上云:挑战和架构演进的思考》,以下内容为演讲整理。 核心系统上云之路 工程师时常把我们的系统用飞机来做比喻,乘客则是上面承载的业务。云也是一架这样的载客飞机,作为基础平台承载着千万家企业的业务。今年阿里巴巴实现了核心系统 100% 上云,这个过程实际上走了几年才达到今天的进展,而且这还不是结束,也只是阿里巴巴上云的一个开始。 阿里巴巴集团自身业务体量巨大,支撑其的互联网技术体系任务也非常繁重,再加上核心电商业务系统的复杂度,对技术带来的挑战可想而知。 用王坚博士的话说,核心系统上云让阿里巴巴和客户真正坐上了同一架飞机。从 in-house 的基础设施、定制化的平台能力,到通用的云平台,从 cloud hosting 到 cloud native,这个过程面临着巨大的挑战,同时也是阿里巴巴自身和阿里云的架构演进升级的历程。 阿里巴巴的核心交易系统涉及到包括天猫、淘宝、河马、菜鸟、聚划算、咸鱼

把阿里巴巴的核心系统搬到云上,架构上的挑战与演进是什么?

陌路散爱 提交于 2019-12-06 20:54:48
作者丨张瓅玶(谷朴)阿里巴巴研究员 阿里巴巴核心系统作为全球最大规模、峰值性能要求最高的电商交易系统,在 2018 年之前只通过混合云弹性上云方式,为 双11 节约大量成本。直到 2019 年,阿里巴巴实现了核心交易系统全面上云并经历了 双11 峰值的考验。 在今天由极客邦科技举办的 ArchSummit 全球架构师峰会 2019 北京站上,阿里巴巴研究员张瓅玶博士作了主题演讲《阿里巴巴核心系统上云:挑战和架构演进的思考》,以下内容为演讲整理。 核心系统上云之路 工程师时常把我们的系统用飞机来做比喻,乘客则是上面承载的业务。云也是一架这样的载客飞机,作为基础平台承载着千万家企业的业务。今年阿里巴巴实现了核心系统 100% 上云,这个过程实际上走了几年才达到今天的进展,而且这还不是结束,也只是阿里巴巴上云的一个开始。 阿里巴巴集团自身业务体量巨大,支撑其的互联网技术体系任务也非常繁重,再加上核心电商业务系统的复杂度,对技术带来的挑战可想而知。 用王坚博士的话说,核心系统上云让阿里巴巴和客户真正坐上了同一架飞机。从 in-house 的基础设施、定制化的平台能力,到通用的云平台,从 cloud hosting 到 cloud native,这个过程面临着巨大的挑战,同时也是阿里巴巴自身和阿里云的架构演进升级的历程。 阿里巴巴的核心交易系统涉及到包括天猫、淘宝、河马、菜鸟、聚划算、咸鱼

把阿里巴巴的核心系统搬到云上,架构上的挑战与演进是什么?

主宰稳场 提交于 2019-12-06 19:14:26
作者丨张瓅玶(谷朴)阿里巴巴研究员 阿里巴巴核心系统作为全球最大规模、峰值性能要求最高的电商交易系统,在 2018 年之前只通过混合云弹性上云方式,为 双11 节约大量成本。直到 2019 年,阿里巴巴实现了核心交易系统全面上云并经历了 双11 峰值的考验。 在今天由极客邦科技举办的 ArchSummit 全球架构师峰会 2019 北京站上,阿里巴巴研究员张瓅玶博士作了主题演讲《阿里巴巴核心系统上云:挑战和架构演进的思考》,以下内容为演讲整理。 核心系统上云之路 工程师时常把我们的系统用飞机来做比喻,乘客则是上面承载的业务。云也是一架这样的载客飞机,作为基础平台承载着千万家企业的业务。今年阿里巴巴实现了核心系统 100% 上云,这个过程实际上走了几年才达到今天的进展,而且这还不是结束,也只是阿里巴巴上云的一个开始。 阿里巴巴集团自身业务体量巨大,支撑其的互联网技术体系任务也非常繁重,再加上核心电商业务系统的复杂度,对技术带来的挑战可想而知。 用王坚博士的话说,核心系统上云让阿里巴巴和客户真正坐上了同一架飞机。从 in-house 的基础设施、定制化的平台能力,到通用的云平台,从 cloud hosting 到 cloud native,这个过程面临着巨大的挑战,同时也是阿里巴巴自身和阿里云的架构演进升级的历程。 阿里巴巴的核心交易系统涉及到包括天猫、淘宝、河马、菜鸟、聚划算、咸鱼

如何用云开发创建专属文件存储小程序?丨实战

余生长醉 提交于 2019-12-06 16:14:06
▌一、项目背景 学习云开发也有段时日了,当时就想试试手,不过一直没有灵感。直到有一次同学问我有没有老师发过的某个ppt,我说你怎么不去翻聊天记录呢?他说太麻烦,而且聊天记录中的文件可能会被清理。 当时就想到如果可以做个小型的文件存储小程序该多好,于是就下手了。往往需求决定产品这就没错了。下面继续介绍下小程序是如何实现的。 ▌二、项目简介 爱存储是一个可以将手机相册里的照片(或拍照的照片)和微信聊天会话里的文件(比如Doc、docx、xls、xlsx、ppt等文件)上传到云开发的存储里,并可以进行分享的小程序。 爱存储小程序使用的是小程序的云开发,云开发自带免费的云存储、云数据库,开始时不需要涉及服务器的搭建及运维,也不需要进行域名注册与备案,只需要通过一些简单的API就能实现一个完整项目的业务逻辑,免费而且无需后端,开发成本非常低,因此这个小程序从创建到发布都是免费的,非常适合新手。 ▌三、项目准备 在云数据库中创建diary、fileCountInfo集合,权限都是仅创建者可读写,在云存储中创建一个diary文件夹。 ▌四、功能介绍与项目的目标 下面将会围绕以下几个比较核心的功能进行分析。 首页弹窗倒计时: 该弹窗在用户使用小程序期间只会弹出一次。弹窗弹出时可以自动取消弹窗在这里是通过倒计时来关闭的当然也可以点击按钮取消,具体效果请亲自使用下小程序,下方是判断及添加缓存部分代码。

阿里云产品梳理

蓝咒 提交于 2019-12-06 12:38:09
产品首页 云计算基础 弹性计算 云服务器 云服务器 ECS 从安全型到内存型、从进阶型到入门型的云服务器 弹性裸金属服务器(神龙) 兼具虚拟机的弹性和物理机的高性能、安全物理隔离、分钟交付、云产品全兼容 块存储 可弹性扩展、高性能、高可靠的块级随机存储 轻量应用服务器 可快速搭建且易于管理的轻量级云服务器 GPU 云服务器 GPU实例、强大的计算性能、弹性按需扩展 FPGA 云服务器 FPGA实例、低时延可编程硬件加速服务 专有宿主机 安全合规,构建公共云上的专有资源池 高性能计算 HPC 超级计算集群 支持RDMA提供极致并行计算性能实例规格 弹性高性能计算 E-HPC 加速深度学习、渲染和科学计算的 GPU 物理机 容器服务 容器服务 支持微服务架构、全生命周期管理的Docker服务 容器服务 Kubernetes 版 提供高性能可伸缩的容器应用管理能力,支持企业级 Kubernetes 容器化应用的全生命周期管理 弹性容器实例 ECI 提供敏捷安全的 Serverless 容器运行服务 容器镜像服务 简化了Registry的搭建运维工作,支持多地域的镜像托管 弹性编排 弹性伸缩 自动调整弹性计算资源的管理服务 资源编排 复杂环境部署利器,提供资源批量复制、创建和配置 Serverless 函数计算 一个事件驱动的全托管计算服务,通过函数计算,无需管理服务器等基础设施

推荐!国外程序员整理的系统管理员资源大全 ()

你说的曾经没有我的故事 提交于 2019-12-06 11:54:44
推荐!国外程序员整理的系统管理员资源大全 2015-1-19 12:24 发布者: admin 微博分享 受其他程序员汇编 php 资源,kahun 在 Github 发起系统管理员相关的开源资源整理。 内容分类包括:备份/克隆软件、云计算/云存储、协作软件、配置管理、日志管理、监控、项目管理…… 当然也有系统管理员相关书籍。 备份 备份软件 Amanda -客户端-服务器模型备份工具 Bacula - 另一个客户端-服务器模型备份工具 Backupninja -轻量级,可扩展的元数据备份系统 Backuppc -客户端-服务器模型备份工具和文件共享方案。 Burp -网络备份和还原程序 Duplicity -使用rsync算法加密的带宽-效率备份 Lsyncd -监控一个本地目录树的变化,然后产生一个进程去同步变化。默认使用rsync。 Rsnapshot -文件系统快照工具 SafeKeep -使用rdiff-backup,集中的,基于pull的备份 TarSnap - 具有一个开源客户端的安全备份服务 UrBackup -另一个客户端-服务器备份系统 DREBS - AWS EBS支持策略的备份脚本 克隆 克隆软件 Clonezilla -分区和磁盘镜像/克隆程序 Fog - 另一个计算机克隆解决方案 Redo Backup -简单的备份,恢复和还原 云计算 AppScale

区块链颠覆的19个行业

≡放荡痞女 提交于 2019-12-05 17:14:37
========视频课程学习笔记====== 区块链技术是未来最有前途的技术之一。 那么,区块链是什么呢? 它是一种分布式分类账户技术,是比特币等各种数字货币加密的基础,它提供了一种透明的记录和传输数据可审计并且可以防止中断的方法。 区块链的作用是那些应用此技术的组织变得透明、民主、清晰、高效、安全。区块链会在未来5-10年间颠覆许多的行业生态 下面是区块链技术已经闯入的行业 第一个:银行和支付体系 有人说区块链是把互联网银行做成了数字银行的形式,区块链技术可以用来为全世界数10亿人提供金融服务,甚至包括一些在第三世界国家无法使用传统银行服务的人们 比特币等技术可以让任何人以极低的费用无延时的把钱寄往全世界。Abra是一家致力于比特币的初创公司,提供基于比特币的汇款服务。Barclays等许多银行也在致力于应用区块链技术以提高业务运行的效率和安全性。银行也越来越多投资于区块链的项目和创业公司。IBM预计到2017年底,将有大约15%的银行使用区块链技术。 第二个:网络安全行业 尽管区块链分类账户是公开的,但是底层数据是通过高级加密技术验证并且加密的,通过这种方式修改数据需要经过授权,防止被黑客攻击或篡改。区块链技术消除了数据传输的中间过程,这样比那些传统的系统和网络更加高效和安全 第三个:供应链管理 利用区块链技术可以将一个交易记录为永久的分布式数据,并以安全透明的方式进行监督