leveldb

Getting data inside a google Chrome IndexedDB from Bash or Python

亡梦爱人 提交于 2020-06-28 04:20:34
问题 I have LevelDB (IndexedDB) file from my Google Chrome, the file is located in this folder: /home/<user>/.config/google-chrome/Default/IndexedDB/https_<site>_0.indexeddb.leveldb/ The folder content is: $ ls 000005.ldb 000006.log CURRENT LOCK LOG MANIFEST-000001 And I have a very simple python script for opening it: #!/bin/python import leveldb db = leveldb.LevelDB('./000005.ldb') Now I always get this error: leveldb.LevelDBError: IO error: ./000005.ldb/LOCK: Not a directory Does anyone have

十分钟入门RocketMQ

耗尽温柔 提交于 2020-05-09 20:31:09
本文首先引出消息中间件通常需要解决哪些问题,在解决这些问题当中会遇到什么困难,Apache RocketMQ作为阿里开源的一款高性能、高吞吐量的分布式消息中间件否可以解决,规范中如何定义这些问题。然后本文将介绍RocketMQ的架构设计,以期让读者快速了解RocketMQ。 消息中间件需要解决哪些问题? Publish/Subscribe 发布订阅是消息中间件的最基本功能,也是相对于传统RPC通信而言。在此不再详述。 Message Priority 规范中描述的优先级是指在一个消息队列中,每条消息都有不同的优先级,一般用整数来描述,优先级高的消息先投递,如果消息完全在一个内存队列中,那么在投递前可以按照优先级排序,令优先级高的先投递。 由于RocketMQ所有消息都是持久化的,所以如果按照优先级来排序,开销会非常大,因此RocketMQ没有特意支持消息优先级,但是可以通过变通的方式实现类似功能,即单独配置一个优先级高的队列,和一个普通优先级的队列, 将不同优先级发送到不同队列即可。 对于优先级问题,可以归纳为2类: 只要达到优先级目的即可,不是严格意义上的优先级,通常将优先级划分为高、中、低,或者再多几个级别。每个优先级可以用不同的topic表示,发消息时,指定不同的topic来表示优先级,这种方式可以解决绝大部分的优先级问题,但是对业务的优先级精确性做了妥协。 严格的优先级

I got error when using pip install leveldb

☆樱花仙子☆ 提交于 2020-05-08 15:42:08
问题 When I used pip install leveldb in my MAC I got the error below, I searched the whole internet without any reply I could take with, my python env is 2.7, what made me upset is I could use Homebrew install is successfully, anyone can help me on that will be helpful. Collecting leveldb Downloading https://files.pythonhosted.org/packages/ec/c1/ca3b4199bd4073e6430076f1edd8061f2f548e831eeddc3cbc077ebaa0ca/leveldb-0.194.tar.gz (228kB) 100% |████████████████████████████████| 235kB 377kB/s Installing

I got error when using pip install leveldb

≯℡__Kan透↙ 提交于 2020-05-08 15:41:14
问题 When I used pip install leveldb in my MAC I got the error below, I searched the whole internet without any reply I could take with, my python env is 2.7, what made me upset is I could use Homebrew install is successfully, anyone can help me on that will be helpful. Collecting leveldb Downloading https://files.pythonhosted.org/packages/ec/c1/ca3b4199bd4073e6430076f1edd8061f2f548e831eeddc3cbc077ebaa0ca/leveldb-0.194.tar.gz (228kB) 100% |████████████████████████████████| 235kB 377kB/s Installing

Caffe系列4——基于Caffe的MNIST数据集训练与测试(手把手教你使用Lenet识别手写字体)

折月煮酒 提交于 2020-04-28 01:59:44
基于Caffe的MNIST数据集训练与测试 原创:转载请注明 https://www.cnblogs.com/xiaoboge/p/10688926.html 摘要    在前面的博文中,我详细介绍了Caffe的网络结构和求解文件,还介绍了如何制作LMDB和Hdf5数据源文件。但是我们还没有完整的介绍过如何在Caffe框架下去训练一个神经网络模型,在本篇博文中我将从最经典、简单的卷积神经网络Lenet(CNN的开端)和最简单的数据集MNIST(手写数字)出发,详细介绍整个网络的训练与测试过程。 1. 项目文件目录介绍   首先还是要先介绍一下我的文件目录,我在目录E:\caffe_program下面创建了一个mnist文件夹,mnist文件夹下面包括了所有训练模型的必要文件,还要保存训练之后的模型。请看mnist文件夹下的文件结构:   其中,data文件夹下包括了制作数据集的所有文件,还包括制作出来的LMDB格式的数据文件;Lenet_model将用于存储训练过的模型文件;剩下的分别是网络结构、求解文件以及训练网络的bat文件。 2. MNIST数据集介绍与下载    MNIST 是一个手写数字数据库,由Google实验室的Corinna Cortes和纽约大学柯朗研究院的Yann LeCun等人建立。MNIST 最初用于支票上的手写数字识别, 现在成了Deep

消息中间件之ActiveMQ教程

妖精的绣舞 提交于 2020-04-25 04:34:43
前言说明 两种讲授闲聊 MQ的产品学习说明 为什么要引入MQ上 为什么要引入MQ下 MQ的作用定义 ActiveMQ官网介绍和下载 ActiveMQ在Linux下安装 ActiveMQ安装后的控制台访问 Java编码MQ标准API讲解 消息生产者编码 消息消费者编码 消息消费者receive方法说明 消息消费者MessageListener方法说明 消费者3大消费情况 队列案例小总结 Java编码Topic讲解 topic和queue的对比总结 JMS是什么 MQ中间件的落地产品 JMS组成的四大元素 Message之消息头 Message之消息体 Message之消息属性 消息可靠性之非持久化 消息可靠性之持久化和默认策略 持久化topic 消息的生产者事务介绍 消息的消费者事务介绍 消息非事务模式下消费者签收介绍 消息有事务模式下消费者签收介绍 点对点和发布订阅小总结 按照不同的conf配置文件来启动activemq ActiveMQ的Broker Spring整合ActiveMQ之队列生产者 Spring整合ActiveMQ之队列消费者 Spring整合ActiveMQ之主题生产消费 Spring整合ActiveMQ之***配置 SpringBoot整合ActiveMQ之队列生产者 SpringBoot整合ActiveMQ之队列生产者间隔定投

区块链100讲:10分钟教会你深挖以太坊数据层

五迷三道 提交于 2020-04-18 07:24:14
在当下数据爆炸的信息时代,凭借区块链去中心化、点对点和防篡改的特性,“区块链+大数据”已成为研究的热门,可以说,区块链与大数据的结合为今后区块链应用的大规模落地奠定了基础。 那么,区块链中的数据如何存储?不同区块链数据存储机制有何异同?以以太坊为例,在本文中,MIT 孵化初创公司 TowardsBlockChain 联合创始人 vasa 详细阐述了以太坊的数据存储机制、以太坊如何存储区块链状态与交易以及以太坊和比特币在存储机制上的异同。 此外,本文将带你深入了解 “Patricia 字典树”数据结构背后的理论基础,并通过使用 Google 的 levelDB 数据库演示以太坊字典树的具体实现。 字字行文皆重点,行行代码皆干货,请往下看! 从架构设计上来说, 区块链可以简单的分为三个层次,协议层、扩展层和应用层。其中,协议层又可以分为存储层和网络层 ,它们相互独立但又不可分割。 1 数据存储层中存储了什么? 首先了解下区块链的数据存储层,什么是区块链数据存储层?它存储了什么?它需要存储哪些数据才能保障区块链系统正常工作? 比如Alice向Bob转账10美元。从上图可以看出, 可以通过向区块链中加入一笔交易来改变区块链当前的状态。 在跟踪不同用户(状态)的 账户余额 和其他相关的细节的同时,也要跟踪不同用户通过区块链(交易)所引起的区块链 状态转变 的细节。 不同的区块链

Filecoin逻辑梳理及源代码导读

戏子无情 提交于 2020-04-15 07:55:58
【推荐阅读】微服务还能火多久?>>> Filecoin的源代码可以从Github下载:https://github.com/filecoin-project/go-filecoin。 在阅读源代码之前,强烈建议看两份对阅读代码有益的文档: Filecoin的设计文档 https://github.com/filecoin-project/specs 设计文档,从设计的角度,分别介绍数据结构,挖矿机制,共识机制,支付方式,虚拟机执行,状态机,存储角色等等。 CODEWALK.md https://github.com/filecoin-project/go-filecoin/blob/master/CODEWALK.md CODEWALK也是高屋建瓴的讲述了Filecoin的代码历史,框架,以及各个模块的功能。 总的来说,这两份文档篇幅都不长,对理解Filecoin的项目以及代码很有帮助。建议大家有空看看。注意的是,这些文档也不是实时更新,和代码有些出入的。闲话不多说,我整理了一下Filecoin源代码的一些理解,方便对Filecoin代码感兴趣的小伙伴,可以更快的理解Filecoin的设计以及现状。文章比较长,请耐心阅读 :) 在该导读中使用的Filecoin代码的最后一个commit信息如下: commit

分布式专题——详解Google levelDB底层原理

亡梦爱人 提交于 2020-03-28 10:50:15
本文始发于个人公众号: TechFlow ,原创不易,求个关注 今天是 分布式专题的第10篇 文章,我们继续来聊聊LSMT这个数据结构。 LSMT是一个在分布式系统当中应用非常广泛,并且原理直观简单的数据结构。在上一篇文章当中我们进行了详细的讨论,有所遗忘或者是新关注的同学可以点击下方的链接回顾一下上一讲的内容。 分布式——吞吐量巨强、Hbase的承载者 LSMT leveldb简介 上一篇的内容我们介绍的算是最基础版本的LSMT,在这一篇当中,我们来具体看下levelDB这个经典的KV数据库引擎当中LSMT的使用以及优化。 leveldb,既然是叫做db,显然和数据库有关。和一般的关系型数据库不同,它内部的数据全部以KV也就是key-value形式存储,并且不支持结构化的SQL进行数据查询,只支持api调用。也就是说它就是一个典型的我们常说的noSQL数据引擎库。它最早由 google 开发并且开源, Facebook 在此基础上进行优化,推出了更普及的RocksDB,后来包括TiDB等多种分布式noSQL数据库的底层都是基于leveldb。 如果上面这些名词你都没听说过,也没有关系,对于这些库而言,上手去用容易,但是了解原理难。搞懂了原理再实际上手去用,除了更加简单之外,也会有更多的体会。 leveldb架构 这是一张leveldb的架构图

leveldb文章列表

ⅰ亾dé卋堺 提交于 2020-03-16 18:25:42
leveldb文章列表 可写文件 Leveldb源码分析之可写文件(一)—WritableFile Leveldb源码分析之可写文件(二)—PosixWritableFile Leveldb源码分析之可写文件(三)—DataFile Leveldb源码分析之可写文件(四)—ManifestFile Leveldb源码分析之可写文件(五)—StdoutPrinter Leveldb源码分析之可写文件(六)—StringDest Leveldb源码分析之可写文件(七)—StringSink Leveldb源码分析之可写文件(八)—WritableFileImpl 序列化文件 Leveldb源码分析之序列化文件(一)—SequentialFile Leveldb源码分析之序列化文件(二)—PosixSequentialFile Leveldb源码分析之序列化文件(三)—SequentialFileImpl 文件操作 Leveldb源码分析之文件操作(一)—RandomAccessFile Leveldb源码分析之文件操作(二)—PosixMmapReadableFile Leveldb源码分析之文件操作(三)—PosixRandomAccessFile Leveldb源码分析之文件操作(四)—StringSource 比较器 leveldb源码分析之比较器(一)—