Python操作SQLite/MySQL/LMDB

概述
1.1前言
　　最近在存储字模图像集的时候，需要学习LMDB，趁此机会复习了SQLite和MySQL的使用，一起整理在此。

1.2环境
　　使用win7，Python 3.5.2。

2.SQLite
2.1准备
　　SQLite是一种嵌入式数据库，它的数据库就是一个文件。Python 2.5x以上版本内置了SQLite3，使用时直接import sqlite3即可。

2.2操作流程
　　概括地讲，操作SQLite的流程是：

　　　　·通过sqlite3.open()创建与数据库文件的连接对象connection

　　　　·通过connection.cursor()创建光标对象cursor

　　　　·通过cursor.execute()执行SQL语句

　　　　·通过connection.commit()提交当前的事务，或者通过cursor.fetchall()获得查询结果

　　　　·通过connection.close()关闭与数据库文件的连接

　　详细的sqlite3模块API可以看这里：SQLite - Python

　　总结起来就是用cursor.execute()执行SQL语句，改变数据（插入、删除、修改）时用connection.commit()提交变更，查询数据时用cursor.fetchall()得到查询结果。

2.3操作实例
2.3.1建立数据库与建立表
复制代码
#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author : MaYi
# Blog    : http://www.cnblogs.com/mayi0312/
# Date    : 2019-11-07
# Name    : test01
# Software : PyCharm
# Note    :
import sqlite3

# 创建连接
conn = sqlite3.connect("test.db")
# 创建光标
cur = conn.cursor()
# 执行（创建数据表的）SQL语句
cur.execute("CREATE TABLE IF NOT EXISTS students (sid INTEGER PRIMARY KEY, name TEXT)")
# 提交
conn.commit()
# 关闭连接
conn.close()
复制代码
　　这里conn是与数据库文件test.db的连接对象，cur是conn的光标对象，通过cur.execute()执行建表操作，创建了简单的学生信息表（学号, 名字），通过conn.commit()提交，最后用conn.close()关闭连接。

　　创建连接时，发现数据库文件不存在时会自动创建，这里使用了文件“test.db”，也可以使用“:memory:”建立内存数据库。

2.3.2插入、删除、修改
　　为了便于多次运行，直接使用了内存数据库：

复制代码
#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author : MaYi
# Blog    : http://www.cnblogs.com/mayi0312/
# Date    : 2019-11-07
# Name    : test01
# Software : PyCharm
# Note    :
import sqlite3

# 创建链接
conn = sqlite3.connect(":memory:")
# 创建光标
cur = conn.cursor()
# 执行（创建数据表的）SQL语句
cur.execute("CREATE TABLE students (sid INTEGER PRIMARY KEY, name TEXT)")
# 执行（插入）SQL语句
cur.execute("INSERT INTO students VALUES(?, ?)", (1, "Alice"))
cur.execute("INSERT INTO students VALUES(?, ?)", (2, "Bob"))
cur.execute("INSERT INTO students VALUES(?, ?)", (3, "Peter"))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(1, 'Alice'), (2, 'Bob'), (3, 'Peter')]
# 执行（删除）SQL语句
cur.execute("DELETE FROM students WHERE sid = ?", (1,))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(2, 'Bob'), (3, 'Peter')]
# 执行（修改）SQL语句
cur.execute("UPDATE students SET name = ? WHERE sid = ?", ("Mark", 3))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(2, 'Bob'), (3, 'Mark')]
# 关闭链接
conn.close()
复制代码
　　做的事情还就非常简单易懂的，向学生信息表中插入(1, Alice)、(2, Bob)、(3, Peter)三条记录，删除(1, Alice)，修改(3, Peter)为(3, Mark)。插入、删除、修改后查询数据库中的内容并打印出来。

“?”是sqlite3中的占位符，execute时会用第二个参数元组里的元素按顺序替换。官方文档里建议出于安全考虑，不要直接用Python做字符串拼接。

　　另外，注意不需要每次execute后调用commit。

2.3.3查询
　　直接用上面的代码：

# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # [(2, 'Bob'), (3, 'Peter')]
　　fetchall()返回的是记录数组，可能通过WHERE子句做更细致的选择。

3.MySQL
3.1准备
　　安装MySQL：略（百度）

　　安装pymysql：

pip install PyMySQL
3.2操作流程
　　同为关系型数据库，MySQL的操作方法与SQLite是大同小异的。建立连接对象与光标对象，用execute()执行SQL语句，commit()提交事物，fetchall()获得所有查询结果。

3.3操作实例
3.3.1建立与数据库连接与建立表
　　准备工作：

　　　　- 已经创建了数据库TESTDB

　　　　- 连接数据库TESTDB使用的用户名为“mayi”，密码为“test123”，你可以自己设定或者直接使用root用户名及其密码。

　　·数据库连接

复制代码
#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author : MaYi
# Blog    : http://www.cnblogs.com/mayi0312/
# Date    : 2019-11-07
# Name    : test02
# Software : PyCharm
# Note    :
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
host="localhost",
port=3306,
db="testdb",
user="mayi",
password="test123",
charset="utf8")
# 创建游标
cur = conn.cursor()
# 执行SQL语句（查询Mysql版本）
cur.execute("SELECT VERSION()")
# 获取单条数据
data = cur.fetchone()
# 打印：Database version: 5.7.17-log
print("Database version: %s " % data)
# 关闭数据库连接
conn.close()
复制代码
　　·建立表

　　如果数据库连接存在我们可以使用execute()方法来为数据库创建表，如下所示创建表students

复制代码
#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author : MaYi
# Blog    : http://www.cnblogs.com/mayi0312/
# Date    : 2019-11-07
# Name    : test02
# Software : PyCharm
# Note    :
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
host="localhost",
port=3306,
db="testdb",
user="mayi",
password="test123",
charset="utf8")
# 创建游标
cur = conn.cursor()
# 执行SQL语句，如果表存在则删除
cur.execute("DROP TABLE IF EXISTS students")
# 使用预处理语句创建表
cre_sql = """CREATE TABLE students (
      sid INT(4) PRIMARY KEY,
      name VARCHAR(10)
      )"""
# 执行SQL语句（建表）
cur.execute(cre_sql)

# 关闭数据库连接
conn.close()
复制代码
3.3.2插入、删除、修改
复制代码
#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author : MaYi
# Blog    : http://www.cnblogs.com/mayi0312/
# Date    : 2019-11-07
# Name    : test02
# Software : PyCharm
# Note    :
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
host="localhost",
port=3306,
db="testdb",
user="mayi",
password="test123",
charset="utf8")
# 创建游标
cur = conn.cursor()

# 执行（插入）SQL语句
cur.execute("INSERT INTO students(sid, name) VALUES(%s, '%s')" % (1, 'Alice'))
cur.execute("INSERT INTO students(sid, name) VALUES(%s, '%s')" % (2, 'Bob'))
cur.execute("INSERT INTO students(sid, name) VALUES(%s, '%s')" % (3, 'Peter'))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # ((1, 'Alice'), (2, 'Bob'), (3, 'Peter'))
# 执行（删除）SQL语句
cur.execute("DELETE FROM students WHERE sid = %s" % (1,))
# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # ((2, 'Bob'), (3, 'Peter'))
# 执行（修改）SQL语句
cur.execute("UPDATE students SET name = '%s' WHERE sid = %s" % ('Mark', 3))
# # 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
print(cur.fetchall())  # ((2, 'Bob'), (3, 'Mark'))
# 提交
conn.commit()
# 关闭数据库连接
conn.close()
复制代码
3.3.3查询
　　Python查询MySQL使用fetchone()方法获取单条数据，使用fetchall()方法获取多条数据。

　　　　·fetchone()：该方法获取下一个查询结果集。结果集是一个对象。

　　　　·fetchall()：接收全部的返回结果条。

　　　　·rowcount：这是一个只读属性，并返回执行execute()方法后影响的行数。

复制代码
#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author : MaYi
# Blog    : http://www.cnblogs.com/mayi0312/
# Date    : 2019-11-07
# Name    : test02
# Software : PyCharm
# Note    :
# 导入模块
import pymysql

# 创建数据库连接
conn = pymysql.connect(
host="localhost",
port=3306,
db="testdb",
user="mayi",
password="test123",
charset="utf8")
# 创建游标
cur = conn.cursor()

# 执行（查询）SQL语句
cur.execute("SELECT * FROM students")
# 返回影响的行数
print(cur.rowcount)  # 2
# 取一条数据
print(cur.fetchone())  # (2, 'Bob')
# 取剩下所有数据
print(cur.fetchall())  # ((3, 'Mark'),)
# 关闭数据库连接
conn.close()
复制代码
4.LMDB
4.1准备
　　LMDB和SQLite/MySQL等关系型数据库不同，属于key-value数据库（把LMDB想成dict会比较容易理解），键key与值value都是字符串。

　　安装：

pip install lmdb
　　使用时import lmdb

4.2操作流程
　　概况地讲，操作LMDB的流程是：

　　　　·通过env = lmdb.open()打开环境

　　　　·通过txn = env.begin()建立事务

　　　　·通过txn.put(key, value)进行插入和修改

　　　　·通过txn.delete(key)进行删除

　　　　·通过txn.get(key)进行查询

　　　　·通过txn.cursor()进行遍历

　　　　·通过txn.commit()提交更改

4.3操作实例
4.3.1建立环境
复制代码
#! /usr/bin/env python3
# -*- coding:utf-8 -*-

# Author : MaYi
# Blog    : http://www.cnblogs.com/mayi0312/
# Date    : 2019-11-07
# Name    : test03
# Software : PyCharm
# Note    :
import lmdb

# 打开环境
env = lmdb.open("students")
复制代码
　　运行一下，查看当前目录的变化：

　　可以看到当前目录下多了students目录，里面有data.mdb和lock.mdb两个文件。

4.3.2插入、删除、修改
　　插入与修改都用put实现，删除用delete实现。

复制代码
import lmdb

# 打开环境
env = lmdb.open("students")
# 建立事务
txn = env.begin(write=True)
# 插入三条记录
txn.put(b"1", b"Alice")
txn.put(b"2", b"Bob")
txn.put(b"3", b"Peter")
# 删除key="1"的记录
txn.delete(b"1")
# 修改key="3"的值为"Mark"
txn.put(b"3", b"Mark")
# 提交更改
txn.commit()
复制代码
　　注意用txn=env.begin()创建事务时，有write=True才能够写数据库。

4.3.3查询
　　查音箱记录用get(key)，遍历数据库用cursor。

复制代码
import lmdb

# 打开环境
env = lmdb.open("students")
# 建立事务
txn = env.begin()
# 查询单条记录
print(txn.get(b"3"))  # b'Mark'
# b'2' b'Bob'
# b'3' b'Mark'
for key, value in txn.cursor():
print(key, value)
# 提交更改
txn.commit()
复制代码
5.学习总结
　　最后回顾一下，SQLite与MySQL都是关系型数据库，操作时创建连接对象connection与光标对象cursor，通过execute执行SQL语句，commite提交变更，fetch得到查询结果；LMDB是key-value数据库，操作时建立与数据库的连接，用put/delete改变数据，用get获取数据。