1.概述
1.1前言
最近在存储字模图像集的时候,需要学习LMDB,趁此机会复习了SQLite和MySQL的使用,一起整理在此。
1.2环境
使用win7,Python 3.5.2。
2.SQLite
2.1准备
SQLite是一种嵌入式数据库,它的数据库就是一个文件。Python 2.5x以上版本内置了SQLite3,使用时直接import sqlite3即可。
2.2操作流程
概括地讲,操作SQLite的流程是:
·通过sqlite3.open()创建与数据库文件的连接对象connection
·通过connection.cursor()创建光标对象cursor
·通过cursor.execute()执行SQL语句
·通过connection.commit()提交当前的事务,或者通过cursor.fetchall()获得查询结果
·通过connection.close()关闭与数据库文件的连接
详细的sqlite3模块API可以看这里:SQLite - Python
总结起来就是用cursor.execute()执行SQL语句,改变数据(插入、删除、修改)时用connection.commit()提交变更,查询数据时用cursor.fetchall()得到查询结果。
2.3操作实例
2.3.1建立数据库与建立表
#! /usr/bin/env python3 # -*- coding:utf-8 -*- # Author : MaYi # Blog : http://www.cnblogs.com/mayi0312/ # Date : 2019-11-07 # Name : test01 # Software : PyCharm # Note : import sqlite3 # 创建连接 conn = sqlite3.connect("test.db") # 创建光标 cur = conn.cursor() # 执行(创建数据表的)SQL语句 cur.execute("CREATE TABLE IF NOT EXISTS students (sid INTEGER PRIMARY KEY, name TEXT)") # 提交 conn.commit() # 关闭连接 conn.close()
这里conn是与数据库文件test.db的连接对象,cur是conn的光标对象,通过cur.execute()执行建表操作,创建了简单的学生信息表(学号, 名字),通过conn.commit()提交,最后用conn.close()关闭连接。
创建连接时,发现数据库文件不存在时会自动创建,这里使用了文件“test.db”,也可以使用“:memory:”建立内存数据库。
2.3.2插入、删除、修改
为了便于多次运行,直接使用了内存数据库:
#! /usr/bin/env python3 # -*- coding:utf-8 -*- # Author : MaYi # Blog : http://www.cnblogs.com/mayi0312/ # Date : 2019-11-07 # Name : test01 # Software : PyCharm # Note : import sqlite3 # 创建链接 conn = sqlite3.connect(":memory:") # 创建光标 cur = conn.cursor() # 执行(创建数据表的)SQL语句 cur.execute("CREATE TABLE students (sid INTEGER PRIMARY KEY, name TEXT)") # 执行(插入)SQL语句 cur.execute("INSERT INTO students VALUES(?, ?)", (1, "Alice")) cur.execute("INSERT INTO students VALUES(?, ?)", (2, "Bob")) cur.execute("INSERT INTO students VALUES(?, ?)", (3, "Peter")) # 执行(查询)SQL语句 cur.execute("SELECT * FROM students") print(cur.fetchall()) # [(1, 'Alice'), (2, 'Bob'), (3, 'Peter')] # 执行(删除)SQL语句 cur.execute("DELETE FROM students WHERE sid = ?", (1,)) # 执行(查询)SQL语句 cur.execute("SELECT * FROM students") print(cur.fetchall()) # [(2, 'Bob'), (3, 'Peter')] # 执行(修改)SQL语句 cur.execute("UPDATE students SET name = ? WHERE sid = ?", ("Mark", 3)) # 执行(查询)SQL语句 cur.execute("SELECT * FROM students") print(cur.fetchall()) # [(2, 'Bob'), (3, 'Mark')] # 关闭链接 conn.close()
做的事情还就非常简单易懂的,向学生信息表中插入(1, Alice)、(2, Bob)、(3, Peter)三条记录,删除(1, Alice),修改(3, Peter)为(3, Mark)。插入、删除、修改后查询数据库中的内容并打印出来。
“?”是sqlite3中的占位符,execute时会用第二个参数元组里的元素按顺序替换。官方文档里建议出于安全考虑,不要直接用Python做字符串拼接。
另外,注意不需要每次execute后调用commit。
2.3.3查询
直接用上面的代码:
# 执行(查询)SQL语句 cur.execute("SELECT * FROM students") print(cur.fetchall()) # [(2, 'Bob'), (3, 'Peter')]
fetchall()返回的是记录数组,可能通过WHERE子句做更细致的选择。
3.MySQL
3.1准备
安装MySQL:略(百度)
安装pymysql:
pip install PyMySQL
3.2操作流程
同为关系型数据库,MySQL的操作方法与SQLite是大同小异的。建立连接对象与光标对象,用execute()执行SQL语句,commit()提交事物,fetchall()获得所有查询结果。
3.3操作实例
3.3.1建立与数据库连接与建立表
准备工作:
- 已经创建了数据库TESTDB
- 连接数据库TESTDB使用的用户名为“mayi”,密码为“test123”,你可以自己设定或者直接使用root用户名及其密码。
·数据库连接
#! /usr/bin/env python3 # -*- coding:utf-8 -*- # Author : MaYi # Blog : http://www.cnblogs.com/mayi0312/ # Date : 2019-11-07 # Name : test02 # Software : PyCharm # Note : # 导入模块 import pymysql # 创建数据库连接 conn = pymysql.connect( host="localhost", port=3306, db="testdb", user="mayi", password="test123", charset="utf8") # 创建游标 cur = conn.cursor() # 执行SQL语句(查询Mysql版本) cur.execute("SELECT VERSION()") # 获取单条数据 data = cur.fetchone() # 打印:Database version: 5.7.17-log print("Database version: %s " % data) # 关闭数据库连接 conn.close()
·建立表
如果数据库连接存在我们可以使用execute()方法来为数据库创建表,如下所示创建表students
#! /usr/bin/env python3 # -*- coding:utf-8 -*- # Author : MaYi # Blog : http://www.cnblogs.com/mayi0312/ # Date : 2019-11-07 # Name : test02 # Software : PyCharm # Note : # 导入模块 import pymysql # 创建数据库连接 conn = pymysql.connect( host="localhost", port=3306, db="testdb", user="mayi", password="test123", charset="utf8") # 创建游标 cur = conn.cursor() # 执行SQL语句,如果表存在则删除 cur.execute("DROP TABLE IF EXISTS students") # 使用预处理语句创建表 cre_sql = """CREATE TABLE students ( sid INT(4) PRIMARY KEY, name VARCHAR(10) )""" # 执行SQL语句(建表) cur.execute(cre_sql) # 关闭数据库连接 conn.close()
3.3.2插入、删除、修改
#! /usr/bin/env python3 # -*- coding:utf-8 -*- # Author : MaYi # Blog : http://www.cnblogs.com/mayi0312/ # Date : 2019-11-07 # Name : test02 # Software : PyCharm # Note : # 导入模块 import pymysql # 创建数据库连接 conn = pymysql.connect( host="localhost", port=3306, db="testdb", user="mayi", password="test123", charset="utf8") # 创建游标 cur = conn.cursor() # 执行(插入)SQL语句 cur.execute("INSERT INTO students(sid, name) VALUES(%s, '%s')" % (1, 'Alice')) cur.execute("INSERT INTO students(sid, name) VALUES(%s, '%s')" % (2, 'Bob')) cur.execute("INSERT INTO students(sid, name) VALUES(%s, '%s')" % (3, 'Peter')) # 执行(查询)SQL语句 cur.execute("SELECT * FROM students") print(cur.fetchall()) # ((1, 'Alice'), (2, 'Bob'), (3, 'Peter')) # 执行(删除)SQL语句 cur.execute("DELETE FROM students WHERE sid = %s" % (1,)) # 执行(查询)SQL语句 cur.execute("SELECT * FROM students") print(cur.fetchall()) # ((2, 'Bob'), (3, 'Peter')) # 执行(修改)SQL语句 cur.execute("UPDATE students SET name = '%s' WHERE sid = %s" % ('Mark', 3)) # # 执行(查询)SQL语句 cur.execute("SELECT * FROM students") print(cur.fetchall()) # ((2, 'Bob'), (3, 'Mark')) # 提交 conn.commit() # 关闭数据库连接 conn.close()
3.3.3查询
Python查询MySQL使用fetchone()方法获取单条数据,使用fetchall()方法获取多条数据。
·fetchone():该方法获取下一个查询结果集。结果集是一个对象。
·fetchall():接收全部的返回结果条。
·rowcount:这是一个只读属性,并返回执行execute()方法后影响的行数。
#! /usr/bin/env python3 # -*- coding:utf-8 -*- # Author : MaYi # Blog : http://www.cnblogs.com/mayi0312/ # Date : 2019-11-07 # Name : test02 # Software : PyCharm # Note : # 导入模块 import pymysql # 创建数据库连接 conn = pymysql.connect( host="localhost", port=3306, db="testdb", user="mayi", password="test123", charset="utf8") # 创建游标 cur = conn.cursor() # 执行(查询)SQL语句 cur.execute("SELECT * FROM students") # 返回影响的行数 print(cur.rowcount) # 2 # 取一条数据 print(cur.fetchone()) # (2, 'Bob') # 取剩下所有数据 print(cur.fetchall()) # ((3, 'Mark'),) # 关闭数据库连接 conn.close()
4.LMDB
4.1准备
LMDB和SQLite/MySQL等关系型数据库不同,属于key-value数据库(把LMDB想成dict会比较容易理解),键key与值value都是字符串。
安装:
pip install lmdb
使用时import lmdb
4.2操作流程
概况地讲,操作LMDB的流程是:
·通过env = lmdb.open()打开环境
·通过txn = env.begin()建立事务
·通过txn.put(key, value)进行插入和修改
·通过txn.delete(key)进行删除
·通过txn.get(key)进行查询
·通过txn.cursor()进行遍历
·通过txn.commit()提交更改
4.3操作实例
4.3.1建立环境
#! /usr/bin/env python3 # -*- coding:utf-8 -*- # Author : MaYi # Blog : http://www.cnblogs.com/mayi0312/ # Date : 2019-11-07 # Name : test03 # Software : PyCharm # Note : import lmdb # 打开环境 env = lmdb.open("students")
运行一下,查看当前目录的变化:
可以看到当前目录下多了students目录,里面有data.mdb和lock.mdb两个文件。
4.3.2插入、删除、修改
插入与修改都用put实现,删除用delete实现。
import lmdb # 打开环境 env = lmdb.open("students") # 建立事务 txn = env.begin(write=True) # 插入三条记录 txn.put(b"1", b"Alice") txn.put(b"2", b"Bob") txn.put(b"3", b"Peter") # 删除key="1"的记录 txn.delete(b"1") # 修改key="3"的值为"Mark" txn.put(b"3", b"Mark") # 提交更改 txn.commit()
注意用txn=env.begin()创建事务时,有write=True才能够写数据库。
4.3.3查询
查音箱记录用get(key),遍历数据库用cursor。
import lmdb # 打开环境 env = lmdb.open("students") # 建立事务 txn = env.begin() # 查询单条记录 print(txn.get(b"3")) # b'Mark' # b'2' b'Bob' # b'3' b'Mark' for key, value in txn.cursor(): print(key, value) # 提交更改 txn.commit()
5.学习总结
最后回顾一下,SQLite与MySQL都是关系型数据库,操作时创建连接对象connection与光标对象cursor,通过execute执行SQL语句,commite提交变更,fetch得到查询结果;LMDB是key-value数据库,操作时建立与数据库的连接,用put/delete改变数据,用get获取数据。