01 | 基础架构:一条SQL查询语句是如何执行的?
1. MySQL 的基本架构图:
MySQL可以分成: Server层 和 存储引擎层 两部分。
Server层:包含连接器、查询缓存、分析器、优化器、执行器等等,涵盖 MySQL 的大多数核心服务功能,以及所有的内置函数(日期,时间,数学和加密函数等),所有跨存储引擎的功能都在这一层实现,比如存储过程,触发器,视图等。
存储引擎层:负责数据的存储和提取,架构模式是插件式的,支持 InnoDB(默认的存储引擎), MyISAM, Memory 等多个存储引擎。
【1】连接器
连接器负责和客户端建立连接,获取权限,维持和管理连接。
mysql -h$ip -P$port -u$user -p
连接器要和服务端建立连接。
(1)TCP握手
(2)认证user身份
(3)去权限表里面查询user拥有的权限。(此后这个连接里面的权限判断逻辑,都将依赖于此时读到的权限)
这就意味着,一个用户建立成功连接之后,即使你用管理员账号对这个用户的权限做了修改,也不会影响到已经存在连接的权限。修改完成之后,只有再新建的连接才会使用新的权限设置。
MySQL查看现在所有的连接:
mysql> show processlist;
command 列的 Sleep 状态表示现在系统里面有一个空闲连接。
客户端如果太长时间没有动静,连接器就会将它自动断开。时间是由 wait_time 控制的。默认 8 小时。
数据库里面,长连接是指连接成功之后,如果客户端持续有请求,则一直使用同一个连接。短连接则是指每次执行完很少的几次查询就断开连接,下次查询再重新建立一个。
作者建议要尽量减少建立连接的动作,也就是尽量使用长连接。
但是这个时候可能会碰到一个问题:如果都使用长连接之后,你可能会发现,有些时候 MySQL 占用内存长得特别快。
这是因为 MySQL 在执行过程中临时使用的内存是管理在连接对象里面的。这些资源会在连接断开的时候才释放。
所以如果长连接积累下来,可能导致内存占用大,被系统强行杀掉 (OOM),从现象来看就是 MySQL 异常重启了。
如何解决这个问题有下面两个方法:
(1)定期断开长连接。使用一段时间,或者程序里面判断执行过一个占用内存的大查询后,断开连接,之后要查询再重连。
(2)对于MySQL 5.7以上版本,可以在每次执行一个比较大的操作之后,通过执行 mysql_reset_connection 来重新初始化连接资源。这个过程不需要重连和重新做权限验证,但是会将连接恢复到刚刚创建完的状态。
【2】查询缓存
select 语句在查询之前可以查询缓存。
但是大多数情况下我会建议你不要使用查询缓存,为什么呢?因为查询缓存往往弊大于利。
MySQL 8.0 以上已经把查询缓存这个功能干掉了。
【3】分析器
如果没有命中查询缓存,就要开始真正执行语句了。首先,MySQL 需要知道你要做什么,因此需要对 SQL 语句做解析。
(1)分析器会先做“词法分析”。将我们输入的一条 SQL 语句(多个字符串和空格组成),MySQL 需要识别出里面的字符串分别是什么,代表什么。
比如说识别关键词 select,表名称, 列名称。
(2)“语法分析”。根据词法分析的结果,语法分析器会根据语法规则,判断你输入的这个 SQL 语句是否满足 MySQL 的语法。
此时如果语句不对,就会收到" You have an error in your SQL syntax" 的提示。
一般语法错误会提示第一个出现错误的位置,所以需要关注 "use near" 的内容。
【4】优化器
优化器是在表里面有多个索引的时候,决定使用哪个索引;或者在一个语句有多表关联(join)的时候,决定各个表的连接顺序。
比如你执行下面这样的语句,
mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;
既可以先从表 t1 里面取出 c = 10 的记录的 ID 的值,在根据 ID 值关联到表 t2,再判断 t2 里面 d 的值是否等于 20。
也可以先从表 t2 里面取出 d = 20 的记录的 ID 的值,再根据 ID 的值关联到 t1, 再判断 t1 里面的 c 是否等于 10。
这两种执行方法的逻辑结果是一样的,但是执行效率会非常不同,而优化器的作用就是决定选择使用哪一种方案。
【5】执行器
开始执行的时候,要先判断一下你对这个表 T 是否有执行查询的权限,如果没有,就会返回没有权限的错误,如下所示(在工程实现上,如果命中查询缓存,会在查询缓存返回结果的时候做权限验证。查询也会在优化器之前调用 precheck 验证权限。)
mysql> select * from T where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'
如果有权限,就会打开表开始执行。打开表的时候,执行器就会根据表的引擎定义,取使用这个引擎提供的接口。
如果在 T 表中 id 这个字段没有索引,那么执行器的执行流程是这样的。
1. 调用 InnoDB 引擎接口取这个表的第一行,判断 ID 值是不是 10,如果不是则跳过,如果是,就将这行存在结果集当中。
2.调用引擎接口取“下一行”,重复相同的判断逻辑,直到取到这个表的最后一行。
3. 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集合返回给客户端。
到这里,这个语句就执行完成了。
对于有索引的表,执行的逻辑也差不多。第一次调用的是"取满足条件的第一行"这个接口,之后循环取"满足条件的下一行"这个接口。这些接口都是引擎中定义好的。
在数据库的慢查询日志中看到一个 rows_examined 的字段,表示这个语句执行过程中扫描了多少行。这个值就是在执行器每次调用引擎获取数据行的时候累加的。
在有些场景下,执行器调用一次,在引擎内部则扫描了很多行,因此,引擎扫描行数跟 rows_examined 并不是完全相同的。
问题:如果表 T 中没有字段 k,而你执行了这个语句 select * from T where k=1, 那肯定是会报“不存在这个列”的错误:“Unknown column ‘k’ in ‘where clause'"。 你觉得这个错误是从我们上面的哪个阶段报出来的呢?
题解:优化器。分析器会分析语法,但是不会判断这个表里面是否有这个列。到了优化器才会决定执行的过程。
也不是执行器,执行器的功能是打开表获取数据,但是表的字段不是数据,是预先定义好的,可以直接读取,不需要打开表。
02 | 日志系统:一条SQL更新语句是如何执行的?
03 | 事务隔离:为什么你改了我还看不见?
04 | 深入浅出索引(上)
05 | 深入浅出索引(下)
06 | 全局锁和表锁:给表加个字段怎么有这么多阻碍?
07 | 行锁功过:怎么减少行锁对性能的影响?
08 | 事务到底是隔离的还是不隔离的?
09 | 普通索引和唯一索引,应该怎么选择?
10 | MySQL 为什么有时候会选错索引?
11 | 怎么给字符串字段加索引?
12 | 为什么我的MySQL会“抖”一下?
13 | 为什么表数据删掉一半,表文件大小不变?
14 | count(*)这么慢,我该怎么办?
15 | 答疑文章(一):日志和索引的相关问题
16 | “order by” 是怎么工作的?
来源:oschina
链接:https://my.oschina.net/u/4370408/blog/3637208