MySQL 查询语句的 limit, offset 是怎么实现的?

如题所述

第1个回答  2022-07-08

在写 select 语句的时候,使用 limit, offset 可能就像是我们吃饭喝水一样自然了。

刚开始工作的时候也经常听前辈们教导:使用 limit, offset,当 offset 变大的时候执行效率会越来越低。

相信在前辈们的言传身教,和自己的实战过程中,大家也都知道了为什么会这样。

因为 select 在执行过程中,对于存储引擎返回的记录,经过 server 层的 WHERE 条件筛选之后,符合条件的前 offset 条记录,会被直接无情的抛弃,直到符合条件的第 offset + 1 条记录,才开始发送给客户端,发送了 limit 条记录之后,查询结束。

虽然知道了是什么,也知道了为什么,但是我也一直好奇底层是怎么实现的,所以今天我们来扒一扒它的庐山真面目。

先来简单的回顾一下 select 语句中 limit, offset 的语法,MySQL 支持 3 种形式:

在读取数据的过程中,对于符合条件的前 offset 条记录,会直接忽略,不发送给客户端,从符合条件的第 offset + 1 条记录开始,发送 limit 条记录给客户端。

所以,server 层实际上需要从存储引擎读取 offset + limit 条记录,源码里也是这么实现的,语法解析阶段,在验证了 offset 和 limit 都是大于等于 0 的整数之后,就把 offset + limit 的计算结果保存到一个叫做 select_limit_cnt 的属性里,offset 也会保存到一个叫做 offset_limit_cnt 的属性里。

来到发送数据阶段,此时的记录已经通过了 WHERE 条件的筛选,接下来就是判断这条记录是不是要发送给客户端。

第 1 步

因为 offset 已经保存到 offset_limit_cnt 中了,先来判断 offset_limit_cnt 是否大于 0,如果大于 0,这条记录就会被抛弃了,不发送给客户端;如果等于 0,记录就具备了发送给客户端的资格了,然后接着进入 第 2 步 。

第 2 步

来到这一步,记录就具备了发送给客户端的资格了,至于要不要发,就看客户端想不想要它了,而客户端想不想要它,取决于 select_limit_cnt 。

所以,在这一步要判断 已发送记录数量 (send_records)和 需要发送记的录数量 (select_limit_cnt)之间的关系,如果已发送记录数量 大于等于 需要发送的记录数量,则结束查询,否则就接着进入第 3 步。

第 3 步

在这里,记录愉快的等待着被发送给客户端。

既然在 offset 变大之后,使用 limit, offset 效率越来越低,那应该怎么办呢?对于实战经验丰富的小伙伴来说,这是相当简单了,但是以防万一刚看到本文的小伙伴是刚刚开始用 SQL 写 Bug,所以还是要大概的写一下的。

以一个 SQL 为例:

为了取到 10 条记录,要先找到 8888 条记录,然后取到需要的 10 条,前面 8888 条记录都白找了,太浪费了,可以这样修改一下:

LAST_MAX_ID 是上一次执行 SQL 时读取到的 主键 ID 的最大值,如果是第一次执行语句, LAST_MAX_ID = 0 。

不过这种方案也有个问题,不支持跳着翻页,只支持顺序翻页(就是每次都点 下一页 的这种)。

如果要支持跳着翻页,怎么办?

只用 MySQL 这把锤子显然有点不够用了,还要再找一把锤子(Redis),可以把符合条件的记录的 主键 ID 都读取出来,存入到 Redis 的有序集合(zset)中,用 zset 相应的函数读取到某一页应该展示的数据对应的那些 主键 ID ,然后用这些主键 ID 去 MySQL 中查询对应的数据,从而用两把锤子间接的实现了分页功能。

当然,这个方案也是有适用场景的,比如,这个方案明显就不适用于这些场景:符合条件的记录非常非常多导致存主键 ID 到 Redis 要占用很大的内存、记录更新频繁导致存主键 ID 的缓存经常被清除。如果碰到更复杂的场景,就要结合业务具体情况具体分析了

MySQL 查询语句的 limit, offset 是怎么实现的?
在数据库查询执行的语法阶段,首先回顾一下`LIMIT`和`OFFSET`的语法。MySQL支持三种形式,`OFFSET`和`LIMIT`的值都不能为负数,且在解析阶段就被限制,负数直接报语法错误。在解析阶段,数据库服务器实际上从存储引擎读取`OFFSET + LIMIT`条记录。在验证`OFFSET`和`LIMIT`都为非负整数后,将`OFFSET +...

MySQL学习笔记--limit和offset的用法
在MySQL中,利用`LIMIT`和`OFFSET`实现数据分页是常见的操作,`LIMIT`参数后可以接一个或两个数值,分别代表要取的数据量和要跳过的数据量。例如,`select * from article LIMIT 10`表示获取前10条数据,而`LIMIT 1,3`表示从第2条数据开始取3条。`OFFSET`参数通常与`LIMIT`结合使用,它表示要跳过...

mysqloffsetlimit怎么用
在MySQL数据库中,OFFSET和LIMIT结合使用可以实现对查询结果的分页显示。OFFSET用于指定从哪一行开始返回数据,LIMIT用于限制返回的数据数量。使用方法:当你在SQL查询中使用SELECT语句时,可以通过在查询中添加LIMIT和OFFSET子句来限制返回的记录数量并指定从哪一条记录开始返回。基本语法如下:sql SELECT column_...

MySQL笔记九之limit、offset限制数据返回条数
在使用SQL进行数据查询时,`SELECT`语句配合`WHERE`子句可以实现数据条件筛选,但在数据量巨大时,获取所有数据既费时又耗资源。这时,我们可以通过结合使用`LIMIT`和`OFFSET`来高效地控制返回的数据量。具体而言,`LIMIT`参数用于指定返回数据的数量,通常跟一个整数n,表示只返回满足条件的n条记录。例如...

MySQL 查询语句的 limit, offset 是怎么实现的?
先来简单的回顾一下 select 语句中 limit, offset 的语法,MySQL 支持 3 种形式:在读取数据的过程中,对于符合条件的前 offset 条记录,会直接忽略,不发送给客户端,从符合条件的第 offset + 1 条记录开始,发送 limit 条记录给客户端。所以,server 层实际上需要从存储引擎读取...

mysql offset limit怎么用
在MySQL中,"OFFSET"和"LIMIT"是两个关键的查询语句组成部分,用于分页和限制查询结果的数量。让我们深入理解一下如何使用它们。当你看到这样的SQL语句:sql SELECT userid FROM user WHERE sex='女'ORDER BY time LIMIT 20 OFFSET 1;这里的"LIMIT 20"表示你希望获取用户表中女性用户(WHERE sex='女...

MySQL LIMIT OFFSET分页“慢”查询优化
MySQL在处理SQL时,若查询语句包含OFFSET,MySQL将从指定行开始返回指定数量的记录。例如,OFFSET 1000表示从第1001条记录开始返回数据,返回10条记录。当使用二级索引查找时,MySQL需从索引开始扫描x+y行,即使使用了聚簇索引,MySQL同样需要扫描x+y行以找到满足条件的数据,这是LIMIT OFFSET慢的主要原因。...

MySQL中Offset的作用及用法详解mysql中offset
在MySQL中,Offset是一个关键词,用于控制SELECT语句中的结果集的起始位置。Offset的作用是指定从结果集的第几行开始返回结果。此外,通过使用Offset关键词,可以在结果集中跳过一定数量的行。在MySQL中,Offset可以与Limit关键词一起使用来限制结果集的数量。将Limit和Offset结合使用可以实现分页显示的功能。下...

MySQL 8.0 关于LIMIT的知识点理解
1.LIMIT的主要功能是限制查询结果的数量。2.LIMIT语法的位置在SQL语句中位于ORDER BY之后。3.LIMIT的语法格式为:LIMIT [offset,] N。其中,offset表示偏移量,N表示要获取的行数。不写offset则默认从第0行开始。4.偏移量offset,指的是目标字符在字符串中的位置。在查找特定字符时,计算机通过字符串...

Mysql中limit的用法
Mysql中limit的用法是SELECT * FROM table LIMIT [offset,] rows | rows OFFSET offset。LIMIT 接受一个或两个数字参数。参数必须是一个整数常量。如果给定两个参数,第一个参数指定第一个返回记录行的偏移量,第二个参数指定返回记录行的最大数目。

相似回答
大家正在搜