文章内容

2020/9/10 18:43:55,作 者: 黄兵

MySQL查询大量数据分页

在上一篇文章:MySQL查询大量数据所面临的一些问题,说明了在MySQL中查询大量数据所面临的问题。

遇到查询大型数据,应该怎么解决呢?

和容易想到就是分页查询,这是一个正确的方法,应该如何分页?

最主要就是使用MySQL中的LIMIT 和 OFFSET关键字,下面是示例:

SELECT * FROM Orders LIMIT 30;

上面查询了:“订单”的表中选择1-30(含)之间的所有记录

如果我们想选择记录16-25(含)怎么办?

Mysql还提供了一种解决方法:使用OFFSET。

下面的SQL查询显示“仅返回10条记录,从记录16开始(偏移15)”:

SELECT * FROM Orders LIMIT 10 OFFSET 15;

利用这个例子,我们就很容易给大型数据分页。

具体查询示例如下:

for item in range(108095):
    # 查询2019年全年数据
    sql = "SELECT * FROM table_name JOIN (SELECT id FROM table_name WHERE Time BETWEEN '2019-01-01 00:00:00' AND '2020-01-01 00:00:00' LIMIT 100 OFFSET 0) AS t1 ON (t1.id=table_name.id);"
    # 执行SQL语句
    try:
        cur.execute(sql)
        # 获取所有记录列表
        results = cur.rowcount

注意这里偏移量一直是0,是由于后面删除了查询到的数据,所以一直是从0开始的,这里循环了108095次,也就是数据量/100取整+1得到的数据。

这样通过上面的原理给上面的数据实现了分页,同时使用了覆盖查询,来优化查询速度。

同时优化MySQL查询速度,可以参考这篇文章:MySQL查询优化


参考资料:

1、MySQL查询优化

2、PHP MySQL Limit Data Selections

3、Python range() Function


黄兵个人博客原创

转载请注明出处:黄兵个人博客 - MySQL查询大量数据分页

分享到:

发表评论

评论列表