加入收藏 | 设为首页 | 会员中心 | 我要投稿 惠州站长网 (https://www.0752zz.com.cn/)- 办公协同、云通信、物联设备、操作系统、高性能计算!
当前位置: 首页 > 建站 > 正文

MySQL大数据量分页查询方法及其优化

发布时间:2018-09-12 13:37:10 所属栏目:建站 来源:用户1914837225
导读:副标题#e# 9月15日技术沙龙 | 与东华软件、AWS、京东金融、饿了么四位大咖探讨精准运维! 方法1: 直接使用数据库提供的SQL语句 语句样式: MySQL中,可用如下方法: SELECT * FROM 表名称 LIMIT M,N 适应场景: 适用于数据量较少的情况(元组百/千级) 原因/缺点:

这次我们之间查询最后一页的数据(利用覆盖索引,只包含id列),如下:

  1. select id from product limit 866613, 20  
0.2秒

相对于查询了所有列的37.44秒,提升了大概100多倍的速度

那么如果我们也要查询所有列,有两种方法,一种是id>=的形式,另一种就是利用join,看下实际情况:

  1. SELECT * FROM product WHERE ID > =(select id from product limit 866613, 1) limit 20 

查询时间为0.2秒!

另一种写法

  1. SELECT * FROM product a JOIN (select id from product limit 866613, 20) b ON a.ID = b.id 

查询时间也很短!

3. 复合索引优化方法

MySql 性能到底能有多高?MySql 这个数据库绝对是适合dba级的高手去玩的,一般做一点1万篇新闻的小型系统怎么写都可以,用xx框架可以实现快速开发。可是数据量到了10万,百万至千万,他的性能还能那么高吗?一点小小的失误,可能造成整个系统的改写,甚至更本系统无法正常运行!好了,不那么多废话了。

用事实说话,看例子:

数据表 collect ( id, title ,info ,vtype) 就这4个字段,其中 title 用定长,info 用text, id 是逐渐,vtype是tinyint,vtype是索引。这是一个基本的新闻系统的简单模型。现在往里面填充数据,填充10万篇新闻。最后collect 为 10万条记录,数据库表占用硬1.6G。

OK ,看下面这条sql语句:

  1. select id,title from collect limit 1000,10; 

很快;基本上0.01秒就OK,再看下面的

  1. select id,title from collect limit 90000,10; 

从9万条开始分页,结果?

8-9秒完成,my god 哪出问题了?其实要优化这条数据,网上找得到答案。看下面一条语句:

  1. select id from collect order by id limit 90000,10; 

很快,0.04秒就OK。 为什么?因为用了id主键做索引当然快。网上的改法是:

  1. select id,title from collect where id>=(select id from collect order by id limit 90000,1) limit 10; 

这就是用了id做索引的结果。可是问题复杂那么一点点,就完了。看下面的语句

  1. select id from collect where vtype=1 order by id limit 90000,10; 

很慢,用了8-9秒!

到了这里我相信很多人会和我一样,有崩溃感觉!vtype 做了索引了啊?怎么会慢呢?vtype做了索引是不错,你直接

  1. select id from collect where vtype=1 limit 1000,10; 

是很快的,基本上0.05秒,可是提高90倍,从9万开始,那就是0.05*90=4.5秒的速度了。和测试结果8-9秒到了一个数量级。

从这里开始有人提出了分表的思路,这个和dis #cuz 论坛是一样的思路。思路如下:

建一个索引表: t (id,title,vtype) 并设置成定长,然后做分页,分页出结果再到 collect 里面去找info 。 是否可行呢?实验下就知道了。

(编辑:惠州站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

推荐文章
    热点阅读