惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
L
LINUX DO - 最新话题
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Forbes - Security
Forbes - Security
博客园 - 司徒正美
Hugging Face - Blog
Hugging Face - Blog
W
WeLiveSecurity
Jina AI
Jina AI
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
N
News and Events Feed by Topic
V
V2EX
Stack Overflow Blog
Stack Overflow Blog
Engineering at Meta
Engineering at Meta
PCI Perspectives
PCI Perspectives
Martin Fowler
Martin Fowler
T
The Exploit Database - CXSecurity.com
F
Full Disclosure
WordPress大学
WordPress大学
S
Security Affairs
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
S
SegmentFault 最新的问题
P
Privacy International News Feed
IT之家
IT之家
M
MIT News - Artificial intelligence
G
GRAHAM CLULEY
Hacker News: Ask HN
Hacker News: Ask HN
D
DataBreaches.Net
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Google Online Security Blog
Google Online Security Blog
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
C
Check Point Blog
美团技术团队
Security Latest
Security Latest
Cyberwarzone
Cyberwarzone
N
News and Events Feed by Topic
MyScale Blog
MyScale Blog
H
Help Net Security
宝玉的分享
宝玉的分享
The Hacker News
The Hacker News
The Last Watchdog
The Last Watchdog
The Cloudflare Blog
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
爱范儿
爱范儿
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
I
Intezer
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
AI
AI
I
InfoQ
N
News | PayPal Newsroom
TaoSecurity Blog
TaoSecurity Blog

膨胀自留地

使用CloudFlare标记管理功能优雅的使用谷歌分析 四天轻松版北京旅游攻略 Adsense税务居住地证明申请教程:如何申请中国税收居民身份证明以及Google Adsense更新新加坡税务信息教程 常见的 VPS 优化措施 HTML实现table表格移动端自动转为卡片样式 个人网站接入 Google 登录 如何从 GitHub 永久删除泄露的 .env 文件 Cloudflare设置www的域名跳转到不带www的域名 顶级iOS神器!全面解开App Store限制,AssPP Pro保姆级教程 BroadcastChannel将你的 Telegram Channel 转为微博客 Medama开源轻量级网站统计(分析)系统 白嫖一个网站监控面板:uptime-kuma 部署TraffMonetizer利用闲置VPS挂机赚钱 Counterscale-使用CloudflareWorkers部署的免费网站数据统计工具,界面类似umami 封装一个最简单的Axios,避免过度封装! 如何使用Cloudflare Email Routing创建域名邮箱免费发送邮件 使用Cron定时更新Hosts解决Gihub无法访问问题 容器化MariaDB/Mysql实现定时备份 JetBrains全家桶许可证服务器怎么找,JetBrains激活教程 图片加速接口:缓存图片,加速访问,解决防盗链 MySQL模糊查询再也不用like+%了,全文索引介绍及使用简介 为什么这么多人推荐你办理流量卡?流量卡怎么赚钱?怎么避坑? 借助Cloudflare Worker实现Google Analytics反代加速,规避广告屏蔽插件的拦截 etcd入门之在Centos上安装部署 Grafana在linux下安装和基本使用入门 Prometheus介绍、安装和基本功能快速入门 无需加速器,油猴插件解锁xbox云游戏 阿里云盘自动每日签到,无需部署,无需服务器 自定义VSCode终端主题样式 一行 CSS 代码实现响应式布局 – 使用 Grid 实现的响应式布局 加不加「/」?Nginx location 路径与 proxy_pass 的规律 Mac上Git多账户SSH配置 python 脚本命令行调用 cloudflare Wokers AI 对话示例 使用acme.sh自动申请Let's Encrypt泛域名证书 centos离线(内网环境无外网)安装docker 什么是ChatGPT API公益水龙头? Mysql8主从复制实现过程记录 纯绿色无需安装软件,10行代码即可长期关闭Windows系统更新 使用 Vercel 部署 Umami,从零开始搭建一个免费的个人博客数据统计 JS | JS实现Web应用或网站发送浏览器Notification通知 Go | 使用rsrc给golang打包的exe文件添加程序图标 Go | 基于最新的 ChatGPT API 实现命令行版 ChatGPT JS | 原生js仿ElementUI消息提示组件,含生命周期钩子 Go | 包依赖管理工具go mod使用详解 Go | 解决低版本Goland调试问题:Version of Delve is too old for this version 薅京东羊毛必备抓取Cookies教程 使用Nginx反向代理解决 Google Analytics 访问问题 Typecho纯代码生成sitemap站点地图 Lazysizes.js图片懒加载的使用 typecho使用文件缓存加快打开速度 白嫖移动,联通,电信手机短信通知 MacOS上使用可视化界面给ESP8266烧录MicroPython教程 Fail2Ban安装使用及常用配置教程 通用的检测到广告屏蔽插件进行弹窗提示实现方法 如何在 ESP 单片机上选用合适的引脚 如何找回微信已过期文件教程 一键脚本安装的 HASSIO 如何卸载呢 SqliteAdmin 宝塔面板sqlite数据库可视化管理(简单版) PostToBingIndexNow插件实现typecho发布文章自动推送到Bing站长平台 javascript | 原生JS多语言切换简单实现 Mysql8安全清理mysql.slow慢查询日志和general_log文件 NUC8黑苹果更新OpenCore引导教程,黑苹果EFI分区空间占满处理方法 局域内网的服务器利用个人电脑做跳板机访问互联网 ssh-chat- SSH命令行下聊天摸鱼服务 Python小技巧之不用GUI,照样实现图形界面 Linux下防御/减轻DDOS攻击工具DDoS deflate安装配置教程 据传宝塔面板后台会上传服务器上运行的网站信息 如何定位Mysql中CPU占用高的查询语句 python使用多线程threading模块长期循环运行内存泄漏问题解决 Linux系统VI方向键、删除键按出来是字母解决方法 python | 协程与多进程的完美结合 新安装Debian系统常用设置 MAC系统制作ubuntu启动U盘教程 利用树莓派打造时间机器 TimeMachine MAC游戏 | 公路救赎 Road Redemption May 2020 Mac摩托车竞速暴力游戏中文破解版 MAC游戏 | 笨拙英雄 Clunky Hero 0.92 Mac手绘风格的类银河战士恶魔城动作冒险游戏破解版 MAC游戏 | 拉力赛艺术Art of Rally 1.0.4b Mac卡通风格的赛车竞速游戏破解版 MAC游戏 | Len's Island 1.0 Mac 破解版 开放世界农场模拟探索游戏 MAC游戏 | 洛基Röki3.2_Mac点击型冒险游戏中文破解版 typecho聚合全文输出feed设置仅输出摘要自动截取正文前200个字符 树莓派开启Samba共享(smb) 为什么网站知道我的爬虫使用了代理? 给Edge大声朗读同源的微软tts增加下载音频按钮(tampermonkey脚本) 为了了解女朋友的小心思,我用 python 爬了榜姐微博下 70000 个女生小秘密! MAC外接屏幕亮度调节工具——BrightnessE mysql8利用CTE特性实现递归查询 漫威宇宙时间线观看顺序(持续更新) Typecho 评论弹幕插件下载及食用教程 反爬虫的极致手段,几行代码直接炸了爬虫服务器 教你轻松拥有无限个邮箱 核弹级教程:手把手教你白嫖上百个订阅节点 部署 Monit 来监控服务 「工具」Windows 卸载软件,这一个就够了 闲置服务器薅京东的羊毛—青龙面板部署与京东签到 捡垃圾8.5元智能wifi插座拆解,刷ESPHome接入HomeAssistant-超低价ESP8266开关 RS1.ES 免费Linux云服务器,单次使用3小时,不限次数! Typecho 启用 Service Workers 浏览器缓存加速首屏访问 Waiting for table metadata lock问题处理 关于a标签target_blank使用rel=noopener 宝塔默认站点泄漏源站IP,使用CDN后censys.io出现源站IP泄漏解决方法
解决所有 MySQL 分类排名问题,实现分组后随机取 n 条数据
2021-04-12 · via 膨胀自留地

#编程技术 2021-04-12 14:02:00 | 全文 3297 字,阅读约需 7 分钟 | 加载中... 次浏览

👋 相关阅读


图片alt

对数据库中的记录依据某个字段进行排序是一种常见需求,虽然简单的 Order by 可以胜任,但如果想要输出具体的排名却难以直接实现。如果再考虑重复排名或者分类排名,那么情况就更为复杂。

本文介绍 4 种分类排名方式:子查询、自连接、自定义变量以及 MySQL8.0 窗口函数。

需求介绍

考虑 MySQL 中的一个经典应用:给定一个学生考试成绩表,要实现对学生按课程依成绩高低进行排序。为了简单起见,仅给定成绩表,而不考虑可能关联的学生信息表、课程信息表和教师信息表等,且成绩表中仅创建 3 个关键字段:

cid:课程 id,int 型,共 5 门课程 sid:学生 id,int 型,共 8872 名学生 score:成绩,int 型,共 22366 条成绩信息,分布于 10-100 之间

图片alt

为了逐步分析,初始状态不添加主键,也不建立任何索引。

子查询

实现这一需求的最直接想法是通过子查询,对每个分数进行统计:统计表中有多少分数比其更高,那么该分数的排名就是更高分数计数 +1。如果要区分课程排名,那么统计表时只需增加一个限制课程 id 相等的约束条件即可。

SELECT a.*, ( SELECT COUNT(score)+1 FROM scores WHERE cid = a.cid AND score > a.score ) AS 'rank' FROM scores a ORDER BY a.cid,  a.score DESC;

需注意的是,在子查询约束条件中要求 score > a.score 以及 COUNT()+1,表示统计的是比该成绩更高的计数 +1,例如对于 90、80、80、70…… 这样的分数得到排名结果是 1,2,2,4……;如果选用 score >= a.score 和 COUNT() 作为排名条件,那么得到结果是 1,3,3,4……

在未添加任何索引的情况下,这个查询速度是相当慢的,耗时 120s。

图片alt

优化查询的第一想法当然是添加索引:虽然外层查询未用到任何 where 约束条件,但子查询中用到了 cid 和 score 两个字段判断,于是考虑添加索引:

CREATE INDEX idc ON scores(cid);
CREATE INDEX ids ON scores(score);

增加索引后,查询耗时 96s,虽然有提升,但仍难堪重任。解释查询计划,发现虽然速度仍然很慢,但两个索引确实都得到了应用:

图片alt

既然独立索引无法明显提升效率,考虑子查询中 where 条件不是独立字段的常值约束,而是依赖于外层循环取值的联合约束,那么再考虑添加一个联合索引:

CREATE INDEX idcs ON scores(cid, score);

查询速度确实是更快了,实际用时 24s。解释查询计划,发现既用到了独立索引,也用到了联合索引。但不得不说,24s 的响应时间对于要求 0.5s 解决战斗的即时任务来说,仍然是不够的。

图片alt

只能另辟蹊径。

自连接

一般来说,对于速度较慢的子查询任务,换做连接查询 (join) 可以得到明显提升。

具体到分课程排名这一具体需求,我们考虑对 scores 表进行自连接,其中连接条件为课程相等且 a 表 score 值小于 b 表 score 值,从而通过统计满足连接条件的记录数即可得到排名信息:

SELECT 
    a.*, COUNT(b.score)+1 AS 'rank'
FROM 
    scores a LEFT JOIN scores b ON (a.cid = b.cid AND a.score < b.score)
GROUP BY 
    a.cid, a.sid
ORDER BY 
    a.cid, COUNT(b.score)

需注意的是:连接方式要选用 left join,以便将 a 表中的所有分数信息都显示出来;若是用 join,则最高分因为不存在满足连接的记录而被漏掉。至于连接条件中 score 值和 count() 的关系类似于子查询中的情况。

应用自连接,在不创建任何索引的情况下查询速度与子查询情况差不多,耗时 73s;在添加有效索引后,查询时间 27s,效率有所提升,但与查询方案效率相当。

图片alt

图片alt

显然,应用自连接替代子查询的方案并没有显著提升查询效率,即使是在添加了有效索引的基础上。

进一步分析数据表发现,实际上速度慢并不能否认索引在改善查询效率方面的能力,而仅仅是因为添加索引的字段取值较少的原因:cid 字段仅有 5 个取值——当字段取值个数较少时,添加索引很难见效。

例如,如果换一个需求,改为按学生区分各门课程的成绩排名(sid 取值数量很大),则应用索引即可有效改善查询效率。按学生查询成绩排名 SQL 语句:

SELECT 
    a.*, count(b.score)+1 AS 'rank'
FROM 
    scores a LEFT JOIN scores b ON (a.sid = b.sid AND a.score < b.score)
GROUP BY 
    a.sid, a.cid
ORDER BY 
    a.sid, count(b.score)

对于如上查询,在未添加索引时,查询时间 34s;添加有效索引后耗时仅为 0.184s,添加索引的提升效果非常明显。

虽然这一论断捍卫了索引的地位作用,但如果我们的需求就是按课程进行排名呢?显然,无论是子查询还是自连接方案,都难以满足我们的实时查询需求。

只得再觅他法。

自定义变量

实际上,上述两种方案之所以速度较慢,是因为都作用在两个表上查询,如果再考虑外层的 order by,那么执行时间复杂度粗略估计在 O(n3) 量级。此时,我们考虑应用自定义变量实现更低复杂度的查询实现。

应用自定义变量,我们不仅可以提高速度,而且还能实现"各种"排名:例如对于 90、80、80、70、60 这样一组成绩,可能有 3 种排名需求,一种是连续排名,同分时名次也继续增加:1、2、3、4、5;第二种是同分同名,下一排名不跳级,即 1、2、2、3、4;第三种是同分同名,下一排名跳级,即 1、2、2、4、5。这三种需求应用自定义变量进行排序都可以轻松搞定(具体变量含义和思路后续给出):

连续排名:

SELECT 
    sid, cid, @curRank:=@curRank+1 AS 'rank'
FROM 
    scores, (SELECT @curRank:=0) tmp
ORDER BY 
    score DESC

同分同名,不跳级:

SELECT 
    sid, cid, @curRank:=IF(score=@preScore, @curRank, @curRank+1) AS 'rank', 
    @preScore:=score
FROM 
    scores, (SELECT @curRank:=0, @preScore:=NULL) tmp
ORDER BY
    score

同分同名,跳级:

SELECT 
    sid, cid, @curRank := IF(score=@preScore, @curRank, @totalRank) AS 'rank',
    @preScore := score,
    @totalRank := @totalRank+1
FROM 
    scores, (SELECT @curRank:=1, @totalRank:=1, @preScore:=NULL) tmp
ORDER BY 
    score

以上 SQL 语句是在不进行任何分类条件下的排名:通过自定义变量(MySQL 定义变量用 @ 作为引导符,并用 := 表示赋值)记录前一个排名、前一个分数值、当前的总排名,分别实现三种需求。

那么,若要实现分类排名呢,比如说区分各课程进行排名?那么只需再增加一个自定义变量,用于记录前一个课程 cid 即可: 若当前分类信息与前一课程 cid 相同,则继续当前的排名处理(根据具体需求选择三种排名中的一种); 若当前分类与前一课程 cid 不同,则排名信息初始化,从 1 重新开始。

以相对复杂的“同分同名、跳级”为例,此时 SQL 语句为:

SELECT  sid, cid, 
    @totalRank := IF(cid=@preCid, @totalRank+1, 1),
    @curRank := IF(cid=@preCid, IF(score=@preScore, @curRank, @totalRank), 1) AS 'rank',
    @preScore := score,
    @preCid := cid
FROM 
    scores, (SELECT @curRank:=0, @totalRank:=0, @preScore:=NULL, @preCid:=NULL) tmp
ORDER BY 
    cid, score DESC

对各变量含义解释如下:

@totalRank 用于记录当前分类中的总排名,初始化为 0 @curRank 用于记录当前分类中的当前排名,初始化为 0 @preScore 用于记录上一个分数情况,初始化为 NULL @preCid 用于记录上一个课程 cid,初始化为 NULL

执行流程及条件判断为:

若当前 cid 与前一 cid 相同,表示是同一个分类,排名在之前排名基础增加,具体来说:

总排名每次 +1 若当前分数与前一分数相同,则当前排名不变;否则跳级到总排名 若当前 cid 与前一 cid 不同,表示开始新的课程排名,总排名和当前排名均初始化为 1

基于以上 SQL 语句,执行相同的任务,耗时仅需 0.09s,其效率相当于子查询最快速度 24s 的 266 倍,相当于自连接最快速度 27s 的 300 倍,其查询效率可见一斑。

另外,由于上述 SQL 语句不存在 where 约束条件,所以与是否建立索引无关。

MySQL8.0窗口函数

MySQL8.0 版本的一个重要更新就是增加了窗口函数,使得前面的分类排名需求变得异常简单。

与前述类似,不同的排名需求有不同的窗口函数,而且三个函数的命名也非常形象直观:

  • row_number(): 连续排名,排名即行号

  • dense_rank(): 同分同名,不跳级,致密排名,类似 1、2、2、3…… 这种,因为不跳级,所以比较"致密"

  • rank(): 同分同名,跳级,普通排名,类似 1、2、2、4…… 这种

其中,每个窗口函数函数又必须与 over() 函数配套使用,over() 函数中的参数主要包括 partion by 和 order by:

  • order by:与常规 SQL 语句中 order by 一致,表示按照某一字段进行排序,也区分 ASC 还是 DESC
  • partion by:用作分类依据,缺省时表示不分类,对所有记录排序;若指定某一字段,则表示在该字段间进行独立排序,跨字段重新开始

仍以之前的分课程排名需求为例,其 SQL 语句为:

SELECT 
    *, RANK() OVER(PARTITION BY cid ORDER BY score DESC) AS 'rank'
FROM 
    scores;

查询耗时 0.066s,比自定义变量实现的排名速度略高一点。同时,该排名方式也与索引无关。

将 RANK() 替换成另外两个窗口函数,可实现其他相应需求。

具体的窗口函数用法查看文章:https://blog.wangtwothree.com/database/147.html

总结

本文以对给定成绩表进行分课程排名为例,讲述了 4 种实现方案:

  • 子查询方案,通过嵌套 count() 函数实现,效率较低,创建有效索引可提升一定效率,仅支持"同分同名、跳级"排名需求
  • 自连接方案,与子查询类似,通过自连接和 count() 函数实现,效率较低,依赖于索引,也仅支持"同分同名、跳级"排名需求
  • 自定义变量方案,通过定义变量实现计数,效率很高,不依赖索引,且可以实现各种排名需求,任意版本通用
  • MySQL8.0 窗口函数,相当于对自定义变量方案的封装,效率最高,不依赖于索引,但 8.0 以前版本无法使用

实际上,在得到排名需求后,可进一步通过简单子查询实现查询分类 Top K 的任务需求。

via: 一文解决所有 MySQL 分类排名问题 https://mp.weixin.qq.com/s/1E3x6dRcav5oK50TISTLCw


×