在日常查詢中,索引或其他數據查找的方法可能不是查詢執行中最高昂的部分,例如:MySQLGROUPBY可能負責查詢執行時間90%還多。MySQL執行GROUPBY時的主要復雜性是計算GROUPBY語句中的聚合函數。UDF聚合函數是一個接一個地獲得構成單個組的所有值。這樣,它可以在移動到另一個組之前計算單個組的聚合函數值。當然,問題在于,在大多數情況下,源數據值不會被分組。來自各種組的值在處理期間彼此跟隨。因此,我們需要一個特殊的步驟。
處理MySQLGROUPBY讓我們看看之前看過的同一張table:mysql>showcreatetabletblG***************************1.row***************************Table:tblCreateTable:CREATETABLE`tbl`(`id`int(11)NOTNULLAUTO_INCREMENT,`k`int(11)NOTNULLDEFAULT'0',`g`int(10)unsignedNOTNULL,PRIMARYKEY(`id`),KEY`k`(`k`))ENGINE=InnoDBAUTO_INCREMENT=2340933DEFAULTCHARSET=latin11rowinset(0.00sec)
并且以不同方式執行相同的GROUPBY語句:
1、MySQL中的IndexOrderedGROUPBY
mysql>selectk,count(*)cfromtblgroupbykorderbyklimit5;
+---+---+
k|c
+---+---+
2|3
4|1
5|2
8|1
9|1
+---+---+
5rowsinset(0.00sec)
mysql>explainselectk,count(*)cfromtblgroupbykorderbyklimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:index
possible_keys:k
key:k
key_len:4
ref:NULL
rows:5
filtered:100.00
Extra:Usingindex
1rowinset,1warning(0.00sec)
- 在這種情況下,我們在GROUPBY的列上有一個索引。這樣,我們可以逐組掃描數據并動態執行GROUPBY(低成本)。當我們使用LIMIT限制我們檢索的組的數量或使用“覆蓋索引”時,特別有效,因為順序索引掃描是一種非??焖俚牟僮?。
- 2、MySQL中的外部排序GROUPBY
mysql>explainselectSQL_BIG_RESULTg,count(*)cfromtblgroupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:ALL
possible_keys:NULL
key:NULL
key_len:NULL
ref:NULL
rows:998490
filtered:100.00
Extra:Usingfilesort
1rowinset,1warning(0.00sec)
mysql>selectSQL_BIG_RESULTg,count(*)cfromtblgroupbyglimit5;
+---+---+
g|c
+---+---+
0|1
1|2
4|1
5|1
6|2
+---+---+
5rowsinset(0.88sec)
- 如果我們沒有允許我們按組順序掃描數據的索引,我們可以通過外部排序(在MySQL中也稱為“filesort”)來獲取數據。你可能會注意到我在這里使用SQL_BIG_RESULT提示來獲得這個計劃。沒有它,MySQL在這種情況下不會選擇這個計劃。
- 3、MySQL中的臨時表GROUPBY
mysql>explainselectg,sum(g)sfromtblgroupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:ALL
possible_keys:NULL
key:NULL
key_len:NULL
ref:NULL
rows:998490
filtered:100.00
Extra:Usingtemporary
1rowinset,1warning(0.00sec)
mysql>selectg,sum(g)sfromtblgroupbygorderbynulllimit5;
+---+------+
g|s
+---+------+
0|0
1|2
4|4
5|5
6|12
+---+------+
5rowsinset(7.75sec)
- 在這種情況下,MySQL也會進行全表掃描。但它不是運行額外的排序傳遞,而是創建一個臨時表。此臨時表每組包含一行,并且對于每個傳入行,將更新相應組的值。很多更新!雖然這在內存中可能是合理的,但如果結果表太大以至于更新將導致大量磁盤IO,則會變得非常昂貴。在這種情況下,外部分揀計劃通常更好。請注意,雖然MySQL默認選擇此計劃用于此用例,但如果我們不提供任何提示,它幾乎比我們使用SQL_BIG_RESULT提示的計劃慢10倍。您可能會注意到我在此查詢中添加了“ORDERBYNULL”。這是為了向您展示“清理”臨時表的唯一計劃。沒有它,我們得到這個計劃:mysql>explainselectg,sum(g)sfromtblgroupbyglimit5G***************************1.row***************************id:1select_type:SIMPLEtable:tblpartitions:NULLtype:ALLpossible_keys:NULLkey:NULLkey_len:NULLref:NULLrows:998490filtered:100.00Extra:Usingtemporary;Usingfilesort1rowinset,1warning(0.00sec)
- 在其中,我們獲得了temporary和filesort“兩最糟糕的”提示。MySQL5.7總是返回按組順序排序的GROUPBY結果,即使查詢不需要它(這可能需要昂貴的額外排序傳遞)。ORDERBYNULL表示應用程序不需要這個。您應該注意,在某些情況下-例如使用聚合函數訪問不同表中的列的JOIN查詢-使用GROUPBY的臨時表可能是唯一的選擇。
- 4、MySQL中的索引基于跳過掃描的GROUPBY前三個GROUPBY執行方法適用于所有聚合函數。然而,其中一些人有第四種方法。
mysql>explainselectk,max(id)fromtblgroupbykG
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:range
possible_keys:k
key:k
key_len:4
ref:NULL
rows:2
filtered:100.00
Extra:Usingindexforgroup-by
1rowinset,1warning(0.00sec)
mysql>selectk,max(id)fromtblgroupbyk;
+---+---------+
k|max(id)
+---+---------+
0|2340920
1|2340916
2|2340932
3|2340928
4|2340924
+---+---------+
5rowsinset(0.00sec)
- 此方法僅適用于非常特殊的聚合函數:MIN()和MAX()。這些并不需要遍歷組中的所有行來計算值。他們可以直接跳轉到組中的最小或最大組值(如果有這樣的索引)。如果索引僅建立在(K)列上,如何找到每個組的MAX(ID)值?這是一個InnoDB表。記住InnoDB表有效地將PRIMARYKEY附加到所有索引。(K)變為(K,ID),允許我們對此查詢使用Skip-Scan優化。僅當每個組有大量行時才會啟用此優化。否則,MySQL更傾向于使用更傳統的方法來執行此查詢(如方法#1中詳述的索引有序GROUPBY)。雖然我們使用MIN()/MAX()聚合函數,但其他優化也適用于它們。例如,如果您有一個沒有GROUPBY的聚合函數(實際上所有表都有一個組),MySQL在統計分析階段從索引中獲取這些值,并避免在執行階段完全讀取表:mysql>explainselectmax(k)fromtblG***************************1.row***************************id:1select_type:SIMPLEtable:NULLpartitions:NULLtype:NULLpossible_keys:NULLkey:NULLkey_len:NULLref:NULLrows:NULLfiltered:NULLExtra:Selecttablesoptimizedaway1rowinset,1warning(0.00sec)
- 我們已經研究了MySQL執行GROUPBY的四種方式。為簡單起見,我在整個表上使用了GROUPBY,沒有應用過濾。當您有WHERE子句時,相同的概念適用:mysql>explainselectg,sum(g)sfromtblwherek>4groupbygorderbyNULLlimit5G***************************1.row***************************id:1select_type:SIMPLEtable:tblpartitions:NULLtype:rangepossible_keys:kkey:kkey_len:4ref:NULLrows:1filtered:100.00Extra:Usingindexcondition;Usingtemporary1rowinset,1warning(0.00sec)
- 對于這種情況,我們使用K列上的范圍進行數據過濾/查找,并在有臨時表時執行GROUPBY。在某些情況下,方法不會發生沖突。但是,在其他情況下,我們必須選擇使用GROUPBY的一個索引或其他索引進行過濾:
mysql>altertabletbladdkey(g);
QueryOK,0rowsaffected(4.17sec)
Records:0Duplicates:0Warnings:0
mysql>explainselectg,sum(g)sfromtblwherek>1groupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:index
possible_keys:k,g
key:g
key_len:4
ref:NULL
rows:16
filtered:50.00
Extra:Usingwhere
1rowinset,1warning(0.00sec)
mysql>explainselectg,sum(g)sfromtblwherek>4groupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:range
possible_keys:k,g
key:k
key_len:4
ref:NULL
rows:1
filtered:100.00
Extra:Usingindexcondition;Usingtemporary;Usingfilesort
1rowinset,1warning(0.00sec)
- 根據此查詢中使用的特定常量,我們可以看到我們對GROUPBY使用索引順序掃描(并從索引中“放棄”以解析WHERE子句),或者使用索引來解析WHERE子句(但使用臨時表來解析GROUPBY)。根據我的經驗,這就是MySQLGROUPBY并不總是做出正確選擇的地方。您可能需要使用FORCEINDEX以您希望的方式執行查詢。
如果您有少量組,并且沒有覆蓋索引,索引順序掃描可能會導致大量IO。所以這可能不是最優化的計劃。
一般來說,MySQL只有在我們擁有大量組時才更喜歡使用這個計劃,因為在這種情況下,排序比擁有臨時表更有效(我們將在下面討論)。
如果要強制MySQL使用為GROUPBY執行臨時表的計劃,可以使用SQL_SMALL_RESULT提示。
過濾和分組