每天進(jìn)步一點(diǎn)點(diǎn)――Linux下的磁盤緩存？

前段時(shí)間在開發(fā)一個(gè)使用SSD做緩存的系統(tǒng)，在高速寫入數(shù)據(jù)時(shí)會出現(xiàn)大量的磁盤緩存。太多的磁盤緩存如果沒有及時(shí)的寫入磁盤中，在機(jī)器出現(xiàn)問題時(shí)是非常危險(xiǎn)的，這樣會導(dǎo)致很多的數(shù)據(jù)丟失，但是如果實(shí)時(shí)的將數(shù)據(jù)刷入磁盤中，這樣寫入效率有太低了。為了弄明白linux系統(tǒng)的這種磁盤寫入特性，最近深入的學(xué)習(xí)了一下。 VFS（Virtual File System）的存在使得linux可以兼容不同的文件系統(tǒng)，例如ext3、ext4、xfs、ntfs等等，其不僅具有為所有的文件系統(tǒng)實(shí)現(xiàn)一個(gè)通用的外接口的作用，還具有另一個(gè)與系統(tǒng)性能相關(guān)的重要作用——緩存。VFS中引入了高速磁盤緩存的機(jī)制，這屬于一種軟件機(jī)制，允許內(nèi)核將原本存在磁盤上的某些信息保存在RAM中，以便對這些數(shù)據(jù)的進(jìn)一步訪問能快速進(jìn)行，而不必慢速訪問磁盤本身。高速磁盤緩存可大致分為以下三種：

目錄項(xiàng)高速緩存——主要存放的是描述文件系統(tǒng)路徑名的目錄項(xiàng)對象

索引節(jié)點(diǎn)高速緩存——主要存放的是描述磁盤索引節(jié)點(diǎn)的索引節(jié)點(diǎn)對象

頁高速緩存——主要存放的是完整的數(shù)據(jù)頁對象，每個(gè)頁所包含的數(shù)據(jù)一定屬于某個(gè)文件，同時(shí)，所有的文件讀寫操作都依賴于頁高速緩存。其是linux內(nèi)核所使用的主要磁盤高速緩存。 正是由于緩存的引入，所以VFS文件系統(tǒng)采用了文件數(shù)據(jù)延遲寫的技術(shù)，因此，如果在調(diào)用系統(tǒng)接口寫入數(shù)據(jù)時(shí)沒有使用同步寫模式，那么大多數(shù)據(jù)將會先保存在緩存中，待等到滿足某些條件時(shí)才將數(shù)據(jù)刷入磁盤里。

內(nèi)核是如何將數(shù)據(jù)刷入磁盤的呢？在看完以下兩點(diǎn)后就能得到答案。

1. 把臟頁寫入磁盤 正如我們所了解的，內(nèi)核不斷用包含塊設(shè)備數(shù)據(jù)的頁填充頁高速緩存。只要進(jìn)程修改了數(shù)據(jù)，相應(yīng)的頁就被標(biāo)記為臟頁，即把它的PG_dirty標(biāo)志位置。 Unix系統(tǒng)允許把臟緩沖區(qū)寫入塊設(shè)備的操作延遲執(zhí)行，因?yàn)檫@種策略可以顯著地提高系統(tǒng)的性能。對高速緩存中的頁的幾次寫操作可能只需對相應(yīng)的磁盤塊進(jìn)行一次緩慢的物理更新就可以滿足。此外，寫操作沒有讀操作那么緊迫，因?yàn)檫M(jìn)程通常是不會因?yàn)檠舆t寫而掛起，而大部分情況都因?yàn)檠舆t讀而掛起。正是由于延遲寫，使得任一物理塊設(shè)備平均為讀請求提供服務(wù)將多于寫請求。一個(gè)臟頁可能直到最后一刻（即直到系統(tǒng)關(guān)閉時(shí)）都一直逗留在主存中。然而，從延遲寫策略的局限性來看，它有兩個(gè)主要的缺點(diǎn)： 一、如果發(fā)生了硬件錯(cuò)誤或者電源掉電的情況，那么就無法再獲得RAM的內(nèi)容，因此，從系統(tǒng)啟動以來對文件進(jìn)行的很多修改就丟失了。 二、頁高速緩存的大小（由此存放它所需的RAM的大小）就可要很大——至少要與所訪問塊設(shè)備的大小不同。因此，在下列條件下把臟頁刷新（寫入）到磁盤：

頁高速緩存變得太滿，但還需要更多的頁，或者臟頁的數(shù)量已經(jīng)太多。

自從頁變成臟頁以來已過去太長時(shí)間。

進(jìn)程請求對塊設(shè)備或者特定文件任何待定的變化都進(jìn)行刷新。通過調(diào)用sync()、fsync()或者fdatasync()系統(tǒng)調(diào)用來實(shí)現(xiàn)。 緩沖區(qū)頁的引入是問題更加復(fù)雜。與每個(gè)緩沖區(qū)頁相關(guān)的緩沖區(qū)首部使內(nèi)核能夠了解每個(gè)獨(dú)立塊緩沖區(qū)的狀態(tài)。如果至少有一個(gè)緩沖區(qū)首部的PG_Dirty標(biāo)志被置位，就應(yīng)該設(shè)置相應(yīng)緩沖區(qū)頁的PG_dirty標(biāo)志。當(dāng)內(nèi)核選擇要刷新的緩沖區(qū)時(shí)，它掃描相應(yīng)的緩沖區(qū)首部，并只把臟塊的內(nèi)容有效的寫到磁盤。一旦內(nèi)核把緩沖區(qū)的所有臟頁刷新到磁盤，就把頁的PG_dirty標(biāo)志清0。

2. pdflush內(nèi)核線程 早期版本的linux使用bdfllush內(nèi)核線程系統(tǒng)地掃描頁高速緩存以搜索要刷新的臟頁，并且使用另一個(gè)內(nèi)核線程kupdate來保證所有的頁不會臟太長時(shí)間。linux 2.6用一組通用內(nèi)核線程pdflush替代上述兩個(gè)線程。這些內(nèi)核線程結(jié)構(gòu)靈活，它們作用于兩個(gè)參數(shù)：一個(gè)指向線程要執(zhí)行的函數(shù)的指針和一個(gè)函數(shù)要用的參數(shù)。系統(tǒng)中pdflush內(nèi)核線程的數(shù)量是要?jiǎng)討B(tài)調(diào)整的：pdflush線程太少時(shí)就創(chuàng)建，太多時(shí)就殺死。因?yàn)檫@些內(nèi)核線程所執(zhí)行的函數(shù)可以阻塞，所以創(chuàng)建多個(gè)而不是一個(gè)pdflush內(nèi)核線程可以改善系統(tǒng)性能。根據(jù)下面的原則控制pdflush線程的產(chǎn)生和消亡：

必須有至少兩個(gè)，最多八個(gè)pdflush內(nèi)核線程

如果最近一次pdflush變?yōu)榭臻e的時(shí)間超過了1s，就應(yīng)該刪除一個(gè)pdflush線程 所有的pdflush內(nèi)核線程都有pdflush_work描述符，其數(shù)據(jù)結(jié)構(gòu)如下：

類型 字段 說明 struct task_struct who 指向內(nèi)核線程描述符的指針 void (*) (unsigned long) fn 內(nèi)核線程所執(zhí)行的回調(diào)函數(shù) unsigned long arg0 給回調(diào)函數(shù)的參數(shù) struct list head list pdflush_list鏈表的鏈接 unsigned long when_i_went_to_sleep 當(dāng)內(nèi)核線程可用時(shí)的時(shí)間（以jiffies表示）

當(dāng)系統(tǒng)沒有要刷新的臟頁時(shí)，pdflush線程會自動處于睡眠狀態(tài)，最后由pdflush_operation()函數(shù)來喚醒。那么在這個(gè)過程中pdflush內(nèi)核線程主要完成了哪些工作呢？其中一些工作與臟數(shù)據(jù)的刷新有關(guān)。尤其是pdflush通常執(zhí)行下面的回調(diào)函數(shù)之一： 1. background_writeout(): 系統(tǒng)地掃描頁高速緩存以搜索要刷新的臟頁。

為了得到需要刷新的臟頁，就要徹底的搜索與在磁盤上有映像的索引節(jié)點(diǎn)相應(yīng)的所有address_space對象（是一棵搜索樹）。由于頁高速緩存可能有大量的頁，如果用一個(gè)單獨(dú)的執(zhí)行流來掃描整個(gè)高速緩存，會令CPU和磁盤長時(shí)間繁忙，因此，linux使用一種復(fù)雜的機(jī)制把對頁高速緩存的掃描劃分為幾個(gè)執(zhí)行流。當(dāng)內(nèi)存不足或者用戶顯式的（用戶態(tài)進(jìn)程發(fā)出sync()系統(tǒng)調(diào)用等）調(diào)用請求刷新操作時(shí)會執(zhí)行wakeup_bdflush()函數(shù)。wakeup_bdflush()函數(shù)會調(diào)用pdflush_operation()喚醒pdflush內(nèi)核線程，并委托它執(zhí)行回調(diào)函數(shù)background_writeout()。background_writeout()函數(shù)有效的從頁高速緩存中獲得指定數(shù)量的臟頁，并把它寫回磁盤。此外，執(zhí)行background_writeout()函數(shù)的pdflush內(nèi)核線程只有在滿足以下兩個(gè)條件下才能被喚醒：一是對頁高速緩存中的頁內(nèi)容進(jìn)行了修改，二是引起臟頁部分增加到超過某個(gè)臟背景閾值。背景閾值通常設(shè)置為系統(tǒng)中所有頁的10%，不過可以通過修改文件/proc/sys/vm/dirty_background_ratio來調(diào)整該值。