閃存系統(tǒng)可以將數(shù)據(jù)中心緩存的功耗降低90％

大多數(shù)現(xiàn)代網(wǎng)站將數(shù)據(jù)存儲在數(shù)據(jù)庫中，并且由于數(shù)據(jù)庫查詢相對較慢，因此大多數(shù)站點還維護所謂的緩存服務器，其列出了用于更快訪問的常見查詢的結(jié)果。用于諸如Google或Facebook等主要Web服務的數(shù)據(jù)中心可能有多達1,000個專用于緩存的服務器。

高速緩存服務器通常使用隨機存取存儲器(RAM)，這種存儲器快速但昂貴并且耗電。本周，在超大型數(shù)據(jù)庫國際會議上，來自麻省理工學院計算機科學與人工智能實驗室(CSAIL)的研究人員正在推出一種新的數(shù)據(jù)中心緩存系統(tǒng)，而不是使用閃存，這是大多數(shù)智能手機中使用的內(nèi)存類型。

每千兆字節(jié)的內(nèi)存，閃存消耗的能量約為RAM的5%，成本約為十分之一。它還具有大約100倍的存儲密度，這意味著可以將更多數(shù)據(jù)塞入更小的空間。除了降低成本和降低功耗之外，閃存緩存系統(tǒng)還可以顯著減少數(shù)據(jù)中心所需的緩存服務器數(shù)量。

閃存的缺點是它比RAM慢得多。“這就是難以置信的地方，”Arvind說，他是計算機科學工程的Charles和Jennifer Johnson教授，也是會議論文的高級作者。“人們說，'真的嗎?你可以用閃存做到這一點嗎?' 閃存中的訪問時間比DRAM [動態(tài)RAM]長10,000倍。“

但由于它與DRAM相關性較慢，因此閃存訪問仍然比人類對新感官刺激的反應快得多。用戶不會注意到需要花費0.0002秒處理的請求(通過互聯(lián)網(wǎng)進行典型的往返旅行時間)與需要0.0004秒的請求之間的區(qū)別，因為它涉及閃存查詢。

保持同步

更重要的問題是跟上充斥數(shù)據(jù)中心的要求。CSAIL研究人員的系統(tǒng)，名為BlueCache，通過使用“流水線”的通用計算機科學技術(shù)來做到這一點。在基于閃存的緩存服務器返回第一個查詢的結(jié)果到達它之前，它可以開始執(zhí)行接下來的10,000個查詢。第一個查詢可能需要200微秒才能處理，但對后續(xù)查詢的響應將以0.02微秒的間隔出現(xiàn)。

然而，即使使用流水線技術(shù)，CSAIL研究人員也必須部署一些巧妙的工程技巧，以使閃存緩存能夠與DRAM緩存競爭。在測試中，他們將BlueCache與可能被稱為基于閃存的緩存服務器的默認實現(xiàn)進行了比較，后者只是一個配置用于緩存的數(shù)據(jù)中心數(shù)據(jù)庫服務器。(雖然與DRAM相比速度較慢，但??閃存比磁性硬盤驅(qū)動器要快得多，而磁性硬盤驅(qū)動器幾乎在數(shù)據(jù)中心中取代了它。)BlueCache的速度是默認實現(xiàn)速度的4.2倍。

在報紙上加入Arvind是第一作者徐碩濤和他的麻省理工學院電氣工程與計算機科學研究生Sang-Woo Jun; 劉明，當工作完成時，他是麻省理工學院的研究生，現(xiàn)在在微軟研究院工作; Sungjin Lee，韓國大邱慶北科技學院計算機科學與工程系助理教授，曾在Arvind實驗室擔任博士后項目; 和Jamey Hicks，自由軟件架構(gòu)師和麻省理工學院的聯(lián)盟成員，負責軟件咨詢公司Accelerated Tech。

研究人員的第一個技巧是為每個BlueCache閃存緩存添加一點DRAM - 每百萬兆字節(jié)閃存幾兆字節(jié)。DRAM存儲一個表，該表將數(shù)據(jù)庫查詢與相應查詢結(jié)果的閃存地址配對。這不會使緩存查找更快，但它會檢測緩存未命中 - 尚未導入緩存的數(shù)據(jù)的識別 - 效率更高。

這一點DRAM不會影響系統(tǒng)的節(jié)能效果。實際上，由于其所有增加的效率，BlueCache消耗的功率僅為默認實現(xiàn)的4%。

工程效率

通常，緩存系統(tǒng)只有三個操作：從緩存中讀取值，將新值寫入緩存，以及從緩存中刪除值。正如默認實現(xiàn)所做的那樣，徐不是依靠軟件來執(zhí)行這些操作，而是為每個操作開發(fā)了專用硬件電路，從而提高了速度并降低了功耗。

在BlueCache服務器內(nèi)部，閃存通過稱為“總線”的線路連接到中央處理器，該線路與任何數(shù)據(jù)連接一樣，具有最大容量。BlueCache在將它們發(fā)送到內(nèi)存之前會積累足夠的查詢以耗盡該容量，從而確保系統(tǒng)始終盡可能高效地使用通信帶寬。

通過所有這些優(yōu)化，BlueCache能夠像基于DRAM的系統(tǒng)一樣高效地執(zhí)行寫操作。如果它檢索的每個查詢結(jié)果至少為8千字節(jié)，那么它在讀取操作時也同樣有效。(因為閃存會為任何請求返回至少8千字節(jié)的數(shù)據(jù)，因此對于非常小的查詢結(jié)果，效率會下降。)

與大多數(shù)數(shù)據(jù)中心緩存系統(tǒng)一樣，BlueCache是??一個所謂的鍵值存儲或KV存儲。在這種情況下，鍵是數(shù)據(jù)庫查詢，值是響應。

“由Arvind及其麻省理工學院團隊開發(fā)的基于閃存的KV商店架構(gòu)解決了許多限制當今企業(yè)系統(tǒng)利用閃存全部潛力的能力的問題，”數(shù)據(jù)中心性能和生態(tài)系統(tǒng)計劃主管Vijay Balakrishnan說道。在三星半導體的內(nèi)存解決方案實驗室。“這種類型的系統(tǒng)的可行性超出了緩存范圍，因為許多數(shù)據(jù)密集型應用程序使用基于KV的軟件堆棧，麻省理工學院團隊已經(jīng)證明可以將其淘汰。通過將可編程芯片與閃存集成并重寫軟件堆棧，已經(jīng)證明，完全可擴展的，性能增強的存儲技術(shù)，如本文所述，可以大大改善現(xiàn)有架構(gòu)。“