閃存系統(tǒng)可以將數(shù)據(jù)中心緩存的功耗降低90％

大多數(shù)現(xiàn)代網(wǎng)站將數(shù)據(jù)存儲(chǔ)在數(shù)據(jù)庫(kù)中，并且由于數(shù)據(jù)庫(kù)查詢(xún)相對(duì)較慢，因此大多數(shù)站點(diǎn)還維護(hù)所謂的緩存服務(wù)器，其列出了用于更快訪(fǎng)問(wèn)的常見(jiàn)查詢(xún)的結(jié)果。用于諸如Google或Facebook等主要Web服務(wù)的數(shù)據(jù)中心可能有多達(dá)1,000個(gè)專(zhuān)用于緩存的服務(wù)器。

高速緩存服務(wù)器通常使用隨機(jī)存取存儲(chǔ)器(RAM)，這種存儲(chǔ)器快速但昂貴并且耗電。本周，在超大型數(shù)據(jù)庫(kù)國(guó)際會(huì)議上，來(lái)自麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)的研究人員正在推出一種新的數(shù)據(jù)中心緩存系統(tǒng)，而不是使用閃存，這是大多數(shù)智能手機(jī)中使用的內(nèi)存類(lèi)型。

每千兆字節(jié)的內(nèi)存，閃存消耗的能量約為RAM的5%，成本約為十分之一。它還具有大約100倍的存儲(chǔ)密度，這意味著可以將更多數(shù)據(jù)塞入更小的空間。除了降低成本和降低功耗之外，閃存緩存系統(tǒng)還可以顯著減少數(shù)據(jù)中心所需的緩存服務(wù)器數(shù)量。

閃存的缺點(diǎn)是它比RAM慢得多。“這就是難以置信的地方，”Arvind說(shuō)，他是計(jì)算機(jī)科學(xué)工程的Charles和Jennifer Johnson教授，也是會(huì)議論文的高級(jí)作者。“人們說(shuō)，'真的嗎?你可以用閃存做到這一點(diǎn)嗎?' 閃存中的訪(fǎng)問(wèn)時(shí)間比DRAM [動(dòng)態(tài)RAM]長(zhǎng)10,000倍。“

但由于它與DRAM相關(guān)性較慢，因此閃存訪(fǎng)問(wèn)仍然比人類(lèi)對(duì)新感官刺激的反應(yīng)快得多。用戶(hù)不會(huì)注意到需要花費(fèi)0.0002秒處理的請(qǐng)求(通過(guò)互聯(lián)網(wǎng)進(jìn)行典型的往返旅行時(shí)間)與需要0.0004秒的請(qǐng)求之間的區(qū)別，因?yàn)樗婕伴W存查詢(xún)。

保持同步

更重要的問(wèn)題是跟上充斥數(shù)據(jù)中心的要求。CSAIL研究人員的系統(tǒng)，名為BlueCache，通過(guò)使用“流水線(xiàn)”的通用計(jì)算機(jī)科學(xué)技術(shù)來(lái)做到這一點(diǎn)。在基于閃存的緩存服務(wù)器返回第一個(gè)查詢(xún)的結(jié)果到達(dá)它之前，它可以開(kāi)始執(zhí)行接下來(lái)的10,000個(gè)查詢(xún)。第一個(gè)查詢(xún)可能需要200微秒才能處理，但對(duì)后續(xù)查詢(xún)的響應(yīng)將以0.02微秒的間隔出現(xiàn)。

然而，即使使用流水線(xiàn)技術(shù)，CSAIL研究人員也必須部署一些巧妙的工程技巧，以使閃存緩存能夠與DRAM緩存競(jìng)爭(zhēng)。在測(cè)試中，他們將BlueCache與可能被稱(chēng)為基于閃存的緩存服務(wù)器的默認(rèn)實(shí)現(xiàn)進(jìn)行了比較，后者只是一個(gè)配置用于緩存的數(shù)據(jù)中心數(shù)據(jù)庫(kù)服務(wù)器。(雖然與DRAM相比速度較慢，但??閃存比磁性硬盤(pán)驅(qū)動(dòng)器要快得多，而磁性硬盤(pán)驅(qū)動(dòng)器幾乎在數(shù)據(jù)中心中取代了它。)BlueCache的速度是默認(rèn)實(shí)現(xiàn)速度的4.2倍。

在報(bào)紙上加入Arvind是第一作者徐碩濤和他的麻省理工學(xué)院電氣工程與計(jì)算機(jī)科學(xué)研究生Sang-Woo Jun; 劉明，當(dāng)工作完成時(shí)，他是麻省理工學(xué)院的研究生，現(xiàn)在在微軟研究院工作; Sungjin Lee，韓國(guó)大邱慶北科技學(xué)院計(jì)算機(jī)科學(xué)與工程系助理教授，曾在Arvind實(shí)驗(yàn)室擔(dān)任博士后項(xiàng)目; 和Jamey Hicks，自由軟件架構(gòu)師和麻省理工學(xué)院的聯(lián)盟成員，負(fù)責(zé)軟件咨詢(xún)公司Accelerated Tech。

研究人員的第一個(gè)技巧是為每個(gè)BlueCache閃存緩存添加一點(diǎn)DRAM - 每百萬(wàn)兆字節(jié)閃存幾兆字節(jié)。DRAM存儲(chǔ)一個(gè)表，該表將數(shù)據(jù)庫(kù)查詢(xún)與相應(yīng)查詢(xún)結(jié)果的閃存地址配對(duì)。這不會(huì)使緩存查找更快，但它會(huì)檢測(cè)緩存未命中 - 尚未導(dǎo)入緩存的數(shù)據(jù)的識(shí)別 - 效率更高。

這一點(diǎn)DRAM不會(huì)影響系統(tǒng)的節(jié)能效果。實(shí)際上，由于其所有增加的效率，BlueCache消耗的功率僅為默認(rèn)實(shí)現(xiàn)的4%。

工程效率

通常，緩存系統(tǒng)只有三個(gè)操作：從緩存中讀取值，將新值寫(xiě)入緩存，以及從緩存中刪除值。正如默認(rèn)實(shí)現(xiàn)所做的那樣，徐不是依靠軟件來(lái)執(zhí)行這些操作，而是為每個(gè)操作開(kāi)發(fā)了專(zhuān)用硬件電路，從而提高了速度并降低了功耗。

在BlueCache服務(wù)器內(nèi)部，閃存通過(guò)稱(chēng)為“總線(xiàn)”的線(xiàn)路連接到中央處理器，該線(xiàn)路與任何數(shù)據(jù)連接一樣，具有最大容量。BlueCache在將它們發(fā)送到內(nèi)存之前會(huì)積累足夠的查詢(xún)以耗盡該容量，從而確保系統(tǒng)始終盡可能高效地使用通信帶寬。

通過(guò)所有這些優(yōu)化，BlueCache能夠像基于DRAM的系統(tǒng)一樣高效地執(zhí)行寫(xiě)操作。如果它檢索的每個(gè)查詢(xún)結(jié)果至少為8千字節(jié)，那么它在讀取操作時(shí)也同樣有效。(因?yàn)殚W存會(huì)為任何請(qǐng)求返回至少8千字節(jié)的數(shù)據(jù)，因此對(duì)于非常小的查詢(xún)結(jié)果，效率會(huì)下降。)

與大多數(shù)數(shù)據(jù)中心緩存系統(tǒng)一樣，BlueCache是??一個(gè)所謂的鍵值存儲(chǔ)或KV存儲(chǔ)。在這種情況下，鍵是數(shù)據(jù)庫(kù)查詢(xún)，值是響應(yīng)。

“由Arvind及其麻省理工學(xué)院團(tuán)隊(duì)開(kāi)發(fā)的基于閃存的KV商店架構(gòu)解決了許多限制當(dāng)今企業(yè)系統(tǒng)利用閃存全部潛力的能力的問(wèn)題，”數(shù)據(jù)中心性能和生態(tài)系統(tǒng)計(jì)劃主管Vijay Balakrishnan說(shuō)道。在三星半導(dǎo)體的內(nèi)存解決方案實(shí)驗(yàn)室。“這種類(lèi)型的系統(tǒng)的可行性超出了緩存范圍，因?yàn)樵S多數(shù)據(jù)密集型應(yīng)用程序使用基于KV的軟件堆棧，麻省理工學(xué)院團(tuán)隊(duì)已經(jīng)證明可以將其淘汰。通過(guò)將可編程芯片與閃存集成并重寫(xiě)軟件堆棧，已經(jīng)證明，完全可擴(kuò)展的，性能增強(qiáng)的存儲(chǔ)技術(shù)，如本文所述，可以大大改善現(xiàn)有架構(gòu)。“