百度陳尚義：百度新存儲系統(tǒng)應(yīng)對大數(shù)據(jù)挑戰(zhàn)

　　陳尚義在論壇上作題為“百度大數(shù)據(jù)挑戰(zhàn)及應(yīng)對”的主題演講，從百度的數(shù)據(jù)特點(diǎn)及對存儲系統(tǒng)的要求出發(fā)，介紹了百度存儲系統(tǒng)的先進(jìn)性。

　　“百度儲存和處理的數(shù)據(jù)主要包括：網(wǎng)頁和超鏈的數(shù)據(jù)量、日志、數(shù)據(jù)倉庫、廣告數(shù)據(jù)、UGC(用戶創(chuàng)造的數(shù)據(jù))” 陳尚義紹了百度的數(shù)據(jù)特點(diǎn)，并用“海量”和“復(fù)雜”來形容百度數(shù)據(jù)特點(diǎn)。“百度擁有的數(shù)據(jù)總量上百PB，日處理量達(dá)幾十PB，且呈現(xiàn)高速增長的態(tài)勢。而且，這些數(shù)據(jù)的特點(diǎn)是，結(jié)構(gòu)化與非結(jié)構(gòu)化并存，系統(tǒng)數(shù)據(jù)對數(shù)據(jù)一致性要求強(qiáng)弱程度不同，用戶對數(shù)據(jù)的訪問行為存在不確定性，即在毫無征兆的情況下，對某些信息進(jìn)行突發(fā)式訪問等。這些特點(diǎn)使得百度要應(yīng)對復(fù)雜的存儲要求。”

　　如何應(yīng)對這樣的挑戰(zhàn)，陳尚義通過解析百度的云儲存架構(gòu)及優(yōu)勢，為與會嘉賓解開了疑惑。其中，陳尚義特別指出，百度對存儲系統(tǒng)做了全局優(yōu)化，包括針對訪問模式的優(yōu)化、針對硬件特性的優(yōu)化、依訪問模式定制硬件、提升單機(jī)性能、與CDN系統(tǒng)實(shí)現(xiàn)更優(yōu)結(jié)合。

　　“比如，在硬件特性優(yōu)化方面，百度對單機(jī)的硬件(CPU、內(nèi)存、硬盤、SSD等)進(jìn)行合理配比，以實(shí)現(xiàn)單機(jī)資源的充分利用。”陳尚義解釋說，“又如，在與CDN系統(tǒng)實(shí)現(xiàn)更優(yōu)結(jié)合方面，百度將最常被訪問的數(shù)據(jù)自動緩存到距離用戶最近的數(shù)據(jù)中心。”

　　在介紹百度儲存優(yōu)勢時，陳尚義還介紹了李彥宏發(fā)明的超鏈分析技術(shù)。“這一技術(shù)早在1999年就被授予了專利，比Google創(chuàng)始人佩奇申請的Pagerank專利還早，是搜索引擎產(chǎn)業(yè)發(fā)展的基石。原中國計(jì)算機(jī)學(xué)會理事長、中國工程院院士李國杰先生稱贊‘李彥宏在推動計(jì)算技術(shù)和產(chǎn)業(yè)的發(fā)展中做出了可載入史冊的歷史性貢獻(xiàn)’。”

服務(wù)器租用/服務(wù)器托管中國五強(qiáng)！虛擬主機(jī)域名注冊頂級提供商！15年品質(zhì)保障！--億恩科技[ENKJ.COM]