分布式計算Hadoop簡介

Hadoop是什么：Hadoop是一個開發(fā)和運行處理大規(guī)模數(shù)據(jù)的軟件平臺，是Appach的一個用java語言實現(xiàn)開源軟件框架，實現(xiàn)在大量計算機組成的集群中對海量數(shù)據(jù)進行分布式計算。

Hadoop框架中最核心設(shè)計就是：HDFS和MapReduce。HDFS提供了海量數(shù)據(jù)的存儲,MapReduce提供了對數(shù)據(jù)的計算。

數(shù)據(jù)在Hadoop中處理的流程可以簡單的按照下圖來理解：數(shù)據(jù)通過Haddop的集群處理后得到結(jié)果。

HDFS：Hadoop Distributed File System,Hadoop的分布式文件系統(tǒng)。

大文件被分成默認64M一塊的數(shù)據(jù)塊分布存儲在集群機器中。

如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機器中。

MapReduce：Hadoop為每一個input split創(chuàng)建一個task調(diào)用Map計算，在此task中依次處理此split中的一個個記錄(record),map會將結(jié)果以key--value的形式輸出,hadoop負責(zé)按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出，保存在HDFS上。

服務(wù)器租用/服務(wù)器托管中國五強！虛擬主機域名注冊頂級提供商！15年品質(zhì)保障！--億恩科技[ENKJ.COM]