簡(jiǎn)介 啟動(dòng)源碼分析 Zookeeper啟動(dòng)的主類(lèi)為QuorumPeerMain.java 。入口函數文為initializeAndRun，如下所示，在往下的核心函數為runFromConfig。 QuorumPeerMain main = new QuorumPeerMain(); try { main.initializeAndRun(args); } catch (IllegalArgumentException e) { // 啟動(dòng)異常處理。 } LOG.info("Exiting normally"); ServiceUtils.requestSystemExit(ExitCode.EXECUTION_FINISHED.getValue()); runFromConfig函數里面主要做了下面幾件事： 初始化log4j相關(guān)的jmx。 初始化監控相關(guān)組件。 初始化認證相關(guān)組件。 設置基礎配置信息。 啟動(dòng)Zookeeper。由quorumPeer.start(); 開(kāi)始。相關(guān)的類(lèi)為：QuorumPeer.java public void runFromConfig(Qu....

問(wèn)題現象 用idea 運行Zookeeper是報錯 com.codahale.metrics.Reservoir找不見(jiàn)。 問(wèn)題原因 Zookeeper-server下面的pom.xml 里面引用jar的時(shí)候加了<scope>provided</scope>導致IDEA加載不到依賴(lài)的包。所以只要將其注釋掉即可。 解決辦法 將Zookeeper-server下面的pom.xml里面的全部的<scope>provided</scope>注釋掉，重新編譯即可。

簡(jiǎn)介 distributedShell是Yarn自帶的應用程序，和MR類(lèi)似，當前工具可以用來(lái)對Yarn進(jìn)行壓測。 使用示例 參考命令如下： ./bin/hadoop jar ./share/hadoop/yarn/hadoop-yarn-applications-distributedshell-3.4.1.jar \ -jar ./share/hadoop/yarn/hadoop-yarn-applications-distributedshell-3.4.1.jar -shell_command \ '/bin/date' -num_containers 5 可以提交一個(gè)樣例作業(yè)到Yarn上面。 源碼閱讀 當前樣例的入口類(lèi)是org.apache.hadoop.yarn.applications.distributedshell.Client ，在pom文件里面默認定義了當前類(lèi)為主類(lèi)。所以在提交的時(shí)候可以不用指定主類(lèi)。 <plugin> <artifactId>maven-jar-plugin</artifactId> <execu....

背景 新建的HDFS使用web短上傳文件的時(shí)候報錯： Permission denied: user=dr.who, access=WRITE, inode="/":hadoop01 解決 在core-site.xml中增加下面配置,其中hadoop01為hdfs運行的用戶(hù)，修改完重啟hdfs即可。 <property> <name>hadoop.http.staticuser.user</name> <value>hadoop01</value> </property>

說(shuō)明 DistCp（分布式拷貝）是用于大規模集群內部和集群之間拷貝的工具。 它使用Map/Reduce實(shí)現文件分發(fā)，錯誤處理和恢復，以及報告生成。 它把文件和目錄的列表作為map任務(wù)的輸入，每個(gè)任務(wù)會(huì )完成源列表中部分文件的拷貝。 由于使用了Map/Reduce方法，這個(gè)工具在語(yǔ)義和執行上都會(huì )有特殊的地方。 這篇文檔會(huì )為常用DistCp操作提供指南并闡述它的工作模型。 源碼詳解 作業(yè)啟動(dòng) 作業(yè)的啟動(dòng)主要包含初始化和作業(yè)提交，在初始化階段主要是list左右需要拷貝的文件信息，根據文件信息構造split信息。 作業(yè)提交階段就是根據初始化階段構造的split信息，將作業(yè)提交到Yarn上面。 作業(yè)初始化 初始化階段主要是list左右需要拷貝的文件信息，根據文件信息構造split信息。 DistCp的入口函數是main函數，在main函數里面主要做了兩件事： 注冊Cleanup。 初始化和啟動(dòng)作業(yè)，核心處理函數為execute函數里面的createAndSubmitJob 創(chuàng )建Job對象,主要是指定Map的處理類(lèi)，InputFormat 和outputFormat 信息: Job job = ....

簡(jiǎn)介 HDFS作為一個(gè)分布式文件系統，只允許一個(gè)客戶(hù)端同時(shí)對一個(gè)文件進(jìn)行修改操作。租約就是為了實(shí)現獨占的寫(xiě)操作的機制。 HDFS租約的主要實(shí)現類(lèi)是LeaseManager。 Lease 的使用場(chǎng)景如下： 客戶(hù)端在申請創(chuàng )建新的文件或者向文件追加都會(huì )先向NameNode申請獲得inode或者最后一個(gè)塊的信息 在NameNode中FSNamesystem會(huì )調用recoverLeaseInternal檢查文件是否是UnderConstruction，是UnderConstruction的前提下，在leaseManager中是否這個(gè)client已經(jīng)持有租約，如果有則拋出已經(jīng)持有租約的異常 再檢查文件的原來(lái)的租約持有者的的租約是否超過(guò)了軟限制，如果超過(guò)了軟限制則執行租約恢復internalReleaseLease進(jìn)行租約恢復。 因為在文件是UnderConstruction前提下檢查，文件必定有一個(gè)租約持有者，所以，直接拋出已經(jīng)有另一個(gè)租約持有者的異常。 如果文件不是在UnderConstruction狀態(tài)，則直接為這個(gè)發(fā)起請求的客戶(hù)端構造租約，加入到LeaseManager的租約維護的集合中....

簡(jiǎn)介 hdfs提供了一種除了通過(guò)rpc的方式進(jìn)行文件操作的方式之外，還提供了http的方式對文件進(jìn)行操作的方式：webhdfs。支持HDFS 的完整FileSystem / FileContext接口。 其中Router和NameNode都支持了webhdfs的功能，具體實(shí)現有差別。 使用 文件系統URI與HTTP URL WebHDFS的文件系統方案為“ webhdfs：// ”。WebHDFS文件系統URI具有以下格式。 webhdfs://<主機>:<HTTP_PORT>/<PATH> 上面的WebHDFS URI對應于下面的HDFS URI。 hdfs://<主機>:<RPC_PORT>/<PATH> 在REST API中，在路徑中插入前綴“ /webhdfs/v1 ”，并在末尾附加查詢(xún)。因此，相應的HTTP URL具有以下格式。 http://<主機>:<HTTP_PORT>/webhdfs/v1/<PATH>?op=create 詳細可以參考：https://h....

Hadoop自帶的hadoop-sls只能用于壓測調度器，可在實(shí)際中影響ResourceManager性能的因素比較多，不能只看調度器。當前項目可構造海量的Fake NM節點(diǎn)，用于模擬線(xiàn)上RM的巨大壓力場(chǎng)景，進(jìn)行優(yōu)化。首先需要對NM進(jìn)行仿真。

Hadoop自帶的hadoop-sls只能用于壓測調度器，可在實(shí)際中影響ResourceManager性能的因素比較多，不能只看調度器。 當前項目可構造海量的Fake NM節點(diǎn)，用于模擬線(xiàn)上RM的巨大壓力場(chǎng)景，進(jìn)行優(yōu)化。 詳細參見(jiàn)：https://github.com/zeekling/yarnRmTester

Mapreduce作業(yè)啟動(dòng)源碼解析，從源碼開(kāi)始理解Mapreduce。