Changes between Version 21 and Version 22 of jazz/Hadoop_Lab3
- Timestamp:
- Mar 28, 2009, 11:36:49 AM (16 years ago)
Legend:
- Unmodified
- Added
- Removed
- Modified
-
jazz/Hadoop_Lab3
v21 v22 17 17 * 這個實做會架設運作在叢集環境上的Hadoop,因此若是你的電腦還存在著之前的實做一的環境,請先作step 0,以移除掉之前的設定。 18 18 19 * 以下 node01代表你Node 1 的ip位址,node02為你Node 2 的ip位址,請查清楚之後作設定19 * 以下pc001代表你Node 1 的ip位址,pc002為你Node 2 的ip位址,請查清楚之後作設定 20 20 21 21 * 為了簡化操作步驟,'''大部分的指令在Node 1 執行即可,不過step2 的安裝java則需要在Node 2 上實機操作喔!''' … … 50 50 {{{ 51 51 ~$ sudo su - 52 ~# echo "192.168.100.1 node01" >> /etc/hosts53 ~# echo "192.168.100.2 node02" >> /etc/hosts52 ~# echo "192.168.100.1 pc001" >> /etc/hosts 53 ~# echo "192.168.100.2 pc002" >> /etc/hosts 54 54 }}} 55 55 … … 69 69 ~$ ssh-keygen -t rsa -f ~/.ssh/id_rsa -P "" 70 70 ~$ cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys 71 ~$ scp -r ~/.ssh node02:~/72 ~$ ssh node0271 ~$ scp -r ~/.ssh pc002:~/ 72 ~$ ssh pc002 73 73 ~$ alias ssh='ssh -o "StrictHostKeyChecking no"' 74 ~$ ssh node0174 ~$ ssh pc001 75 75 ~$ exit 76 76 ~$ exit … … 137 137 <property> 138 138 <name>fs.default.name</name> 139 <value>hdfs:// node01:9000/</value>139 <value>hdfs://pc001:9000/</value> 140 140 <description> </description> 141 141 </property> 142 142 <property> 143 143 <name>mapred.job.tracker</name> 144 <value> node02:9001</value>144 <value>pc002:9001</value> 145 145 <description> </description> 146 146 </property> … … 153 153 }}} 154 154 * 注意! 我們多加了一個參數hadoop.tmp.dir,讓預設的中介資料存放在/tmp/hadoop/ 而不是/tmp/ 下,更多內容可以看conf/hadoop-default.xml 155 * 注意!fs.default.name = hdfs:// node01:9000/ ;而mapred.job.tracker = node02:9001,看出差異了嗎!一個有指hdfs://,一個沒有,重要!易混淆。155 * 注意!fs.default.name = hdfs://pc001:9000/ ;而mapred.job.tracker = pc002:9001,看出差異了嗎!一個有指hdfs://,一個沒有,重要!易混淆。 156 156 157 157 == step 6. 設定masters及slaves == … … 165 165 {{{ 166 166 #!sh 167 node01168 node02167 pc001 168 pc002 169 169 }}} 170 170 … … 173 173 * 在Node 1 上對遠端Node 2 作開資料夾/opt/hadoop及權限設定 174 174 {{{ 175 /opt/hadoop$ ssh node02 "sudo mkdir /opt/hadoop"176 /opt/hadoop$ ssh node02 "sudo chown -R hadooper:hadooper /opt/hadoop"175 /opt/hadoop$ ssh pc002 "sudo mkdir /opt/hadoop" 176 /opt/hadoop$ ssh pc002 "sudo chown -R hadooper:hadooper /opt/hadoop" 177 177 }}} 178 178 179 179 * 複製Node 1 的hadoop資料夾到Node 2 上 180 180 {{{ 181 /opt/hadoop$ scp -r /opt/hadoop/* node02:/opt/hadoop/181 /opt/hadoop$ scp -r /opt/hadoop/* pc002:/opt/hadoop/ 182 182 }}} 183 183 … … 196 196 /************************************************************ 197 197 STARTUP_MSG: Starting NameNode 198 STARTUP_MSG: host = node02198 STARTUP_MSG: host = pc002 199 199 STARTUP_MSG: args = [-format] 200 200 STARTUP_MSG: version = 0.18.3 … … 208 208 09/03/23 20:19:47 INFO dfs.NameNode: SHUTDOWN_MSG: 209 209 /************************************************************ 210 SHUTDOWN_MSG: Shutting down NameNode at node02210 SHUTDOWN_MSG: Shutting down NameNode at pc002 211 211 ************************************************************/ 212 212 }}} … … 224 224 225 225 ------ 226 * http:// node01:50070/ - Hadoop DFS 狀態226 * http://pc001:50070/ - Hadoop DFS 狀態 227 227 * [[Image(datanode.png)]] 228 228 ------ 229 229 230 * ps: 然而JobTracker還沒啟動,因此 http:// node02:50030/ 網頁無法顯示230 * ps: 然而JobTracker還沒啟動,因此 http://pc002:50030/ 網頁無法顯示 231 231 232 232 * bin/start-mapred.sh腳本會參照jobtracker上${HADOOP_CONF_DIR}/slaves文件的內容,在所有列出的slave上啟動tasktracker。 … … 235 235 236 236 {{{ 237 /opt/hadoop$ ssh node02 "/opt/hadoop/bin/start-mapred.sh"237 /opt/hadoop$ ssh pc002 "/opt/hadoop/bin/start-mapred.sh" 238 238 }}} 239 239 240 240 * 啟動之後, jobtracker也正常運作囉! 241 241 ------ 242 * http:// node02:50030/ - Hadoop 管理介面242 * http://pc002:50030/ - Hadoop 管理介面 243 243 * [[Image(job.png)]] 244 244 ------