= 2012-10-02 = [[PageOutline]] {{{ #!html
快速搭建 Hadoop 單機開發環境與雲端叢集架設實務
}}} = 演講摘要 = {{{ #!text Hadoop經過七年的開發,終於在 2011 年 12 月釋出 1.0 版本,象徵著 Hadoop 已成熟到能支持企業營運需求。 即便如此,目前 Hadoop 最令人怯步的關鍵在於「不夠友善」。初學者往往第一個要面對的問題是缺乏佈建叢集 所需的背景知識。 在台灣,多數資訊從業人員仍以 Windows 為主要的作業系統。本次演講將跟各位聽眾分享一個名為 Hadoop4Win 的懶人包安裝程式,除了可以作為學習 Hadoop 生態系的第一步外,也可以作為開發 Hadoop 程式的實驗環境。 其次將跟各位介紹如何使用 hiCloud 搭建 Hadoop 叢集。 }}} = 進行方式 = * 以下的展示,將多數跑在 hiCloud 上。為了避免有圖利 hiCloud 之嫌,最後會跟各位介紹國網中心的 [http://easycloud.nchc.org.tw EasyCloud] 服務。 * 不過這裡要先宣告的是講者跟 hiCloud 沒有利害關係,純粹只是想讓大家有一個標準化的平台可以去試用一些軟體。 * 其次,在試用過 hicloud 之後,我們學習到要提供雲端服務並不容易,同樣地使用雲端服務也不容易。 * 對於開發者來說,若能夠更'''自動化地進行用 Script 設定好虛擬機器''',那才是真正好用的雲端服務。 * 如果您想看較詳盡的文字說明,請參考 [raw-attachment:wiki:jazz/hidoop:12-07-24_hiCloud_Hadoop.pdf 實作步驟簡介文章 PDF] == Background : 申請 hicloud == [[PageOutline]] * 首先連到 http://hicloud.hinet.net * [[Image(jazz/12-10-02:Fig_15-1.png)]] * [[Image(jazz/12-10-02:Fig_15-2.png)]] * 若您是中華電信用戶,您應該可以用 hinet 帳號或者手機登入。 * 若您不是中華電信用戶,請點選「加入會員」 * [[Image(jazz/12-10-02:Fig_16.png)]] * 如果您看不到操作介面,請安裝 Flash * Jazz: '''非常不開放的架構,採用 Flash 撰寫,效率很差,也阻礙其他人撰寫自動化程式!!!''' * 接著,請點選「雲運算」 * [[Image(jazz/12-10-02:Fig_17.png)]] * 點選左方「虛擬主機」 * [[Image(jazz/12-10-02:Fig_18.png)]] * 點選左側上方「申請」 * [[Image(jazz/12-10-02:Fig_19.png)]] * 選擇要申請的虛擬主機類型,首先,我這次要選取的是 Windows,因為要展示 Hadoop4Win。 * [[Image(jazz/12-10-02:Fig_20.png)]] == Demo 1 : hadoop4win == [[PageOutline]] * 現在我們啟動了一台 Windows 2003 的虛擬機器。(這樣才不會搞爛大會的公用電腦,愛怎麼操就用力操吧~) * 因為 IE 版本的問題,軟體不太好從 SourceForge 下載,所以我把程式放在底下的 URL * http://cloud.nchc.org.tw/~jazz/exe * 我們下載 hadoop4win 0.1.5 的版本,以及 pietty SSH Client 後續我們展示會用到。 * [[Image(jazz/12-10-02:Fig_01.jpg)]] * [[Image(jazz/12-10-02:Fig_02.jpg)]] * [[Image(jazz/12-10-02:Fig_03.jpg)]] * [[Image(jazz/12-10-02:Fig_04.jpg)]] * [[Image(jazz/12-10-02:Fig_05.jpg)]] * [[Image(jazz/12-10-02:Fig_06.jpg)]] * [[Image(jazz/12-10-02:Fig_07.jpg)]] * 在安裝過程中,由於 Hadoop 會嘗試開啟一些連線埠(Port),您必須允許開啟。 * [[Image(jazz/12-10-02:Fig_09.png)]] * 若安裝完成,您可以在「開始」選單看到 hadoop4win 的相關選項: * [[Image(jazz/12-10-02:Fig_08.jpg)]] * 由於 Cygwin 的一個 Bug ,我們必須將 Java Process 開在另一個視窗,請先點選 start-hadoop * [[Image(jazz/12-10-02:Fig_10.png,width=800)]] * 檢驗系統是否正常開啟的方法是連線 http://localhost:50070 跟 http://localhost:50030 * [[Image(jazz/12-10-02:Fig_11.png,width=800)]] * [[Image(jazz/12-10-02:Fig_12.png,width=800)]] * 確認系統運行正常後,您可以點選 hadoop4win,於命令列中執行以下指令: {{{ jps }}} {{{ hadoop fs -ls }}} * [[Image(jazz/12-10-02:Fig_13.png,width=800)]] == Demo 2 : hicloud-hadoop == * http://github.com/jazzwang/hicloud-hadoop * [[Image(jazz/12-10-02:Fig_21.png)]] * [[Image(jazz/12-10-02:Fig_22.png)]] * [[Image(jazz/12-10-02:Fig_23.png)]] == Demo 3 : Ezilla == * http://easycloud.nchc.org.tw 申請帳號