使用 Bigtable 執行 Hadoop MapReduce 工作
本範例使用 Hadoop 執行簡單的 MapReduce 工作,以計算文字檔中某個字詞的出現次數。MapReduce 工作會使用 Bigtable 儲存對應作業的結果。這個範例的程式碼位於 GitHub 存放區 GoogleCloudPlatform/cloud-bigtable-examples 的 java/dataproc-wordcount 目錄中。
設定驗證方法
如要在本機開發環境中使用本頁的 Java 範例,請安裝並初始化 gcloud CLI,然後使用使用者憑證設定應用程式預設憑證。
-
安裝 Google Cloud CLI。
-
設定 gcloud CLI,使用您的聯合身分。
詳情請參閱「 使用聯合身分登入 gcloud CLI」。
-
為使用者帳戶建立本機驗證憑證:
gcloud auth application-default login
如果系統傳回驗證錯誤,請確認您已 使用聯合身分登入 gcloud CLI。
詳情請參閱「 設定本機開發環境的驗證機制」。
程式碼範例總覽
程式碼範例提供簡單的指令列介面,可將一或多個文字檔和表格名稱做為輸入內容,找出檔案中出現的所有字詞,並計算每個字詞的出現次數。MapReduce 邏輯會顯示在 WordCountHBase 類別中。
首先,對應程式會將文字檔的內容代碼化並產生鍵/值組合,其中鍵為文字檔中的單字,值則為 1:
然後,縮減器會加總每個鍵的值,並將結果寫入您指定的 Bigtable 資料表。每一資料列索引鍵均為文字檔中的一個字。每個資料列都包含 cf:count 欄,其中含有資料列索引鍵在文字檔中出現的次數。