排定資料準備作業
本文說明如何在 BigQuery 中排定及手動執行資料準備工作,自動執行資料轉換工作流程。排程可確保資料保持最新狀態且準確無誤,不需要手動介入。您也可以手動執行資料準備作業,在部署前測試及驗證轉換。資料準備作業由 Dataform 支援。
您可以透過 Google 帳戶的使用者憑證,或自訂服務帳戶排定資料準備作業。
事前準備
請先建立資料準備。
VPC Service Controls 規定
如果您使用 VPC Service Controls 保護資料準備作業,請注意,排定執行的作業是由 Dataform 支援。為排定執行的作業設定 VPC Service Controls 時,請確保符合下列規定:
- 您必須設定
dataform.restrictGitRemotes機構政策服務。 - Dataform 和 BigQuery 必須受限於相同的 VPC Service Controls 服務範圍。
- 如要允許使用者在排定或手動觸發執行作業時,使用 Google 帳戶的使用者憑證進行驗證,請將使用者身分新增至連入規則。詳情請參閱「更新 service perimeter 的輸入和輸出政策」和「輸入規則參考資料」。
如需詳細設定步驟和安全性考量事項,請參閱「為 Dataform 設定 VPC Service Controls」。
必要的角色
如要在開發環境中手動執行資料準備作業,或排定資料準備作業的執行時間,請務必將角色授予您打算用來執行資料準備作業的服務帳戶。詳情請參閱「授予 Dataform 服務帳戶存取權」。
如要排定資料準備作業,請按照下列步驟操作:
- 請管理員授予您自訂服務帳戶的服務帳戶使用者角色 (
roles/iam.serviceAccountUser)。 - 將服務帳戶使用者角色 (
roles/iam.serviceAccountUser) 和服務帳戶權杖建立者角色 (roles/iam.serviceAccountTokenCreator) 授予自訂服務帳戶的預設 Dataform 服務代理程式。
如要提升排程安全性,請參閱「實作進階排程權限」。
開發資料準備作業
開發資料準備作業時,您可以手動執行步驟並檢查輸出內容,然後再將變更部署至實際工作環境。您可以根據排程,在資料上測試目前開發的版本,同時讓 BigQuery 繼續執行最新部署的版本。執行作業前,請務必設定目的地,並修正所有驗證錯誤。
在開發環境中手動執行資料準備作業
如要測試資料準備步驟,並驗證目的地表格中的結果,請從資料準備編輯器手動執行資料準備作業:
前往 Cloud de Confiance 控制台的「BigQuery」頁面。
點選左側窗格中的 「Explorer」。

如果沒有看到左側窗格,請按一下 「Expand left pane」(展開左側窗格),開啟窗格。
在「Explorer」窗格中展開專案,然後按一下「資料準備」。
按一下要執行的資料準備作業名稱。
在資料準備編輯器工具列中,依序點選「更多」>「設定『立即執行』體驗」。
在「驗證」部分,使用 Google 帳戶使用者憑證或服務帳戶授權資料準備作業。
如要使用 Google 帳戶使用者憑證 (預覽),請選取「以我的使用者憑證執行」。這是預設選項。
選用:在「Extended access options」(擴充存取權選項) 部分,選取資料準備作業所需的其他服務:
- Google 雲端硬碟:允許唯讀存取 Google 雲端硬碟檔案。
如要使用服務帳戶,請選取「以所選服務帳戶執行」,然後選取服務帳戶。如果服務帳戶需要其他權限,請按一下「全部授予」,將必要角色授予該帳戶。
按一下 [儲存]。
修正顯示的所有驗證錯誤。
在資料準備編輯器工具列中,按一下「執行」。
在「立即執行」對話方塊中,按一下「確認」,確認這項手動執行作業會將資料寫入目的地資料表,而您可能也會使用該資料表執行排程作業。
如果選取「使用我的使用者憑證執行」做為驗證方法,您必須授權 Google 帳戶 (預覽)。
接著,執行作業會執行步驟,並將輸出內容載入目的地。
選用步驟:執行完成後,您可以在「Executions」(執行作業) 窗格中查看執行詳細資料。
部署資料準備作業
如要為資料準備作業版本安排執行時間,請先儲存並部署變更。排程一律會執行最新部署的版本,並忽略任何未部署的變更。
如要部署資料準備作業,請按照下列步驟操作:
前往 Cloud de Confiance 控制台的「BigQuery」頁面。
點選左側窗格中的 「Explorer」。

在「Explorer」窗格中展開專案,然後按一下「資料準備」。
按一下所選資料準備作業的名稱。
系統隨即會開啟資料準備編輯器。
在資料準備編輯器工具列中,按一下「部署」。
建立排程
如要建立排程,執行已部署的資料準備步驟,並將準備好的資料載入目的地資料表,請先排定資料準備作業執行時間。如要排定執行時間,請設定目的地,並修正所有驗證錯誤。
如要建立資料準備時間表,請按照下列步驟操作:
「Explorer」窗格
前往 Cloud de Confiance 控制台的「BigQuery」頁面。
點選左側窗格中的 「Explorer」。

在「Explorer」窗格中展開專案,然後按一下「資料準備」。
按一下要排程的資料準備作業名稱。
在資料準備編輯器工具列中,按一下「排定時間」。
輸入排程名稱。
在「驗證」部分,使用 Google 帳戶使用者憑證或服務帳戶授權資料準備作業。
如要使用 Google 帳戶使用者憑證 (預覽),請選取「以我的使用者憑證執行」。
選用:在「Extended access options」(擴充存取權選項) 部分,選取資料準備作業所需的其他服務:
- Google 雲端硬碟:允許唯讀存取 Google 雲端硬碟檔案。
如要使用服務帳戶,請選取「以所選服務帳戶執行」,然後選取服務帳戶。
排定頻率。
按一下「建立時間表」。如果選取「使用我的使用者憑證執行」做為驗證方法,您必須授權 Google 帳戶 (預覽)。
「排定時間」頁面
前往 Cloud de Confiance 控制台的「Scheduling」頁面。
按一下「建立」,然後從選單中選取「資料準備時間表」。
在「Schedule data preparation」(排定資料準備作業) 窗格的「Data preparation」(資料準備) 欄位中,選取要排定的資料準備作業。
在「排程名稱」欄位中,輸入排程名稱。
在「驗證」部分,使用 Google 帳戶使用者憑證或服務帳戶授權資料準備作業。
如要使用 Google 帳戶使用者憑證 (預覽),請選取「以我的使用者憑證執行」。
選用:在「Extended access options」(擴充存取權選項) 部分,選取資料準備作業所需的其他服務:
- Google 雲端硬碟:允許唯讀存取 Google 雲端硬碟檔案。
如要使用服務帳戶,請選取「以所選服務帳戶執行」,然後選取服務帳戶。
在「排程頻率」部分,執行下列操作:
- 在「Repeats」(重複頻率) 選單中,選取資料準備作業的執行頻率。
- 在「At time」(時間) 欄位中,輸入預定資料準備作業的執行時間。
- 在「時區」選單中,選取時間表的時區。
按一下「建立時間表」。如果選取「使用我的使用者憑證執行」做為驗證方法,您必須授權 Google 帳戶 (預覽)。
授權給您的 Google 帳戶
如要使用Google 帳戶使用者憑證驗證資源,您必須手動授予 BigQuery 管道權限,才能取得 Google 帳戶的存取權杖,並代表您存取來源資料。您可以使用 OAuth 對話方塊介面手動授予核准。如果您選取任何擴充存取權選項,就必須授予這些服務的存取權,例如 Google 雲端硬碟或知識目錄。
您只需要授予 BigQuery 管道一次權限。
如要撤銷授予的權限,請按照下列步驟操作:
- 前往 Google 帳戶頁面。
- 按一下「BigQuery Pipelines」。
- 按一下 [移除存取權]。
如果新的 Google 帳戶擁有者從未建立時間表,更新憑證來變更資料準備時間表擁有者時,也需要手動核准。
手動執行排定的資料準備作業
在選取的排程中手動執行資料準備作業時,BigQuery 會獨立於排程執行一次資料準備作業。
如要手動執行排定的資料準備作業,請按照下列步驟操作:
前往 Cloud de Confiance 控制台的「Scheduling」頁面。
按一下所選資料準備作業排程的名稱。
在「排程詳細資料」頁面中,按一下「執行」。
查看時間表
您可以透過資料準備編輯器或「排程」頁面查看資料準備作業排程。
資料準備編輯器
如要查看資料準備作業的排程,請按照下列步驟操作:
- 在資料準備編輯器工具列中,依序點選「排程」「查看排程」。
- 選用:如要查看排程記錄,請按一下「查看過去的執行作業」。
「排定時間」頁面
如要查看專案中的所有資料準備排程,請按照下列步驟操作:
前往 Cloud de Confiance 控制台的「Scheduling」頁面。
選用:如要查看所選時間表的執行記錄和詳細資料,請按一下時間表的名稱。系統不會顯示手動執行的記錄。
編輯時間表
您可以透過資料準備編輯器或「排程」頁面編輯排程。
資料準備編輯器
如要編輯時間表,請按照下列步驟操作:
- 在資料準備編輯器工具列中,依序點選「排程」「查看排程」。
- 在「排定資料準備作業」對話方塊中,按一下「編輯」,然後更新排程。
- 按一下「更新時間表」。
「排定時間」頁面
如要編輯時間表,請按照下列步驟操作:
前往 Cloud de Confiance 控制台的「Scheduling」頁面。
按一下所選資料準備作業排程的名稱。
在「排程詳細資料」頁面中,按一下「編輯」。
按一下「查看時間表」。
在「排定資料準備作業」對話方塊中,按一下「編輯」,然後更新排程。
按一下「更新時間表」。
刪除時間表
如要永久刪除所選資料準備作業的排程,請按照下列步驟操作:
前往 Cloud de Confiance 控制台的「Scheduling」頁面。
在包含時間表的資料列中,依序點選 more_vert「動作」>「刪除」。