JOBS_TIMELINE_BY_ORGANIZATION 檢視表

INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION 檢視表包含近乎即時的 BigQuery 中繼資料,依時間切片列出與目前專案相關聯的組織中提交的所有工作。這個檢視畫面會顯示目前執行中和已完成的工作。

所需權限

如要查詢 INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION 檢視表,您必須具備組織的 bigquery.jobs.listAll Identity and Access Management (IAM) 權限。下列每個預先定義的 IAM 角色都包含必要權限:

  • 組織層級的 BigQuery 資源管理員
  • 機構擁有者
  • 機構管理員

JOBS_BY_ORGANIZATION 結構定義資料表僅適用於已定義Cloud de Confiance by S3NS 組織的使用者。

如要進一步瞭解 BigQuery 權限,請參閱「使用 IAM 控管存取權」。

結構定義

查詢 INFORMATION_SCHEMA.JOBS_TIMELINE_BY_* 檢視表時,查詢結果會針對每項 BigQuery 工作的每秒執行時間,顯示一個資料列。每個時段都從整秒間隔開始,持續時間剛好一秒。

INFORMATION_SCHEMA.JOBS_TIMELINE_BY_* 檢視表具有下列結構定義:

資料欄名稱 資料類型 值
period_start TIMESTAMP 這個時段的開始時間。
period_slot_ms INTEGER 這段期間內耗用的運算單元時間 (毫秒)。
project_id STRING (分群欄) 專案 ID。
project_number INTEGER 專案編號。
folder_numbers REPEATED INTEGER 專案所在資料夾的數字 ID,開頭為直接包含專案的資料夾,後面依序為包含子資料夾的資料夾,以此類推。舉例來說,如果 `folder_numbers` 為 `[1, 2, 3]`,則資料夾 `1` 會直接包含專案,資料夾 `2` 包含 `1`,資料夾 `3` 包含 `2`。
user_email STRING (分群欄) 執行工作的使用者電子郵件地址或服務帳戶。
principal_subject STRING 執行工作的委託人身分字串表示法。
job_id STRING 工作 ID。例如 bquxjob_1234。
job_type STRING 工作類型。可以是 QUERY、LOAD、EXTRACT、COPY 或 null。工作類型 null 表示內部工作,例如指令碼工作陳述式評估或 materialized view 重新整理。
statement_type STRING 查詢陳述式的類型 (如果有效)。例如:SELECT、INSERT、UPDATE 或 DELETE。
priority STRING 這項工作的優先順序。有效值包括 INTERACTIVE 和 BATCH。
parent_job_id STRING 父項工作的 ID (如有)。
job_creation_time TIMESTAMP (分區資料欄) 這項工作的建立時間。分區依據為這個時間戳記的世界標準時間。
job_start_time TIMESTAMP 這項工作的開始時間。
job_end_time TIMESTAMP 這項工作的結束時間。
state STRING 這段期間結束時的工作執行狀態。有效狀態包括 PENDING、RUNNING 和 DONE。
reservation_id STRING 這段期間結束時,指派給這項工作的主要預留項目名稱 (如適用)。
reservation_group_path ARRAY<STRING> 預留項目連結的預留項目群組。舉例來說,如果預留項目連結至群組 my-group,reservation_group_path 欄位會包含類似 [my-group] 的清單。
edition STRING 與指派給這項工作的預留項目相關聯的版本。如要進一步瞭解版本,請參閱「BigQuery 版本簡介」。
total_bytes_billed INTEGER 如果專案設為使用隨選計價,這個欄位會包含工作的計費位元組總數。如果專案設為使用固定費率定價,則不會依位元組計費。這個欄位無法設定。
total_bytes_processed INTEGER 工作處理的位元組總數。
error_result RECORD 錯誤詳細資料 (如有),格式為 ErrorProto.
cache_hit BOOLEAN 這項工作的查詢結果是否來自快取。
period_shuffle_ram_usage_ratio FLOAT 所選時間範圍內的重組用量比率。如果工作執行的預留項目使用自動調度資源,且基準運算單元為零,則值為 0.0。
period_estimated_runnable_units INTEGER 這段期間內可立即排定的工作單位。如果預留項目中沒有其他查詢需要額外運算單元,則這些工作單元的額外運算單元會加快查詢速度。
global_query_info RECORD 全域查詢的相關資訊。 包含下列欄位:
  • parent_job_id:主要區域中父項全域查詢工作的 ID。
  • parent_job_location:父項全域查詢工作的所在位置。
  • remote_regions:全域查詢參照的遠端區域陣列。

為確保穩定性,建議您在資訊結構定義查詢中明確列出資料欄,而非使用萬用字元 (SELECT *)。明確列出資料欄可避免查詢因基礎結構定義變更而中斷。

資料保留

這個檢視畫面會顯示執行中的工作,以及過去 180 天的工作記錄。如果專案遷移至機構 (無論是從無機構狀態或從其他機構遷移),則無法透過 INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION 檢視畫面存取遷移日期之前的任務資訊,因為該檢視畫面只會保留遷移日期之後的資料。

範圍和語法

對這個檢視表執行的查詢必須包含區域限定詞。如未指定區域限定詞,系統會從所有區域擷取中繼資料。下表說明這個檢視畫面的區域範圍:

檢視表名稱 資源範圍 區域範圍
[PROJECT_ID.]`region-REGION`.INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION 包含指定專案的組織 REGION
請更改下列內容:
  • 選用:PROJECT_ID: Cloud de Confiance 專案的 ID。如未指定,則會使用預設專案。
  • REGION:任何資料集區域名稱。例如:`region-us`。

範例

範例:查看每秒的運算單元總用量

如要對預設專案以外的專案執行查詢,請按照下列格式新增專案 ID:

`PROJECT_ID`.`region-REGION_NAME`.INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION
例如:`myproject`.`region-us`.INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION。

以下範例顯示指派給 YOUR_RESERVATION_ID 的專案在所有工作中每秒使用的運算單元:

SELECT
  jobs.period_start,
  SUM(jobs.period_slot_ms) / 1000 AS period_slot_seconds,
  ANY_VALUE(COALESCE(s.slots_assigned, res.slots_assigned)) AS estimated_slots_assigned,
  ANY_VALUE(COALESCE(s.slots_max_assigned, res.slots_max_assigned)) AS estimated_slots_max_assigned
FROM `region-us`.INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION jobs
JOIN `region-us`.INFORMATION_SCHEMA.RESERVATIONS_TIMELINE res
  ON jobs.reservation_id = res.reservation_id
  AND TIMESTAMP_TRUNC(jobs.period_start, MINUTE) = res.period_start
LEFT JOIN UNNEST(res.per_second_details) s
  ON jobs.period_start = s.start_time
WHERE
  jobs.job_creation_time
    BETWEEN TIMESTAMP_SUB(CURRENT_TIMESTAMP(), INTERVAL 1 DAY)
        AND CURRENT_TIMESTAMP()
  AND res.period_start
    BETWEEN TIMESTAMP_SUB(CURRENT_TIMESTAMP(), INTERVAL 1 DAY)
        AND CURRENT_TIMESTAMP()
  AND res.reservation_id = 'YOUR_RESERVATION_ID'
  AND (jobs.statement_type != "SCRIPT" OR jobs.statement_type IS NULL)  -- Avoid duplicate byte counting in parent and children jobs.
GROUP BY
  period_start
ORDER BY
  period_start DESC;

結果大致如下:

+-----------------------+---------------------+--------------------------+------------------------------+
|     period_start      | period_slot_seconds | estimated_slots_assigned | estimated_slots_max_assigned |
+-----------------------+---------------------+--------------------------+------------------------------+
|2021-06-08 21:33:59 UTC|       100.000       |         100              |           100                |
|2021-06-08 21:33:58 UTC|        96.753       |         100              |           100                |
|2021-06-08 21:33:57 UTC|        41.668       |         100              |           100                |
+-----------------------+---------------------+--------------------------+------------------------------+

範例:各預留項目的運算單元用量

以下範例顯示過去 1 天內,每個預留項目每秒的運算單元用量:

SELECT
  jobs.period_start,
  res.reservation_id,
  SUM(jobs.period_slot_ms) / 1000 AS period_slot_seconds,
  ANY_VALUE(COALESCE(s.slots_assigned, res.slots_assigned)) AS estimated_slots_assigned,
  ANY_VALUE(COALESCE(s.slots_max_assigned, res.slots_max_assigned)) AS estimated_slots_max_assigned
FROM `region-us`.INFORMATION_SCHEMA.JOBS_TIMELINE_BY_ORGANIZATION jobs
JOIN `region-us`.INFORMATION_SCHEMA.RESERVATIONS_TIMELINE res
  ON jobs.reservation_id = res.reservation_id
  AND TIMESTAMP_TRUNC(jobs.period_start, MINUTE) = res.period_start
LEFT JOIN UNNEST(res.per_second_details) s
  ON jobs.period_start = s.start_time
WHERE
  jobs.job_creation_time
      BETWEEN TIMESTAMP_SUB(CURRENT_TIMESTAMP(), INTERVAL 1 DAY)
          AND CURRENT_TIMESTAMP()
  AND res.period_start
      BETWEEN TIMESTAMP_SUB(CURRENT_TIMESTAMP(), INTERVAL 1 DAY)
          AND CURRENT_TIMESTAMP()
  AND (jobs.statement_type != "SCRIPT" OR jobs.statement_type IS NULL)  -- Avoid duplicate byte counting in parent and children jobs.
GROUP BY
  period_start,
  reservation_id
ORDER BY
  period_start DESC,
  reservation_id;

結果大致如下:

+-----------------------+----------------+---------------------+--------------------------+------------------------------+
|     period_start      | reservation_id | period_slot_seconds | estimated_slots_assigned | estimated_slots_max_assigned |
+-----------------------+----------------+---------------------+--------------------------+------------------------------+
|2021-06-08 21:33:59 UTC|     prod01     |       100.000       |             100          |              100             |
|2021-06-08 21:33:58 UTC|     prod02     |       177.201       |             200          |              500             |
|2021-06-08 21:32:57 UTC|     prod01     |        96.753       |             100          |              100             |
|2021-06-08 21:32:56 UTC|     prod02     |       182.329       |             200          |              500             |
+-----------------------+----------------+---------------------+--------------------------+------------------------------+