Open Neural Network Exchange (ONNX) מספק פורמט אחיד שנועד לייצג כל מסגרת של למידת מכונה. התמיכה של BigQuery ML ב-ONNX מאפשרת:
- לאמן מודל באמצעות ה-framework המועדף עליכם.
- ממירים את המודל לפורמט ONNX.
- מייבאים את מודל ה-ONNX ל-BigQuery ומבצעים חיזויים באמצעות BigQuery ML.
במדריך הזה מוסבר איך לייבא מודלים של ONNX שאומנו באמצעות PyTorch למערך נתונים ב-BigQuery, ולהשתמש בהם כדי ליצור חיזויים משאילתת SQL.
מטרות
- מייבאים מודל שעבר אימון מראש באמצעות PyTorch.
- ממירים את המודל לפורמט ONNX באמצעות torch.onnx.
- משתמשים בהצהרה
CREATE MODELכדי לייבא את מודל ONNX ל-BigQuery. - משתמשים בפונקציה
ML.PREDICTכדי ליצור תחזיות באמצעות מודל ONNX המיובא.
עלויות
במסמך הזה משתמשים ברכיבים הבאים של Cloud de Confiance by S3NS, והשימוש בהם כרוך בתשלום:
כשמסיימים את המשימות שמתוארות במסמך הזה אפשר למחוק את המשאבים שיצרתם כדי להימנע מחיובים נוספים. מידע נוסף זמין בקטע הסרת המשאבים.
לפני שמתחילים
-
In the Cloud de Confiance console, on the project selector page, select or create a Cloud de Confiance project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
מפעילים את ממשקי ה-API של BigQuery, של BigQuery Connection ושל Cloud Storage, אם הם עדיין לא מופעלים.
התפקידים שנדרשים כדי להפעיל ממשקי API
כדי להפעיל ממשקי API, צריך את ההרשאה
serviceusage.services.enable. אם אתם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד "בעלים" (roles/owner). אחרת, אתם יכולים לקבל את ההרשאה הזו דרך התפקיד "אדמין בממשק 'שימוש בשירות'" (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידים?- מוודאים שיש לכם את ההרשאות הנדרשות כדי לבצע את המשימות שמפורטות במסמך הזה.
התפקידים הנדרשים
אם אתם יוצרים פרויקט חדש, אתם הבעלים של הפרויקט ומוענקות לכם כל ההרשאות הנדרשות בממשק של ניהול הזהויות והרשאות הגישה (IAM) כדי להשלים את המדריך הזה.
אם אתם משתמשים בפרויקט קיים, בצעו את הפעולות הבאות.
צריך לוודא שיש לכם בפרויקט את התפקיד או התפקידים הבאים:
- אדמין של BigQuery Studio (
roles/bigquery.studioAdmin) - אדמין של חיבורי BigQuery (
roles/bigquery.connectionAdmin) - אדמין באחסון
(roles/storage.admin)
בדיקת התפקידים
-
נכנסים לדף IAM במסוף Cloud de Confiance .
כניסה לדף IAM - בוחרים את הפרויקט.
-
בעמודה Principal, מחפשים את כל השורות שמזהות אתכם או קבוצה שאתם חברים בה. כדי לברר לאילו קבוצות אתם שייכים, פנו לאדמין.
- בכל השורות שבהן אתם מופיעים, בודקים בעמודה Role אם רשימת התפקידים כוללת את התפקידים הנדרשים.
מתן התפקידים
-
נכנסים לדף IAM במסוף Cloud de Confiance .
כניסה לדף IAM - בוחרים את הפרויקט.
- לוחצים על Grant access.
-
בשדה New principals, מזינים את מזהה המשתמש. בדרך כלל זה המזהה של משתמש במאגר זהויות של כוח עבודה. למידע נוסף, קראו את המאמר ייצוג המשתמשים במאגרי כוח עבודה בכללי מדיניות IAM או פנו לאדמין שלכם.
- לוחצים על Select a role ומחפשים את התפקיד.
- כדי לתת עוד תפקידים, לוחצים על Add another role ומוסיפים אותם.
- לוחצים על Save.
למידע נוסף על הרשאות IAM ב-BigQuery, קראו את המאמר הרשאות IAM.
אופציונלי: אימון מודל והמרה שלו לפורמט ONNX
בדוגמאות הקוד הבאות אפשר לראות איך לייבא מודל סיווג שעבר אימון מראש ל-PyTorch, ואיך להמיר את המודל שנוצר לפורמט ONNX. במדריך הזה נשתמש במודל לדוגמה שנוצר מראש ומאוחסן ב-gs://cloud-samples-data/bigquery/ml/onnx/resnet18.onnx. אם אתם משתמשים במודל לדוגמה, אתם לא צריכים לבצע את השלבים האלה.
יצירת מודל ראייה ממוחשבת ב-PyTorch לסיווג תמונות
אפשר להשתמש בדוגמת הקוד הבאה כדי לייבא מודל resnet18 שעבר אימון מראש ב-PyTorch, שמקבל נתוני תמונה מפוענחים שמוחזרים על ידי הפונקציות ML.DECODE_IMAGE ו-ML.RESIZE_IMAGE של BigQuery ML.
import torch
import torch.nn as nn
# Define model input format to match the output format of
# ML.DECODE_IMAGE function: [height, width, channels]
dummy_input = torch.randn(1, 224, 224, 3, device="cpu")
# Load a pretrained pytorch model for image classification
model = torch.hub.load('pytorch/vision:v0.10.0', 'resnet18', pretrained=True)
# Reshape input format from [batch_size, height, width, channels]
# to [batch_size, channels, height, width]
class ReshapeLayer(nn.Module):
def __init__(self):
super().__init__()
def forward(self, x):
x = x.permute(0, 3, 1, 2) # reorder dimensions
return x
class ArgMaxLayer(nn.Module):
def __init__(self):
super().__init__()
def forward(self, x):
return torch.argmax(x, dim=1)
final_model = nn.Sequential(
ReshapeLayer(),
model,
nn.Softmax(),
ArgMaxLayer()
)
המרת המודל לפורמט ONNX
כדי לייצא את מודל הראייה הממוחשבת של PyTorch באמצעות torch.onnx, השתמשו בדוגמה הבאה: קובץ ה-ONNX המיוצא נקרא resnet18.onnx.
torch.onnx.export(final_model, # model being run
dummy_input, # model input
"resnet18.onnx", # where to save the model
opset_version=10, # the ONNX version to export the model to
input_names = ['input'], # the model's input names
output_names = ['class_label']) # the model's output names
העלאת מודל ONNX ל-Cloud Storage
אחרי ששומרים את המודל, מבצעים את הפעולות הבאות:
- יוצרים קטגוריה של Cloud Storage כדי לאחסן את המודל.
- מעלים את מודל ה-ONNX לקטגוריה של Cloud Storage.
יצירת קבוצת נתונים
כדי ליצור מערך נתונים ב-BigQuery, בוחרים אחת מהאפשרויות הבאות:
המסוף
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על Explorer:

אם החלונית הימנית לא מוצגת, לוחצים על Expand left pane כדי לפתוח אותה.
ב-Explorer, מרחיבים את הפרויקט ולוחצים על Datasets.
בדף Datasets, לוחצים על Create dataset.
בחלונית Create dataset:
בשדה Dataset ID, מזינים
bqml_tutorial.בקטע Data location (מיקום הנתונים), בוחרים באפשרות US (ארה"ב).
משאירים את שאר הגדרות ברירת המחדל כמו שהן.
לוחצים על Create dataset.
BQ
כדי ליצור קבוצת נתונים חדשה, משתמשים בפקודה bq mk --dataset.
יוצרים מערך נתונים בשם
bqml_tutorialומגדירים את מיקום הנתונים ל-US:bq mk --dataset \ --location=US \ --description "BigQuery ML tutorial dataset." \ bqml_tutorial
מוודאים שמערך הנתונים נוצר:
bq ls
API
מפעילים את השיטה datasets.insert עם משאב של מערך נתונים מוגדר:
{ "datasetReference": { "datasetId": "bqml_tutorial" } }
ייבוא של מודל ONNX ל-BigQuery
כדי לייבא את המודל לדוגמה של ONNX מ-Cloud Storage למערך הנתונים, משתמשים בהצהרה CREATE MODEL.
המסוף
נכנסים לדף BigQuery Studio במסוף Cloud de Confiance .
בעורך השאילתות, מזינים את ההצהרה הבאה של
CREATE MODEL.CREATE OR REPLACE MODEL `bqml_tutorial.imported_onnx_model` OPTIONS (MODEL_TYPE='ONNX', MODEL_PATH='BUCKET_PATH')
מחליפים את
BUCKET_PATHבנתיב למודל שהעליתם ל-Cloud Storage. אם אתם משתמשים במודל לדוגמה, החליפו אתBUCKET_PATHבערך הבא:gs://cloud-samples-data/bigquery/ml/onnx/resnet18.onnx.בסיום הפעולה, תופיע הודעה דומה לזו:
Successfully created model named imported_onnx_model.המודל החדש מופיע בחלונית משאבים. המודלים מסומנים בסמל המודל:
. אם בוחרים את המודל החדש בחלונית Resources, המידע על המודל מופיע ליד עורך השאילתות.
BQ
מייבאים את המודל של ONNX מ-Cloud Storage באמצעות הזנת ההצהרה הבאה של
CREATE MODEL.bq query --use_legacy_sql=false \ "CREATE OR REPLACE MODEL `bqml_tutorial.imported_onnx_model` OPTIONS (MODEL_TYPE='ONNX', MODEL_PATH='BUCKET_PATH')"
מחליפים את
BUCKET_PATHבנתיב למודל שהעליתם ל-Cloud Storage. אם אתם משתמשים במודל לדוגמה, החליפו אתBUCKET_PATHבערך הזה:gs://cloud-samples-data/bigquery/ml/onnx/resnet18.onnx.אחרי שמייבאים את המודל, מוודאים שהוא מופיע במערך הנתונים.
bq ls -m bqml_tutorial
הפלט אמור להיראות כך:
tableId Type --------------------- ------- imported_onnx_model MODEL
מידע נוסף על ייבוא מודלים של ONNX ל-BigQuery, כולל דרישות הפורמט והאחסון, זמין במאמר ההצהרה CREATE MODEL לייבוא מודלים של ONNX.
יצירת טבלת אובייקטים ב-BigQuery כדי לנתח נתוני תמונות
טבלת אובייקטים היא טבלה לקריאה בלבד של אובייקטים של נתונים לא מובְנים שנמצאים ב-Cloud Storage. טבלאות אובייקטים מאפשרות לנתח נתונים לא מובְנים מ-BigQuery.
במדריך הזה תשתמשו בפונקציה ML.PREDICT כדי להפיק את תווית הסיווג החזויה של תמונת קלט שמאוחסנת בקטגוריה של Cloud Storage.
כדי ליצור את טבלת האובייקטים, צריך לבצע את הפעולות הבאות:
- יוצרים קטגוריה של Cloud Storage ומעלים תמונה של דג זהב.
- יוצרים קישור למשאבים ב-Cloud שמשמש לגישה לטבלת האובייקטים.
- נותנים גישה לחשבון השירות של החיבור למשאב.
יצירת קטגוריה והעלאת תמונה
כדי ליצור קטגוריה של Cloud Storage ולהעלות תמונה של דג זהב, צריך לפעול לפי השלבים הבאים:
המסוף
- במסוף Cloud de Confiance , נכנסים לדף Buckets של Cloud Storage.
לוחצים על Create.
ממלאים את פרטי הקטגוריה בדף Create a bucket.
בקטע Get started:
בתיבה, מזינים
bqml_images.לוחצים על Continue.
בקטע Choose where to store your data מבצעים את הפעולות הבאות:
בשדה Location type, בוחרים באפשרות Multi-region.
בתפריט של סוג המיקום, בוחרים באפשרות US (multiple regions in United States).
לוחצים על Continue.
בקטע Choose a storage class for your data:
בוחרים באפשרות הגדרת מחלקה כברירת מחדל.
בוחרים באפשרות רגילה.
לוחצים על Continue.
בקטעים האחרים, משאירים את ערכי ברירת המחדל.
לוחצים על יצירה.
שורת הפקודה
מזינים את הפקודה הבאה ב-gcloud storage buckets create:
gcloud storage buckets create gs://bqml_images --location=us
אם הבקשה מבוצעת בהצלחה, הפקודה תחזיר את ההודעה הבאה:
Creating gs://bqml_images/...
העלאת תמונה לקטגוריה של Cloud Storage
אחרי שיוצרים את הקטגוריה, מורידים תמונה של דג זהב ומעלים אותה לקטגוריה של Cloud Storage.
כדי להעלות את התמונה:
המסוף
- במסוף Cloud de Confiance , נכנסים לדף Buckets של Cloud Storage.
ברשימת הקטגוריות, לוחצים על
bqml_images.בכרטיסייה Objects של הקטגוריה, מבצעים אחת מהפעולות הבאות:
גוררים את הקובץ משולחן העבודה או ממנהל הקבצים ומשחררים אותו בחלונית הראשית של מסוף Cloud de Confiance .
לוחצים על Upload > Upload files, בוחרים את קובץ התמונה שרוצים להעלות בתיבת הדו-שיח שמופיעה ולוחצים על Open.
שורת הפקודה
מזינים את הפקודה הבאה ב-gcloud storage cp:
gcloud storage cp OBJECT_LOCATION gs://bqml_images/IMAGE_NAME
מחליפים את מה שכתוב בשדות הבאים:
-
OBJECT_LOCATION: הנתיב המקומי לקובץ התמונה. לדוגמה,Desktop/goldfish.jpg. -
IMAGE_NAME: שם התמונה. לדוגמה,goldfish.jpg.
אם הפעולה מצליחה, התשובה תהיה דומה לדוגמה הבאה:
Completed files 1/1 | 164.3kiB/164.3kiB
יצירת קישור למשאבים ב-Cloud ב-BigQuery
כדי להתחבר לטבלת האובייקטים שתיצרו בהמשך המדריך, צריך להיות לכם חיבור למשאבים ב-Cloud.
קישורים למשאבים ב-Cloud מאפשרים לשלוח שאילתות על נתונים שמאוחסנים מחוץ ל-BigQuery בשירותי Cloud de Confiance כמו Cloud Storage או Spanner, או במקורות של צד שלישי כמו AWS או Azure. החיבורים החיצוניים האלה משתמשים ב-BigQuery Connection API.
כדי ליצור קישור למשאבים ב-Cloud:
המסוף
נכנסים לדף BigQuery Studio.
בחלונית השמאלית, לוחצים על database Data Explorer:

אם החלונית הימנית לא מוצגת, לוחצים על הרחבת החלונית הימנית כדי לפתוח אותה.
בחלונית נתונים, לוחצים על הוספת נתונים.
תיבת הדו-שיח Add data נפתחת.
בחלונית Filter By, בקטע Data Source Type, בוחרים באפשרות Databases.
אפשר גם להזין
Vertex AIבשדה Search for data sources.בקטע Featured data sources, לוחצים על Vertex AI.
לוחצים על כרטיס הפתרון מודלי AI של Vertex: איחוד BigQuery.
ברשימה Connection type, בוחרים באפשרות Vertex AI remote models, פונקציות מרוחקות ו-BigLake (Cloud Resource).
בשדה Connection ID, מזינים את הערך
bqml_tutorial.מוודאים שהאפשרות Multi-region—US נבחרה.
לוחצים על יצירת חיבור.
בתחתית החלון, לוחצים על מעבר לחיבור. לחלופין, בחלונית Explorer לוחצים על Connections ואז על
us.bqml_tutorial.בחלונית Connection info, מעתיקים את מזהה חשבון השירות. תצטרכו את המזהה הזה כשתגדירו את ההרשאות לחיבור. כשיוצרים משאב חיבור, BigQuery יוצר חשבון שירות ייחודי של המערכת ומשייך אותו לחיבור.
BQ
יצירת חיבור:
bq mk --connection --location=US --project_id=PROJECT_ID \ --connection_type=CLOUD_RESOURCE bqml_tutorial
מחליפים את
PROJECT_IDבמזהה הפרויקט ב-Cloud de Confiance . הפרמטר--project_idמבטל את פרויקט ברירת המחדל.כשיוצרים משאב חיבור, BigQuery יוצר חשבון שירות ייחודי של המערכת ומשייך אותו לחיבור.
פתרון בעיות: אם מופיעה שגיאת החיבור הבאה, עדכנו את Google Cloud SDK:
Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
מאחזרים ומעתיקים את מזהה חשבון השירות כדי להשתמש בו בשלב מאוחר יותר:
bq show --connection PROJECT_ID.us.bqml_tutorial
הפלט אמור להיראות כך:
name properties 1234.REGION.CONNECTION_ID {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.s3ns-system.iam.gserviceaccount.com"}
הגדרת גישה לחיבור
מקצים את התפקיד "אדמין של אובייקטים באחסון" לחשבון השירות של הקישור למשאבים ב-Cloud. צריך להקצות את התפקיד הזה באותו פרויקט שבו העליתם את קובצי התמונות.
כדי להקצות את התפקיד:
נכנסים לדף IAM & Admin.
לוחצים על Grant Access.
בשדה New principals, מזינים את מזהה חשבון השירות של הקישור למשאבים ב-Cloud שהעתקתם קודם.
בשדה Select a role, בוחרים באפשרות Cloud Storage ואז באפשרות Storage object admin.
לוחצים על Save.
יצירת טבלת האובייקטים
כדי ליצור טבלת אובייקטים בשם goldfish_image_table באמצעות תמונת דג הזהב שהעליתם ל-Cloud Storage, מבצעים את השלבים הבאים:
המסוף
נכנסים לדף BigQuery Studio.
בעורך השאילתות, מזינים את השאילתה הזו כדי ליצור את טבלת האובייקטים.
CREATE EXTERNAL TABLE `bqml_tutorial.goldfish_image_table` WITH CONNECTION `us.bqml_tutorial` OPTIONS( object_metadata = 'SIMPLE', uris = ['gs://bqml_images/IMAGE_NAME'], max_staleness = INTERVAL 1 DAY, metadata_cache_mode = 'AUTOMATIC');
מחליפים את
IMAGE_NAMEבשם של קובץ התמונה, לדוגמהgoldfish.jpg.בסיום הפעולה, תופיע הודעה כמו
This statement created a new table named goldfish_image_table.
BQ
יוצרים את טבלת האובייקטים באמצעות הזנת ההצהרה הבאה של
CREATE EXTERNAL TABLE.bq query --use_legacy_sql=false \ "CREATE EXTERNAL TABLE `bqml_tutorial.goldfish_image_table` WITH CONNECTION `us.bqml_tutorial` OPTIONS( object_metadata = 'SIMPLE', uris = ['gs://bqml_images/IMAGE_NAME'], max_staleness = INTERVAL 1 DAY, metadata_cache_mode = 'AUTOMATIC')"
מחליפים את
IMAGE_NAMEבשם של קובץ התמונה, לדוגמהgoldfish.jpg.אחרי שיוצרים את טבלת האובייקטים, מוודאים שהיא מופיעה במערך הנתונים.
bq ls bqml_tutorial
הפלט אמור להיראות כך:
tableId Type --------------------- -------- goldfish_image_table EXTERNAL
מידע נוסף זמין במאמר יצירת טבלאות אובייקטים.
יצירת חיזויים באמצעות מודל ONNX המיובא
אתם משתמשים בשאילתה הבאה, שמכילה את הפונקציה ML.PREDICT, כדי ליצור חיזויים מנתוני התמונות בטבלת אובייקטי הקלט goldfish_image_table. השאילתה הזו מפיקה את תווית הסיווג החזויה של תמונת הקלט, על סמך המילון של תוויות ImageNet.
בשאילתה, הפונקציה ML.DECODE_IMAGE נדרשת כדי לפענח את נתוני התמונה כך ש-ML.PREDICT יוכל לפרש אותם. הפונקציה ML.RESIZE_IMAGE נקראת כדי לשנות את גודל התמונה כך שתתאים לגודל הקלט של המודל (224*224).
למידע נוסף על הרצת הסקה בטבלאות אובייקטים של תמונות, ראו הרצת הסקה בטבלאות אובייקטים של תמונות.
כדי ליצור חיזויים מנתוני התמונות:
המסוף
נכנסים לדף BigQuery Studio.
בעורך השאילתות, מזינים את השאילתה הבאה ב-
ML.PREDICT.SELECT class_label FROM ML.PREDICT(MODEL
bqml_tutorial.imported_onnx_model, ( SELECT ML.RESIZE_IMAGE(ML.DECODE_IMAGE(DATA), 224, 224, FALSE) AS input FROM bqml_tutorial.goldfish_image_table))תוצאות השאילתה אמורות להיראות כך:
BQ
מזינים את הפקודה הבאה ב-bq query:
bq query --use_legacy_sql=false \
'SELECT
class_label
FROM
ML.PREDICT(MODEL `bqml_tutorial.imported_onnx_model`,
(
SELECT
ML.RESIZE_IMAGE(ML.DECODE_IMAGE(DATA),
224,
224,
FALSE) AS input
FROM
bqml_tutorial.goldfish_image_table))'הסרת המשאבים
כדי להימנע מחיובים בחשבון Google Cloud בגלל השימוש במשאבים שנעשה במסגרת המדריך הזה, אפשר למחוק את הפרויקט שמכיל את המשאבים, או להשאיר את הפרויקט ולמחוק את המשאבים הנפרדים.
מחיקת הפרויקט
המסוף
- במסוף Cloud de Confiance , נכנסים לדף Manage resources.
- ברשימת הפרויקטים, בוחרים את הפרויקט שרוצים למחוק ולוחצים על Delete.
- כדי למחוק את הפרויקט, כותבים את מזהה הפרויקט בתיבת הדו-שיח ולוחצים על Shut down.
gcloud
כדי למחוק פרויקט ב- Cloud de Confiance :
gcloud projects delete PROJECT_ID
מחיקת משאבים ספציפיים
לחלופין, כדי להסיר את המשאבים הספציפיים שבהם השתמשתם במדריך הזה:
המאמרים הבאים
- מידע נוסף על ייבוא מודלים של ONNX זמין במאמר ההצהרה
CREATE MODELלמודלים של ONNX. - מידע נוסף על ממירי ONNX זמינים ומדריכים זמין במאמר המרת מודלים לפורמט ONNX.
- לסקירה כללית על BigQuery ML, קראו את המאמר מבוא ל-BigQuery ML.
- כדי להתחיל להשתמש ב-BigQuery ML, קראו את המאמר יצירת מודלים של למידת מכונה ב-BigQuery ML.