טיפול בשגיאות שקשורות למכסה באמצעות קריאה חוזרת ל-ML.GENERATE_EMBEDDING

במדריך הזה נסביר איך להשתמש בפרוצדורה המאוחסנת הציבורית BigQuery bqutil.procedure.bqml_generate_embeddings כדי לבצע איטרציה על קריאות לפונקציה ML.GENERATE_EMBEDDING. הפעלת הפונקציה באופן איטרטיבי מאפשרת לטפל בשגיאות שניתן לנסות שוב, שמתרחשות בגלל חריגה מהקצאות ומגבלות שחלות על הפונקציה.

כדי לבדוק את קוד המקור של bqutil.procedure.bqml_generate_embeddings הפרוצדורה המאוחסנת ב-GitHub, אפשר לעיין בbqml_generate_embeddings.sqlx. מידע נוסף על הפרמטרים של הפרוצדורה המאוחסנת ועל השימוש בה זמין בקובץ ה-README.

במדריך הזה מוסבר איך לבצע את הפעולות הבאות:

• יצירת מודל מרחוק על בסיס מודל text-embedding-005.
• חזרה על קריאות לפונקציה ML.GENERATE_EMBEDDING, באמצעות המודל המרוחק וטבלת הנתונים הציבוריים bigquery-public-data.bbc_news.fulltext עם הפרוצדורה המאוחסנת bqutil.procedure.bqml_generate_embeddings.

ההרשאות הנדרשות

כדי להפעיל את המדריך הזה, אתם צריכים את התפקידים הבאים בניהול הזהויות והרשאות הגישה (IAM):

• יצירה ושימוש במערכי נתונים, בחיבורים ובמודלים של BigQuery: ניהול BigQuery‏ (roles/bigquery.admin).
• נותנים הרשאות לחשבון השירות של החיבור: אדמין IAM של פרויקט (roles/resourcemanager.projectIamAdmin).

התפקידים המוגדרים מראש האלה כוללים את ההרשאות שנדרשות לביצוע המשימות שמתוארות במסמך הזה. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

יכול להיות שתוכלו לקבל את ההרשאות האלה גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

עלויות

במסמך הזה משתמשים ברכיבים הבאים של Cloud de Confiance by S3NS, והשימוש בהם כרוך בתשלום:

• BigQuery ML: You incur costs for the data that you process in BigQuery.
• Gemini Enterprise Agent Platform: You incur costs for calls to the Agent Platform model.

מידע נוסף על התמחור של BigQuery זמין במאמר תמחור ב-BigQuery.

מידע נוסף על התמחור של Agent Platform

לפני שמתחילים

1. בדף לבחירת הפרויקט במסוף Cloud de Confiance , בוחרים פרויקט ב- Cloud de Confiance או יוצרים אותו.

   תפקידים שנדרשים כדי לבחור או ליצור פרויקט

   • Select a project: כדי לבחור פרויקט לא צריך תפקיד IAM ספציפי – אפשר לבחור כל פרויקט שקיבלתם בו תפקיד.
   • יצירת פרויקט: כדי ליצור פרויקט, צריך את התפקיד Project Creator (יצירת פרויקטים) (roles/resourcemanager.projectCreator), שכולל את ההרשאה resourcemanager.projects.create. איך מקצים תפקידים

   כניסה לדף לבחירת הפרויקט

2. מוודאים שהחיוב מופעל בפרויקט Cloud de Confiance .

3. מפעילים את ממשקי ה-API‏ BigQuery,‏ BigQuery Connection ו-Agent Platform.

   תפקידים שנדרשים להפעלת ממשקי API

   כדי להפעיל ממשקי API, צריך את תפקיד ה-IAM 'אדמין של Service Usage' (roles/serviceusage.serviceUsageAdmin), שכולל את ההרשאה serviceusage.services.enable. איך מקצים תפקידים

   הפעלת ממשקי ה-API

יצירת מערך נתונים

יוצרים מערך נתונים ב-BigQuery לאחסון המודלים ונתונים לדוגמה:

1. במסוף Cloud de Confiance , עוברים לדף BigQuery.

   לדף BigQuery

2. בחלונית Explorer, לוחצים על שם הפרויקט.

3. לוחצים על more_vert הצגת פעולות > יצירת מערך נתונים.

4. בדף Create dataset, מבצעים את הפעולות הבאות:

   1. בשדה Dataset ID (מזהה מערך הנתונים), מזינים target_dataset.

   2. בקטע Location type, בוחרים באפשרות Multi-region ואז באפשרות US (multiple regions in United States).

   3. משאירים את הגדרות ברירת המחדל שנותרו כמו שהן ולוחצים על Create dataset (יצירת מערך נתונים).

יצירת מודל ליצירת הטמעת טקסט

יוצרים מודל מרוחק שמייצג מודל של Agent Platform מתארח:text-embedding-005

1. במסוף Cloud de Confiance , עוברים לדף BigQuery.

   כניסה ל-BigQuery

2. בעורך השאילתות, מריצים את ההצהרה הבאה:

   CREATE OR REPLACE MODEL `target_dataset.embedding_model`
     REMOTE WITH CONNECTION DEFAULT
     OPTIONS (ENDPOINT = 'text-embedding-005');

   השאילתה תימשך כמה שניות, ואז המודל embedding יופיע במערך הנתונים sample בחלונית Explorer. מכיוון שהשאילתה משתמשת בהצהרת CREATE MODEL כדי ליצור מודל, אין תוצאות לשאילתה.

הפעלת התהליך המאוחסן

מריצים את bqutil.procedure.bqml_generate_embeddings הפרוצדורה המאוחסנת, שחוזרת על קריאות לפונקציה ML.GENERATE_EMBEDDING באמצעות המודל target_dataset.embedding_model וטבלת הנתונים הציבוריים bigquery-public-data.bbc_news.fulltext:

1. במסוף Cloud de Confiance , עוברים לדף BigQuery.

   כניסה ל-BigQuery

2. בעורך השאילתות, מריצים את ההצהרה הבאה:

   CALL `bqutil.procedure.bqml_generate_embeddings`(
       "bigquery-public-data.bbc_news.fulltext",            -- source table
       "PROJECT_ID.target_dataset.news_body_embeddings",  -- destination table
       "PROJECT_ID.target_dataset.embedding_model",       -- model
       "body",                                              -- content column
       ["filename"],                                        -- key columns
       '{}'                                                 -- optional arguments encoded as a JSON string
   );

   מחליפים את PROJECT_ID במזהה הפרויקט שבו אתם משתמשים במדריך הזה.

   התהליך המאוחסן יוצר טבלה target_dataset.news_body_embeddings שתכיל את הפלט של הפונקציה ML.GENERATE_EMBEDDING.

3. אחרי שהשאילתה מסיימת לפעול, מוודאים שאין שורות בטבלה target_dataset.news_body_embeddings שמכילות שגיאה שאפשר לנסות שוב לתקן. בעורך השאילתות, מריצים את ההצהרה הבאה:

   SELECT *
   FROM `target_dataset.news_body_embeddings`
   WHERE ml_generate_embedding_status LIKE '%A retryable error occurred%';

   השאילתה מחזירה את ההודעה No data to display.

הסרת המשאבים

1. במסוף Cloud de Confiance , נכנסים לדף Manage resources.

   כניסה לדף Manage resources

2. ברשימת הפרויקטים, בוחרים את הפרויקט שרוצים למחוק ולוחצים על Delete.
3. כדי למחוק את הפרויקט, כותבים את מזהה הפרויקט בתיבת הדו-שיח ולוחצים על Shut down.