הפעלת חיזויים באמצעות ניהול נקודות קצה של מודלים

בדף הזה מוסבר על ניהול נקודות קצה של מודלים. ניהול נקודות קצה של מודלים מאפשר לכם להתנסות ברישום של נקודת קצה של מודל AI ובהפעלת חיזויים. כדי להשתמש במודלים של AI בסביבות ייצור, אפשר לעיין במאמרים יצירת אפליקציות AI גנרטיבי באמצעות Cloud SQL והפעלת תחזיות אונליין ממופעים של Cloud SQL.

אחרי שמוסיפים את נקודות הקצה של המודל ורושמים אותן בניהול נקודות הקצה של המודל, אפשר להפנות אליהן באמצעות מזהה המודל כדי להפעיל תחזיות.

לפני שמתחילים

חשוב לוודא שהשלמת את הפעולות הבאות:

• רושמים את נקודת הקצה של המודל באמצעות ניהול נקודות קצה של מודלים. מידע נוסף זמין במאמר רישום של מודלים מרוחקים של AI וקריאה להם באמצעות ניהול נקודות קצה של מודלים.
• יוצרים או מעדכנים את המכונה של Cloud SQL כדי שהיא תוכל להשתלב עם Vertex AI. מידע נוסף זמין במאמר בנושא הפעלת שילוב של מסד נתונים עם Vertex AI.

הפעלת חיזויים למודלים כלליים

אפשר להשתמש בפונקציית ה-SQL‏ google_ml.predict_row() כדי לקרוא לנקודת קצה של מודל גנרי רשום ולהפעיל חיזויים. אפשר להשתמש בפונקציה google_ml.predict_row() עם כל סוג של מודל.

SELECT
  google_ml.predict_row(
    model_id => 'MODEL_ID',
    request_body => 'REQUEST_BODY');

מחליפים את מה שכתוב בשדות הבאים:

• ‫MODEL_ID: מזהה המודל שהגדרתם כשרושמתם את נקודת הקצה של המודל
• ‫REQUEST_BODY: הפרמטרים של פונקציית החיזוי, בפורמט JSON

דוגמאות

כדי ליצור תחזיות לנקודת קצה של מודל gemini-pro רשום, מריצים את ההצהרה הבאה:

    SELECT
        json_array_elements(
        google_ml.predict_row(
            model_id => 'gemini-pro',
            request_body => '{
        "contents": [
            {
                "role": "user",
                "parts": [
                    {
                        "text": "For TPCH database schema as mentioned here https://www.tpc.org/TPC_Documents_Current_Versions/pdf/TPC-H_v3.0.1.pdf , generate a SQL query to find all supplier names which are located in the India nation."
                    }
                ]
            }
        ]
        }'))-> 'candidates' -> 0 -> 'content' -> 'parts' -> 0 -> 'text';