קבלת מסקנות למודל תחזית

טבלה ב-BigQuery

אם בוחרים טבלה ב-BigQuery כקלט, צריך לוודא את הדברים הבאים:

• הגודל של טבלאות מקור נתונים ב-BigQuery לא יכול להיות יותר מ-100GB.
• אם הטבלה נמצאת בפרויקט אחר, צריך להקצות את התפקיד BigQuery Data Editor לחשבון השירות של Agent Platform באותו פרויקט.

קובץ CSV

אם אתם בוחרים אובייקט CSV ב-Cloud Storage כקלט, אתם צריכים לוודא ש:

• מקור הנתונים חייב להתחיל בשורת כותרת עם שמות העמודות.
• הגודל של כל אובייקט במקור הנתונים לא יכול להיות יותר מ-10GB. אפשר לכלול כמה קבצים, עד לגודל מקסימלי של 100GB.
• אם הקטגוריה של Cloud Storage נמצאת בפרויקט אחר, צריך להקצות את התפקיד Storage Object Creator לחשבון השירות של Agent Platform באותו פרויקט.
• כל המחרוזות חייבות להיות מוקפות במירכאות כפולות (").

מסוף Cloud de Confiance

משתמשים במסוף Cloud de Confiance כדי לשלוח בקשה להסקה באצווה.

1. בקטע Agent Platform במסוף Cloud de Confiance , נכנסים לדף Batch inferences.

   כניסה לדף Batch inferences

2. לוחצים על Create כדי לפתוח את החלון New batch inference.
3. בקטע Define your batch inference, מבצעים את הפעולות הבאות:
   1. מזינים שם להסקת הנתונים באצווה.
   2. בשדה Model name, בוחרים את שם המודל שבו רוצים להשתמש להסקת המסקנות באצווה.
   3. בקטע Version, בוחרים את גרסת המודל.
   4. בקטע Select source, בוחרים אם נתוני הקלט של המקור הם קובץ CSV ב-Cloud Storage או טבלה ב-BigQuery.
      • בקובצי CSV, מציינים את המיקום ב-Cloud Storage שבו נמצא קובץ הקלט בפורמט CSV.
      • בטבלאות BigQuery, צריך לציין את מזהה הפרויקט שבו נמצאת הטבלה, את מזהה מערך הנתונים ב-BigQuery ואת מזהה הטבלה או התצוגה ב-BigQuery.
   5. בקטע Batch inference output, בוחרים באפשרות CSV או BigQuery.
      • אם בחרתם ב-CSV, ציינו את הקטגוריה של Cloud Storage שבה Gemini Enterprise Agent Platform שומרת את הפלט.
      • ב-BigQuery, אפשר לציין מזהה פרויקט או מערך נתונים קיים:
        • כדי לציין את מזהה הפרויקט, מזינים את מזהה הפרויקט בשדה Google Cloud project ID. ‫Gemini Enterprise Agent Platform יוצרת בשבילכם קבוצת נתוני פלט חדשה.
        • כדי לציין קבוצת נתונים קיימת, מזינים את הנתיב שלה ב-BigQuery בשדה מזהה פרויקט בענן של Google, למשל bq://projectid.datasetid.
      • אופציונלי. אם יעד הפלט הוא BigQuery או JSONL ב-Cloud Storage, אפשר להפעיל שיוך של מאפיינים בנוסף להסקות. כדי לעשות את זה, בוחרים באפשרות Enable feature attributions for this model. אי אפשר להשתמש בשיוך תכונות בקובצי CSV ב-Cloud Storage. מידע נוסף
4. אופציונלי: ניתוח מעקב אחרי מודלים להסקות באצווה זמין בגרסת טרום-השקה (Preview). הדרישות המוקדמות להוספת הגדרת זיהוי ההטיה למשימת ההסקה באצווה.
   1. לוחצים על המתג Enable model monitoring for this batch inference.
   2. בוחרים מקור נתונים לאימון. מזינים את נתיב הנתונים או המיקום של מקור נתוני האימון שבחרתם.
   3. אופציונלי: בקטע Alert thresholds, מציינים את ערכי הסף להפעלת התראות.
   4. בשדה Notification emails, מזינים כתובת אימייל אחת או יותר, מופרדות בפסיקים, כדי לקבל התראות באימייל כשמודל חורג מסף ההתראה.
   5. אופציונלי: בשדה Notification channels, מוסיפים ערוצים של Cloud Monitoring כדי לקבל התראות כשהמודל חורג מסף ההתראה. אפשר לבחור ערוצים קיימים של Cloud Monitoring או ליצור ערוץ חדש בלחיצה על Manage notification channels. המסוף תומך בערוצי ההתראות PagerDuty,‏ Slack ו-Pub/Sub.
5. לוחצים על יצירה.

‫API : ‏BigQuery

POST https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs

{
  "displayName": "BATCH_JOB_NAME",
  "model": "projects/PROJECT_ID/locations/LOCATION_ID/models/MODEL_ID",
  "inputConfig": {
    "instancesFormat": "bigquery",
    "bigquerySource": {
      "inputUri": "INPUT_URI"
    }
  },
  "outputConfig": {
    "predictionsFormat": "bigquery",
    "bigqueryDestination": {
      "outputUri": "OUTPUT_URI"
    }
  },
  "generate_explanation": GENERATE_EXPLANATION
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs" | Select-Object -Expand Content

{
  "name": "projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs/67890",
  "displayName": "batch_job_1 202005291958",
  "model": "projects/12345/locations/us-central1/models/5678",
  "state": "JOB_STATE_PENDING",
  "inputConfig": {
    "instancesFormat": "bigquery",
    "bigquerySource": {
      "inputUri": "INPUT_URI"
    }
  },
  "outputConfig": {
    "predictionsFormat": "bigquery",
    "bigqueryDestination": {
        "outputUri": bq://12345
    }
  },
  "dedicatedResources": {
    "machineSpec": {
      "machineType": "n1-standard-32",
      "acceleratorCount": "0"
    },
    "startingReplicaCount": 2,
    "maxReplicaCount": 6
  },
  "manualBatchTuningParameters": {
    "batchSize": 4
  },
  "outputInfo": {
    "bigqueryOutputDataset": "bq://12345.reg_model_2020_10_02_06_04
  }
  "state": "JOB_STATE_PENDING",
  "createTime": "2020-09-30T02:58:44.341643Z",
  "updateTime": "2020-09-30T02:58:44.341643Z",
}

import com.google.cloud.aiplatform.v1.BatchPredictionJob;
import com.google.cloud.aiplatform.v1.BigQueryDestination;
import com.google.cloud.aiplatform.v1.BigQuerySource;
import com.google.cloud.aiplatform.v1.JobServiceClient;
import com.google.cloud.aiplatform.v1.JobServiceSettings;
import com.google.cloud.aiplatform.v1.LocationName;
import com.google.cloud.aiplatform.v1.ModelName;
import com.google.gson.JsonObject;
import com.google.protobuf.Value;
import com.google.protobuf.util.JsonFormat;
import java.io.IOException;

public class CreateBatchPredictionJobBigquerySample {

  public static void main(String[] args) throws IOException {
    // TODO(developer): Replace these variables before running the sample.
    String project = "PROJECT";
    String displayName = "DISPLAY_NAME";
    String modelName = "MODEL_NAME";
    String instancesFormat = "INSTANCES_FORMAT";
    String bigquerySourceInputUri = "BIGQUERY_SOURCE_INPUT_URI";
    String predictionsFormat = "PREDICTIONS_FORMAT";
    String bigqueryDestinationOutputUri = "BIGQUERY_DESTINATION_OUTPUT_URI";
    createBatchPredictionJobBigquerySample(
        project,
        displayName,
        modelName,
        instancesFormat,
        bigquerySourceInputUri,
        predictionsFormat,
        bigqueryDestinationOutputUri);
  }

  static void createBatchPredictionJobBigquerySample(
      String project,
      String displayName,
      String model,
      String instancesFormat,
      String bigquerySourceInputUri,
      String predictionsFormat,
      String bigqueryDestinationOutputUri)
      throws IOException {
    JobServiceSettings settings =
        JobServiceSettings.newBuilder()
            .setEndpoint("us-central1-aiplatform.googleapis.com:443")
            .build();
    String location = "us-central1";

    // Initialize client that will be used to send requests. This client only needs to be created
    // once, and can be reused for multiple requests. After completing all of your requests, call
    // the "close" method on the client to safely clean up any remaining background resources.
    try (JobServiceClient client = JobServiceClient.create(settings)) {
      JsonObject jsonModelParameters = new JsonObject();
      Value.Builder modelParametersBuilder = Value.newBuilder();
      JsonFormat.parser().merge(jsonModelParameters.toString(), modelParametersBuilder);
      Value modelParameters = modelParametersBuilder.build();
      BigQuerySource bigquerySource =
          BigQuerySource.newBuilder().setInputUri(bigquerySourceInputUri).build();
      BatchPredictionJob.InputConfig inputConfig =
          BatchPredictionJob.InputConfig.newBuilder()
              .setInstancesFormat(instancesFormat)
              .setBigquerySource(bigquerySource)
              .build();
      BigQueryDestination bigqueryDestination =
          BigQueryDestination.newBuilder().setOutputUri(bigqueryDestinationOutputUri).build();
      BatchPredictionJob.OutputConfig outputConfig =
          BatchPredictionJob.OutputConfig.newBuilder()
              .setPredictionsFormat(predictionsFormat)
              .setBigqueryDestination(bigqueryDestination)
              .build();
      String modelName = ModelName.of(project, location, model).toString();
      BatchPredictionJob batchPredictionJob =
          BatchPredictionJob.newBuilder()
              .setDisplayName(displayName)
              .setModel(modelName)
              .setModelParameters(modelParameters)
              .setInputConfig(inputConfig)
              .setOutputConfig(outputConfig)
              .build();
      LocationName parent = LocationName.of(project, location);
      BatchPredictionJob response = client.createBatchPredictionJob(parent, batchPredictionJob);
      System.out.format("response: %s\n", response);
      System.out.format("\tName: %s\n", response.getName());
    }
  }
}

def create_batch_prediction_job_bigquery_sample(
    project: str,
    location: str,
    model_resource_name: str,
    job_display_name: str,
    bigquery_source: str,
    bigquery_destination_prefix: str,
    sync: bool = True,
):
    aiplatform.init(project=project, location=location)

    my_model = aiplatform.Model(model_resource_name)

    batch_prediction_job = my_model.batch_predict(
        job_display_name=job_display_name,
        bigquery_source=bigquery_source,
        bigquery_destination_prefix=bigquery_destination_prefix,
        sync=sync,
    )

    batch_prediction_job.wait()

    print(batch_prediction_job.display_name)
    print(batch_prediction_job.resource_name)
    print(batch_prediction_job.state)
    return batch_prediction_job

‫API : ‏Cloud Storage

POST https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs

{
  "displayName": "BATCH_JOB_NAME",
  "model": "projects/PROJECT_ID/locations/LOCATION_ID/models/MODEL_ID",
  "inputConfig": {
    "instancesFormat": "csv",
    "gcsSource": {
      "uris": [
        URI1,...
      ]
    },
  },
  "outputConfig": {
    "predictionsFormat": "csv",
    "gcsDestination": {
      "outputUriPrefix": "OUTPUT_URI_PREFIX"
    }
  },
  "generate_explanation": GENERATE_EXPLANATION
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs" | Select-Object -Expand Content

{
  "name": "projects/PROJECT_ID/locations/LOCATION_ID/batchPredictionJobs/67890",
  "displayName": "batch_job_1 202005291958",
  "model": "projects/12345/locations/us-central1/models/5678",
  "state": "JOB_STATE_PENDING",
  "inputConfig": {
    "instancesFormat": "csv",
    "gcsSource": {
      "uris": [
        "gs://bp_bucket/reg_mode_test"
      ]
    }
  },
  "outputConfig": {
    "predictionsFormat": "csv",
    "gcsDestination": {
      "outputUriPrefix": "OUTPUT_URI_PREFIX"
    }
  },
  "dedicatedResources": {
    "machineSpec": {
      "machineType": "n1-standard-32",
      "acceleratorCount": "0"
    },
    "startingReplicaCount": 2,
    "maxReplicaCount": 6
  }
  "outputInfo": {
    "gcsOutputDataset": "OUTPUT_URI_PREFIX/prediction-batch_job_1 202005291958-2020-09-30T02:58:44.341643Z"
  }
  "state": "JOB_STATE_PENDING",
  "createTime": "2020-09-30T02:58:44.341643Z",
  "updateTime": "2020-09-30T02:58:44.341643Z",
}

def create_batch_prediction_job_sample(
    project: str,
    location: str,
    model_resource_name: str,
    job_display_name: str,
    gcs_source: Union[str, Sequence[str]],
    gcs_destination: str,
    sync: bool = True,
):
    aiplatform.init(project=project, location=location)

    my_model = aiplatform.Model(model_resource_name)

    batch_prediction_job = my_model.batch_predict(
        job_display_name=job_display_name,
        gcs_source=gcs_source,
        gcs_destination_prefix=gcs_destination,
        sync=sync,
    )

    batch_prediction_job.wait()

    print(batch_prediction_job.display_name)
    print(batch_prediction_job.resource_name)
    print(batch_prediction_job.state)
    return batch_prediction_job

BigQuery

קבוצת נתוני הפלט

אם אתם משתמשים ב-BigQuery, הפלט של הסקת אצווה נשמר במערך נתונים של פלט. אם סיפקתם קבוצת נתונים ל-Gemini Enterprise Agent Platform, השם של קבוצת הנתונים (BQ_DATASET_NAME) הוא השם שסיפקתם קודם. אם לא סיפקתם קבוצת נתונים לפלט, Gemini Enterprise Agent Platform יצרה אחת בשבילכם. כדי למצוא את השם שלו (BQ_DATASET_NAME):

1. במסוף Cloud de Confiance , נכנסים לדף Batch inferences ב-Gemini Enterprise Agent Platform.

   כניסה לדף Batch inferences

2. בוחרים את ההסקה שיצרתם.
3. מערך הנתונים של הפלט מופיע במיקום הייצוא. שם מערך הנתונים מופיע בפורמט הבא: prediction_MODEL_NAME_TIMESTAMP

טבלאות פלט

קבוצת הנתונים של הפלט מכילה אחת או יותר משלוש טבלאות הפלט הבאות:

• טבלת הסקה
  

  הטבלה הזו מכילה שורה לכל שורה בנתוני הקלט שבהם התבקשה הסקה (כלומר, שבהם TARGET_COLUMN_NAME = null). לדוגמה, אם הקלט כלל 14 ערכי null בעמודת היעד (כמו מכירות ב-14 הימים הבאים), בקשת ההסקה תחזיר 14 שורות, מספר המכירות לכל יום. אם בקשת ההסקה חורגת מטווח התחזית של המודל, Gemini Enterprise Agent Platform מחזירה רק הסקות עד לטווח התחזית.

• טבלת אימות שגיאות
  

  הטבלה הזו מכילה שורה לכל שגיאה לא קריטית שמתרחשת בשלב הצבירה, שמתבצע לפני הסקת המסקנות באצווה. כל שגיאה לא קריטית תואמת לשורה בנתוני הקלט ש-Agent Platform לא הצליחה להחזיר תחזית לגביה.

• טבלת השגיאות
  

  הטבלה הזו מכילה שורה לכל שגיאה לא קריטית שזוהתה במהלך הסקת מסקנות באצווה. כל שגיאה לא קריטית תואמת לשורה בנתוני הקלט ש-Agent Platform לא הצליחה להחזיר תחזית לגביה.

SELECT explanation.attributions[OFFSET(0)].featureAttributions.BQ_FEATURE_NAME FROM BQ_DATASET_NAME.BQ_PREDICTIONS_TABLE_NAME
  

Cloud Storage

אם ציינתם את Cloud Storage כיעד הפלט, התוצאות של בקשת ההסקה באצווה יוחזרו כאובייקטים של CSV בתיקייה חדשה בקטגוריה שציינתם. שם התיקייה הוא שם המודל, עם הקידומת "prediction-‎" והסיומת של חותמת הזמן שבה התחילה משימת ההסקה באצווה. שם התיקייה ב-Cloud Storage מופיע בכרטיסייה Batch predictions של המודל.

• אובייקטים של הסקה

  אובייקטי ההסקה נקראים ‎predictions_1.csv,‏ ‎predictions_2.csv וכן הלאה. הם מכילים שורת כותרת עם שמות העמודות, ושורה לכל תחזית שהוחזרה. מספר ערכי ההסקה תלוי בקלט ההסקה ובאופק החיזוי. לדוגמה, אם הקלט כלל 14 רשומות ריקות בעמודת היעד (כמו מכירות ב-14 הימים הבאים), בקשת ההסקה תחזיר 14 שורות, מספר המכירות לכל יום. אם בקשת ההסקה חורגת מאופק החיזוי של המודל, Gemini Enterprise Agent Platform מחזירה רק הסקות עד לאופק החיזוי.

  ערכי התחזית מוחזרים בעמודה בשם `predicted_TARGET_COLUMN_NAME`. בתחזיות של קוונטילים, עמודת הפלט מכילה את ההסקה של הקוונטילים ואת ערכי הקוונטילים בפורמט JSON.

• אובייקטים של שגיאות

  אובייקטי השגיאות נקראים errors_1.csv,‏ errors_2.csv וכן הלאה. הם מכילים שורת כותרת, ושורה לכל שורה בנתוני הקלט ש-Agent Platform לא הצליחה להחזיר תחזית עבורה (לדוגמה, אם תכונה שלא יכולה להיות null הייתה null).

הערה: אם התוצאות גדולות, הן מפוצלות לכמה אובייקטים.