Gemini Enterprise Agent Platform יכולה לרשום דוגמאות של בקשות ותשובות ל-Gemini ולמודלים של שותפים נתמכים. היומנים נשמרים בטבלה ב-BigQuery לצורך צפייה וניתוח. בנוסף, Agent Platform יכולה לשתף יומני בקשות ותשובות של מודלים ספציפיים של AI מתקדם עם שותפי MaaS מסוימים, כדי לעזור לכם לעמוד בהתחייבויות שלכם כלפי שותפי ה-MaaS האלה.
בדף הזה מוסבר איך להגדיר יומני בקשות ותגובות למודלים בסיסיים ולמודלים שעברו התאמה אישית.
שיטות API נתמכות לרישום ביומן
יומני בקשות ותשובות נתמכים בכל המודלים של Gemini שמשתמשים ב-generateContent או ב-streamGenerateContent.
גם המודלים הבאים של שותפים שמשתמשים ב-rawPredict או ב-streamrawPredict נתמכים:
- Anthropic Claude
יומני בקשות ותשובות למודלים בסיסיים
אפשר להגדיר יומני בקשות ותגובות למודלי בסיס באמצעות API בארכיטקטורת REST או Python SDK. יכול להיות שיחלפו כמה דקות עד שהגדרות הרישום ייכנסו לתוקף.
הפעלת רישום ביומן של בקשות ותשובות
כדי לקבל הוראות להפעלת יומני בקשות ותשובות עבור מודל בסיסי, בוחרים באחת מהכרטיסיות הבאות.
במודלים של Anthropic, רק REST נתמך בהגדרת רישום ביומן. מגדירים את הגדרת רישום ביומן דרך ה-API בארכיטקטורת REST על ידי הגדרת המאפיין publisher לערך anthropic ומגדירים את שם המודל לאחד מהמודלים הנתמכים של Claude.
Python SDK
אפשר להשתמש בשיטה הזו כדי ליצור או לעדכן PublisherModelConfig.
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
publisher_model = GenerativeModel("gemini-2.5-flash")
# Set logging configuration
publisher_model.set_request_response_logging_config(
enabled=True,
sampling_rate=1.0,
bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME",
enable_otel_logging=True
)
API בארכיטקטורת REST
יצירה או עדכון של PublisherModelConfig באמצעות setPublisherModelConfig:
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- ENDPOINT_PREFIX: האזור של משאב המודל ואחריו
-. לדוגמה,us-central1-. אם משתמשים בנקודת הקצה הגלובלית, משאירים את השדה ריק. רישום ביומן של בקשות ותגובות נתמך בכל האזורים שנתמכים על ידי המודל. - PROJECT_ID: מזהה הפרויקט.
- LOCATION: האזור של משאב המודל.
אם משתמשים בנקודת הקצה הגלובלית, מזינים
global. - PUBLISHER: שם בעל האתר. לדוגמה:
google. - MODEL: שם המודל הבסיסי. לדוגמה:
gemini-2.0-flash-001. - SAMPLING_RATE: כדי לצמצם את עלויות האחסון, אפשר להגדיר מספר בין 0 ל-1 כדי לציין את חלק הבקשות שיירשמו ביומן. לדוגמה, אם הערך הוא 1, כל הבקשות נרשמות ביומן, ואם הערך הוא 0.1, נרשמות ביומן 10% מהבקשות.
- BQ_URI: ה-URI של הטבלה ב-BigQuery שבה רוצים להשתמש לרישום ביומן. לדוגמה:
bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. אם משתמשים בנקודת הקצה הגלובלית (LOCATIONמוגדר ל-global), צריך לציין מערך נתונים קיים ב-BigQuery, כמוbq://PROJECT_ID.DATASET_NAMEאוbq://PROJECT_ID.DATASET_NAME.TABLE_NAME. אם משתמשים בנקודת קצה אזורית ומציינים רק מזהה פרויקט (bq://PROJECT_ID), נוצר מערך נתונים עם השםpublishers_PUBLISHER_models_MODEL_ENDPOINT_ID, כאשרPUBLISHERו-MODELפועלים לפי כללי מתן השמות ב-BigQuery. אם לא מציינים שם של טבלה, נוצרת טבלה בשםrequest_response_logging.
ה-method של ה-HTTP וכתובת ה-URL:
POST https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
גוף בקשת JSON:
{
"publisherModelConfig": {
"loggingConfig": {
"enabled": true,
"samplingRate": SAMPLING_RATE,
"bigqueryDestination": {
"outputUri": "bq://BQ_URI"
},
"enableOtelLogging": true
}
}
}
כדי לשלוח את הבקשה עליכם לבחור אחת מהאפשרויות הבאות:
curl
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
אחזור של הגדרות רישום ביומן
אפשר לקבל את הגדרות הרישום ביומן של בקשות ותגובות עבור מודל הבסיס באמצעות API בארכיטקטורת REST.
API בארכיטקטורת REST
כדי לקבל את הגדרות הרישום ביומן של בקשות ותגובות, משתמשים בפקודה fetchPublisherModelConfig:
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- PROJECT_ID: מזהה הפרויקט.
- LOCATION: המיקום של משאב המודל.
- PUBLISHER: שם בעל האתר. לדוגמה:
google. - MODEL: שם המודל הבסיסי. לדוגמה:
gemini-2.0-flash-001.
ה-method של ה-HTTP וכתובת ה-URL:
GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
מריצים את הפקודה הבאה:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"
PowerShell
מריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
השבתת רישום ביומן
משביתים את הרישום ביומן של בקשות ותגובות למודל הבסיס באמצעות API בארכיטקטורת REST או Python SDK.
Python SDK
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
publisher_model = GenerativeModel("gemini-2.5-flash")
# Disable logging
publisher_model.set_request_response_logging_config(
enabled=False,
sampling_rate=1.0,
bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
)
API בארכיטקטורת REST
כדי להשבית את הרישום ביומן, משתמשים בפקודה setPublisherModelConfig:
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- PROJECT_ID: מזהה הפרויקט.
- LOCATION: המיקום של משאב המודל.
- PUBLISHER: שם בעל האתר. לדוגמה:
google. - MODEL: שם המודל הבסיסי. לדוגמה:
gemini-2.0-flash-001.
שיטת ה-HTTP וכתובת ה-URL:
POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
גוף בקשת JSON:
{
"publisherModelConfig": {
"loggingConfig": {
"enabled": false
}
}
}
כדי לשלוח את הבקשה עליכם לבחור אחת מהאפשרויות הבאות:
curl
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
יומני בקשות ותשובות של מודלים שעברו כוונון עדין
אתם יכולים להגדיר יומנים של בקשות ותשובות למודלים שעברו התאמה אישית באמצעות REST API או Python SDK.
הפעלת יומנים של בקשות ותגובות
כדי לקבל הוראות להפעלת יומני בקשות ותשובות למודל שעבר כוונון, בוחרים באחד מהכרטיסיות הבאות.
Python SDK
אפשר להשתמש בשיטה הזו כדי לעדכן את הגדרת הרישום ביומן של בקשות ותשובות לנקודת קצה.
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")
# Set logging configuration
tuned_model.set_request_response_logging_config(
enabled=True,
sampling_rate=1.0,
bigquery_destination=f"bq://{PROJECT_ID}.DATASET_NAME.TABLE_NAME",
enable_otel_logging=True,
)
API בארכיטקטורת REST
אפשר להפעיל את רישום הבקשות והתגובות רק כשיוצרים נקודת קצה באמצעות
projects.locations.endpoints.create
או כשמבצעים תיקון בנקודת קצה קיימת באמצעות
projects.locations.endpoints.patch.
הבקשות והתשובות מתועדות ברמת נקודת הקצה, כך שמתועדות בקשות שנשלחות לכל המודלים שנפרסו באותה נקודת קצה.
כשיוצרים או מתקנים נקודת קצה, מאכלסים את השדה predictRequestResponseLoggingConfig של משאב נקודת הקצה בערכים הבאים:
enabled: הערךTrueמוגדר כדי להפעיל את הרישום ביומן של בקשות ותגובות.
samplingRate: כדי לצמצם את עלויות האחסון, אפשר להגדיר מספר בין 0 ל-1 כדי להגדיר את חלק הבקשות שיירשמו ביומן. לדוגמה, ערך של 1 מתעד את כל הבקשות, וערך של 0.1 מתעד 10% מהבקשות.
BigQueryDestination: הטבלה ב-BigQuery שבה יש להשתמש לרישום ביומן. אם מציינים רק מזהה פרויקט, נוצר מערך נתונים עם השםENDPOINT_DISPLAYNAMEENDPOINT_ID, כאשרENDPOINT_DISPLAY_NAMEעומד בדרישות כללי מתן השמות ב-BigQuery. אם לא מציינים שם של טבלה, נוצרת טבלה בשםrequest_response_logging.
enableOtelLogging: מגדירים את הערךtrueכדי להפעיל רישום ביומן של OpenTelemetry (OTEL) בנוסף לרישום ביומן של בקשות ותגובות שמוגדר כברירת מחדל.
לצפייה בסכימת הטבלה ב-BigQuery, אפשר לעיין במאמר בנושא סכימת טבלת הרישום.
דוגמה להגדרה:
{
"predictRequestResponseLoggingConfig": {
"enabled": true,
"samplingRate": 0.5,
"bigqueryDestination": {
"outputUri": "bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
},
"enableOtelLogging": true
}
}
אחזור של הגדרות רישום ביומן
כדי לקבל את הגדרות הרישום ביומן של בקשות ותגובות עבור המודל שעבר כוונון, משתמשים ב-API בארכיטקטורת REST.
API בארכיטקטורת REST
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
- PROJECT_ID: מזהה הפרויקט.
- LOCATION: המיקום של משאב נקודת הקצה.
- MODEL: שם המודל הבסיסי. לדוגמה:
gemini-2.0-flash-001. - ENDPOINT_ID: המזהה של נקודת הקצה.
ה-method של ה-HTTP וכתובת ה-URL:
GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
מריצים את הפקודה הבאה:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID"
PowerShell
מריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
השבתת הגדרת הרישום ביומן
משביתים את הגדרת הרישום ביומן של הבקשות והתשובות לנקודת הקצה.
Python SDK
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")
# Disable logging
tuned_model.set_request_response_logging_config(
enabled=False,
sampling_rate=1.0,
bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
)
API בארכיטקטורת REST
{
"predictRequestResponseLoggingConfig": {
"enabled": false
}
}
סכמת טבלאות של רישום ביומן
ב-BigQuery, היומנים מתועדים באמצעות הסכימה הבאה:
| שם השדה | סוג | הערות |
|---|---|---|
| endpoint | מחרוזת | שם המשאב של נקודת הקצה שבה נפרס המודל שעבר התאמה. |
| deployed_model_id | מחרוזת | מזהה המודל שנפרס עבור מודל שעבר כוונון ונפרס בנקודת קצה. |
| logging_time | TIMESTAMP | הזמן שבו מתבצע התיעוד. זהו בערך הזמן שבו התשובה מוחזרת. |
| request_id | מספרי | מזהה הבקשה (מספר שלם) שנוצר אוטומטית על סמך בקשת ה-API. |
| request_payload | מחרוזת | הוא כלול ברישום ביומן של מודלים של שותפים ותואם לאחור ליומן בקשות ותגובות של נקודת הקצה של Agent Platform. |
| response_payload | מחרוזת | הוא כלול ברישום ביומן של מודלים של שותפים ותואם לאחור ליומן בקשות ותגובות של נקודת הקצה של Agent Platform. |
| מודל | מחרוזת | שם המשאב של המודל. |
| model_version | מחרוזת | גרסת המודל. בדרך כלל, זוהי הגדרת ברירת המחדל למודלים של Gemini. |
| api_method | מחרוזת | generateContent, streamGenerateContent, rawPredict, streamRawPredict |
| full_request | JSON | התמונה המלאה GenerateContentRequest. |
| full_response | JSON | התמונה המלאה GenerateContentResponse. |
| מטא-נתונים | JSON | כל המטא-נתונים של השיחה, כולל זמן האחזור של הבקשה. |
| otel_log | JSON | יומנים בפורמט סכימה של OpenTelemetry. האפשרות הזו זמינה רק אם otel_logging מופעלת בהגדרות של רישום ביומן. |
שימו לב: לא מתבצעת הקלטה של זוגות של בקשות ותגובות שגדולים ממגבלת השורה של 10MB ב-BigQuery write API.
שיתוף בקשות ותגובות עם שותפי MaaS
במקרה של מודלים מסוימים של AI מתקדם, חלק מהשותפים ב-MaaS דורשים שיועבר לצוותי האמון והבטיחות שלהם יומן של הנחיות ותשובות באופן שלא ניתן לזיוף, כדי שיוכלו לעקוב אחרי שימוש לרעה פוטנציאלי. לדוגמה, השימוש ב-Anthropic Advanced AI כפוף לסעיף F של התנאים הספציפיים לשירות של Anthropic. בזמן שהתכונה dataSharingEnabledProvider פעילה, בקשות ותשובות שנרשמות ביומן במסגרת הנספח בנושא בטיחות מתקדמת של AI ישותפו עם שותף ה-MaaS בזמן אמת.
אפשר להפעיל שיתוף של יומן בקשות ותגובות שלא ניתן לזיוף באמצעות setPublisherModelConfig API, כמו שמוסבר בקטעים הבאים.
מודלים נתמכים
בטבלה הבאה מפורטים שותפים של MaaS ודגמים שתומכים בשיתוף של בקשות ותשובות:
| שותף MaaS נתמך | מודלים נתמכים |
|---|---|
| Anthropic |
|
השותף והמודל של MaaS צריכים להיות זהים. אפשר לשתף את יומן הבקשות והתשובות רק עם שותף ה-MaaS שפרסם את המודל.
דרישות מוקדמות
Google צריכה לקבל הסכמה לנספח בנושא בטיחות מתקדמת של AI בפרויקט הזה לפני שאפשר יהיה להפעיל שיתוף נתונים. מידע נוסף על הנספח זמין במאמר בנושא אבטחת AI מתקדם.
לא צריך להפעיל רישום ביומן של בקשות ותגובות כדי לשתף יומנים של בקשות ותגובות ב-BigQuery.
מגבלות
כברירת מחדל, בפרויקטים שמוגנים על ידי VPC Service Controls, אי אפשר לשתף נתונים עם שותפי MaaS. אין תמיכה בהגדרת כלל תעבורת נתונים יוצאת (egress) ב-VPC Service Controls. כדי להפעיל שיתוף נתונים בפרויקט שמוגן על ידי VPC Service Controls, צריך לשלוח בקשת תמיכה.
הפעלת שיתוף נתונים
מבצעים את הפעולות הבאות:
API בארכיטקטורת REST
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
-
ENDPOINT_PREFIX: התחילית המתאימה למיקום של נקודת הקצה של המודל. משתמשים בערכים הבאים:
-
לנקודת הקצה
global, משתמשים ב-aiplatform. -
לנקודות קצה עם מספר אזורים כמו
usאוeu, משתמשים ב-aiplatform.LOCATION.rep -
לנקודות קצה אזוריות כמו
us-central1, משתמשים ב-LOCATION-aiplatform.
-
לנקודת הקצה
- PROJECT_ID: מזהה הפרויקט.
-
LOCATION: המיקום של נקודת הקצה של המודל. לדוגמה,
global,us,euאוus-central1. -
PUBLISHER: השם של מפרסם המודל, באותיות קטנות. לדוגמה,
anthropic. -
MODEL: שם המודל הבסיסי. לדוגמה,
claude-fable-5. -
MAAS_PARTNER: שם המודל, באותיות רישיות. השותף של MaaS חייב להיות הגרסה באותיות רישיות של
MODEL, כפי שמתואר למעלה. לדוגמה,ANTHROPIC.
שיטת ה-HTTP וכתובת ה-URL:
POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
גוף בקשת JSON:
{
"publisherModelConfig": {
"dataSharingEnabledProvider": "ANTHROPIC"
}
}
כדי לשלוח את הבקשה עליכם לבחור אחת מהאפשרויות הבאות:
curl
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
אמורים לקבל קוד סטטוס של הצלחה (2xx) ותגובה ריקה.
אחזור של הגדרות השיתוף
מבצעים את הפעולות הבאות:
API בארכיטקטורת REST
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
-
ENDPOINT_PREFIX: התחילית המתאימה למיקום של נקודת הקצה של המודל. משתמשים בערכים הבאים:
-
לנקודת הקצה
global, משתמשים ב-aiplatform. -
לנקודות קצה עם מספר אזורים כמו
usאוeu, משתמשים ב-aiplatform.LOCATION.rep -
לנקודות קצה אזוריות כמו
us-central1, משתמשים ב-LOCATION-aiplatform.
-
לנקודת הקצה
- PROJECT_ID: מזהה הפרויקט.
-
LOCATION: המיקום של נקודת הקצה של המודל. לדוגמה,
global,us,euאוus-central1. -
PUBLISHER: השם של מפרסם המודל, באותיות קטנות. לדוגמה,
anthropic. -
MODEL: שם המודל הבסיסי. לדוגמה,
claude-fable-5.
ה-method של ה-HTTP וכתובת ה-URL:
GET https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
מריצים את הפקודה הבאה:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"
PowerShell
מריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
{
"loggingConfig": {},
"dataSharingEnabledProvider": "ANTHROPIC"
}
השבתה של שיתוף הנתונים
מבצעים את הפעולות הבאות:
API בארכיטקטורת REST
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
-
ENDPOINT_PREFIX: התחילית המתאימה למיקום של נקודת הקצה של המודל. משתמשים בערכים הבאים:
-
לנקודת הקצה
global, משתמשים ב-aiplatform. -
לנקודות קצה עם מספר אזורים כמו
usאוeu, משתמשים ב-aiplatform.LOCATION.rep -
לנקודות קצה אזוריות כמו
us-central1, משתמשים ב-LOCATION-aiplatform.
-
לנקודת הקצה
- PROJECT_ID: מזהה הפרויקט.
-
LOCATION: המיקום של נקודת הקצה של המודל. לדוגמה,
global,us,euאוus-central1. -
PUBLISHER: השם של מפרסם המודל, באותיות קטנות. לדוגמה,
anthropic. -
MODEL: שם המודל הבסיסי. לדוגמה,
claude-fable-5.
ה-method של ה-HTTP וכתובת ה-URL:
POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
גוף בקשת JSON:
{
"publisherModelConfig": {
"dataSharingEnabledProvider": "MODEL_PROVIDER_UNSPECIFIED"
}
}
כדי לשלוח את הבקשה עליכם לבחור אחת מהאפשרויות הבאות:
curl
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
אמורים לקבל קוד סטטוס של הצלחה (2xx) ותגובה ריקה.
מניעת בקשות לשיתוף נתונים
כדי למנוע שיתוף של יומני בקשות ותשובות עם שותפי MaaS, האדמין של הפרויקט יכול לבצע אחת מהפעולות הבאות:
אכיפת אילוץ בהתאמה אישית של Organization Policy Service: יוצרים ואוכפים אילוץ בהתאמה אישית של Organization Policy Service ב-
aiplatform.googleapis.com/Endpointשאוסר על הגדרתdataSharingEnabledProviderלכל ספק של מודל שותף. מידע נוסף מופיע במאמר בנושא החלת אילוץ בהתאמה אישית כדי למנוע שיתוף נתונים.יצירת גבולות גזרה לשירות ב-VPC Service Controls: יוצרים גבולות גזרה לשירות ב-VPC Service Controls שכולל את הפרויקט ואת
aiplatform.googleapis.comכשירות מוגבל. כברירת מחדל, בפרויקטים שמוגנים על ידי VPC Service Controls, חסימת שיתוף נתונים עם מודלים של שותפים.השבתת הגישה למודלים ב-Model Garden: השבתת הגישה למודלים ב-Model Garden שתומכים בשיתוף נתונים.
החלת הרשאות מינימליות: הגבלת ההרשאה
aiplatform.endpoints.setPublisherModelConfigכדי למנוע ממשתמשים לא מורשים להפעיל רישום ביומן או שיתוף של יומנים.
החלת אילוץ בהתאמה אישית כדי למנוע שיתוף נתונים
כדי ליצור ולאכוף אילוץ מותאם אישית של שירות מדיניות הארגון שמונע שיתוף של יומני בקשות ותגובות עם ספקי מודלים שותפים, צריך לבצע את הפעולות הבאות:
יוצרים קובץ YAML של אילוץ בהתאמה אישית בשם
prevent_data_sharing.yaml, בדומה לדוגמה הבאה.name: organizations/ORGANIZATION_ID/customConstraints/custom.denyPartnerModelDataSharing resourceTypes: - aiplatform.googleapis.com/Endpoint methodTypes: - CREATE - UPDATE condition: "has(resource.publisherModelConfig.dataSharingEnabledProvider)" actionType: DENY displayName: Prevent partner model data sharing description: Prohibits enabling request and response log sharing with any partner model provider.מחליפים את
ORGANIZATION_IDבמזהה הארגון ב- Cloud de Confiance .יוצרים את האילוץ המותאם אישית באמצעות הפקודה
gcloud org-policies:gcloud org-policies set-custom-constraint prevent_data_sharing.yamlכדי לאכוף את המדיניות, יוצרים קובץ לאכיפת מדיניות הארגון בשם
enforce_policy.yaml, בדומה לדוגמה הבאה:name: organizations/ORGANIZATION_ID/policies/custom.denyPartnerModelDataSharing spec: rules: - enforce: trueהחלת מדיניות הארגון:
gcloud org-policies set-policy enforce_policy.yaml
המאמרים הבאים
- הערכת התמחור עבור רישום ביומן של חיזוי אונליין.
- פורסים מודל באמצעות מסוף Cloud de Confiance או באמצעות Agent Platform API.
מידע נוסף על מדיניות שקשורה לרישום ביומן של תגובות לבקשות זמין במאמרים הבאים: