בדף הזה מוסבר איך ליצור קבוצת נתונים ב-Agent Platform מנתוני התמונות שלכם, כדי שתוכלו להתחיל לאמן מודלים לזיהוי אובייקטים. אפשר ליצור קבוצת נתונים באמצעות מסוף Cloud de Confiance או Agent Platform API.
יצירת קבוצת נתונים ריקה וייבוא או שיוך של הנתונים
מסוף Cloud de Confiance
כדי ליצור קבוצת נתונים ריקה ולייבא או לשייך את הנתונים, פועלים לפי ההוראות הבאות.
- במסוף Cloud de Confiance , בקטע Agent Platform, נכנסים לדף Datasets.
- לוחצים על יצירה כדי לפתוח את דף הפרטים של יצירת קבוצת הנתונים.
- משנים את השדה Dataset name כדי ליצור שם תצוגה תיאורי למערך הנתונים.
- לוחצים על הכרטיסייה תמונה.
- בוחרים באפשרות "זיהוי אובייקטים" בתור יעד המודל.
- בוחרים אזור מהרשימה הנפתחת Region.
- לוחצים על יצירה כדי ליצור קבוצת נתונים ריקה, ועוברים לדף ייבוא הנתונים.
- בוחרים אחת מהאפשרויות הבאות בקטע בחירת שיטת ייבוא:
העלאת נתונים מהמחשב
- בקטע בחירת שיטת ייבוא, בוחרים באפשרות להעלות נתונים מהמחשב.
- לוחצים על Select files ובוחרים את כל הקבצים המקומיים שרוצים להעלות לקטגוריה של Cloud Storage.
- בקטע Select a Cloud Storage path, לוחצים על Browse כדי לבחור את המיקום של קטגוריה של Cloud Storage שאליה רוצים להעלות את הנתונים.
העלאת קובץ ייבוא מהמחשב
- לוחצים על העלאת קובץ ייבוא מהמחשב.
- לוחצים על Select files ובוחרים את קובץ הייבוא המקומי שרוצים להעלות לקטגוריה של Cloud Storage.
- בקטע Select a Cloud Storage path, לוחצים על Browse כדי לבחור מיקום של קטגוריה של Cloud Storage שאליו רוצים להעלות את הקובץ.
בחירת קובץ לייבוא מ-Cloud Storage
- לוחצים על בחירת קובץ לייבוא מ-Cloud Storage.
- בקטע Select a Cloud Storage path, לוחצים על Browse כדי לבחור את קובץ הייבוא ב-Cloud Storage.
- לוחצים על Continue.
ייבוא הנתונים יכול להימשך כמה שעות, בהתאם לגודל הנתונים. אפשר לסגור את הכרטיסייה הזו ולחזור אליה מאוחר יותר. נשלח לך אימייל כשהנתונים ייובאו.
API
כדי ליצור מודל למידת מכונה, צריך קודם אוסף נתונים מייצג לאימון. אחרי שמייבאים את הנתונים, אפשר לבצע שינויים ולהתחיל לאמן את המודל.
יצירת קבוצת נתונים
אפשר להשתמש בדוגמאות הבאות כדי ליצור קבוצת נתונים לנתונים שלכם.
REST
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
-
LOCATION: האזור שבו יישמר מערך הנתונים. האזור חייב לתמוך במשאבים של מערכי נתונים. לדוגמה,
us-central1. רשימת המיקומים הזמינים - PROJECT: מזהה הפרויקט. .
- DATASET_NAME: שם מערך הנתונים.
ה-method של ה-HTTP וכתובת ה-URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/datasets
גוף בקשת JSON:
{
"display_name": "DATASET_NAME",
"metadata_schema_uri": "gs://google-cloud-aiplatform/schema/dataset/metadata/image_1.0.0.yaml"
}
כדי לשלוח את הבקשה עליכם לבחור אחת מהאפשרויות הבאות:
curl
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/datasets"
PowerShell
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/datasets" | Select-Object -Expand Content
הפלט אמור להיראות כך: אפשר להשתמש ב-OPERATION_ID בתגובה כדי לקבל את הסטטוס של הפעולה.
{
"name": "projects/PROJECT_NUMBER/locations/LOCATION/datasets/DATASET_ID/operations/OPERATION_ID",
"metadata": {
"@type": "type.googleapis.com/google.cloud.aiplatform.v1.CreateDatasetOperationMetadata",
"genericMetadata": {
"createTime": "2020-07-07T21:27:35.964882Z",
"updateTime": "2020-07-07T21:27:35.964882Z"
}
}
}
Terraform
בדוגמה הבאה נעשה שימוש במשאב Terraform google_vertex_ai_dataset כדי ליצור קבוצת נתונים של תמונות בשם image-dataset.
כדי ללמוד איך להחיל הגדרות ב-Terraform או להסיר אותן, ראו פקודות בסיסיות ב-Terraform.
Java
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Java במדריך למתחילים של Agent Platform באמצעות ספריות לקוח.
כדי לבצע אימות ב-Agent Platform, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
לפני שמריצים דוגמאות קוד, צריך להגדיר את משתנה הסביבה GOOGLE_CLOUD_UNIVERSE_DOMAIN לערך s3nsapis.fr.
Node.js
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Node.js במדריך למתחילים של Agent Platform באמצעות ספריות לקוח.
כדי לבצע אימות ב-Agent Platform, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
לפני שמריצים דוגמאות קוד, צריך להגדיר את משתנה הסביבה GOOGLE_CLOUD_UNIVERSE_DOMAIN לערך s3nsapis.fr.
Python
במאמר התקנת Vertex AI SDK ל-Python מוסבר איך להתקין או לעדכן את Vertex AI SDK ל-Python. מידע נוסף מופיע ב מאמרי העזרה של ה-API מבוסס-Python.
בדוגמה הבאה משתמשים ב-Agent Platform SDK ל-Python כדי ליצור קבוצת נתונים ולייבא נתונים. אם אתם מריצים את הקוד לדוגמה, אתם יכולים לדלג על הקטע "ייבוא נתונים" במדריך הזה.
הדוגמה הספציפית הזו מייבאת נתונים לסיווג של תווית אחת. אם למודל יש מטרה אחרת, צריך לשנות את הקוד.
ייבוא נתונים
אחרי שיוצרים מערך נתונים ריק, אפשר לייבא אליו את הנתונים. אם השתמשתם ב-Agent Platform SDK ל-Python כדי ליצור את מערך הנתונים, יכול להיות שכבר ייבאתם נתונים כשיצרתם את מערך הנתונים. אם כן, אתם יכולים לדלג על הקטע הזה.
REST
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
-
LOCATION: האזור שבו נמצא מערך הנתונים. לדוגמה,
us-central1. - PROJECT_ID: .
- DATASET_ID: מזהה קבוצת הנתונים.
- IMPORT_FILE_URI: הנתיב לקובץ ה-CSV או לקובץ JSON Lines ב-Cloud Storage, שמכיל רשימה של פריטי נתונים שמאוחסנים ב-Cloud Storage ומשמשים לאימון המודל. למידע על הפורמטים והמגבלות של קובצי הייבוא, ראו הכנת נתוני תמונות.
ה-method של ה-HTTP וכתובת ה-URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/datasets/DATASET_ID:import
גוף בקשת JSON:
{
"import_configs": [
{
"gcs_source": {
"uris": "IMPORT_FILE_URI"
},
"import_schema_uri" : "gs://google-cloud-aiplatform/schema/dataset/ioformat/image_bounding_box_io_format_1.0.0.yaml"
}
]
}
כדי לשלוח את הבקשה עליכם לבחור אחת מהאפשרויות הבאות:
curl
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/datasets/DATASET_ID:import"
PowerShell
שומרים את גוף הבקשה בקובץ בשם request.json ומריצים את הפקודה הבאה:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/datasets/DATASET_ID:import" | Select-Object -Expand Content
הפלט אמור להיראות כך: אפשר להשתמש ב-OPERATION_ID בתגובה כדי לקבל את הסטטוס של הפעולה.
{
"name": "projects/PROJECT_NUMBER/locations/LOCATION/datasets/DATASET_ID/operations/OPERATION_ID",
"metadata": {
"@type": "type.googleapis.com/google.cloud.aiplatform.v1.ImportDataOperationMetadata",
"genericMetadata": {
"createTime": "2020-07-08T20:32:02.543801Z",
"updateTime": "2020-07-08T20:32:02.543801Z"
}
}
}
Java
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Java במדריך למתחילים של Agent Platform באמצעות ספריות לקוח.
כדי לבצע אימות ב-Agent Platform, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
לפני שמריצים דוגמאות קוד, צריך להגדיר את משתנה הסביבה GOOGLE_CLOUD_UNIVERSE_DOMAIN לערך s3nsapis.fr.
Node.js
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי הוראות ההגדרה של Node.js במדריך למתחילים של Agent Platform באמצעות ספריות לקוח.
כדי לבצע אימות ב-Agent Platform, צריך להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
לפני שמריצים דוגמאות קוד, צריך להגדיר את משתנה הסביבה GOOGLE_CLOUD_UNIVERSE_DOMAIN לערך s3nsapis.fr.
Python
במאמר התקנת Vertex AI SDK ל-Python מוסבר איך להתקין או לעדכן את Vertex AI SDK ל-Python. מידע נוסף מופיע ב מאמרי העזרה של ה-API מבוסס-Python.
קבלת סטטוס הפעולה
חלק מהבקשות מפעילות פעולות ממושכות שלוקח זמן להשלים אותן. הבקשות האלה מחזירות שם פעולה, שבו אפשר להשתמש כדי לראות את סטטוס הפעולה או לבטל אותה. ב-Agent Platform יש שיטות עזר לשליחת קריאות לפעולות ממושכות. מידע נוסף זמין במאמר עבודה עם פעולות ממושכות.