בדף הזה מוסבר איך לשלוח הנחיות לשיחה למודל Gemini באמצעות Cloud de Confiance המסוף, API בארכיטקטורת REST וערכות SDK נתמכות.
כדי ללמוד איך מוסיפים תמונות וקובצי מדיה אחרים לבקשה, אפשר לעיין במאמר בנושא הבנת תמונות.
רשימת השפות שנתמכות ב-Gemini מופיעה במאמר שפות נתמכות.
כדי לעיין במודלים של AI גנרטיבי ובממשקי API שזמינים ב-Gemini Enterprise Agent Platform, עוברים אל Model Garden במסוף Cloud de Confiance .
אם אתם מחפשים דרך להשתמש ב-Gemini ישירות מהאפליקציות לנייד ומאפליקציות האינטרנט שלכם, כדאי לעיין בערכות ה-SDK של Firebase AI Logic ללקוחות עבור אפליקציות Swift, Android, Web, Flutter ו-Unity.
יצירת טקסט
כדי לבדוק הנחיות לצ'אט ולשפר אותן, מומלץ להשתמש בCloud de Confiance מסוף. כדי לשלוח פרומפטים למודל באופן פרוגרמטי, אפשר להשתמש ב-API בארכיטקטורת REST, ב-Google Gen AI SDK, ב-Agent Platform SDK או באחת מהספריות וערכות ה-SDK הנתמכות האחרות.
אתם יכולים להשתמש בהוראות מערכת כדי לכוון את התנהגות המודל בהתאם לצורך ספציפי או לתרחיש שימוש מסוים. לדוגמה, אתם יכולים להגדיר פרסונה או תפקיד לצ'אטבוט שמגיב לבקשות שירות לקוחות. מידע נוסף זמין בדוגמאות הקוד להוראות המערכת.
אתם יכולים להשתמש ב-Google Gen AI SDK כדי לשלוח בקשות אם אתם משתמשים ב-Gemini 2.5 Flash.
הנה דוגמה ליצירת טקסט.
המסוף
כדי להשתמש ב-Agent Studio כדי לשלוח הנחיה לצ'אט במסוףCloud de Confiance , מבצעים את הפעולות הבאות:
- בקטע Agent Platform במסוף Cloud de Confiance , עוברים לדף Agent Studio.
- בקטע התחלת שיחה, לוחצים על צ'אט בטקסט.
אופציונלי: הגדרת המודל והפרמטרים:
- מודל: בוחרים באפשרות Gemini Pro.
- אזור: בוחרים את האזור שבו רוצים להשתמש.
טמפרטורה: משתמשים בפס ההזזה או בתיבת הטקסט כדי להזין ערך של טמפרטורה.
רמת האקראיות משמשת לדגימה במהלך תהליך יצירת תשובות, שמתרחש כשמחילים את הפרמטריםtopPו-topK. הפרמטר Temperature שולט במידת האקראיות בבחירת האסימון. טמפרטורות נמוכות טובות להנחיות שדורשות תשובה פחות פתוחה או יצירתית, ואילו טמפרטורות גבוהות יכולות להוביל לתוצאות יותר מגוונות או יצירתיות. רמת אקראיות של0פירושה שהטוקנים עם ההסתברות הכי גבוהה תמיד נבחרים. במקרה כזה, התשובות להנחיה נתונה הן ברובן דטרמיניסטיות, אבל עדיין יכול להיות שינוי קל.אם המודל מחזיר תשובה כללית מדי או קצרה מדי, או אם המודל מחזיר תשובת ברירת מחדל, נסו להגדיל את הטמפרטורה. אם המודל נכנס ליצירה אינסופית, יכול להיות שהגדלת רמת האקראיות ל-
0.1לפחות תביא לתוצאות טובות יותר.1.0הוא ערך הטמפרטורה המומלץ להתחלה.מגבלת טוקנים בפלט: משתמשים בפס ההזזה או בתיבת הטקסט כדי להזין ערך למגבלת הפלט המקסימלית.
המספר המקסימלי של טוקנים שאפשר ליצור בתשובה. טוקן הוא בערך ארבעה תווים. 100 אסימונים מקבילים בערך ל-60-80 מילים.כדי לקבל תשובות קצרות יותר, מציינים ערך נמוך יותר, וכדי לקבל תשובות ארוכות יותר, מציינים ערך גבוה יותר.
- הוספת רצף עצירות: אופציונלי. מזינים רצף עצירה, שהוא סדרה של תווים שכוללת רווחים. אם המודל נתקל ברצף עצירה, תהליך יצירת התשובות נפסק. רצף העצירה לא נכלל בתגובה, ואפשר להוסיף עד חמישה רצפי עצירה.
- אופציונלי: כדי להגדיר פרמטרים מתקדמים, לוחצים על מתקדם ומגדירים את הפרמטרים באופן הבא:
לוחצים כדי להרחיב את ההגדרות המתקדמות
Top-K: משתמשים בפס ההזזה או בתיבת הטקסט כדי להזין ערך ל-Top-K.
ההגדרה Top-K משנה את האופן שבו המודל בוחר אסימונים לפלט. ערך של1בפרמטר top-K אומר שהטוקן הבא שנבחר הוא הטוקן הסביר ביותר מבין כל הטוקנים באוצר המילים של המודל (נקרא גם פענוח חמדני), בעוד שערך של3אומר שהטוקן הבא נבחר מבין שלושת הטוקנים הסבירים ביותר באמצעות רמת אקראיות.בכל שלב של בחירת אסימון, המערכת דוגמת את האסימונים המובילים מתוך K האסימונים עם ההסתברות הכי גבוהה. לאחר מכן, האסימונים מסוננים עוד יותר על סמך top-P, והאסימון הסופי נבחר באמצעות דגימת טמפרטורה.
כדי לקבל תשובות פחות אקראיות, מציינים ערך נמוך יותר, וכדי לקבל תשובות יותר אקראיות, מציינים ערך גבוה יותר.
- Top-P: משתמשים בפס ההזזה או בתיבת הטקסט כדי להזין ערך ל-Top-P. הטוקנים נבחרים מהסבירים ביותר לסבירים פחות עד שסכום ההסתברויות שלהם שווה לערך של Top-P. כדי לקבל תוצאות עם הכי פחות שונות, מגדירים את הפרמטר top-P לערך 0.
- הפעלת Grounding: כדי להתאים אישית את התכונה הזו, מוסיפים מקור Grounding ונתיב.
- כותבים את פרומפט הטקסטואלי בחלונית פרומפט. המודל משתמש בהודעות קודמות כהקשר לתגובות חדשות.
- אופציונלי: כדי להציג את מספר האסימונים של הטקסט, לוחצים על הצגת אסימונים. אפשר לראות את הטוקנים או את מזהי הטוקנים של הנחיית הטקסט.
- כדי לראות את הטוקנים בפרומפט הטקסטואלי שמודגשים בצבעים שונים שמסמנים את הגבול של כל מזהה טוקן, לוחצים על מזהה טוקן לטקסט. אין תמיכה באסימוני מדיה.
- כדי לראות את מזהי האסימונים, לוחצים על מזהה אסימון.
כדי לסגור את חלונית כלי הטוקניזציה, לוחצים על X או לוחצים מחוץ לחלונית.
- לוחצים על שליחה.
- אופציונלי: כדי לשמור את ההנחיה בההנחיות שלי, לוחצים על שמירה.
- אופציונלי: כדי לקבל את קוד Python או פקודת curl להנחיה, לוחצים על קבלת קוד.
- אופציונלי: כדי למחוק את כל ההודעות הקודמות, לוחצים על ניקוי השיחה
Python
התקנה
pip install --upgrade google-genai
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Go
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Node.js
התקנה
npm install @google/genai
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Java
כך מתקינים או מעדכנים את Java.
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
C#
מידע נוסף מופיע ב מאמרי העזרה בנושא SDK.
מגדירים משתני סביבה כדי להשתמש ב-Google Gen AI SDK עם Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
REST
לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:
-
GENERATE_RESPONSE_METHOD: סוג התשובה שרוצים שהמודל ייצור. בוחרים שיטה ליצירת התשובה של המודל:-
streamGenerateContent: התשובה מוזרמת בזמן שהיא נוצרת כדי לצמצם את תפיסת זמן האחזור בקרב קהל אנושי. -
generateContent: התשובה מוחזרת אחרי שהיא נוצרת במלואה.
-
-
LOCATION: האזור שבו הבקשה תעובד. -
PROJECT_ID: מזהה הפרויקט. . -
MODEL_ID: מזהה המודל של המודל הרב-אופני שרוצים להשתמש בו. הוראות הטקסט שצריך לכלול בפרומפט הראשון בשיחה רב-שלבית. לדוגמה,TEXT1
What are all the colors in a rainbow? הוראות הטקסט שצריך לכלול בהנחיה השנייה. לדוגמה,TEXT2
Why does it appear when it rains?-
TEMPERATURE: רמת האקראיות משמשת לדגימה במהלך תהליך יצירת תשובות, שמתרחשת כשמחילים את הפרמטריםtopPו-topK. הפרמטר Temperature שולט במידת האקראיות בבחירת האסימון. טמפרטורות נמוכות טובות להנחיות שדורשות תשובה פחות פתוחה או יצירתית, ואילו טמפרטורות גבוהות יכולות להוביל לתוצאות יותר מגוונות או יצירתיות. רמת אקראיות של0פירושה שהטוקנים עם ההסתברות הכי גבוהה תמיד נבחרים. במקרה כזה, התשובות להנחיה נתונה הן ברובן דטרמיניסטיות, אבל עדיין יכול להיות שינוי קל.אם המודל מחזיר תשובה כללית מדי או קצרה מדי, או אם המודל מחזיר תשובת ברירת מחדל, נסו להגדיל את הטמפרטורה. אם המודל נכנס ליצירה אינסופית, יכול להיות שהגדלת רמת האקראיות ל-
0.1לפחות תביא לתוצאות טובות יותר.1.0הוא ערך הטמפרטורה המומלץ להתחלה.
כדי לשלוח את הבקשה אתם צריכים לבחור אחת מהאפשרויות הבאות:
curl
שומרים את גוף הבקשה בקובץ בשם request.json.
כדי ליצור או להחליף את הקובץ הזה בספרייה הנוכחית, מריצים את הפקודה הבאה בטרמינל:
cat > request.json << 'EOF'
{
"contents": [
{
"role": "user",
"parts": { "text": "TEXT1" }
},
{
"role": "model",
"parts": { "text": "What a great question!" }
},
{
"role": "user",
"parts": { "text": "TEXT2" }
}
],
"generation_config": {
"temperature": TEMPERATURE
}
}
EOFלאחר מכן מבצעים את הפקודה הבאה כדי לשלוח את בקשת ה-REST:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:GENERATE_RESPONSE_METHOD"
PowerShell
שומרים את גוף הבקשה בקובץ בשם request.json.
כדי ליצור או להחליף את הקובץ הזה בספרייה הנוכחית, מריצים את הפקודה הבאה בטרמינל:
@'
{
"contents": [
{
"role": "user",
"parts": { "text": "TEXT1" }
},
{
"role": "model",
"parts": { "text": "What a great question!" }
},
{
"role": "user",
"parts": { "text": "TEXT2" }
}
],
"generation_config": {
"temperature": TEMPERATURE
}
}
'@ | Out-File -FilePath request.json -Encoding utf8לאחר מכן מבצעים את הפקודה הבאה כדי לשלוח את בקשת ה-REST:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:GENERATE_RESPONSE_METHOD" | Select-Object -Expand Content
אתם אמורים לקבל תגובת JSON שדומה לזו:
תשובות שמוצגות באופן שוטף ותשובות שלא מוצגות באופן שוטף
אתם יכולים לבחור אם המודל ייצור תשובות בסטרימינג או תשובות לא בסטרימינג. כשמפעילים את הצגת התשובות באופן שוטף, מקבלים כל תשובה ברגע שנוצר טוקן הפלט שלה. בתשובות שלא מוצגות באופן שוטף, מקבלים את כל התשובות אחרי שכל טוקני הפלט נוצרים.
הנה דוגמה ליצירת טקסט בהזרמה.
Python
לפני שמנסים את הדוגמה הזו, צריך לפעול לפי Pythonההוראות להגדרה במאמר מדריך למתחילים של Agent Platform באמצעות ספריות לקוח.
כדי לבצע אימות ב-Agent Platform, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת אימות לסביבת פיתוח מקומית.
לפני שמריצים דוגמאות קוד, צריך להגדיר את משתנה הסביבה GOOGLE_CLOUD_UNIVERSE_DOMAIN לערך s3nsapis.fr.
התנהגות של שיחה מרובת תורות עם Gemini
כשמשתמשים בצ'אט מרובה-תורות, Gemini Enterprise Agent Platform שומר באופן מקומי את התוכן הראשוני ואת ההנחיות ששלחתם למודל. פלטפורמת הסוכנים של Gemini Enterprise שולחת את כל הנתונים האלה עם כל בקשה עוקבת למודל. לכן, עלויות הקלט של כל הודעה שאתם שולחים הן סכום מצטבר של כל הנתונים שכבר נשלחו למודל. אם יש לכם כמות גדולה מספיק של תוכן התחלתי, כדאי להשתמש בשמירת נתונים במטמון לפי הקשר כשאתם יוצרים את אובייקט המודל הראשוני, כדי לשלוט טוב יותר בעלויות הקלט.
המאמרים הבאים
- איך שולחים בקשות להנחיות מולטימודאליות:
- הבנת תמונות
- הבנת סרטונים
- הבנת אודיו
- הבנת מסמכים
- מידע על שיטות מומלצות לאתיקה של בינה מלאכותית ועל מסנני הבטיחות של Agent Platform