מודלים של xAI Grok זמינים לשימוש כממשקי API מנוהלים ב-Gemini Enterprise Agent Platform. כדי לצמצם את תפיסת זמן האחזור של משתמשי הקצה, אתם יכולים להעביר את התשובות בסטרימינג. תשובה בסטרימינג משתמשת באירועים שנשלחים מהשרת (SSE) כדי להעביר את התשובה בסטרימינג באופן מצטבר.
מודלים מנוהלים של xAI
אלה המודלים של xAI שזמינים לשימוש ב-Gemini Enterprise Agent Platform. כדי לגשת למודל של xAI, נכנסים לכרטיס המודל שלו ב-Model Garden.
שימוש במודלים של xAI
במאמר קריאה לממשקי API של מודלים פתוחים מוסבר איך שולחים קריאות בסטרימינג וללא סטרימינג למודלים של xAI.
במודלים מנוהלים, אפשר להשתמש בפקודות curl כדי לשלוח בקשות לנקודת הקצה של פלטפורמת הסוכנים של Gemini Enterprise באמצעות שמות המודלים הבאים:
- ל-Grok 4.7, משתמשים ב-
grok-4.7 - ב-Grok 4.6, משתמשים ב-
grok-4.6 - ב-Grok 4.3, משתמשים ב-
grok-4.3 - Grok 4.20 (Reasoning),
grok-4.20-reasoning - ל-Grok 4.20 (ללא נימוקים), משתמשים ב-
grok-4.20-non-reasoning
מכסות ב-Grok
למודלים של Grok יש מכסה גלובלית אחת שחלה על כל מודל בסיס, ולא על כל נקודת קצה: בקשות לנקודת הקצה הגלובלית ולנקודת הקצה במספר אזורים בארה"ב מתבססות על אותה מגבלה בסיסית. המכסה מוגדרת בשאילתות לדקה (QPM) ובאסימונים לדקה (TPM), כאשר TPM כולל גם אסימוני קלט וגם אסימוני פלט.
כדי לשמור על הביצועים הכוללים של השירות ועל שימוש מקובל, יכול להיות שהמכסות המקסימליות יהיו שונות מחשבון לחשבון, ובמקרים מסוימים יכול להיות שהגישה תוגבל. אפשר לראות את המכסות של הפרויקט בדף Quotas & System Limits במסוף Cloud de Confiance . בנוסף, אתם צריכים לוודא שיש לכם את המכסות הבאות:
global_generate_content_requests_per_minute_per_project_per_base_modelמגדיר את מכסת השאילתות לדקה.ל-TPM יש שני ערכי מכסות שחלים על מודלים מסוימים:
global_generate_content_input_tokens_per_minute_per_base_modelמגדיר את מכסת ה-TPM לקלט ו-global_generate_content_output_tokens_per_minute_per_base_modelמגדיר את מכסת ה-TPM לפלט.
כדי לראות אילו מודלים סופרים את טוקני הקלט והפלט בנפרד, אפשר לעיין בדפים הספציפיים של המודלים.