xAI Grok-Modelle

xAI Grok-Modelle können als verwaltete APIs in der Gemini Enterprise Agent Platform verwendet werden. Sie können Ihre Antworten streamen, um die vom Endnutzer wahrgenommene Latenz zu reduzieren. Eine gestreamte Antwort verwendet vom Server gesendete Ereignisse (Server-Sent Events, SSE), um die Antwort schrittweise zu streamen.

Verwaltete xAI-Modelle

Die folgenden Modelle sind von xAI zur Verwendung in der Gemini Enterprise Agent Platform verfügbar. Rufen Sie die zugehörige Model Garden-Modellkarte auf, um auf ein xAI-Modell zuzugreifen.

Grok 4.7 Grok 4.7: Ein leistungsstarkes Modell von xAI, das für die Programmierung und Wissensarbeit entwickelt wurde. Es arbeitet länger an schwierigen Aufgaben und überprüft seine eigene Arbeit.
Grok 4.6 Ein leistungsstarkes Modell von xAI, das für die Programmierung, agentische Aufgaben und Wissensarbeit entwickelt wurde.
Grok 4.3 Ein leistungsstarkes Modell von xAI.
Grok 4.20 (Reasoning) Ein leistungsstarkes Modell von xAI mit einer niedrigen Halluzinationsrate. Es eignet sich hervorragend für Aufgaben zum Dokumentverständnis und für agentische Tool-Aufrufe mit langer Vorlaufzeit.
Grok 4.20 (Non-reasoning) Ein leistungsstarkes Modell von xAI ohne Thinking-Funktion mit einer niedrigen Halluzinationsrate. Es eignet sich hervorragend für latenzempfindliche Anwendungsfälle wie Kundensupport und Kategorisierung.

xAI-Modelle verwenden

Informationen zum Ausführen von Streaming- und Nicht-Streaming-Aufrufen an xAI Modelle finden Sie unter APIs für offene Modelle aufrufen.

Für verwaltete Modelle können Sie curl-Befehle verwenden, um Anfragen mit den folgenden Modellnamen an den Endpunkt der Gemini Enterprise Agent Platform zu senden:

  • Für Grok 4.7 verwenden Sie grok-4.7.
  • Für Grok 4.6 verwenden Sie grok-4.6.
  • Für Grok 4.3 verwenden Sie grok-4.3.
  • Für Grok 4.20 (Reasoning) verwenden Sie grok-4.20-reasoning.
  • Für Grok 4.20 (Non-reasoning) verwenden Sie grok-4.20-non-reasoning.

Grok-Kontingente

Für Grok-Modelle gilt ein einziges globales Kontingent, das pro Basismodell und nicht pro Endpunkt gilt. Anfragen an den globalen Endpunkt und den multiregionalen Endpunkt in den USA werden auf dasselbe zugrunde liegende Limit angerechnet. Das Kontingent wird in Abfragen pro Minute (Queries per minute, QPM) und Tokens pro Minute (Tokens per minute, TPM) angegeben. TPM umfasst sowohl Eingabe- als auch Ausgabetokens.

Um die allgemeine Dienstleistung zu gewährleisten und eine zulässige Verwendung zu ermöglichen, können die maximalen Kontingente je nach Konto variieren. In einigen Fällen kann der Zugriff eingeschränkt sein. Die Kontingente Ihres Projekts finden Sie in der Cloud de Confiance console auf der Seite**Kontingente und Systemlimits** . Außerdem müssen die folgenden Kontingente verfügbar sein:

  • global_generate_content_requests_per_minute_per_project_per_base_model definiert Ihr QPM-Kontingent.

  • Für TPM gibt es zwei Kontingentwerte, die für bestimmte Modelle gelten: global_generate_content_input_tokens_per_minute_per_base_model definiert das Eingabe-TPM-Kontingent und global_generate_content_output_tokens_per_minute_per_base_model definiert das Ausgabe-TPM-Kontingent.

Auf den Seiten der einzelnen Modelle finden Sie Informationen dazu, bei welchen Modellen Eingabe- und Ausgabetokens separat gezählt werden.

Nächste Schritte