Die Gemini Enterprise Agent Platform bietet verschiedene Möglichkeiten, den Durchsatz für generative KI-Modelle zu verwalten, damit Sie ein ausgewogenes Verhältnis zwischen Kosten und Leistung erzielen können. In diesem Dokument werden die verfügbaren Optionen beschrieben: ein flexibles Pay-as-you-go-Modell und reservierte Kapazität für einen vorhersehbaren Durchsatz.
Verwaltete Modellkontingente
Die Agent Platform bietet zwei Möglichkeiten, den Durchsatz für die verwalteten generativen KI-Modelle auf der Gemini Enterprise Agent Platform zu verwalten. So können Sie ein ausgewogenes Verhältnis zwischen Kosten, Flexibilität und Leistung erzielen. Sie können entweder ein Pay-as-you-go-Modell verwenden oder einen bestimmten Durchsatz zu einem festen Preis reservieren.
Pay-as-you-go
Für das Standard-Pay-as-you-go-Modell verwendet die Agent Platform Standard PayGo. Mit PayGo zahlen Sie nur für die Ressourcen, die Sie verbrauchen, ohne dass finanzielle Vorabverpflichtungen erforderlich sind. Es gibt zusätzliche PayGo-Optionen, die sich in Kosten und Leistung unterscheiden. Weitere Informationen finden Sie unter Priority PayGo oder Flex PayGo.
Reservierte Kapazität
Für kritische Produktionsanwendungen, die eine konsistente Leistung und vorhersehbare Kosten erfordern, können Sie den bereitgestellten Durchsatz verwenden. Der bereitgestellte Durchsatz ist ein Abonnement mit festen Kosten, mit dem ein bestimmter Durchsatz für Ihre Modelle an einem ausgewählten Standort reserviert wird.
Kontingente für Dienste mit generativer KI
Die Gemini Enterprise Agent Platform bietet eine Reihe von Diensten mit generativer KI, z. B. Modellabstimmung, Modellbewertung, Batch-Vorhersage, Einbettungen und Retrieval-Augmented Generation. Weitere Informationen zu den Kontingenten für diese Dienste finden Sie unter Kontingente und Systemlimits für generative KI auf der Agent Platform.
Nächste Schritte
- Weitere Informationen zu Standard PayGo.
- Weitere Informationen zum bereitgestellten Durchsatz
- Weitere Informationen zu Kontingenten und Systemlimits für generative KI.
- Weitere Informationen zu Google Cloud-Kontingenten.