Sie können das Anthropic SDK oder curl-Befehle verwenden, um Anfragen mit den folgenden Modellnamen an den Gemini Enterprise Agent Platform-Endpunkt zu senden:
- Verwenden Sie für Claude Sonnet 5.5 von Anthropic in Google Cloud
claude-sonnet-5-5. - Verwenden Sie für Claude Fable 5.1 von Anthropic in Google Cloud
claude-fable-5-1. - Verwenden Sie für Claude Sonnet 5 von Anthropic in Google Cloud
claude-sonnet-5. - Verwenden Sie für Claude Opus 5.5 von Anthropic in Google Cloud
claude-opus-5-5. - Verwenden Sie für Claude Opus 5 von Anthropic in Google Cloud
claude-opus-5. - Verwenden Sie für Claude Fable 5 von Anthropic in Google Cloud
claude-fable-5. - Verwenden Sie für Claude Opus 4.8 von Anthropic in Google Cloud
claude-opus-4-8. - Verwenden Sie für Claude Opus 4.7 von Anthropic in Google Cloud
claude-opus-4-7. - Verwenden Sie für Claude Opus 4.6 von Anthropic in Google Cloud
claude-opus-4-6. - Verwenden Sie für Claude Sonnet 4.6 von Anthropic in Google Cloud
claude-sonnet-4-6. - Verwenden Sie für Claude Opus 4.5 von Anthropic in Google Cloud
claude-opus-4-5. - Verwenden Sie für Claude Sonnet 4.5 von Anthropic in Google Cloud
claude-sonnet-4-5. - Verwenden Sie für Claude 3.7 Sonnet in Google Cloud
claude-3-7-sonnet. - Verwenden Sie für Claude 3.5 Sonnet v2 in Google Cloud
claude-3-5-sonnet-v2. - Verwenden Sie für Claude Haiku 5.5 von Anthropic in Google Cloud
claude-haiku-5-5. - Verwenden Sie für Claude Haiku 4.5 von Anthropic in Google Cloud
claude-haiku-4-5. - Verwenden Sie für Claude 3.5 Haiku in Google Cloud
claude-3-5-haiku. - Verwenden Sie für Claude 3.5 Sonnet in Google Cloud
claude-3-5-sonnet. - Verwenden Sie für Claude 3 Opus in Google Cloud
claude-3-opus. - Verwenden Sie für Claude 3 Haiku in Google Cloud
claude-3-haiku.
Hinweis
Anthropic setzt Richtlinien durch, die bestimmten Resellern den Weiterverkauf ihrer Produkte verbieten. Wenn Ihr Cloud de Confiance by S3NS -Rechnungskonto von einem unzulässigen Reseller verwaltet wird, können Sie die Nutzungsbedingungen nicht akzeptieren und die Claude-Modelle nicht aktivieren. Wenden Sie sich in diesem Fall bitte direkt an Ihren Reseller.
Führen Sie die folgenden Schritte aus, um die Anthropic Claude-Modelle mit der Gemini Enterprise Agent Platform zu verwenden. Die Agent Platform API (aiplatform.googleapis.com) muss aktiviert sein, um die Gemini Enterprise Agent Platform verwenden zu können. Wenn Sie bereits ein Projekt mit aktivierter Agent Platform API haben, können Sie dieses Projekt verwenden, anstatt ein neues Projekt zu erstellen.
Sie müssen die erforderlichen Berechtigungen zum Aktivieren und Verwenden von Partnermodellen haben. Weitere Informationen finden Sie unter Erforderliche Berechtigungen erteilen.
-
In the Cloud de Confiance console, on the project selector page, select or create a Cloud de Confiance project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
Verify that billing is enabled for your Cloud de Confiance project.
Enable the Gemini Enterprise Agent Platform API, if it is not already enabled.
Roles required to enable APIs
To enable APIs, you need the
serviceusage.services.enablepermission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.-
Rufen Sie eine der folgenden Model Garden-Modellkarten auf und klicken Sie auf Aktivieren:
- Zur Modellkarte für Claude Sonnet 5.5 von Anthropic in Google Cloud
- Zur Modellkarte für Anthropic Claude Fable 5.1 in Google Cloud
- Zur Modellkarte für Claude Sonnet 5 von Anthropic in Google Cloud
- Zur Modellkarte für Claude Opus 5.5 von Anthropic in Google Cloud
- Zur Modellkarte für Anthropic Claude Opus 5 in Google Cloud
- Zur Modellkarte für Anthropic Claude Fable 5 in Google Cloud
- Zur Modellkarte für Anthropic Claude Opus 4.8 in Google Cloud
- Zur Modellkarte für Anthropic Claude Opus 4.7 in Google Cloud
- Zur Modellkarte für Anthropic Claude Opus 4.6 in Google Cloud
- Zur Modellkarte für Claude 4.6 Sonnet von Anthropic in Google Cloud
- Zur Modellkarte für Claude Opus 4.5 von Anthropic in Google Cloud
- Zur Modellkarte für Anthropic Claude Sonnet 4.5 in Google Cloud
- Zur Modellkarte für Anthropic Claude Haiku 5.5 in Google Cloud
- Zur Modellkarte für Anthropic Claude Haiku 4.5 in Google Cloud
- Zur Modellkarte für Claude 3.5 Haiku in Google Cloud
Anthropic empfiehlt, das 30-tägige Logging Ihrer Prompt- und Vervollständigungsaktivitäten zu aktivieren, um einen Missbrauch des Modells aufzuzeichnen. Informationen zum Aktivieren des Loggings finden Sie unter Anfragen und Antworten protokollieren.
Anthropic SDK verwenden
Sie können API-Anfragen an die Anthropic Claude-Modelle mit dem Anthropic Claude SDK senden. Weitere Informationen nachstehend:
- Claude Messages API-Referenz
- Anthropic Python API-Bibliothek
- Anthropic Gemini Enterprise Agent Platform TypeScript API-Bibliothek
Mit dem Anthropic Vertex SDK einen Streaming-Aufruf an ein Claude-Modell senden
Im folgenden Codebeispiel wird das Anthropic Vertex SDK verwendet, um einen Streaming-Aufruf an ein Claude-Modell zu senden.
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der API-Referenzdokumentation zu Python.
Im folgenden Beispiel werden regionale Endpunkte verwendet. Informationen zur Verwendung des multiregionalen oder globalen Endpunkts finden Sie unter Multiregionalen Endpunkt angeben oder Globalen Endpunkt angeben.Mit dem Anthropic Vertex SDK einen unären Aufruf an ein Claude-Modell senden
Im folgenden Codebeispiel wird das Anthropic Vertex SDK verwendet, um einen unären Aufruf an ein Claude-Modell zu senden.
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der API-Referenzdokumentation zu Python.
Im folgenden Beispiel werden regionale Endpunkte verwendet. Informationen zur Verwendung des multiregionalen oder globalen Endpunkts finden Sie unter Multiregionalen Endpunkt angeben oder Globalen Endpunkt angeben.curl-Befehl verwenden
Sie können einen curl-Befehl verwenden, um eine Anfrage an den Gemini Enterprise Agent Platform-Endpunkt zu senden. Der curl-Befehl gibt an, welches unterstützte Claude-Modell Sie verwenden möchten.
Im folgenden Thema wird gezeigt, wie Sie einen curl-Befehl erstellen. Außerdem finden Sie dort einen Beispiel-curl-Befehl.
REST
Senden Sie zum Testen eines Text-Prompts mit der Agent Platform API eine POST-Anfrage an den Endpunkt des Publisher-Modells.
Im folgenden Beispiel werden regionale Endpunkte verwendet. Informationen zur Verwendung des multiregionalen oder globalen Endpunkts finden Sie unter Multiregionalen Endpunkt angeben oder Globalen Endpunkt angeben.Ersetzen Sie diese Werte in den folgenden Anfragedaten:
- LOCATION: Eine Region, die Anthropic Claude-Modelle unterstützt. Informationen zur Verwendung des globalen Endpunkts finden Sie unter Globalen Endpunkt angeben.
- MODEL: Der Modellname, den Sie verwenden möchten.
- ROLE: Die einer Nachricht zugeordnete Rolle. Sie können
useroderassistantangeben. Die erste Nachricht muss die Rolleuserverwenden. Claude-Modelle arbeiten mit abwechselndenuser- undassistant-Runden. Wenn die endgültige Nachricht die Rolleassistantverwendet, wird der Antwortinhalt direkt vom Inhalt dieser Nachricht aus fortgesetzt. Damit können Sie einen Teil der Antwort des Modells einschränken. - STREAM ist ein boolescher Wert, mit dem angegeben wird, ob die Antwort gestreamt wird oder nicht. Streamen Sie Ihre Antwort, um die vom Endnutzer wahrgenommene Latenz zu reduzieren. Legen Sie
truefest, um die Antwort zu streamen, undfalse, um die Antwort auf einmal zurückzugeben. - CONTENT: Der Inhalt, z. B. Text der
user- oderassistant-Nachricht. - MAX_TOKENS: Maximale Anzahl an Tokens, die in der Antwort generiert werden können. Ein Token besteht aus etwa 3,5 Zeichen. 100 Tokens entsprechen etwa 60–80 Wörtern.
Geben Sie kürzere Werte für kürzere Antworten und höhere Werte für längere Antworten an.
- TOP_P (Optional):
Der Wert „Top-P“ ändert, wie das Modell Tokens für die Ausgabe auswählt. Die Tokens werden von den wahrscheinlichsten bis zu den unwahrscheinlichsten Werten ausgewählt, bis die Summe ihrer Wahrscheinlichkeiten dem „Top-P“-Wert entspricht. Beispiel: Wenn die Tokens A, B und C eine Wahrscheinlichkeit von 0,3, 0,2 und 0,1 haben und der „Top-P“-Wert
0.5ist, wählt das Modell anhand der Temperatur entweder A oder B als das nächste Token und C als Kandidaten ausschließen.Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an.
- TOP_K (Optional):
Der Wert „Top-K“ ändert, wie das Modell Tokens für die Ausgabe auswählt. Ein „Top-K“ von
1bedeutet, dass das nächste ausgewählte Token unter den Tokens im Modell-Vokabular (auch als gierige Decodierung bezeichnet) am wahrscheinlichsten ist, während ein „Top-K“ von3bedeutet, dass das nächste Token mithilfe der Temperatur aus den drei wahrscheinlichsten Tokens ausgewählt wird.Für jeden Tokenauswahlschritt werden die „Top-K“-Tokens mit den höchsten Wahrscheinlichkeiten stichprobenartig erfasst. Anschließend werden Tokens weiter auf der Grundlage von „Top-P“ gefiltert, wobei das endgültige Token mithilfe von Temperaturproben ausgewählt wird.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an.
- TYPE: Geben Sie für Claude 3.7 Sonnet in Google Cloud und spätere Claude-Modelle
enabledan, um den erweiterten Thinking-Modus zu aktivieren. - BUDGET_TOKENS: Wenn Sie die erweiterte Thinking-Funktion aktivieren, müssen Sie die Anzahl der Tokens angeben, die das Modell für seine internen Überlegungen als Teil der Ausgabe verwenden kann. Größere Budgets können eine gründlichere Analyse komplexer Probleme ermöglichen und die Antwortqualität verbessern. Sie müssen einen Wert angeben, der größer oder gleich
1024, aber kleiner alsMAX_TOKENSist.
HTTP-Methode und URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict
JSON-Text der Anfrage:
{
"anthropic_version": "vertex-2023-10-16",
"messages": [
{
"role": "ROLE",
"content": "CONTENT"
}],
"max_tokens": MAX_TOKENS,
"stream": STREAM,
"thinking": {
"type": "TYPE",
"budget_tokens": BUDGET_TOKENS
}
}
Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:
curl
Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict"
PowerShell
Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict" | Select-Object -Expand Content
Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:
Beispiel: cURL-Befehls
MODEL_ID="MODEL"
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"
curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL_ID}:streamRawPredict -d \
'{
"anthropic_version": "vertex-2023-10-16",
"messages": [{
"role": "user",
"content": "Hello!"
}],
"max_tokens": 50,
"stream": true}'
Toolnutzung (Funktionsaufrufe)
Die Anthropic Claude-Modelle unterstützen Tools und Funktionsaufrufe, um die Funktionen eines Modells zu erweitern. Weitere Informationen finden Sie in der Anthropic-Dokumentation unter Tool use overview. Claude-Modelle auf der Gemini Enterprise Agent Platform unterstützen Client-Tools, aber keine Server-Tools.
In den folgenden Beispielen wird gezeigt, wie Sie Tools mit einem SDK oder einem curl-Befehl verwenden. In den Beispielen wird nach geöffneten Restaurants in der Nähe in San Francisco gesucht.
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der API-Referenzdokumentation zu Python.
Im folgenden Beispiel werden regionale Endpunkte verwendet. Informationen zur Verwendung des multiregionalen oder globalen Endpunkts finden Sie unter Multiregionalen Endpunkt angeben oder Globalen Endpunkt angeben.REST
Im folgenden Beispiel werden regionale Endpunkte verwendet. Informationen zur Verwendung des multiregionalen oder globalen Endpunkts finden Sie unter Multiregionalen Endpunkt angeben oder Globalen Endpunkt angeben.Ersetzen Sie diese Werte in den folgenden Anfragedaten:
- LOCATION: Eine Region, die Anthropic Claude-Modelle unterstützt. Informationen zur Verwendung des globalen Endpunkts finden Sie unter Globalen Endpunkt angeben.
- MODEL: Der zu verwendende Modellname.
- ROLE: Die einer Nachricht zugeordnete Rolle. Sie können
useroderassistantangeben. Die erste Nachricht muss die Rolleuserverwenden. Claude-Modelle arbeiten mit abwechselndenuser- undassistant-Runden. Wenn die endgültige Nachricht die Rolleassistantverwendet, wird der Antwortinhalt direkt vom Inhalt dieser Nachricht aus fortgesetzt. Damit können Sie einen Teil der Antwort des Modells einschränken. - STREAM: Ein boolescher Wert, mit dem angegeben wird, ob die Antwort gestreamt wird oder nicht. Streamen Sie Ihre Antwort, um die vom Endnutzer wahrgenommene Latenz zu reduzieren. Legen Sie
truefest, um die Antwort zu streamen, undfalse, um die Antwort auf einmal zurückzugeben. - CONTENT: Der Inhalt, z. B. Text der
user- oderassistant-Nachricht. - MAX_TOKENS: Maximale Anzahl an Tokens, die in der Antwort generiert werden können. Ein Token besteht aus etwa 3,5 Zeichen. 100 Tokens entsprechen etwa 60–80 Wörtern.
Geben Sie kürzere Werte für kürzere Antworten und höhere Werte für längere Antworten an.
HTTP-Methode und URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict
JSON-Text der Anfrage:
{
"anthropic_version": "vertex-2023-10-16",
"max_tokens": MAX_TOKENS,
"stream": STREAM,
"tools": [
{
"name": "text_search_places_api",
"description": "Returns information about a set of places based on a string",
"input_schema": {
"type": "object",
"properties": {
"textQuery": {
"type": "string",
"description": "The text string on which to search"
},
"priceLevels": {
"type": "array",
"description": "Price levels to query places, value can be one of [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE, PRICE_LEVEL_EXPENSIVE, PRICE_LEVEL_VERY_EXPENSIVE]",
},
"openNow": {
"type": "boolean",
"description": "Describes whether a place is open for business at
the time of the query."
},
},
"required": ["textQuery"]
}
}
],
"messages": [
{
"role": "user",
"content": "What are some affordable and good Italian restaurants that are open now in San Francisco??"
}
]
}
Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:
curl
Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict"
PowerShell
Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict" | Select-Object -Expand Content
Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:
Agent Studio auf der Gemini Enterprise Agent Platform verwenden
Für einige der Anthropic Claude-Modelle können Sie Agent Studio auf der Gemini Enterprise Agent Platform verwenden, um in der Cloud de Confiance Console schnell Prototypen für generative KI-Modelle zu erstellen und zu testen. Sie können beispielsweise Agent Studio auf der Gemini Enterprise Agent Platform verwenden, um die Antworten von Claude-Modellen mit anderen unterstützten Modellen wie Google Gemini zu vergleichen.
Weitere Informationen finden Sie unter Kurzanleitung: Text-Prompts mit Agent Studio auf der Gemini Enterprise Agent Platform an Gemini senden.