בקשת חיזויים באמצעות מודלים של Claude

אתם יכולים להשתמש ב-SDK של Anthropic או בפקודות curl כדי לשלוח בקשות לנקודת הקצה של Gemini Enterprise Agent Platform באמצעות שמות המודלים הבאים:

• כדי להשתמש ב-Claude Sonnet 5.5 ב-Google Cloud, צריך להשתמש ב-claude-sonnet-5-5
• כדי להשתמש ב-Claude Fable 5.1 ב-Google Cloud, משתמשים ב-claude-fable-5-1
• כדי להשתמש ב-Claude Sonnet 5 ב-Google Cloud, צריך להשתמש ב-claude-sonnet-5
• כדי להשתמש ב-Claude Opus 5.5 ב-Google Cloud, צריך להשתמש ב-claude-opus-5-5
• כדי להשתמש ב-Claude Opus 5 ב-Google Cloud, צריך להשתמש ב-claude-opus-5
• כדי להשתמש ב-Claude Fable 5 ב-Google Cloud, מריצים את הפקודה claude-fable-5
• כדי להשתמש ב-Claude Opus 4.8 ב-Google Cloud, צריך להשתמש ב-claude-opus-4-8
• כדי להשתמש ב-Claude Opus 4.7 ב-Google Cloud, צריך להשתמש ב-claude-opus-4-7
• כדי להשתמש ב-Claude Opus 4.6 ב-Google Cloud, צריך להשתמש ב-claude-opus-4-6
• כדי להשתמש ב-Claude Sonnet 4.6 ב-Google Cloud, צריך להשתמש ב-claude-sonnet-4-6
• כדי להשתמש ב-Claude Opus 4.5 ב-Google Cloud, צריך להשתמש ב-claude-opus-4-5
• כדי להשתמש ב-Claude Opus 4.1 ב-Google Cloud, צריך להשתמש ב-claude-opus-4-1
• כדי להשתמש ב-Claude Opus 4 ב-Google Cloud, צריך להשתמש ב-claude-opus-4
• כדי להשתמש ב-Claude Sonnet 4.5 ב-Google Cloud, צריך להשתמש ב-claude-sonnet-4-5
• כדי להשתמש ב-Claude Sonnet 4 ב-Google Cloud, צריך להשתמש ב-claude-sonnet-4
• כדי להשתמש ב-Claude 3.7 Sonnet ב-Google Cloud, צריך להשתמש ב-claude-3-7-sonnet
• כדי להשתמש ב-Claude 3.5 Sonnet v2 ב-Google Cloud, צריך להשתמש ב-claude-3-5-sonnet-v2
• ‫Claude Haiku 5.5 on Google Cloud:‏ claude-haiku-5-5
• כדי להשתמש ב-Claude Haiku 4.5 ב-Google Cloud, משתמשים ב-claude-haiku-4-5
• כדי להשתמש ב-Claude 3.5 Haiku ב-Google Cloud, צריך להשתמש ב-claude-3-5-haiku
• כדי להשתמש ב-Claude 3.5 Sonnet ב-Google Cloud, צריך להשתמש ב-claude-3-5-sonnet
• כדי להשתמש ב-Claude 3 Opus ב-Google Cloud, צריך להשתמש ב-claude-3-opus
• ‫Claude 3 Haiku on Google Cloud, use claude-3-haiku

לפני שמתחילים

חברת Anthropic אוכפת מדיניות שאוסרת על משווקים מסוימים למכור מחדש את המוצרים שלה. אם החשבון לחיוב ב- Cloud de Confiance by S3NS מנוהל על ידי משווק שאסור לו לעשות זאת, לא תוכלו לאשר את התנאים וההגבלות או להפעיל מודלים של Claude. במקרים כאלה, צריך לפנות ישירות למפיץ.

כדי להשתמש במודלים של Anthropic Claude עם Gemini Enterprise Agent Platform, צריך לבצע את השלבים הבאים. כדי להשתמש ב-Gemini Enterprise Agent Platform, צריך להפעיל את Agent Platform API‏ (aiplatform.googleapis.com). אם כבר יש לכם פרויקט קיים שבו Agent Platform API מופעל, אתם יכולים להשתמש בפרויקט הזה במקום ליצור פרויקט חדש.

חשוב לוודא שיש לכם את ההרשאות הנדרשות כדי להפעיל מודלים של שותפים ולהשתמש בהם. מידע נוסף זמין במאמר בנושא הענקת ההרשאות הנדרשות.

1. In the Cloud de Confiance console, on the project selector page, select or create a Cloud de Confiance project.

   Roles required to select or create a project

   • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
   • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

   Go to project selector

2. Verify that billing is enabled for your Cloud de Confiance project.

3. Enable the Gemini Enterprise Agent Platform API, if it is not already enabled.

   Roles required to enable APIs

   To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

   Enable the API

4. עוברים לאחד מכרטיסי המודל הבאים ב-Model Garden ולוחצים על הפעלה:
   • מעבר לכרטיס המודל של Claude Sonnet 5.5 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Fable 5.1 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Sonnet 5 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Opus 5.5 ב-Google Cloud
   • מעבר לכרטיס מודל של Claude Opus 5 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Fable 5 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Opus 4.8 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Opus 4.7 ב-Google Cloud
   • מעבר לכרטיס המודל Claude Opus 4.6 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Sonnet 4.6 ב-Google Cloud
   • מעבר לכרטיס המודל Claude Opus 4.5 ב-Google Cloud
   • מעבר לכרטיס המודל Claude Opus 4.1 ב-Google Cloud
   • מעבר לכרטיס המודל Claude Opus 4 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Sonnet 4.5 ב-Google Cloud
   • מעבר לכרטיס מודל של Claude Sonnet 4 ב-Google Cloud
   • מעבר לכרטיס מודל של Claude Haiku 5.5 ב-Google Cloud
   • מעבר לכרטיס המודל של Claude Haiku 4.5 ב-Google Cloud
   • מעבר לכרטיס מודל של Claude 3.5 Haiku ב-Google Cloud

‫Anthropic ממליצה להפעיל רישום ביומן של פעילות ההנחיות וההשלמות למשך 30 יום כדי לתעד כל שימוש לרעה במודל. הוראות להפעלת הרישום ביומן מופיעות במאמר רישום ביומן של בקשות ותגובות.

שימוש ב-Anthropic SDK

אפשר לשלוח בקשות ל-API למודלים של Anthropic Claude באמצעות Anthropic Claude SDK. מידע נוסף זמין במאמרים הבאים:

• מאמרי העזרה של Claude messages API
• Anthropic Python API library
• Anthropic Gemini Enterprise Agent Platform TypeScript API Library

איך מתקשרים עם מודל Claude באמצעות Anthropic Vertex SDK

בדוגמת הקוד הבאה נעשה שימוש ב-Anthropic Vertex SDK כדי לבצע קריאה בסטרימינג למודל Claude.

# TODO(developer): Vertex AI SDK - uncomment below & run
# pip3 install --upgrade --user google-cloud-aiplatform
# gcloud auth application-default login
# pip3 install -U 'anthropic[vertex]'

# TODO(developer): Update and un-comment below line
# PROJECT_ID = "your-project-id"

from anthropic import AnthropicVertex

client = AnthropicVertex(project_id=PROJECT_ID, region="us-east5")
result = []

with client.messages.stream(
    model="claude-3-5-sonnet-v2@20241022",
    max_tokens=1024,
    messages=[
        {
            "role": "user",
            "content": "Send me a recipe for banana bread.",
        }
    ],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)
        result.append(text)

# Example response:
# Here's a simple recipe for delicious banana bread:
# Ingredients:
# - 2-3 ripe bananas, mashed
# - 1/3 cup melted butter
# ...
# ...
# 8. Bake for 50-60 minutes, or until a toothpick inserted into the center comes out clean.
# 9. Let cool in the pan for a few minutes, then remove and cool completely on a wire rack.

ביצוע קריאה יחידה למודל Claude באמצעות Anthropic Vertex SDK

בדוגמת הקוד הבאה נעשה שימוש ב-Anthropic Vertex SDK כדי לבצע קריאה אוניטרית למודל Claude.

# TODO(developer): Vertex AI SDK - uncomment below & run
# pip3 install --upgrade --user google-cloud-aiplatform
# gcloud auth application-default login
# pip3 install -U 'anthropic[vertex]'

# TODO(developer): Update and un-comment below line
# PROJECT_ID = "your-project-id"

from anthropic import AnthropicVertex

client = AnthropicVertex(project_id=PROJECT_ID, region="us-east5")
message = client.messages.create(
    model="claude-3-5-sonnet-v2@20241022",
    max_tokens=1024,
    messages=[
        {
            "role": "user",
            "content": "Send me a recipe for banana bread.",
        }
    ],
)
print(message.model_dump_json(indent=2))
# Example response:
# {
#   "id": "msg_vrtx_0162rhgehxa9rvJM5BSVLZ9j",
#   "content": [
#     {
#       "text": "Here's a simple recipe for delicious banana bread:\n\nIngredients:\n- 2-3 ripe bananas...
#   ...

שימוש בפקודת curl

אפשר להשתמש בפקודת curl כדי לשלוח בקשה לנקודת הקצה של Gemini Enterprise Agent Platform. פקודת ה-curl מציינת באיזה מודל נתמך של Claude רוצים להשתמש.

בנושא הבא מוסבר איך ליצור פקודת curl, והוא כולל פקודת curl לדוגמה.

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict

{
  "anthropic_version": "vertex-2023-10-16",
  "messages": [
   {
    "role": "ROLE",
    "content": "CONTENT"
   }],
  "max_tokens": MAX_TOKENS,
  "stream": STREAM,
  "thinking": {
    "type": "TYPE",
    "budget_tokens": BUDGET_TOKENS
  }
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict" | Select-Object -Expand Content

{
  "id":"msg_012NDLxqh6LsztWCU7zTb14C",
  "type":"message",
  "role":"assistant",
  "content":[{
    "type":"text",
    "text":"Hello! Nice to meet you."
  }],
  "model":"claude-2.1",
  "stop_reason":"end_turn",
  "stop_sequence":null,
  "usage":{
    "input_tokens":11,
    "output_tokens":11
  }
}

MODEL_ID="MODEL"
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"

curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL_ID}:streamRawPredict -d \
'{
  "anthropic_version": "vertex-2023-10-16",
  "messages": [{
    "role": "user",
    "content": "Hello!"
  }],
  "max_tokens": 50,
  "stream": true}'

שימוש בכלי (קריאה להפעלת פונקציות)

מודלים של Anthropic Claude תומכים בכלים ובפונקציות של שיחות כדי לשפר את היכולות של המודל. מידע נוסף זמין במאמר סקירה כללית על השימוש בכלים במסמכי העזרה של Anthropic. מודלים של Claude ב-Gemini Enterprise Agent Platform תומכים בכלי לקוח, אבל לא בכלי שרת.

בדוגמאות הבאות מוצגות דרכים להשתמש בכלים באמצעות SDK או פקודת curl. בדוגמאות, החיפוש הוא של מסעדות פתוחות בסן פרנסיסקו.

# TODO(developer): Vertex AI SDK - uncomment below & run
# pip3 install --upgrade --user google-cloud-aiplatform
# gcloud auth application-default login
# pip3 install -U 'anthropic[vertex]'
from anthropic import AnthropicVertex

# TODO(developer): Update and un-comment below line
# PROJECT_ID = "your-project-id"

client = AnthropicVertex(project_id=PROJECT_ID, region="us-east5")
message = client.messages.create(
    model="claude-3-5-sonnet-v2@20241022",
    max_tokens=1024,
    tools=[
        {
            "name": "text_search_places_api",
            "description": "returns information about a set of places based on a string",
            "input_schema": {
                "type": "object",
                "properties": {
                    "textQuery": {
                        "type": "string",
                        "description": "The text string on which to search",
                    },
                    "priceLevels": {
                        "type": "array",
                        "description": "Price levels to query places, value can be one of [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE, PRICE_LEVEL_EXPENSIVE, PRICE_LEVEL_VERY_EXPENSIVE]",
                    },
                    "openNow": {
                        "type": "boolean",
                        "description": "whether those places are open for business.",
                    },
                },
                "required": ["textQuery"],
            },
        }
    ],
    messages=[
        {
            "role": "user",
            "content": "What are some affordable and good Italian restaurants open now in San Francisco??",
        }
    ],
)
print(message.model_dump_json(indent=2))
# Example response:
# {
#   "id": "msg_vrtx_018pk1ykbbxAYhyWUdP1bJoQ",
#   "content": [
#     {
#       "text": "To answer your question about affordable and good Italian restaurants
#       that are currently open in San Francisco....
# ...

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict

{
  "anthropic_version": "vertex-2023-10-16",
  "max_tokens": MAX_TOKENS,
  "stream": STREAM,
  "tools": [
    {
      "name": "text_search_places_api",
      "description": "Returns information about a set of places based on a string",
      "input_schema": {
        "type": "object",
        "properties": {
          "textQuery": {
            "type": "string",
            "description": "The text string on which to search"
          },
          "priceLevels": {
            "type": "array",
            "description": "Price levels to query places, value can be one of [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE, PRICE_LEVEL_EXPENSIVE, PRICE_LEVEL_VERY_EXPENSIVE]",
          },
          "openNow": {
            "type": "boolean",
            "description": "Describes whether a place is open for business at
            the time of the query."
          },
        },
        "required": ["textQuery"]
      }
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": "What are some affordable and good Italian restaurants that are open now in San Francisco??"
    }
  ]
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict" | Select-Object -Expand Content

{
  "id": "msg_vrtx_01ErR7VMNQdnvDt3n7Nmc4ER",
  "type": "message",
  "role": "assistant",
  "model": "claude-3-opus-20240229",
  "content": [
    {
      "type": "text",
      "text": "\nTo find affordable and good Italian restaurants that are currently open in San Francisco, the text_search_places_api tool seems most relevant. \n\nThe required textQuery parameter can be inferred as \"Italian restaurants in San Francisco\", since the user specified Italian restaurants and the location of San Francisco.\n\nTwo optional parameters are also relevant:\nopenNow - this should be set to true, since the user specified they want restaurants open now\npriceLevels - to find affordable restaurants, this can be set to [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE]\n\nWith the textQuery provided and the two optional parameters that can help narrow the results to match the user's criteria, we have enough information to make a good call to the text_search_places_api tool to try to answer the user's request.\n"
    },
    {
      "type": "tool_use",
      "id": "toolu_vrtx_01TAJCTkxe8HhRoaQ69N4ouP",
      "name": "text_search_places_api",
      "input": {
        "textQuery": "Italian restaurants in San Francisco",
        "openNow": true,
        "priceLevels": [
          "PRICE_LEVEL_INEXPENSIVE",
          "PRICE_LEVEL_MODERATE"
        ]
      }
    }
  ],
  "stop_reason": "tool_use",
  "stop_sequence": null,
  "usage": {
    "input_tokens": 727,
    "output_tokens": 308
  }
}

שימוש ב-Agent Studio ב-Gemini Enterprise Agent Platform

בחלק מהמודלים של Anthropic Claude, אפשר להשתמש ב-Agent Studio ב-Gemini Enterprise Agent Platform כדי ליצור אב טיפוס ולבדוק במהירות מודלים של AI גנרטיבי Cloud de Confiance במסוף. לדוגמה, אתם יכולים להשתמש ב-Agent Studio בפלטפורמת Gemini Enterprise Agent כדי להשוות בין תשובות של מודל Claude לבין מודלים נתמכים אחרים כמו Google Gemini.

מידע נוסף זמין במאמר מדריך למתחילים: שליחת פרומפטים של טקסט ל-Gemini באמצעות Agent Studio ב-Gemini Enterprise Agent Platform.