בקשת חיזויים באמצעות מודלים של Claude

אתם יכולים להשתמש ב-SDK של Anthropic או בפקודות curl כדי לשלוח בקשות לנקודת הקצה של Gemini Enterprise Agent Platform באמצעות שמות המודלים הבאים:

• ב-Anthropic Claude Sonnet 5.5 ב-Google Cloud, משתמשים ב-claude-sonnet-5-5
• ‫claude-fable-5-1 ל-Claude Fable 5.1 של Anthropic ב-Google Cloud
• ב-Anthropic Claude Sonnet 5 ב-Google Cloud, משתמשים ב-claude-sonnet-5
• ‫Claude Opus 5.5 של Anthropic ב-Google Cloud, עם claude-opus-5-5
• ב-Anthropic Claude Opus 5 ב-Google Cloud, משתמשים ב-claude-opus-5
• ‫Anthropic Claude Fable 5 ב-Google Cloud, באמצעות claude-fable-5
• ‫Anthropic Claude Opus 4.8 ב-Google Cloud, באמצעות claude-opus-4-8
• ב-Claude Opus 4.7 של Anthropic ב-Google Cloud, משתמשים ב-claude-opus-4-7
• ב-Claude Opus 4.6 של Anthropic ב-Google Cloud, משתמשים ב-claude-opus-4-6
• ב-Anthropic Claude Sonnet 4.6 ב-Google Cloud, משתמשים ב-claude-sonnet-4-6
• ‫ב-Claude Opus 4.5 של Anthropic ב-Google Cloud, משתמשים ב-claude-opus-4-5
• ב-Anthropic Claude Sonnet 4.5 ב-Google Cloud, משתמשים ב-claude-sonnet-4-5
• ב-Claude 3.7 Sonnet ב-Google Cloud, משתמשים ב-claude-3-7-sonnet
• ב-Claude 3.5 Sonnet v2 ב-Google Cloud, משתמשים ב-claude-3-5-sonnet-v2
• ‫Claude Haiku 5.5 של Anthropic ב-Google Cloud, באמצעות claude-haiku-5-5
• ב-Claude Haiku 4.5 של Anthropic ב-Google Cloud, משתמשים ב-claude-haiku-4-5
• ‫ב-Claude 3.5 Haiku ב-Google Cloud, משתמשים ב-claude-3-5-haiku
• ב-Claude 3.5 Sonnet ב-Google Cloud, משתמשים ב-claude-3-5-sonnet
• ב-Claude 3 Opus ב-Google Cloud, משתמשים ב-claude-3-opus
• ‫Claude 3 Haiku ב-Google Cloud, משתמשים ב-claude-3-haiku

לפני שמתחילים

‫Anthropic אוכפת כללי מדיניות שאוסרים על מפיצים מסוימים להפיץ את המוצרים שלה. אם החשבון לחיוב ב- Cloud de Confiance by S3NS מנוהל על ידי מפיץ אסור, לא תוכלו לאשר את התנאים וההגבלות או להפעיל את המודלים של Claude. במקרה כזה, צריך לפנות ישירות למפיץ.

כדי להשתמש במודלים של Anthropic Claude ב-Gemini Enterprise Agent Platform, צריך לבצע את הפעולות הבאות. כדי להשתמש ב-Gemini Enterprise Agent Platform, צריך להפעיל את Agent Platform API (aiplatform.googleapis.com). אם כבר יש לכם פרויקט שבו מופעל Agent Platform API, אתם יכולים להשתמש בו במקום ליצור פרויקט חדש.

חשוב לוודא שיש לכם את ההרשאות הנדרשות כדי להפעיל מודלים של שותפים ולהשתמש בהם. מידע נוסף זמין במאמר מתן ההרשאות הנדרשות.

1. In the Cloud de Confiance console, on the project selector page, select or create a Cloud de Confiance project.

   Roles required to select or create a project

   • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
   • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

   Go to project selector

2. Verify that billing is enabled for your Cloud de Confiance project.

3. Enable the Gemini Enterprise Agent Platform API, if it is not already enabled.

   Roles required to enable APIs

   To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

   Enable the API

4. עוברים לאחד מכרטיסי המודלים הבאים ב-Model Garden ולוחצים על Enable:
   • כניסה לכרטיס המודל של Anthropic Claude Sonnet 5.5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Fable 5.1 ב-Google Cloud
   • לכרטיס המידע של המודל Anthropic Claude Sonnet 5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Opus 5.5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Opus 5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Fable 5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Opus 4.8 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Opus 4.7 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Opus 4.6 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Sonnet 4.6 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Opus 4.5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Sonnet 4.5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Haiku 5.5 ב-Google Cloud
   • כניסה לכרטיס המודל של Anthropic Claude Haiku 4.5 ב-Google Cloud
   • כניסה לכרטיס המודל של Claude 3.5 Haiku on Google Cloud

ב-Anthropic ממליצים להפעיל רישום ביומן של 30 יום של פעילות ההנחיות וההשלמות, כדי לתעד כל שימוש לרעה במודל. כדי להפעיל את הרישום ביומן, קראו את המאמר רישום בקשות ותגובות ביומן.

שימוש ב-Anthropic SDK

אתם יכולים לשלוח בקשות API למודלים של Anthropic Claude באמצעות Anthropic Claude SDK. למידע נוסף, תוכלו לקרוא את המאמרים הבאים:

• מאמרי העזרה של Claude Messages API
• ספריית ה-API בשפת Python של Anthropic
• ספריית Anthropic Gemini Enterprise Agent Platform TypeScript API

איך שולחים קריאה בסטרימינג למודל של Claude באמצעות Anthropic Vertex SDK

בדוגמת הקוד הבאה, משתמשים ב-Anthropic Vertex SDK כדי לבצע קריאה בסטרימינג למודל Claude.

# TODO(developer): Vertex AI SDK - uncomment below & run
# pip3 install --upgrade --user google-cloud-aiplatform
# gcloud auth application-default login
# pip3 install -U 'anthropic[vertex]'

# TODO(developer): Update and un-comment below line
# PROJECT_ID = "your-project-id"

from anthropic import AnthropicVertex

client = AnthropicVertex(project_id=PROJECT_ID, region="us-east5")
result = []

with client.messages.stream(
    model="claude-3-5-sonnet-v2@20241022",
    max_tokens=1024,
    messages=[
        {
            "role": "user",
            "content": "Send me a recipe for banana bread.",
        }
    ],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)
        result.append(text)

# Example response:
# Here's a simple recipe for delicious banana bread:
# Ingredients:
# - 2-3 ripe bananas, mashed
# - 1/3 cup melted butter
# ...
# ...
# 8. Bake for 50-60 minutes, or until a toothpick inserted into the center comes out clean.
# 9. Let cool in the pan for a few minutes, then remove and cool completely on a wire rack.

איך שולחים בקשה יחידה למודל של Claude באמצעות Anthropic Vertex SDK

בדוגמת הקוד הבאה, משתמשים ב-Anthropic Vertex SDK כדי לבצע קריאה אונארית למודל Claude.

# TODO(developer): Vertex AI SDK - uncomment below & run
# pip3 install --upgrade --user google-cloud-aiplatform
# gcloud auth application-default login
# pip3 install -U 'anthropic[vertex]'

# TODO(developer): Update and un-comment below line
# PROJECT_ID = "your-project-id"

from anthropic import AnthropicVertex

client = AnthropicVertex(project_id=PROJECT_ID, region="us-east5")
message = client.messages.create(
    model="claude-3-5-sonnet-v2@20241022",
    max_tokens=1024,
    messages=[
        {
            "role": "user",
            "content": "Send me a recipe for banana bread.",
        }
    ],
)
print(message.model_dump_json(indent=2))
# Example response:
# {
#   "id": "msg_vrtx_0162rhgehxa9rvJM5BSVLZ9j",
#   "content": [
#     {
#       "text": "Here's a simple recipe for delicious banana bread:\n\nIngredients:\n- 2-3 ripe bananas...
#   ...

שימוש בפקודת curl

אתם יכולים להשתמש בפקודת curl כדי לשלוח בקשה לנקודת הקצה של Gemini Enterprise Agent Platform. פקודת ה-curl מציינת באיזה מודל Claude נתמך אתם רוצים להשתמש.

בנושא הבא מוסבר איך ליצור פקודת curl, ומוצגת פקודת curl לדוגמה.

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict

{
  "anthropic_version": "vertex-2023-10-16",
  "messages": [
   {
    "role": "ROLE",
    "content": "CONTENT"
   }],
  "max_tokens": MAX_TOKENS,
  "stream": STREAM,
  "thinking": {
    "type": "TYPE",
    "budget_tokens": BUDGET_TOKENS
  }
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:streamRawPredict" | Select-Object -Expand Content

{
  "id":"msg_012NDLxqh6LsztWCU7zTb14C",
  "type":"message",
  "role":"assistant",
  "content":[{
    "type":"text",
    "text":"Hello! Nice to meet you."
  }],
  "model":"claude-2.1",
  "stop_reason":"end_turn",
  "stop_sequence":null,
  "usage":{
    "input_tokens":11,
    "output_tokens":11
  }
}

MODEL_ID="MODEL"
LOCATION="us-central1"
PROJECT_ID="PROJECT_ID"

curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL_ID}:streamRawPredict -d \
'{
  "anthropic_version": "vertex-2023-10-16",
  "messages": [{
    "role": "user",
    "content": "Hello!"
  }],
  "max_tokens": 50,
  "stream": true}'

שימוש בכלים (קריאה להפעלת פונקציות)

המודלים של Anthropic Claude תומכים בכלים ובקריאה להפעלת פונקציות כדי לשפר את יכולות המודל. מידע נוסף זמין במאמר סקירה כללית על שימוש בכלים במסמכי התיעוד של Anthropic. מודלים של Claude ב-Gemini Enterprise Agent Platform תומכים בכלים בצד הלקוח, אבל לא בכלים בצד השרת.

הדוגמאות הבאות ממחישות איך להשתמש בכלים באמצעות SDK או פקודת curl. הדוגמאות מחפשות מסעדות פתוחות בסביבה בסן פרנסיסקו.

# TODO(developer): Vertex AI SDK - uncomment below & run
# pip3 install --upgrade --user google-cloud-aiplatform
# gcloud auth application-default login
# pip3 install -U 'anthropic[vertex]'
from anthropic import AnthropicVertex

# TODO(developer): Update and un-comment below line
# PROJECT_ID = "your-project-id"

client = AnthropicVertex(project_id=PROJECT_ID, region="us-east5")
message = client.messages.create(
    model="claude-3-5-sonnet-v2@20241022",
    max_tokens=1024,
    tools=[
        {
            "name": "text_search_places_api",
            "description": "returns information about a set of places based on a string",
            "input_schema": {
                "type": "object",
                "properties": {
                    "textQuery": {
                        "type": "string",
                        "description": "The text string on which to search",
                    },
                    "priceLevels": {
                        "type": "array",
                        "description": "Price levels to query places, value can be one of [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE, PRICE_LEVEL_EXPENSIVE, PRICE_LEVEL_VERY_EXPENSIVE]",
                    },
                    "openNow": {
                        "type": "boolean",
                        "description": "whether those places are open for business.",
                    },
                },
                "required": ["textQuery"],
            },
        }
    ],
    messages=[
        {
            "role": "user",
            "content": "What are some affordable and good Italian restaurants open now in San Francisco??",
        }
    ],
)
print(message.model_dump_json(indent=2))
# Example response:
# {
#   "id": "msg_vrtx_018pk1ykbbxAYhyWUdP1bJoQ",
#   "content": [
#     {
#       "text": "To answer your question about affordable and good Italian restaurants
#       that are currently open in San Francisco....
# ...

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict

{
  "anthropic_version": "vertex-2023-10-16",
  "max_tokens": MAX_TOKENS,
  "stream": STREAM,
  "tools": [
    {
      "name": "text_search_places_api",
      "description": "Returns information about a set of places based on a string",
      "input_schema": {
        "type": "object",
        "properties": {
          "textQuery": {
            "type": "string",
            "description": "The text string on which to search"
          },
          "priceLevels": {
            "type": "array",
            "description": "Price levels to query places, value can be one of [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE, PRICE_LEVEL_EXPENSIVE, PRICE_LEVEL_VERY_EXPENSIVE]",
          },
          "openNow": {
            "type": "boolean",
            "description": "Describes whether a place is open for business at
            the time of the query."
          },
        },
        "required": ["textQuery"]
      }
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": "What are some affordable and good Italian restaurants that are open now in San Francisco??"
    }
  ]
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/anthropic/models/MODEL:rawPredict" | Select-Object -Expand Content

{
  "id": "msg_vrtx_01ErR7VMNQdnvDt3n7Nmc4ER",
  "type": "message",
  "role": "assistant",
  "model": "claude-3-opus-20240229",
  "content": [
    {
      "type": "text",
      "text": "\nTo find affordable and good Italian restaurants that are currently open in San Francisco, the text_search_places_api tool seems most relevant. \n\nThe required textQuery parameter can be inferred as \"Italian restaurants in San Francisco\", since the user specified Italian restaurants and the location of San Francisco.\n\nTwo optional parameters are also relevant:\nopenNow - this should be set to true, since the user specified they want restaurants open now\npriceLevels - to find affordable restaurants, this can be set to [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE]\n\nWith the textQuery provided and the two optional parameters that can help narrow the results to match the user's criteria, we have enough information to make a good call to the text_search_places_api tool to try to answer the user's request.\n"
    },
    {
      "type": "tool_use",
      "id": "toolu_vrtx_01TAJCTkxe8HhRoaQ69N4ouP",
      "name": "text_search_places_api",
      "input": {
        "textQuery": "Italian restaurants in San Francisco",
        "openNow": true,
        "priceLevels": [
          "PRICE_LEVEL_INEXPENSIVE",
          "PRICE_LEVEL_MODERATE"
        ]
      }
    }
  ],
  "stop_reason": "tool_use",
  "stop_sequence": null,
  "usage": {
    "input_tokens": 727,
    "output_tokens": 308
  }
}

איך משתמשים ב-Agent Studio ב-Gemini Enterprise Agent Platform

בחלק מהמודלים של Anthropic Claude, אתם יכולים להשתמש ב-Agent Studio ב-Gemini Enterprise Agent Platform כדי ליצור במהירות אב טיפוס ולבדוק מודלים של AI גנרטיבי במסוף Cloud de Confiance . לדוגמה, אתם יכולים להשתמש ב-Agent Studio ב-Gemini Enterprise Agent Platform כדי להשוות בין התשובות של מודל Claude לבין מודלים נתמכים אחרים, כמו Google Gemini.

מידע נוסף זמין במאמר מדריך למתחילים: שליחת פרומפטים טקסטואליים ל-Gemini באמצעות Agent Studio ב-Gemini Enterprise Agent Platform.