Claude auf Vertex AI

Die Vertex API für den Zugriff auf Claude ist fast identisch mit der Messages API und unterstützt alle gleichen Optionen, mit zwei wichtigen Unterschieden:

• In Vertex wird model nicht im Request-Body übergeben. Stattdessen wird es in der Google Cloud Endpoint-URL angegeben.
• In Vertex wird anthropic_version im Request-Body übergeben (nicht als Header), und muss auf den Wert vertex-2023-10-16 gesetzt werden.

Vertex wird auch von Anthropics offiziellen Client SDKs unterstützt. Dieses Handbuch führt Sie durch den Prozess, eine Anfrage an Claude auf Vertex AI in Python oder TypeScript zu stellen.

Beachten Sie, dass dieses Handbuch davon ausgeht, dass Sie bereits ein GCP-Projekt haben, das Vertex AI verwenden kann. Siehe Verwendung der Claude 3 Modelle von Anthropic für weitere Informationen zur erforderlichen Einrichtung sowie eine vollständige Anleitung.

Installieren Sie ein SDK für den Zugriff auf Vertex AI

Installieren Sie zunächst Anthropics Client SDK für Ihre Sprache der Wahl.

pip install -U google-cloud-aiplatform "anthropic[vertex]"

Zugriff auf Vertex AI

Modellverfügbarkeit

Beachten Sie, dass die Verfügbarkeit von Anthropic-Modellen je nach Region variiert. Suchen Sie nach "Claude" im Vertex AI Model Garden oder gehen Sie zu Claude 3 verwenden für die neuesten Informationen.

API-Modell-IDs

Anfragen stellen

Bevor Sie Anfragen ausführen, müssen Sie möglicherweise gcloud auth application-default login ausführen, um sich bei GCP zu authentifizieren.

Das folgende Beispiel zeigt, wie Sie Text von Claude auf Vertex AI generieren:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "global"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Weitere Details finden Sie in unseren Client SDKs und der offiziellen Vertex AI Dokumentation.

Aktivitätsprotokollierung

Vertex bietet einen Request-Response-Protokollierungsdienst, mit dem Kunden die Prompts und Completions Ihrer Nutzung protokollieren können.

Anthropic empfiehlt, dass Sie Ihre Aktivität mindestens auf einer 30-Tage-Rollbasis protokollieren, um Ihre Aktivität zu verstehen und potenzielle Missbrauchsfälle zu untersuchen.

Funktionsunterstützung

Sie können alle derzeit auf Vertex unterstützten Funktionen hier finden.

Globale vs. regionale Endpoints

Ab Claude Sonnet 4.5 und allen zukünftigen Modellen bietet Google Vertex AI zwei Endpoint-Typen:

• Globale Endpoints: Dynamisches Routing für maximale Verfügbarkeit
• Regionale Endpoints: Garantiertes Daten-Routing durch spezifische geografische Regionen

Regionale Endpoints beinhalten einen 10%-Preisaufschlag gegenüber globalen Endpoints.

Wann sollte man jede Option verwenden

Globale Endpoints (empfohlen):

• Bieten maximale Verfügbarkeit und Uptime
• Leiten Anfragen dynamisch zu Regionen mit verfügbarer Kapazität weiter
• Kein Preisaufschlag
• Am besten für Anwendungen, bei denen Datenresidenz flexibel ist
• Unterstützt nur Pay-as-you-go-Verkehr (bereitgestellter Durchsatz erfordert regionale Endpoints)

Regionale Endpoints:

• Leiten Verkehr durch spezifische geografische Regionen weiter
• Erforderlich für Datenresidenz und Compliance-Anforderungen
• Unterstützen sowohl Pay-as-you-go als auch bereitgestellten Durchsatz
• 10%-Preisaufschlag spiegelt Infrastrukturkosten für dedizierte regionale Kapazität wider

Implementierung

Verwendung globaler Endpoints (empfohlen):

Setzen Sie den region-Parameter auf "global" beim Initialisieren des Clients:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "global"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Verwendung regionaler Endpoints:

Geben Sie eine spezifische Region wie "us-east1" oder "europe-west1" an:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "us-east1"  # Specify a specific region

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Zusätzliche Ressourcen

• Google Vertex AI Preisgestaltung: cloud.google.com/vertex-ai/generative-ai/pricing
• Claude Modelle Dokumentation: Claude auf Vertex AI
• Google Blog-Beitrag: Globaler Endpoint für Claude Modelle
• Anthropic Preisdetails: Preisdokumentation