Claude di Vertex AI

Vertex API untuk mengakses Claude hampir identik dengan Messages API dan mendukung semua opsi yang sama, dengan dua perbedaan utama:

• Di Vertex, model tidak diteruskan dalam badan permintaan. Sebaliknya, model ditentukan dalam URL endpoint Google Cloud.
• Di Vertex, anthropic_version diteruskan dalam badan permintaan (bukan sebagai header), dan harus diatur ke nilai vertex-2023-10-16.

Vertex juga didukung oleh client SDKs resmi Anthropic. Panduan ini akan memandu Anda melalui proses membuat permintaan ke Claude di Vertex AI menggunakan Python atau TypeScript.

Perhatikan bahwa panduan ini mengasumsikan Anda sudah memiliki proyek GCP yang dapat menggunakan Vertex AI. Lihat menggunakan model Claude 3 dari Anthropic untuk informasi lebih lanjut tentang setup yang diperlukan, serta panduan lengkap.

Instal SDK untuk mengakses Vertex AI

Pertama, instal client SDK Anthropic untuk bahasa pilihan Anda.

pip install -U google-cloud-aiplatform "anthropic[vertex]"

Mengakses Vertex AI

Ketersediaan Model

Perhatikan bahwa ketersediaan model Anthropic bervariasi menurut wilayah. Cari "Claude" di Vertex AI Model Garden atau buka Gunakan Claude 3 untuk informasi terbaru.

ID model API

Membuat permintaan

Sebelum menjalankan permintaan, Anda mungkin perlu menjalankan gcloud auth application-default login untuk melakukan autentikasi dengan GCP.

Contoh berikut menunjukkan cara menghasilkan teks dari Claude di Vertex AI:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "global"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-sonnet-4-5@20250929",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Lihat client SDKs kami dan dokumentasi Vertex AI resmi untuk detail lebih lanjut.

Pencatatan aktivitas

Vertex menyediakan layanan pencatatan permintaan-respons yang memungkinkan pelanggan untuk mencatat prompt dan penyelesaian yang terkait dengan penggunaan Anda.

Anthropic merekomendasikan agar Anda mencatat aktivitas Anda setidaknya pada dasar rolling 30 hari untuk memahami aktivitas Anda dan menyelidiki potensi penyalahgunaan.

Dukungan fitur

Anda dapat menemukan semua fitur yang saat ini didukung di Vertex di sini.

Endpoint global vs regional

Mulai dengan Claude Sonnet 4.5 dan semua model di masa depan, Google Vertex AI menawarkan dua jenis endpoint:

• Endpoint global: Perutean dinamis untuk ketersediaan maksimal
• Endpoint regional: Perutean data yang dijamin melalui wilayah geografis tertentu

Endpoint regional mencakup premium harga 10% dibandingkan endpoint global.

Kapan menggunakan setiap opsi

Endpoint global (direkomendasikan):

• Memberikan ketersediaan dan uptime maksimal
• Secara dinamis merutingkan permintaan ke wilayah dengan kapasitas yang tersedia
• Tidak ada premium harga
• Terbaik untuk aplikasi di mana residensi data fleksibel
• Hanya mendukung lalu lintas bayar sesuai penggunaan (throughput yang disediakan memerlukan endpoint regional)

Endpoint regional:

• Merutingkan lalu lintas melalui wilayah geografis tertentu
• Diperlukan untuk persyaratan residensi data dan kepatuhan
• Mendukung lalu lintas bayar sesuai penggunaan dan throughput yang disediakan
• Premium harga 10% mencerminkan biaya infrastruktur untuk kapasitas regional yang didedikasikan

Implementasi

Menggunakan endpoint global (direkomendasikan):

Atur parameter region ke "global" saat menginisialisasi klien:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "global"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-sonnet-4-5@20250929",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Menggunakan endpoint regional:

Tentukan wilayah tertentu seperti "us-east1" atau "europe-west1":

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "us-east1"  # Specify a specific region

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-sonnet-4-5@20250929",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Sumber daya tambahan

• Harga Vertex AI Google: cloud.google.com/vertex-ai/generative-ai/pricing
• Dokumentasi model Claude: Claude di Vertex AI
• Posting blog Google: Endpoint global untuk model Claude
• Detail harga Anthropic: Dokumentasi Harga