Claude на Vertex AI

API Vertex для доступа к Claude почти идентичен Messages API и поддерживает все те же опции с двумя ключевыми отличиями:

• В Vertex model не передается в теле запроса. Вместо этого он указывается в URL-адресе конечной точки Google Cloud.
• В Vertex anthropic_version передается в теле запроса (а не как заголовок) и должен быть установлен на значение vertex-2023-10-16.

Vertex также поддерживается официальными SDK-клиентами Anthropic. Это руководство проведет вас через процесс создания запроса к Claude на Vertex AI на Python или TypeScript.

Обратите внимание, что это руководство предполагает, что у вас уже есть проект GCP, который может использовать Vertex AI. Дополнительную информацию о необходимой настройке и полное пошаговое руководство см. в разделе использование моделей Claude 3 от Anthropic.

Установка SDK для доступа к Vertex AI

Сначала установите SDK-клиент Anthropic для выбранного вами языка программирования.

Доступ к Vertex AI

Доступность моделей

Обратите внимание, что доступность моделей Anthropic варьируется в зависимости от региона. Выполните поиск "Claude" в Vertex AI Model Garden или перейдите на Use Claude 3 для получения последней информации.

API model IDs

Создание запросов

Перед выполнением запросов вам может потребоваться запустить gcloud auth application-default login для аутентификации с помощью GCP.

Следующие примеры показывают, как генерировать текст из Claude на Vertex AI:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "global"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Дополнительные сведения см. в разделе SDK-клиентов и официальной документации Vertex AI.

Claude также доступен через Amazon Bedrock и Microsoft Foundry.

Логирование активности

Vertex предоставляет сервис логирования запросов и ответов, который позволяет клиентам регистрировать подсказки и завершения, связанные с вашим использованием.

Anthropic рекомендует регистрировать вашу активность по крайней мере на основе 30-дневного скользящего окна, чтобы понять вашу активность и исследовать любое потенциальное неправомерное использование.

Поддержка функций

Все функции, которые в настоящее время поддерживаются на Vertex, можно найти здесь.

Глобальные и региональные конечные точки

Начиная с Claude Sonnet 4.5 и всех будущих моделей, Google Vertex AI предлагает два типа конечных точек:

• Глобальные конечные точки: Динамическая маршрутизация для максимальной доступности
• Региональные конечные точки: Гарантированная маршрутизация данных через определенные географические регионы

Региональные конечные точки включают надбавку в размере 10% к цене по сравнению с глобальными конечными точками.

Когда использовать каждый вариант

Глобальные конечные точки (рекомендуется):

• Обеспечивают максимальную доступность и время безотказной работы
• Динамически маршрутизируют запросы в регионы с доступной емкостью
• Без надбавки к цене
• Лучше всего для приложений, где местоположение данных гибко
• Поддерживает только трафик с оплатой по мере использования (подготовленная пропускная способность требует региональных конечных точек)

Региональные конечные точки:

• Маршрутизируют трафик через определенные географические регионы
• Требуются для требований к местоположению данных и соответствию нормативным требованиям
• Поддерживают как оплату по мере использования, так и подготовленную пропускную способность
• Надбавка в размере 10% к цене отражает затраты на инфраструктуру для выделенной региональной емкости

Реализация

Использование глобальных конечных точек (рекомендуется):

Установите параметр region на "global" при инициализации клиента:

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "global"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Использование региональных конечных точек:

Укажите конкретный регион, например "us-east1" или "europe-west1":

from anthropic import AnthropicVertex

project_id = "MY_PROJECT_ID"
region = "us-east1"  # Specify a specific region

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Hey Claude!",
        }
    ],
)
print(message)

Дополнительные ресурсы

• Цены Google Vertex AI: cloud.google.com/vertex-ai/generative-ai/pricing
• Документация моделей Claude: Claude на Vertex AI
• Пост в блоге Google: Глобальная конечная точка для моделей Claude
• Детали ценообразования Anthropic: Документация по ценообразованию