Apple Foundation Models

Claude for Foundation Models adalah paket Swift yang menyediakan Claude sebagai model bahasa sisi server dalam framework Foundation Models milik Apple. Paket ini membuat Claude sesuai dengan protokol LanguageModel dari framework tersebut, sehingga Anda menjalankannya dengan API LanguageModelSession yang sama seperti yang Anda gunakan untuk model on-device Apple: respond(to:), streaming, guided generation, dan pemanggilan alat semuanya bekerja dengan cara yang sama.

Permintaan dikirim langsung dari aplikasi Anda ke API Claude; Apple tidak berada di jalur permintaan dan tidak melihat prompt maupun respons. Penggunaan ditagihkan ke akun Anthropic Anda dengan harga API standar. Aplikasi Anda yang memutuskan kapan menggunakan Claude dan kapan menggunakan model on-device Apple: berikan model mana pun yang Anda inginkan ke setiap sesi.

Persyaratan

• iOS 27, macOS 27, visionOS 27, atau watchOS 27 (semuanya dalam beta): rilis OS yang framework Foundation Models-nya mendukung model bahasa sisi server
• Xcode 27 (beta)
• Kunci API Claude dari Claude Console untuk pengembangan. Lihat Autentikasi untuk opsi produksi.

Menginstal paket

Tambahkan paket ke Package.swift Anda:

dependencies: [
  .package(url: "https://github.com/anthropics/ClaudeForFoundationModels.git", from: "0.1.0")
]

Atau di Xcode: File > Add Package Dependencies… dan masukkan URL repositori.

Kemudian tambahkan ClaudeForFoundationModels ke dependensi target Anda dan impor bersama dengan FoundationModels:

import FoundationModels
import ClaudeForFoundationModels

Mulai cepat

ClaudeLanguageModel adalah titik masuknya. Berikan ke LanguageModelSession dan gunakan sesi tersebut persis seperti yang Anda lakukan dengan penyedia Foundation Models mana pun:

import FoundationModels
import ClaudeForFoundationModels

let model = ClaudeLanguageModel(
  name: .sonnet4_6,
  auth: .apiKey(ProcessInfo.processInfo.environment["ANTHROPIC_API_KEY"] ?? "")
)

let session = LanguageModelSession(model: model)
let response = try await session.respond(to: "Plan a 4-day trip to Buenos Aires.")
print(response.content)

Initializer juga menerima baseURL (default https://api.anthropic.com), timeout, dan serverTools (lihat Alat sisi server).

Untuk program lengkap yang berfungsi, repositori menyertakan Examples/ClaudeExample, target command-line yang dapat dijalankan yang melakukan streaming satu giliran chat ke terminal, dengan flag --search yang mengaktifkan pencarian web sisi server untuk giliran tersebut. Menjalankannya memerlukan host macOS 27.

Memilih model

Pengidentifikasi model adalah nilai dari ClaudeModel. Gunakan konstanta yang sudah dikompilasi, atau buat satu dengan kapabilitas eksplisit untuk ID yang belum dikompilasi (lihat Kapabilitas):

ClaudeLanguageModel(name: .opus4_8, auth: auth)

Konstanta mencerminkan ID model API (.opus4_8 adalah claude-opus-4-8) dan membawa kapabilitas masing-masing model. Model baru dirilis sebagai konstanta baru dalam rilis paket; periksa ClaudeModel di Xcode untuk daftar terkini, dan Ikhtisar model untuk membandingkan model.

Kapabilitas

Setiap ClaudeModel mendeklarasikan apa yang diterimanya: parameter sampling, tingkat effort, adaptive thinking, output terstruktur, dan input gambar. Paket menggunakan ini untuk memutuskan field permintaan mana yang akan dikirim, karena mengirim field yang ditolak model adalah hard error. Konstanta membawa kapabilitas yang tepat. Untuk ID yang belum dikompilasi, deklarasikan apa yang diterima model (sengaja tidak ada shorthand yang menebak-nebak):

let model = ClaudeModel(
  id: "claude-experimental-x",
  capabilities: .init(samplingParams: false, effortLevels: [.low, .high])
)
ClaudeLanguageModel(name: model, auth: auth)

Effort

Tetapkan tingkat effort Claude untuk setiap permintaan dengan fixedEffort:. Ini lebih diutamakan daripada petunjuk reasoning per-permintaan dari framework, dan ini satu-satunya cara untuk meminta .xhigh atau .max, karena tingkat reasoning framework berhenti di high. API menggunakan default high ketika tidak ada effort yang dikirim:

ClaudeLanguageModel(name: .opus4_8, auth: auth, fixedEffort: .xhigh)

Tingkat tersebut harus merupakan tingkat yang diterima model. Setiap ClaudeModel mendeklarasikan mana dari lima tingkat (low, medium, high, xhigh, max) yang diterima modelnya, jika ada: beberapa model tidak menerima effort sama sekali.

Kapan menggunakan Claude versus model on-device

Model on-device Apple cepat, privat, dan bekerja secara offline, tetapi ukurannya dirancang untuk tugas ringan. Eskalasikan ke Claude ketika Anda membutuhkan konteks yang lebih besar, penalaran tingkat frontier, atau alat sisi server seperti pencarian web dan eksekusi kode. Karena keduanya menggunakan API LanguageModelSession yang sama, Anda dapat beralih dengan menukar argumen model:.

Autentikasi

Atur kredensial dengan parameter auth:.

Kunci API (pengembangan)

Berikan kunci API secara langsung saat mengembangkan:

ClaudeLanguageModel(name: .sonnet4_6, auth: .apiKey("YOUR_API_KEY"))

Proxy (produksi)

Untuk produksi, rutekan permintaan melalui back end Anda sendiri dengan .proxied. Relay di baseURL menambahkan kredensial API Claude di sisi server, sehingga aplikasi tidak menyertakan kunci apa pun. headers yang Anda berikan dikirim pada setiap permintaan sehingga proxy Anda dapat mengotorisasi pemanggil. Berikan [:] jika tidak memerlukan apa pun:

ClaudeLanguageModel(
  name: .sonnet4_6,
  auth: .proxied(headers: ["X-App-Token": "..."]),
  baseURL: URL(string: "https://api.yourapp.com/claude")!
)

Proxy Anda menerima permintaan Messages API standar, melampirkan header x-api-key, dan meneruskannya ke https://api.anthropic.com.

Streaming

streamResponse(to:) mengembalikan respons secara bertahap. Setiap elemen adalah snapshot kumulatif dari respons sejauh ini, bukan delta:

let stream = session.streamResponse(to: "Summarize today's top science stories.")
for try await partial in stream {
  print(partial.content)
}

Output terstruktur

Anotasi tipe dengan @Generable dan minta dengan generating:. Model mengembalikan nilai dari tipe tersebut melalui output terstruktur:

@Generable
struct Trip {
  @Guide(description: "Destination city") var destination: String
  @Guide(description: "Length in days") var days: Int
}

let response = try await session.respond(to: "Plan a trip to Tokyo.", generating: Trip.self)
print(response.content.destination)

Output terstruktur memerlukan model yang kapabilitasnya mencakup hal tersebut (semua konstanta yang dikompilasi mendukungnya). Jika model yang dipilih tidak mendukungnya, paket akan melempar LanguageModelError.unsupportedGenerationGuide alih-alih menurunkan kualitas secara diam-diam.

Penggunaan alat

Alat sisi klien

Array tools: dari framework bekerja tanpa perubahan. Sesuaikan tipe Anda dengan Tool, berikan ke LanguageModelSession, dan framework akan memanggilnya di perangkat ketika Claude memanggilnya. Lihat Penggunaan alat dengan Claude.

let session = LanguageModelSession(model: model, tools: [FindRestaurantsTool()])

Alat sisi server

Alat server (pencarian web, pengambilan web, dan eksekusi kode) berjalan di infrastruktur Anthropic dalam satu round trip, tanpa ada yang perlu dipanggil framework di perangkat. Konfigurasikan per model dengan serverTools::

let model = ClaudeLanguageModel(
  name: .sonnet4_6,
  auth: auth,
  serverTools: [
    .webSearch(maxUses: 5),
    .codeExecution,
  ]
)

.webSearch dan .webFetch menerima allowedDomains, blockedDomains, dan maxUses opsional. Aktivitas alat server muncul di transkrip sebagai segmen kustom ClaudeServerToolSegment.

Gambar

Model yang kapabilitasnya mencakup input gambar mendeklarasikan kapabilitas vision dari framework. Berikan konten gambar melalui API sesi standar framework; paket mengonversinya ke format gambar API Claude. Lihat Vision untuk persyaratan gambar.

Penanganan error

Paket memetakan error API Claude ke case LanguageModelError milik Apple jika ada yang cocok: overflow jendela konteks muncul sebagai .contextSizeExceeded, HTTP 429 sebagai .rateLimited, permintaan yang melewati timeout yang dikonfigurasi sebagai .timeout. Error penyedia yang tidak memiliki padanan framework muncul sebagai ClaudeError. Gunakan pattern-match untuk mengarahkan alur produk:

do {
  let response = try await session.respond(to: prompt)
  print(response.content)
} catch ClaudeError.missingCredential {
  // Minta kunci API.
} catch let error as LanguageModelError {
  // Error yang dibentuk oleh framework (batas laju, guardrail, panjang konteks, decoding).
} catch {
  // Error transport.
}

Pola yang umum adalah menangkap .rateLimited dan beralih ke SystemLanguageModel untuk giliran tersebut, mengantrekan permintaan, atau menampilkan opsi coba lagi.

Dukungan fitur

Paket ini menampilkan kapabilitas Messages API yang dapat diekspresikan oleh protokol penyedia Foundation Models. Fitur yang tidak memiliki representasi dalam protokol Apple tidak tersedia melaluinya, termasuk:

• Kontrol caching prompt (paket menerapkan caching prompt secara otomatis; TTL cache dan penempatan breakpoint tidak dapat dikonfigurasi)
• Stop sequence
• Pemrosesan batch
• Files API
• Penghitungan token
• Header beta

Sumber daya tambahan

Paket ini dilisensikan di bawah Apache 2.0. Laporan bug diterima melalui isu GitHub. Pull request eksternal tidak diterima selama periode beta.