AmministrazioneHook di inferenza

Inference hooks

Copy page



Invia ogni prompt governato al server di sicurezza AI della tua organizzazione per ottenere un verdetto di autorizzazione o rifiuto prima che l’inferenza proceda.

Gli Inference hooks consentono a un’organizzazione Claude Enterprise di instradare ogni prompt governato attraverso un “AI security server” (server di sicurezza AI), un servizio HTTPS gestito dall’organizzazione o dal suo fornitore di sicurezza, prima che venga eseguita l’inferenza. Quando un utente invia un prompt, Anthropic invia la trascrizione della conversazione al tuo server di sicurezza AI e attende un verdetto di autorizzazione o rifiuto; una richiesta rifiutata non raggiunge mai il modello. I team di sicurezza e conformità usano gli Inference hooks per applicare le policy sui dati in linea, e gli sviluppatori costruiscono il server di sicurezza AI che valuta ogni richiesta.

Poiché l’hook viene eseguito sui server di Anthropic, dopo che la richiesta lascia il client e prima che il modello venga eseguito, si applica in modo uniforme a ogni richiesta governata, in tutti i prodotti Claude della tua organizzazione, senza nulla da installare o distribuire sui dispositivi degli utenti.

Esistono due eventi hook. prompt viene attivato una volta per ogni richiesta di inferenza governata, prima che l’inferenza inizi. tool_call viene attivato quando la risposta di Claude contiene chiamate a strumenti, prima che ciascuna di esse venga eseguita, nelle organizzazioni che hanno attivato Validate tool calls.

---

Come funzionano gli Inference hooks

1. Un utente invia un prompt su una superficie governata.
2. Anthropic invia una richiesta HTTPS POST all’endpoint del server di sicurezza AI configurato dalla tua organizzazione. Il corpo della richiesta contiene la trascrizione della conversazione, e ogni richiesta viene firmata secondo la specifica Standard Webhooks una volta che la tua organizzazione ha generato il proprio segreto di firma, così il tuo server può verificare che provenga da Anthropic.
3. Il tuo server di sicurezza AI valuta il contenuto e risponde con un verdetto entro il timeout del verdetto configurato dalla tua organizzazione (5 secondi per impostazione predefinita).
4. Con allow, l’inferenza procede normalmente. Con deny, la richiesta viene rifiutata e l’utente vede un messaggio di blocco per policy composto da due parti: il motivo specifico della richiesta fornito dal tuo server di sicurezza AI nel campo deny_reason del verdetto, seguito da un messaggio fisso configurato dai tuoi amministratori (ad esempio, chi contattare o dove richiedere un’eccezione). Se i tuoi amministratori non ne hanno configurato uno, un messaggio predefinito integrato invita l’utente a contattarli. Ogni rifiuto viene inoltre registrato nell’Activity Feed della tua organizzazione.

Il diagramma seguente illustra un esempio (una richiesta Cowork in cui Claude chiama anche uno strumento O365) per mostrare quali parti del flusso sono intercettate dagli hook. I punti intercettati sono i passaggi 1, 2 e 3 del diagramma, in cui arriva il prompt, Claude chiama lo strumento e viene restituito il risultato dello strumento. In ciascuno di essi, il tuo server di sicurezza AI restituisce un verdetto prima che il flusso continui. Il passaggio 2 è intercettato solo con Validate tool calls attivo, e il suo unico verdetto copre tutte le chiamate a strumenti di una risposta.

Un verdetto è un piccolo oggetto JSON: {"action": "allow"} consente alla richiesta di procedere, mentre un rifiuto contiene il motivo mostrato all’utente. Per lo schema completo del verdetto, consulta Restituire un verdetto.

Il tuo server di sicurezza AI vede ciò che vede l’utente: il testo della trascrizione, le chiamate a strumenti e i relativi risultati, e il testo estratto dagli allegati. Non riceve mai i byte grezzi di file o immagini, i prompt di sistema o il contesto interno di Anthropic.

Il sistema degli Inference hooks non conserva una propria copia del contenuto dei prompt o delle risposte. Memorizza solo la configurazione dei tuoi hook e i metadati sull’attività degli hook, come verdetti, timestamp e identificatori delle richieste. Il prodotto Claude che usi memorizza prompt e risposte secondo le proprie regole di conservazione dei dati, indipendentemente dal fatto che gli hook siano attivi o meno. Ad esempio, un messaggio bloccato da un hook su claude.ai rimane nella conversazione.

Se il tuo server di sicurezza IA non è raggiungibile, restituisce un errore o non risponde entro il timeout, l’impostazione di gestione degli errori della tua organizzazione determina l’esito: bloccare la richiesta o consentirle di procedere senza ispezione. Errori persistenti attribuibili al tuo server fanno scattare un “circuit breaker” (interruttore automatico): Anthropic smette di contattarlo e applica la tua impostazione di gestione degli errori a ogni richiesta, quindi reimposta automaticamente l’interruttore non appena rileva che il tuo server restituisce di nuovo verdetti; consulta Circuit breaker.

L’applicazione delle policy può essere introdotta al tuo ritmo, così nessuno deve essere bloccato fin dal primo giorno: la “shadow mode” (modalità ombra) osserva i verdetti sul traffico reale senza bloccare nulla, una percentuale di rollout ispeziona una frazione scelta delle richieste e le esclusioni esentano completamente i membri di ruoli scelti. Consulta Configurare gli Inference hooks.

Per gli schemi completi di richiesta e risposta, la verifica della firma e i dettagli operativi, consulta Sviluppare un’integrazione con gli Inference hooks.

---

Continuare una conversazione dopo una richiesta rifiutata

Ogni richiesta include l’intera conversazione, quindi un messaggio rifiutato viene inviato di nuovo con ogni messaggio successivo. Se il tuo server di sicurezza AI valuta l’intera trascrizione, rifiuta anche quelle richieste. Per continuare, l’utente rimuove il contenuto rifiutato da ciò che l’app invia successivamente, incluso qualsiasi file che Claude leggerebbe di nuovo.

I passaggi dipendono dall’app:

• claude.ai, inclusi Claude Desktop e le app mobili. L’utente modifica il messaggio rifiutato, o uno precedente, anziché inviare una copia corretta come nuovo messaggio. Sul web e in Claude Desktop, la modifica invia di nuovo gli allegati del messaggio a meno che l’utente non li rimuova. Funziona anche una nuova chat.
• Claude Code. L’utente esegue /rewind e seleziona il prompt che ha introdotto per primo il contenuto. Se richiesto, seleziona Restore conversation, quindi modifica o cancella il prompt che torna nel campo di input. /clear ricomincia da capo. Consulta Checkpointing.
• Cowork. L’utente modifica il messaggio rifiutato se è il suo più recente. La modifica invia di nuovo i file allegati, e Restart from here invia di nuovo l’intero messaggio invariato. Se il contenuto si trova in un file o in un messaggio precedente, l’utente seleziona Nuova attività.
• Claude Tag. In Slack, l’utente modifica prima il messaggio rifiutato, oppure lo elimina se si tratta di una risposta. Quindi invia @Claude !restart da solo nel punto in cui Claude stava rispondendo: in quel thread, oppure al livello principale del canale. La nuova sessione rilegge i messaggi ancora presenti in Slack, quindi la modifica o l’eliminazione deve avvenire prima. Consulta il comando !restart.

---

Casi d’uso

• Prevenzione della perdita di dati (DLP). Inoltra la trascrizione al tuo scanner di “data loss prevention” (prevenzione della perdita di dati), o DLP, e rifiuta i prompt che contengono materiale regolamentato o classificato. Questa è la distribuzione più comune.
• Archiviazione delle trascrizioni in tempo reale. Archivia ogni trascrizione al suo arrivo e restituisci sempre allow, come alternativa basata su push al polling della Compliance API.
• Telemetria dei prompt. Misura come la tua organizzazione usa Claude, nel momento dell’uso.
• Motori di policy. Applica le tue regole prima dell’inferenza: allowlist di modelli, restrizioni a livello di progetto o controlli sull’orario di lavoro.

---

Limitazioni attuali

• Gli allegati sono rappresentati da metadati e testo estratto. I byte grezzi di file e immagini non vengono mai inviati, quindi il contenuto costituito solo da immagini (ad esempio, lo screenshot di un documento) non viene ispezionato.
• I verdetti sono di autorizzazione o di rifiuto. La riscrittura o la redazione di un prompt non è supportata.
• Le organizzazioni Claude Platform (accesso API tramite la Platform) sono escluse.

---

Disponibilità

Gli Inference hooks sono disponibili per le organizzazioni Claude Enterprise. Per configurarli è necessaria l’autorizzazione organization:manage, che possiedono solo i ruoli Proprietario e Proprietario principale.

Un unico hook governa le conversazioni in tutti i prodotti Claude della tua organizzazione Claude Enterprise, inclusi, a titolo esemplificativo, claude.ai, Cowork, Claude Code, Claude for Microsoft 365, Claude Tag e Claude in Chrome, sia che vengano eseguite sul web, nelle app desktop o mobili, nella CLI o in Slack. Gli Inference hooks non sono disponibili su Amazon Bedrock o Google Cloud.

Le richieste governate sono le richieste di inferenza alla base della conversazione o della sessione dell’utente. I prompt di sistema e le definizioni degli strumenti non sono mai inclusi in ciò che viene inviato. In modalità vocale, anche i prompt e le chiamate a strumenti vengono inviati al tuo endpoint, anche se una piccola parte delle chiamate a strumenti non lo è, quindi non affidarti agli Inference hooks come unico controllo per la voce. Se il tuo endpoint rifiuta una richiesta in modalità vocale, la chiamata vocale di solito termina con un messaggio di errore generico e il tuo motivo di rifiuto non viene mostrato.

Con Validate tool calls attivo, gli eventi tool_call potrebbero tralasciare le chiamate ad alcuni strumenti propri di claude.ai, come gli strumenti che svolgono le seguenti azioni:

• Elencare, cercare o suggerire connettori, plugin o skill
• Suggerire di avviare una ricerca o di attivare la ricerca web
• Cercare altri strumenti
• Passare a un modello più grande
• Terminare la chat
• Fornire a Claude l’ora locale dell’utente
• Leggere le chat passate e la memoria salvata dell’utente

Queste chiamate e i relativi risultati rimangono nella conversazione, quindi il successivo evento prompt di quella conversazione, se presente, le include.

Alcune funzionalità che Anthropic esegue per la tua organizzazione effettuano chiamate al modello proprie. La tua organizzazione vede i risultati di tali chiamate ma non le relative trascrizioni. Queste chiamate non sono richieste governate e non vengono inviate al tuo endpoint. Includono le seguenti:

• Scansioni di Claude Security (beta). Claude Security esegue scansioni ospitate sui tuoi repository connessi. Una sessione che un utente apre per correggere un rilevamento, e il plugin Claude Security in Claude Code, sono governati.
• Code Review (anteprima di ricerca). Code Review esegue revisioni sulle tue pull request GitHub. Una revisione che un utente esegue localmente in Claude Code con /code-review è governata.
• Report intelligenti. Anthropic effettua chiamate al modello per creare i report intelligenti della tua organizzazione. Ciò che un utente digita o carica durante la creazione di un report è governato.

---

Inference hooks rispetto alla Compliance API

Entrambe le funzionalità servono i team di sicurezza, legali e di conformità delle organizzazioni Claude Enterprise.

Usa gli Inference hooks per fermare una richiesta prima che raggiunga il modello, e la Compliance API per verificare a posteriori ciò che è accaduto.

---

In questa sezione