I guardrail in runtime sono controlli tecnici applicati mentre un sistema AI è in esecuzione. Ispezionano prompt, contesto recuperato, output e chiamate agli strumenti, quindi bloccano, riscrivono o limitano le azioni che sembrano non sicure o non autorizzate. A differenza dei documenti di policy o delle revisioni di governance, questi controlli agiscono nell'istante stesso, dove un attaccante può tentare di indirizzare un modello con istruzioni malevole o attivare un'azione API dannosa.
Sono importanti perché i moderni sistemi AI spesso si connettono a file, database, app SaaS e strumenti agentici. Se un prompt injection o un data poisoning raggiunge il percorso di esecuzione, i guardrail possono ridurre le fughe di dati, arrestare contenuti non consentiti, limitare l'uso degli strumenti e richiedere l'approvazione umana per i passaggi sensibili. Esempi comuni includono il filtraggio dei prompt, la moderazione degli output, allowlist per strumenti e domini, limiti di velocità e regole che rilevano tentativi di esfiltrare segreti o di sovrascrivere le istruzioni di sistema. In pratica, i guardrail in runtime forniscono il livello di enforcement che trasforma la policy di sicurezza dell'AI in una protezione reale.