L'IA costituzionale è un metodo di allineamento che addestra o guida un modello con un insieme esplicito di principi, spesso scritti come regole su utilità, innocuità, onestà o conformità alle policy. Invece di basarsi solo sulla valutazione umana degli output, il sistema impara a rivedere le proprie risposte in base a quella "costituzione" e a preferire risposte che soddisfano le regole stabilite.
Questo è importante nella sicurezza informatica perché il comportamento del modello fa parte della superficie di attacco. Una costituzione ben definita può ridurre istruzioni non sicure, limitare contenuti abusivi e rendere i rifiuti più coerenti in contesti ad alto rischio. Supporta anche l'audit: i difensori possono ispezionare i principi guida e verificare se il modello li segue sotto prompt avversari. Negli attacchi reali, il prompt injection e i tentativi di jailbreak cercano di spingere il modello oltre quelle regole; in difesa, l'IA costituzionale è uno strato che aiuta a mantenere il modello allineato quando gli input sono ostili o fuorvianti.