L'allineamento dell'IA è lo sforzo di far coincidere il comportamento di un modello con l'intento umano, le regole di sicurezza e i limiti operativi. Un sistema ben allineato dovrebbe rifiutare richieste non sicure, seguire le policy e rimanere coerente quando la situazione cambia. In pratica, l'allineamento combina addestramento, valutazione e guardrail in modo che il modello non ottimizzi l'obiettivo sbagliato o non inventi scorciatoie che violano le istruzioni.
Nella sicurezza informatica, l'allineamento è importante perché gli strumenti di IA sono spesso usati per redigere codice, rivedere alert, riassumere log o assistere nella risposta agli incidenti. Se il modello è poco allineato, potrebbe esporre dati sensibili, ignorare i controlli di accesso o essere manipolato tramite prompt injection fino a compiere azioni dannose. I difensori usano controlli legati all'allineamento come la regolazione delle policy, il red teaming, il filtraggio degli output e la revisione umana per mantenere l'assistenza dell'IA entro limiti sicuri. Un buon allineamento non sostituisce i test di sicurezza, ma riduce la probabilità che uno strumento utile diventi uno strumento non sicuro.