Un confine comportamentale è un controllo in fase di esecuzione che limita ciò a cui un agente di intelligenza artificiale può accedere, ciò che può divulgare o le azioni che può compiere durante il funzionamento. Può limitare gli strumenti o i dati a cui l’agente può accedere, le informazioni che può restituire e le azioni che può eseguire. A differenza di un’istruzione nel prompt, il confine viene applicato tramite controlli di sistema, anziché affidarsi al fatto che il modello segua le indicazioni.
Questi limiti sono importanti perché un agente può disporre di credenziali e connessioni con più servizi. Se la sua autorità è troppo ampia, un uso improprio o una manipolazione potrebbero esporre informazioni sensibili o consentire azioni non autorizzate. Tra le difese pratiche figurano autorizzazioni con privilegi minimi, credenziali di breve durata, controlli di autorizzazione nei sistemi a valle e monitoraggio delle chiamate agli strumenti. Nel loro insieme, questi controlli aiutano a mantenere l’agente entro l’ambito previsto e rendono più facile rilevare e fermare comportamenti inattesi.