Il red-team testing è un esercizio controllato in cui i difensori cercano attivamente di compromettere un sistema, abusarne o farlo comportare in modo non sicuro. Nel campo della sicurezza informatica, l'obiettivo è pensare come un aggressore: sondare l'autenticazione debole, i permessi eccessivi, la gestione scorretta degli input, gli strumenti esposti e le azioni inattese che i test normali possono non rilevare.
Questo è importante perché i sistemi moderni, soprattutto i servizi di IA e gli strumenti connessi al cloud, possono fallire in modi difficili da prevedere. Un red team può testare se un modello possa essere indotto a rivelare dati sensibili, avviare azioni vietate o chiamare API esterne al di fuori delle policy. I risultati aiutano i team ad aggiungere misure di protezione come sandboxing, logging, limiti di frequenza, passaggi di approvazione e impostazioni predefinite più sicure. Se eseguito bene, il red-team testing trasforma percorsi di attacco sconosciuti in correzioni concrete prima che gli aggressori reali li individuino.