La programmazione assistita dall'IA è l'uso di strumenti di intelligenza artificiale per generare, completare o suggerire codice software. Questi strumenti possono velocizzare le bozze iniziali, il codice standard, i test e il refactoring, ma non garantiscono che l'output sia corretto, sicuro o adatto alla produzione.
Nella sicurezza informatica, il rischio principale è che il codice generato automaticamente possa introdurre autenticazione debole, impostazioni predefinite non sicure, errori logici o dipendenze non sicure se viene accettato senza revisione. Gli aggressori possono anche usare gli stessi strumenti per scrivere più rapidamente kit di phishing, loader di malware o proof of concept di exploit. I difensori usano la programmazione assistita dall'IA per regole di rilevamento, script e strumenti interni, ma trattano comunque l'output come non attendibile finché non supera test, revisione del codice e controlli di sicurezza. Buoni controlli includono il principio del privilegio minimo per qualsiasi automazione, la registrazione delle modifiche e la convalida rispetto al comportamento atteso.