Un modello in grado di scrivere codice è un sistema di IA progettato per scrivere, modificare, spiegare o ragionare sul software. Può generare frammenti di codice, suggerire correzioni, analizzare stack trace e aiutare nei flussi di lavoro di sviluppo. Nei contesti di sicurezza, questa capacità conta perché lo stesso modello che velocizza l'ingegneria sicura può anche accelerare gli abusi se viene esposto a prompt non attendibili o all'accesso agli strumenti.
Gli aggressori possono usare modelli in grado di scrivere codice per redigere malware, migliorare kit di phishing, cercare vulnerabilità o adattare la logica degli exploit. I difensori li usano per la revisione del codice, i controlli di configurazione sicura, l'analisi dei log e la guida alle patch. Il rischio principale non è che il modello sia intrinsecamente malevolo, ma che possa produrre rapidamente codice plausibile e su larga scala, quindi gli output richiedono revisione, limiti di autorizzazione e forti barriere di protezione prima di toccare i sistemi di produzione.