custom_generate/generate.py è un file del repository che può contenere logica Python personalizzata per la generazione del modello, come campionamento del testo specializzato, gestione dei prompt o formattazione dell'output. Nei flussi di lavoro di machine learning, file come questo sono importanti perché sono codice eseguibile, non solo dati. Se un loader è autorizzato a recuperarli e importarli, il file può diventare parte del percorso di esecuzione attendibile.
In termini di sicurezza, questo tipo di file è rischioso quando proviene da un repository non attendibile. Un attore malevolo può usarlo per collocare codice Python su disco, sperando che venga importato in seguito o lasciato in una cache per il riutilizzo. Gli operatori di difesa dovrebbero trattare il codice di generazione personalizzata come codice remoto: ispezionare il repository, bloccare revisioni esatte e assicurarsi che le decisioni di fiducia avvengano prima che qualsiasi file venga scritto o importato. Questo aiuta a prevenire la persistenza di codice controllato dall'attaccante anche quando l'esecuzione è bloccata.