Il numero di parametri è il numero di valori regolabili che un modello di apprendimento automatico apprende durante l’addestramento. Questi valori, spesso chiamati pesi, contribuiscono a determinare il modo in cui il modello trasforma gli input in output. Un numero più elevato può indicare un modello più grande, ma di per sé non dimostra quanto il modello sia accurato, capace, sicuro o ben addestrato.
Nella cybersicurezza, il numero di parametri non è una valutazione della sicurezza. Non rivela dove viene eseguito un modello, su quali dati è stato addestrato, chi può amministrarlo o come vengono gestiti i prompt e i log. Gli aggressori possono prendere di mira un sistema di IA tramite interfacce esposte, credenziali rubate o integrazioni non sicure, indipendentemente dalle sue dimensioni. I difensori dovrebbero valutare i controlli di accesso, i flussi di dati, le procedure di aggiornamento, il monitoraggio e l’isolamento, oltre alle capacità del modello. Considerate il numero di parametri come una misura delle dimensioni, non come prova di affidabilità o idoneità per usi sensibili.