L'utilizzo è la quota della capacità di calcolo o di erogazione disponibile che viene effettivamente utilizzata. In uno stack di serving per IA, indica quanto sono occupate in un dato momento GPU, CPU, memoria o pool di modelli. Un utilizzo basso può indicare spreco di spesa; un utilizzo elevato e sostenuto può indicare saturazione, accodamento e risposte più lente.
Nella sicurezza informatica, l'utilizzo è importante perché sia l'attacco sia la difesa lo modificano. Un attaccante può aumentare l'utilizzo con raffiche di richieste, prompt costosi o abuso dell'accesso alle API, causando denial of service, picchi di costo o degrado della qualità del modello. I difensori monitorano l'utilizzo per individuare sovraccarichi, rilevare pattern di traffico anomali e ottimizzare batching, routing, throttling e autoscaling. Misurare l'utilizzo tra diversi carichi di lavoro aiuta anche a dimostrare se la capacità viene usata in modo sicuro ed efficiente, invece di essere consumata silenziosamente da configurazioni errate o abusi.