Per GPAI a rischio sistemico si intende un modello di IA di uso generale la cui scala, capacità o distribuzione potrebbe creare ampi danni alla sicurezza, alla protezione o alla società. Il rischio non riguarda solo il fatto che il modello sappia rispondere bene alle domande, ma anche se possa essere usato in modo improprio da molti utenti, strumenti e ambienti.
Nel campo della sicurezza informatica, questo è importante perché un modello potente può facilitare phishing, adattamento di malware, social engineering o processi decisionali automatizzati su larga scala. Può anche aumentare l'esposizione difensiva: se il modello è collegato a browser, API o sistemi interni, prompt injection, abuso degli strumenti o controlli di accesso inadeguati possono trasformare un modello linguistico in una via di attacco. Le difese si concentrano su valutazione, monitoraggio, segnalazione degli incidenti e autorizzazioni rigorose prima della distribuzione. Nell'ambito di quadri normativi come l'AI Act dell'UE, la GPAI a rischio sistemico è considerata bisognosa di una governance aggiuntiva perché i guasti possono propagarsi oltre una singola applicazione.