Gems è il nome che Google usa per indicare esperienze di IA personalizzate che possono essere configurate per compiti specifici. Invece di partire ogni volta da una chat vuota, un Gem può raggruppare istruzioni, comportamento preferito e talvolta contesto riutilizzabile, così che l'assistente risponda in modo più mirato.
Nella sicurezza informatica, questo è importante perché questi assistenti specifici per attività possono diventare parte di flussi di lavoro reali: triage del phishing, analisi dei log, stesura di policy, revisione del codice o supporto alla risposta agli incidenti. La domanda di sicurezza non riguarda solo ciò che dice il modello, ma quali istruzioni segue e a quali dati o strumenti può accedere. Se un Gem è configurato in modo errato, può esporre prompt sensibili, divulgare informazioni interne nelle risposte o essere indotto a compiere azioni non sicure tramite prompt injection o input malevoli. Gli operatori della difesa dovrebbero rivedere le istruzioni dei Gem, limitare i permessi collegati e trattare i Gem condivisi come altri asset software gestiti, con controllo delle modifiche e test.