I Custom GPT sono versioni di chatbot su misura, create per uno stile, un compito o un flusso di lavoro specifici. Possono essere configurati per rispondere con un tono particolare, seguire script di supporto o guidare gli utenti attraverso un processo. In termini di sicurezza, questa personalizzazione conta perché il bot può essere fatto apparire autorevole e familiare, anche quando viene usato per ingannare.
Gli attaccanti possono abusare dei Custom GPT per impersonare prodotti legittimi, help desk interni o strumenti di onboarding e indirizzare le persone verso azioni rischiose, come copiare comandi PowerShell. Il pericolo non sta solo nel testo in sé, ma nella fiducia che l'interfaccia crea. I difensori dovrebbero trattare istruzioni inattese del chatbot come qualsiasi altra richiesta ad alto rischio: verificare la fonte, limitare l'esecuzione dei comandi e monitorare l'uso sospetto di script. La formazione sulla consapevolezza deve ora includere anche i prompt basati su chat, non solo email e link.