Il context packaging è la pratica di assemblare le istruzioni, i dati di background, gli esempi e i vincoli giusti per uno strumento di IA prima che agisca. Nella programmazione assistita dall'IA, questo può includere note del repository, limiti del task, regole di sicurezza, frammenti di file e una descrizione di ciò che non deve cambiare. Un buon packaging aiuta il modello a produrre risultati pertinenti invece di fare supposizioni da prompt incompleti.
Nella sicurezza informatica, il context packaging è importante perché il comportamento del modello è sicuro solo quanto il contesto che riceve. Un packaging debole può portare a codice insicuro, casi limite trascurati o prompt injection, in cui testo malevolo all'interno di documenti o codice cerca di deviare l'assistente. I difensori usano un context packaging accurato per limitare i permessi degli strumenti, filtrare gli input non affidabili e separare le istruzioni di sistema dal contenuto fornito dall'utente. Gli attaccanti, nel frattempo, possono cercare di rimodellare il contesto in modo che il modello riveli segreti, salti i controlli o segua istruzioni dannose.