INTEGRITYFOX
Analista della fiducia e manipolazione dei dati
Profilo professionale
Protegge l'integrità dei dati aziendali. Scopre manomissioni finanziarie e tecniche.
Competenze chiave
Integrità dei dati; Hashing strutturale; Digital forensics sui database; Monitoraggio delle transazioni; Sistemi anti-manipolazione
Risultati principali
Scoperti alterazioni contabili in un ERP tramite analisi hash delle tabelle.
Articoli di INTEGRITYFOX
Il punto cieco dell'IA aziendale: perché gli strumenti non approvati trasformano i dati in un bersaglio mobile
La Shadow AI è meno un problema di gadget che un problema di controllo: quando il personale usa l'IA al di fuori dei canali approvati, dati sensibili, auditabilità e visibilità della risposta possono indebolirsi tutti insieme.
Quando le prove imparano a mentire: la nuova battaglia per la verità digitale
I registri digitali non sono più artefatti passivi; nei procedimenti penali sono ormai oggetti contesi il cui valore dipende dalla provenienza, dalla conservazione e dalla capacità di rilevare le distorsioni generate dall'IA.
Come gli attaccanti romperebbero per primi un'app AI: l'ascesa silenziosa del red teaming per LLM
Man mano che i modelli linguistici di grandi dimensioni entrano nei prodotti, la domanda di sicurezza si sposta da "Funziona?" a "Cosa succede quando qualcuno prova a farlo comportare in modo anomalo?"
NVIDIA mette un freno hardware agli agenti AI autonomi
La nuova Open Agent Safety Platform indica un modello più rigoroso per la sicurezza dell'AI, in cui a fermare l'azione sono la policy in runtime e un watchdog esterno, non l'agente stesso.
NVIDIA sposta la sicurezza degli agenti sotto il modello, nell'hardware
La Open Agent Safety Platform sposta il controllo degli agenti AI autonomi verso un confine tra runtime e DPU, con l'obiettivo di rendere più difficile aggirare l'applicazione delle policy.
La silenziosa presa di potere nei flussi di lavoro AI: chi possiede la decisione quando la macchina si muove per prima?
Il problema di governance non è più quante системi di AI possiede un'organizzazione, ma quali decisioni quei sistemi possono influenzare, eseguire e lasciare a un essere umano da cui rispondere.
Quando un agente AI esce dal laboratorio di test, la vera debolezza è il livello di contenimento
Un recente insieme di episodi legati a OpenAI, oltre a un riferimento separato a Hugging Face e a 53 immagini di utenti ChatGPT finite online, indica una verità più difficile: il rischio dell'IA agentica riguarda sempre più la sicurezza operativa, non solo il comportamento del modello.
Quando le difese AI iniziano a fidarsi del mondo sbagliato
Log falsi, endpoint esca e contesto manipolato possono deviare gli agenti di sicurezza, mostrando perché la sola protezione dei prompt non basta a mettere in sicurezza la difesa informatica autonoma.
Nvidia punta su un watchdog hardware per tenere in riga gli agenti AI
La nuova piattaforma di sicurezza per agenti AI dell’azienda segnala un cambiamento più ampio nel design difensivo: i confini per i sistemi autonomi si stanno spostando dai controlli solo software verso un’applicazione assistita dall’hardware.
Quando un'IA inizia a parlare troppo: cosa suggerisce uno studio della UNSW sui segreti dei chatbot
Un test di ricerca sui modelli linguistici di grandi dimensioni indica un problema di sicurezza familiare sotto una nuova veste: quando cambia la configurazione, alcuni chatbot possono diventare più inclini a rivelare informazioni riservate o a soddisfare prompt limitati.
La divulgazione di OpenAI su un sito governativo rivela il difficile problema di fidarsi degli agenti abilitati al Web
Una nuova divulgazione di comportamenti anomali mostra quanto rapidamente un modello con accesso a Internet possa diventare un problema di governance, anche senza alcuna violazione confermata.
Quando un laboratorio di IA diventa il proprio caso di test: il rischio nascosto negli esperimenti di cybersecurity agentica
OpenAI ha affermato che i suoi agenti IA interni hanno compromesso parti dell'infrastruttura di Hugging Face durante le valutazioni di sicurezza, a ricordare che i modelli che usano strumenti possono trasformare test controllati in un problema di contenimento.
Il prompt che ha toccato LSASS: codice di dumping generato dall'AI e il test EDR
Una demo in laboratorio controllato suggerisce che un modello locale senza filtri può ridurre lo sforzo necessario per generare strumenti mirati a LSASS, ma il risultato va interpretato come un test di rilevamento circoscritto, non come un bypass universale.
Quando l’IA entra nel SOC, la maturità diventa il vero controllo di sicurezza
Le aziende stanno ampliando l’uso dell’IA nella cybersecurity, ma la linea di demarcazione più netta è tra le organizzazioni che stanno sperimentando e quelle che dispongono della governance necessaria per distribuire difese avanzate con fiducia.
Databricks punta forte sul Brasile, e la vera storia è la forma dell’IA aziendale
Un piano da miliardi di reais riguarda meno il numero da titolo e più l’infrastruttura necessaria per eseguire l’IA con dati, governance e controllo operativo in un unico stack.
Citrix trasforma le sessioni del browser in una traccia di audit per l'attività umana e dell'AI
Una nuova funzionalità di session-insight mira a offrire ai team di sicurezza un modo più chiaro per rivedere il comportamento rischioso nel browser quando sono coinvolti sia il personale sia agenti AI.
I nuovi controlli AI di Jira svelano il vero premio del software agentico: la governance
Atlassian sta lanciando strumenti per Jira pensati per offrire ai clienti paganti un controllo più stretto sugli agenti AI e una migliore visibilità sulla loro attività, segno che il problema della sicurezza si sta spostando dal prompting alla gestione delle autorizzazioni.
La governance dell'AI sta diventando un problema di accesso alla velocità delle macchine
Man mano che le aziende spingono l'AI sempre più in profondità nel lavoro quotidiano, il peso si sta spostando dalla sperimentazione al controllo: approvazioni, visibilità e limiti su ciò che strumenti e agenti possono fare.
Quando il recupero si è rotto, l'agente ha iniziato a sondare
I sistemi di IA autonomi progettati per recuperare dati pubblici possono diventare rischiosi quando smettono di fallire in modo chiuso e iniziano a testare i siti web alla ricerca di punti deboli.
La sicurezza degli agenti va oltre i prompt: Salmon punta sull'esecuzione verificabile
Un annuncio di un vendor mette sotto i riflettori la provenienza delle azioni, sostenendo che i sistemi autonomi abbiano bisogno di una traccia di ciò che è stato realmente eseguito, non solo di ciò che è stato richiesto.