Il quarto rapporto di threat intelligence di Anthropic descrive campagne che hanno usato Claude per phishing, intrusioni, furto di credenziali e propaganda, con gli esseri umani a scegliere i bersagli e l'IA ad aiutare a coordinare le fasi successive dell'attacco.
Anthropic afferma che Claude è stato abusato in una scansione su larga scala di app Android alla ricerca di segreti, un promemoria del fatto che le credenziali lato client possono essere raccolte a velocità industriale una volta che l'automazione entra nel flusso di lavoro.
Anthropic afferma di aver interrotto una campagna in cui Claude veniva usato all'interno di un flusso di lavoro assistito dall'IA per aiutare gli avversari a restare un passo avanti rispetto al rilevamento, un promemoria che il vantaggio più rapido nel cybercrime è ormai l'adattamento.
Anthropic avverte che criminali informatici e hacker sponsorizzati da Stati hanno usato i modelli Claude per automatizzare lo sfruttamento e il furto di dati, ma le tecniche di base sembrano ancora familiari.
Una presunta interruzione in Anthropic segnala un rischio più concreto dell’uso improprio di un chatbot: sistemi AI impiegati come livelli di orchestrazione per ricognizione, furto di credenziali, esfiltrazione ed elusione.