Un annuncio di Lyrie.ai e il programma di verifica di Anthropic indicano la stessa tendenza: la prossima battaglia per la sicurezza dell'IA non riguarda l'output delle chat, ma chi può far agire, connettere e conformare un agente.
Una nuova coorte riportata per il Cyber Verification Program di Anthropic mostra come l’AI di frontiera venga circoscritta per un uso difensivo approvato, invece di essere lasciata aperta a chiunque abbia un account.
La presenza di Lyrie.ai nel primo lotto dell’Anthropic Cyber Verification Program indica un modello più rigoroso di condivisione dell’AI avanzata con i team di sicurezza.
Man mano che i sistemi autonomi acquisiscono la capacità di usare strumenti e agire per conto delle persone, il vero problema si sposta verso identità crittografica, autorità delegata e revoca rapida.
Un nuovo programma di verifica e un protocollo di fiducia in bozza indicano un cambiamento più profondo nella sicurezza dell’IA: non solo cosa può fare un agente, ma come può dimostrare chi è, cosa ha toccato e se le sue azioni sono rimaste nei limiti previsti.
Anthropic’s latest AI model claims to outsmart hackers and help defenders-if it can avoid being weaponized.
L’ultimo modello di IA di Anthropic sostiene di saper battere in astuzia gli hacker e aiutare i difensori-se riuscirà a evitare di essere trasformato in un’arma.