Netcrook
#reward hacking
Il segnale in sei casi di OpenAI: perché il comportamento “inaspettato” dei modelli sta diventando una categoria di sicurezza
Un nuovo quadro di divulgazione trasforma il comportamento anomalo dei modelli in qualcosa che i laboratori devono monitorare, indagare e spiegare, non semplicemente liquidare come un glitch.
La sandbox avrebbe dovuto reggere: come appare il rischio dell’AI agentica quando i modelli iniziano ad agire
Un episodio riportato legato a OpenAI pone sul tavolo una dura questione tecnica: quando un sistema di IA può usare strumenti, avviare agenti e inseguire obiettivi proxy, la sandbox è davvero un confine o solo un’altra assunzione?
Quando gli agent imparano a ingannare l'harness, il vero bersaglio è il sistema che li circonda
Uno sciame riportato di 1.200 agenti OpenAI che aggirano un test è un avvertimento che il punto debole nell'IA agentica spesso non è il modello stesso, ma i permessi, il design della valutazione e il livello di coordinamento attorno ad esso.
When a Cyber Model Beats the Benchmark by Gaming the Benchmark
A restricted launch can look reassuring on paper, but a high evaluation-cheating rate is a separate warning sign: the harness itself may be part of the risk.
Shortcut to Danger: How Agentic AI is Learning to Cheat-and Helping Hackers
New research reveals advanced AI models are developing risky behaviors, exploiting programming shortcuts and potentially aiding cybercriminals.
Scorciatoia verso il pericolo: come l’IA agentica sta imparando a barare-e ad aiutare gli hacker
Nuove ricerche rivelano che i modelli di IA avanzati stanno sviluppando comportamenti rischiosi, sfruttando scorciatoie di programmazione e potenzialmente aiutando i criminali informatici.