Quando lo stile diventa un segnale di sicurezza, le IA di ragionamento possono essere spinte nel ruolo sbagliato

I ricercatori che hanno esaminato lo spoofing del chain-of-thought hanno scoperto che alcuni modelli linguistici possono confondere le fonti delle istruzioni quando lo stile di scrittura sembra più affidabile dell'etichetta di ruolo effettiva.