Il dibattito non riguarda solo la vicinanza dell’AGI. Riguarda se l’IA di frontiera possa essere governata con misure di salvaguardia basate su soglie prima che i sistemi diventino troppo capaci per essere rallentati in modo netto.
Un regolamento troppo ristretto può bloccare gli abusi evidenti, ma non proteggerà il patrimonio di conoscenze, le decisioni o le dipendenze tecnologiche di un'organizzazione da un'IA gestita male.