Un OS homebrew è un sistema operativo sviluppato al di fuori del mainstream commerciale, di solito da un singolo sviluppatore o da un piccolo team. Può prendere di mira hardware insolito, sperimentare kernel personalizzati o includere una propria interfaccia utente e i propri strumenti. Poiché è progettato da zero o pesantemente modificato, può essere molto diverso dai sistemi Linux, Windows o BSD.
Nella sicurezza informatica, gli OS homebrew sono importanti perché restano al di fuori delle protezioni e del controllo che accompagnano le piattaforme ampiamente utilizzate. Questo può essere un punto debole: i bug nella gestione della memoria, nelle reti o nella separazione dei privilegi potrebbero non ricevere mai un'ampia revisione, e il software personalizzato spesso non dispone di processi maturi di patching e auditing. Ma un OS homebrew può anche avere un ruolo difensivo, poiché un design minimale può rimuovere servizi non necessari e ridurre la superficie di attacco. Gli aggressori talvolta usano sistemi personalizzati per la furtività, mentre i difensori possono costruirli per chioschi, appliance o dispositivi isolati, dove l'obiettivo è un controllo rigoroso.