Un LLM, o Large Language Model, es un sistema de IA entrenado con grandes conjuntos de datos de texto para generar y transformar lenguaje. Puede responder preguntas, resumir documentos, escribir código, clasificar texto y ayudar en búsquedas o chats en lenguaje natural. En el trabajo de seguridad, los LLM son útiles porque pueden convertir grandes volúmenes de registros, alertas e informes en algo que los humanos puedan revisar más rápido.
Los LLM son importantes en ciberseguridad en ambos bandos del conflicto. Los defensores los usan para la clasificación de alertas, resúmenes de incidentes, análisis de phishing y contenido de formación en seguridad. Los atacantes pueden usar la misma tecnología para redactar mensajes convincentes de ingeniería social, automatizar indicaciones de reconocimiento o acelerar tareas de codificación relacionadas con malware. Cuando los LLM se ejecutan localmente, como en configuraciones de laboratorio pequeño o de estación de trabajo, las principales preocupaciones son la integridad del modelo, la exposición de datos y la fiabilidad del sistema. Una canalización de modelos comprometida o mal configurada puede filtrar indicaciones sensibles o producir resultados engañosos, por lo que los resultados de los LLM siempre deben validarse en lugar de confiar en ellos ciegamente.