Sobre-ajuste vs Sub-ajuste

El sobre-ajuste es el problema central del Machine Learning. Ocurre cuando el modelo memoriza los datos de entrenamiento — incluyendo su ruido y particularidades — en vez de capturar los patrones generalizables.

• Sub-ajuste (alto sesgo) — el modelo es demasiado simple para capturar la estructura real de los datos. Error alto en entrenamiento Y en prueba
• Sobre-ajuste (alta varianza) — el modelo es tan flexible que se adapta al ruido. Error bajo en entrenamiento pero alto en prueba
• Balance óptimo — complejidad suficiente para capturar patrones reales sin memorizar ruido. El “sweet spot” del trade-off sesgo-varianza

Diagnóstico visual: grafica el error de entrenamiento y el error de prueba en función de la complejidad del modelo. El punto donde el error de prueba deja de bajar y empieza a subir marca la complejidad óptima.