Interpretabilidad vs Desempeño
A veces explicar el modelo es más importante que su precisión. Compara fronteras de decisión de distintos algoritmos.
conceptos clave
Interpretabilidad vs Desempeño
En aplicaciones reales, la precisión no es el único criterio. Un modelo médico que diagnostica cáncer debe poder explicar por qué llegó a esa conclusión — no solo dar un número. Un banco que deniega un crédito tiene la obligación legal de justificar la decisión.
Los modelos se clasifican en un espectro de interpretabilidad:
- Caja blanca — regresión lineal, árboles de decisión: cada predicción se puede rastrear a reglas explícitas
- Caja gris — random forest, gradient boosting: interpretables a nivel de importancia de features, pero las decisiones individuales son complejas
- Caja negra — redes neuronales profundas: máximo poder predictivo, mínima interpretabilidad directa
Los árboles de decisión son particularmente valiosos porque realizan selección implícita de features: las variables más discriminativas aparecen en los nodos superiores, proporcionando un ranking natural de importancia.
Interpretabilidad
Interpretabilidad vs Complejidad
Compara como diferentes modelos trazan sus fronteras de decision y que tan faciles son de explicar
Selecciona un modelo
Frontera de decision: LinealAccuracy: 100.0%
Propiedades del modelo
Se lo puedes explicar a un gerente?
Si, facilmenteSi x + y > 0, es clase 1. Cada coeficiente indica cuanto contribuye esa variable. Facil de explicar a un gerente.
Comparativa de modelos
Interpretabilidad
Verificación de conocimiento
1 / 3Un banco necesita explicar por qué denegó un crédito. ¿Qué modelo es más apropiado?