Lección 10 del curso LightGBM.
En la lección anterior vimos cómo implementar un modelo de regresión en LightGBM para predecir el precio de vehículos. Y en la lección 8 vimos cómo implementar un modelo de clasificación, también LightGBM, para predecir si un cliente de una entidad bancaria entrará en mora o no en el pago de sus obligaciones.
Así que en esta penúltima lección del curso veremos cómo afinar los hiper-parámetros de los modelos de clasificación y regresión en LightGBM de las lecciones anteriores, para así intentar mejorar su desempeño.
Comencemos entonces viendo cómo afinar el modelo de clasificación de la lección 8:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
En esencia la lógica de afinación de un modelo LightGBM (y, en general, de cualquier modelo de Machine Learning) es muy simple:
- Entrenamos y validamos un modelo base (lo cual hicimos en la lección 8)
- Tomamos nota de los hiper-parámetros por defecto usados por la librería LightGBM durante el entrenamiento de este modelo base
- Con base en dichos hiper-parámetros definimos una grilla de hiper-parámetros que a su vez definirá las posibles combinaciones de hiper-parámetros que probaremos
- Por cada combinación de hiper-parámetros entrenamos y validamos un modelo LightGBM y almacenamos tanto los hiper-parámetros como su desempeño
- Y al final elegimos el modelo con el mejor desempeño
Y, tras aplicar este método para el modelo de clasificación, obtuvimos un modelo con un mejor desempeño (medido en términos del área bajo la curva precision-recall) en comparación con el modelo base, pero que no necesariamente entregará un mayor margen de ganancia a la entidad bancaria. Por ello, se sugiere ejecutar nuevamente la afinación pero modificando la métrica de evaluación de los modelos.
Ahora, podemos seguir la misma lógica anterior para afinar el modelo de regresión que implementamos en la lección anterior:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Y, como acabamos de ver, en este caso con la afinación de hiper-parámetros hemos logrado reducir el error (RMSE) en aproximadamente 2.000 dólares con respecto al modelo base.
Así que teniendo clara la forma como podemos afinar los hiper-parámetros de un modelo LightGBM (para tareas de clasificación o regresión), en la próxima lección, que es la última del curso, veremos cómo realizar el análisis de importancia de características de estos modelos LightGBM.
Todas las lecciones del curso LightGBM