Lección 7 del curso LightGBM.
En la lección anterior vimos en qué consiste la búsqueda de particiones categóricas en LightGBM, que genera una reducción en los tiempos de entrenamiento de este tipo de modelos al reducir el número efectivo de particiones evaluadas al momento de analizar una variable categórica.
Así que con lo visto hasta este punto ya tenemos claras las principales estrategias usadas por LightGBM para optimizar varios aspectos del procesamiento durante la fase de entrenamiento.
Entonces, en esta última lección de este primer módulo del curso, vamos a sintetizar las ideas vistas hasta el momento para resumir los algoritmos de entrenamiento de un modelo LightGBM para tareas de regresión y de clasificación. Y además, veremos un comparativo final que nos permitirá entender las situaciones en donde resulta adecuado el uso de XGBoost o de LightGBM:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, en términos generales los algoritmos de entrenamiento para clasificación y regresión en LightGBM son muy similares a los que vimos en el caso de XGBoost.
La única diferencia es que en fases específicas del algoritmo LightGBM incorpora las estrategias de crecimiento de árboles por hojas, particiones basadas en histogramas, muestreo unilateral basado en gradientes, agrupamiento de características exclusivas y búsqueda de particiones categóricas que vimos en las lecciones anteriores.
Además, como acabamos de ver, LightGBM no es simplemente una versión rápida de XGBoost. En realidad es una alternativa a XGBoost cuando los datos que estamos procesando tienen características particulares (como por ejemplo un número elevado de registros o una elevada cantidad de columnas categóricas dispersas, entre otras).
Así que es importante tener en cuenta que LightGBM no es simplemente un reemplazo de XGBoost, pues cada tipo de algoritmo y modelo tiene sus fortalezas y debilidades y la elección que hagamos dependerá de las características particulares del proyecto y de los datos que estemos usando.
Entonces, con esto hemos terminado este primer módulo del curso. En el segundo módulo veremos todo el componente práctico, donde aprenderemos a usar la librería LightGBM de Python para entrenar, validar y generar predicciones con modelos de clasificación y regresión, y además veremos cómo realizar la afinación de hiper-parámetros de este tipo de modelos y cómo analizar la importancia de características.
Así que en la próxima lección veremos un ejemplo práctico de clasificación con LightGBM en Python.
Todas las lecciones del curso LightGBM