Lección 2 del curso LightGBM.
En la lección anterior vimos una introducción general a LightGBM, lo cual nos permitió entender que en esencia este algoritmo y modelo de Machine Learning es una versión optimizada de XGBoost, por lo cual resulta adecuado en proyectos donde tenemos sets de datos gigantescos.
Así que a partir de esta lección comenzaremos a ver en detalle cuáles son esas mejoras que implementa LightGBM, en comparación con XGBoost, que permiten reducir tiempos de cómputo y requerimientos de hardware.
Específicamente, en esta lección veremos cómo funciona el crecimiento de árboles por hojas en LightGBM y cómo esto representa una mejora computacional en comparación con el entrenamiento de árboles hecho por XGBoost:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, en esencia el crecimiento por hojas en LightGBM busca sólo generar particiones sobre aquellas hojas, en los árboles individuales que hacen parte del modelo, que realmente generen un aporte significativo a la mejora del desempeño.
Esto contrasta con lo hecho por XGBoost, donde no se impone restricción alguna sobre el crecimiento de las hojas.
Y aunque el ejemplo que vimos estuvo enfocado en un modelo de regresión, en la práctica la misma idea del crecimiento por hojas se aplica a tareas de clasificación.
Así que en la siguiente lección nos enfocaremos en la segura mejora incorporada por LightGBM frente a XGBoost: la generación de particiones basadas en histogramas.
Todas las lecciones del curso LightGBM