Lección 4 del curso LightGBM.
En la lección anterior vimos en qué consiste el método de generación de particiones basadas en histogramas en LightGBM, que permite reducir los tiempos de procesamiento al evaluar intervalos (o «bins») en lugar de todos los posibles umbrales en una variable numérica.
En esta lección veremos en qué consiste el muestreo unilateral basado en gradientes (o GOSS por sus siglas en Inglés), otra estrategia en LightGBM que permite también reducir los tiempos de cómputo:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, la estrategia GOSS permite reducir el número de datos (es decir, de filas en el dataset) que se usan para construir los árboles del modelo en cada iteración, enfocándose únicamente en aquellos datos con mayores gradientes (o errores) y sub-muestreando aquellos datos menos problemáticos (es decir, con menos errores).
Así que teniendo clara esta estrategia, en la siguiente lección veremos otra de las técnicas incorporadas por LightGBM para optimizar el número de operaciones durante el entrenamiento del modelo. Hablaremos entonces del agrupamiento de características exclusivas.
Todas las lecciones del curso LightGBM