Lección 8 del curso Bosques Aleatorios.
En la lección anterior vimos cómo usar Python para entrenar y poner a prueba un Bosque Aleatorio para una tarea de regresión.
Sin embargo, el desempeño de este tipo de Bosques, así como en general el de cualquier modelo de Machine Learning, puede ser mejorado si llevamos a cabo el ajuste de hiper-parámetros.
Este ajuste consiste en buscar aquella combinación de hiper-parámetros que genere el mejor desempeño del modelo y que a la vez reduzca en lo posible al máximo el sobre-ajuste.
Aunque se podrían usar los métodos «GridSearchCV» o «RandomizedSearchCV», vistos en el curso de Árboles de Decisión, estos hacen uso de la validación cruzada que no resulta útil en el caso de los Bosques Aleatorios, debido a que estos bosques hacen uso de las muestras «out-of-bag» como set de validación.
Así que en esta lección veremos cómo realizar la afinación de hiper-parámetros de los Bosques Aleatorios tanto de clasificación como de regresión aprovechando precisamente las muestras «out-of-bag» como set de validación:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, una manera de afinar los hiper-parámetros de un Bosque Aleatorio (de clasificación o regresión) aprovechando las muestras de validación «out-of-bag» consiste en definir una grilla con las posibles combinaciones de hiper-parámetros, iterar por cada combinación y en cada una de estas iteraciones entrenar un Bosque Aleatorio verificando si su desempeño supera el máximo encontrado en cada punto y de ser así se actualiza tanto el valor del máximo desempeño como los mejores hiper-parámetros.
Y tras realizar esta afinación tanto con los Bosques de clasificación como de regresión vistos en las dos lecciones anteriores pudimos verificar que efectivamente el ajuste de hiper-parámetros mejora el desempeño de los Bosques, aunque esta mejora generalmente será marginal debido a la misma configuración robusta que tiene por naturaleza un Bosque Aleatorio.
Así que siempre se sugiere realizar esta afinación de hiper-parámetros al momento de resolver un problema de Machine Learning usando Bosques Aleatorios. Sin embargo, esto no garantiza que habrá una mejora significativa del desempeño pues esto dependerá tanto de las particularidades de los datos que estemos usando así como de la manera como elijamos la grilla de hiper-parámetros.
Así que teniendo clara la metodología sugerida para afinar los hiper-parámetros de estos modelos, tan sólo nos resta ver cómo realizar el análisis de importancia de características de un Bosque Aleatorio, que será precisamente el tema de la próxima lección del curso.
Todas las lecciones del curso Bosques Aleatorios