Lección 9 del curso Regresión Lineal.
En la lección anterior vimos en qué consisten y cómo evitar problemas de colinealidad y multicolinealidad al momento de entrenar un modelo de Regresión Lineal.
En este segundo módulo del curso veremos los enfoques más usados para seleccionar las variables más relevantes en un modelo de Regresión Lineal así como las técnicas de regularización que, en ambos casos, permiten mejorar el desempeño de este tipo de modelos.
Y en particular, en esta lección veremos cómo llevar a cabo la selección del mejor conjunto de variables predictoras al momento de construir un modelo de Regresión Lineal. Este conjunto de variables permitirá construir un modelo con el mejor desempeño para tareas de predicción pero a la vez con el menor sobre-ajuste (u «overfitting»).
Así que veamos en qué consiste este método:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, este método para la selección del mejor conjunto de variables predictoras es muy sencillo y simplemente consiste en probar todas las posibles combinaciones de 1, 2, 3, … p (donde p es el número total de covariables disponibles) predictores y en cada caso validar un modelo de Regresión Lineal.
Y al final simplemente seleccionamos aquel modelo que tenga el mejor desempeño (el cual se mide usualmente a través del RMSE, el MAE y/o el MAPE). Y lo ideal es que este mejor modelo sea aquel con el menor sobre-ajuste posible, es decir que tenga el menor sesgo (o bias) junto con la menor varianza y que además tenga la menor cantidad posible de variables predictoras (lo que incrementará la capacidad de generalización del modelo).
La limitación de este método es que cuando el número de covariables (p) es elevado, se tendrán que probar muchos modelos (varios cientos o incluso miles o millones) lo que puede hacer prolongado el tiempo de cómputo requerido para encontrar el mejor modelo.
Como alternativa a este inconveniente se encuentra la selección de covariables por pasos, de la cual hablaremos en la siguiente lección.
Todas las lecciones del curso Regresión Lineal