3 – Evaluación de un modelo de Regresión Lineal Simple

Lección 3 del curso Regresión Lineal.

En la lección anterior vimos cómo se realiza la estimación de los parámetros de un modelo de regresión lineal simple, que en esencia consiste en usar el algoritmo de mínimos cuadrados ordinarios que permite encontrar de forma automática dichos parámetros a partir de los datos.

En esta lección veremos cuáles herramientas podremos usar para evaluar un modelo de Regresión Lineal Simple, herramientas que dependerán del uso que queramos darle al modelo (inferencia o predicción). Así que hablaremos en detalle de las tareas de inferencia y predicción, del análisis de residuales y de las herramientas que en cada caso nos permitirán evaluar el desempeño del modelo.

Comencemos entonces entendiendo en qué consisten las tareas de inferencia y predicción y cómo realizar el análisis de residuales de un modelo de regresión lineal:

En esencia, en una tarea de inferencia lo que buscamos es que el modelo nos permita entender la relación entre la variable predictora y la variable a predecir, mientras que en una tarea de predicción lo que buscamos es estimar el valor de la variable a predecir a partir de uno o varios valores de la variable predictora.

Además, vimos que el análisis de residuales es una herramienta que busca determinar si el modelo logra capturar los patrones en los datos y es una fase que se sugiere llevar a cabo independientemente de si la tarea es inferencia o predicción.

En esencia, el objetivo de este análisis es determinar si los residuales tienen o no un comportamiento ideal (variable aleatoria con distribución normal y media igual a cero).

Adicionalmente, vimos que un requisito para construir un modelo lineal adecuado consiste en garantizar que nuestros datos no contienen valores extremos (u «outliers»), pues la presencia de este tipo de valores afectará los parámetros del modelo.

Así que teniendo claros todos estos elementos, veamos cómo realizar la evaluación de un modelo de regresión lineal para una tarea de inferencia:

En esencia, este análisis de inferencia nos permite determinar de manera rigurosa si efectivamente existe una relación entre las variables x (variable predictora) y y (variable a predecir).

Y para ello generalmente tendremos que usar tres tipos de herramientas estadísticas: los intervalos de confianza de los parámetros, la prueba de significancia sobre el parámetro $\beta_1$ y la estimación de la bondad del ajuste (que se cuantifica a través del parámetro $R^2$ o coeficiente de determinación).

Así que para terminar esta lección, veamos qué herramientas podemos usar para evaluar un modelo lineal en una tarea de predicción:

Muy bien, en el caso de la predicción lo que buscamos es cuantificar qué tan buenas y qué tan confiables serán las predicciones generadas por el modelo, para lo cual podremos usar las métricas de desempeño (como el MAE, RMSE y MAPE) así como los intervalos de predicción.

Así que con todo lo visto en esta lección, ya tenemos claro el procedimiento y las herramientas que usualmente tendremos que utilizar al momento de evaluar un modelo de regresión lineal simple, dependiendo del uso que queramos darle (inferencia o predicción). Además, vimos lo sencillo que resulta implementar todas estas herramientas cuando hacemos uso de la librería «statsmodels» de Python.

Entonces, a partir de la próxima lección retomaremos muchas de estas ideas que acabamos de ver para extenderlas a casos en los cuales usaremos no una sino múltiples variables predictoras. Y particularmente, en la próxima lección comenzaremos entendiendo la idea básica de la Regresión Lineal Múltiple.

Todas las lecciones del curso Regresión Lineal