9 – Proyecto: predicción de precios de vehículos con LightGBM

Lección 9 del curso LightGBM.

En la lección anterior desarrollamos el primer proyecto de este curso: un modelo LightGBM capaz de clasificar clientes en mora para una entidad bancaria.

Así que en esta lección abordaremos el segundo proyecto del curso: el desarrollo de un modelo de regresión en LightGBM para predecir el precio de vehículos de segunda. Para ello, nuevamente usaremos un set de datos real y con varios retos, que incluyen el pre-procesamiento de las variables categóricas. Y al final evaluaremos el desempeño del modelo en términos del error en las predicciones.

Comencemos entonces entendiendo el problema a resolver y haciendo una exploración inicial del set de datos:

Como acabamos de ver acá el reto es interesante: en primer lugar tenemos un set de datos con muchísimos registros (más de 400.000) pero además de esto muchas de las variables predictoras (columnas en la tabla de datos) contienen texto en bruto correspondiente a descripciones e información asociada a los vehículos en venta.

Así que comencemos con la parte central de este reto, que consiste precisamente en la exploración y limpieza de las variables categóricas:

Muy bien, como acabamos de ver, hemos usado herramientas como la librería NLTK y expresiones regulares (las cuales vimos en detalle en el curso de Python Nivel Intermedio) para realizar la limpieza de las columnas que contienen texto (como la descripción de cada vehículo) y para crear nuevas características («feature engineering») a partir de dichas columnas.

Ahora veamos cómo realizar la exploración y limpieza de las variables numéricas:

En este caso hemos visto como limpiar las variables «edad», «odómetro» y «precio» de los vehículos y además hemos visto por qué resulta necesario aplicar una transformación logarítmica a los precios de los vehículos (la variable a predecir).

Así que, habiendo completado este análisis univariado, veamos ahora cómo realizar el análisis bivariado para establecer posibles relaciones entre las variables predictoras y la variable a predecir:

Con esta parte del análisis hemos podido identificar variables numéricas (como «edad», «odómetro», «número_palabras_descripción» y «year») que tienen un alto grado de correlación de Spearman con la variable a predecir. Y, además, hemos también identificado que variables categóricas como la condición del vehículo podrían tener un efecto directo en el precio.

Así que con esto ya estamos listos para entrenar y validar nuestro modelo de predicción LightGBM:

Muy bien, acabamos de entrenar y evaluar nuestro modelo base de LightGBM para la predicción del precio de un vehículo. Así que en las próximas lecciones veremos cómo afinar los hiper-parámetros de este modelo y cómo realizar el análisis de importancia de características.

Entonces, en la próxima lección veremos precisamente cómo tomar el modelo que acabamos de construir, junto con el modelo de clasificación de la lección anterior, para realizar la afinación de hiper-parámetros de estos modelos para intentar así mejorar su desempeño.

Todas las lecciones del curso LightGBM