Lección 7 del curso Búsqueda Semántica con LLMs.
En la lección anterior vimos en qué consiste el re-ranking, una estrategia basada en Grandes Modelos de Lenguaje que permite re-organizar los documentos retornados por la Búsqueda Semántica inicial (dense retrieval) con lo cual se intenta garantizar que los documentos más relevantes para la consulta estarán en las primeras ubicaciones de este listado.
Así que en esta lección veremos cómo implementar de forma práctica un sistema de Búsqueda Semántica incluyendo un modelo de re-ranking y con ayuda de la librería «sentence transformers» de Hugging Face:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, la implementación de un esquema de re-ranking es realmente muy sencilla: primero implementamos el sistema de recuperación densa (tal como lo vimos en la lección 5 cuando implementamos el sistema de Búsqueda Semántica con bases de datos vectoriales) y luego agregamos el modelo re-ranker usando un modelo pre-entrenado y disponible en Hugging Face.
Y al generar el listado de documentos vemos dos cosas:
- Que efectivamente los documentos más relevantes para la consulta del usuario están ubicados en las primeras posiciones
- Y que existe una brecha bastante grande entre el puntaje de relevancia de los documentos de las primeras posiciones (valores muy cercanos a 1) y los documentos en posiciones más bajas (valores muy cercanos a 0)
Esto último nos permite definir un umbral sobre el puntaje de relevancia que nos permitirá retornar sólo aquellos documentos que realmente resulten altamente relevantes para la consulta del usuario.
Así que en este punto ya tenemos todos los elementos que resultan claves al momento de construir un sistema de Búsqueda Semántica y hemos visto de forma práctica cómo realizar su implementación y cómo ponerlos a prueba con ayuda de Python y librerías como «sentence transformers» y ChromaDB.
Entonces, sólo nos resta entender cómo se puede evaluar (es decir cuantificar) la relevancia de los documentos retornados por este tipo de sistemas, un elemento que resulta clave tanto al momento de elegir un modelo pre-entrenado como al momento de evaluar, por ejemplo, una estrategia de fragmentación (o chunking) de texto.
Así que en la próxima lección, la última de este curso, veremos en detalle las métricas más usadas para evaluar la búsqueda semántica.
Todas las lecciones del curso Búsqueda Semántica con LLMs