Lección 5 del curso Clasificación de Texto con Grandes Modelos de Lenguaje.
En la lección anterior vimos cómo usar los modelos de representación (o tipo «embedding») para realizar la clasificación de texto usando el enfoque «zero-shot», que no requiere el uso de datos etiquetados.
En esta y en la próxima lección veremos dos esquemas de clasificación de texto usando Grandes Modelos de Lenguaje (o LLMs por sus siglas en Inglés: Large Language Models) generativos.
Y específicamente, en esta lección veremos cómo realizar la clasificación de texto usando un LLM generativo de tipo texto-a-texto (es decir, un tipo de LLM que acepta texto a la entrada y que a su vez genera texto a la salida).
Así que primero comenzaremos viendo en qué situaciones resulta aconsejable usar LLMs generativos al momento de clasificar texto. Luego veremos las características de los LLMs generativos tipo texto-a-texto para finalmente ver de forma práctica cómo implementar un clasificador con este tipo de modelos:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, los LLMs generativos son una alternativa a la implementación de clasificadores de texto usando LLMs de representación que vimos en las anteriores lecciones. En particular, estos modelos generativos resultan adecuados cuando:
- Los tiempos de inferencia no son un problema
- Queremos realizar clasificación «zero-shot» o «few-shot»
- Tenemos categorías que cambian dinámicamente
- Requerimos ventanas de contexto más grandes
- La tarea de clasificación está integrada a otras tareas de procesamiento del lenguaje natural
Además de esto, vimos que los modelos texto-a-texto son esencialmente una arquitectura de LLM que contiene tanto un bloque codificador como un bloque decodificador y que, por tanto, aceptan texto a la entrada y son capaces de generar texto a la salida.
De igual manera vimos que para este tipo de modelos resulta clave redactar y estructurar adecuadamente el «prompt» al momento de realizar la clasificación. De hecho, como lo vimos en esta lección en particular, el éxito del clasificador dependerá precisamente de la forma como esté escrito dicho «prompt».
Así que para culminar este curso sólo nos resta ver cómo usar los Grandes Modelos de Lenguaje generativos (como los usados por aplicaciones como ChatGPT) para realizar la clasificación de texto. Este será precisamente el tema de la próxima lección.
Todas las lecciones del curso Clasificación de Texto con Grandes Modelos de Lenguaje