Lección 4 del curso Clasificación de Texto con Grandes Modelos de Lenguaje.
En la lección anterior vimos cómo usar los Grandes Modelos de representación (o tipo «embedding») para realizar la clasificación de texto.
Sin embargo, una desventaja de este método es que necesitamos un set de datos de entrenamiento y uno de validación, lo cual quiere decir que debemos etiquetar cada texto de estos sets de datos para de esta forma poder entrenar la capa de salida del modelo.
En esta lección veremos cómo implementar la alternativa «zero-shot» para la clasificación de texto usando Grandes Modelos de Lenguaje, con lo cual podremos clasificar texto sin la necesidad de contar con etiquetas:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Como acabamos de ver, la implementación de este enfoque de clasificación «zero-shot» resulta bastante sencilla y no requiere el uso de un set de entrenamiento. El clasificador se implementa en dos pasos:
- En primer lugar usamos un LLM tipo «embedding» para obtener la representación vectorial del texto a clasificar junto con la representación vectorial de dos textos de ejemplo asociados a los tipos de sentimiento que usaremos como referencia para la clasificación.
- Y en segundo lugar simplemente se debe llevar a cabo la clasificación comparando el «embedding» del texto con aquellos de los textos de ejemplo, usando la similitud del coseno.
Y precisamente el término «zero-shot» se deriva del hecho de que no necesitamos datos de entrenamiento para lograr realizar la clasificación.
A pesar de la simplicidad de este método, la gran desventaja es que dependerá en gran medida de los textos de ejemplo de cada sentimiento usados durante la clasificación y, por tanto, se trata de un enfoque de clasificación que generalmente tendrá un menor desempeño que los enfoques vistos en las dos lecciones anteriores.
Así que en este punto, con lo visto en esta y en las dos lecciones anteriores, ya hemos aprendido a usar Grandes Modelos de Lenguaje de representación para llevar a cabo tareas de clasificación de texto.
En las dos últimas lecciones del curso veremos cómo abordar esta tarea pero haciendo uso de modelos generativos. Y especificamente, en la próxima lección abordaremos el primero de estos métodos: la clasificación de texto con modelos generativos texto-a-texto.
Todas las lecciones del curso Clasificación de Texto con Grandes Modelos de Lenguaje