Lección 6 del curso Introducción a los Grandes Modelos de Lenguaje.
En la lección anterior vimos en todos los detalles de funcionamiento de los Grandes Modelos de Lenguaje, y allí hablamos de los modelos de lenguaje de representación (basados en el bloque codificador de la Red Transformer) y los modelos generativos (basados en el bloque decodificador).
En esta última lección del curso haremos uso precisamente de los Grandes Modelos de Lenguaje Generativos para implementar un simple ejemplo de generación de texto, para lo cual haremos uso de Python y de la librería «transformers» de Hugging Face.
La idea es implementar un sencillo chatbot que responderá a una pregunta planteada por el usuario. Y a través de este simple ejemplo veremos todos los elementos que usualmente entrarán en juego al momento de implementar este tipo de aplicaciones y, de igual manera, pondremos en práctica varios de los conceptos aprendidos a lo largo del curso:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Muy bien, con este sencillo ejemplo hemos visto los diferentes elementos que forman parte de un chatbot: además del Gran Modelo de Lenguaje generativo (que es el elemento central de esta aplicación) también es necesario definir la estructura del prompt, el cual hace uso de tres diferentes tipos de mensajes (del sistema, del usuario y del asistente).
Además vimos que al usar la librería «transformers» de Hugging Face podemos implementar de forma muy sencilla un chatbot usando el concepto de «pipelines» que permite encapsular todos los elementos necesarios para la interacción con el usuario y la generación de texto por parte del modelo.
Así que con esto ya hemos completado este curso de Introducción a los Grandes Modelos de Lenguaje: ¡te felicito por haber llegado hasta este punto!
En este curso introductorio hemos entendido no sólo qué es un modelo de lenguaje sino todos los detalles y elementos que resultarán fundamentales para desarrollar aplicaciones orientadas al procesamiento del lenguaje natural usando los Grandes Modelos de Lenguaje (o LLMs por sus siglas en Inglés: Large Language Models).
Así que hemos aprendido qué son los tokens y los embeddings, así como los mecanismos atencionales implementados en las Redes Transformer, que son en últimas la arquitectura sobre la cual están construidos en la actualidad la gran mayoría de LLMs.
Como siempre te invito a contactarme a través de la Intranet para que me compartas tus comentarios sobre este curso y tus comentarios para seguir mejorando el contenido de la Academia.
Y desde luego te invito a continuar tu formación en esta especialización en LLMs, tomando el siguiente curso en esta especialización: clasificación de texto con Grandes Modelos de Lenguaje.
¡Un saludo y nos vemos en el próximo curso!
Todas las lecciones del curso Introducción a los Grandes Modelos de Lenguaje