Lección 1 del curso Introducción a los Grandes Modelos de Lenguaje.
En esta primera lección del curso comenzaremos con lo esencial: entendiendo qué es un Modelo de Lenguaje, cuál ha sido la evolución de estos modelos (hasta llegar a lo que hoy conocemos como «Grandes Modelos de Lenguaje») así como las principales aplicaciones de este tipo de modelos en el procesamiento del lenguaje natural:
Contenido exclusivo para suscriptores
Si eres suscriptor accede en este enlace ó suscríbete a la Academia Online y accede a todo el contenido (lecciones en video, código fuente, sets de datos y descargas) de todos los cursos, proyectos y tutoriales.
Muy bien, además de entender qué es un Modelo de Lenguaje hemos visto otras definiciones sencillas (como los conceptos de Inteligencia Artificial y procesamiento del lenguaje natural) que resultarán esenciales para todos los demás cursos que harán parte de esta especialización acá en la Academia Online.
Adicionalmente hemos visto que a pesar de que el término «Grandes Modelos de Lenguaje» (o LLMs por sus siglas en Inglés: Large Language Models) es relativamente nuevo, realmente las bases del desarrollo de estos modelos vienen de hace más de dos décadas cuando se introdujeron los primeros desarrollos como «bag-of-words» y «word2vec» para la codificación del texto.
Y desde luego, es esencial tener en cuenta tres hitos importantes que han dado origen a estos Grandes Modelos de Lenguaje: el desarrollo de las Redes Transformer (2017) y la creación de los dos primeros modelos de lenguaje (BERT y GPT-1, ambos en 2018).
Adicionalmente hemos visto los principales usos que podemos dar a los LLMs, que van desde tareas relativamente simples como la clasificación o el «clustering» de texto hasta sistemas tan sofisticados como los Agentes de Inteligencia Artificial que usan precisamente los LLMs como elemento central en la planeación y toma de decisiones.
Así que teniendo claro todo el panorama visto en esta primera lección ya estamos listos para comenzar a ver los detalles que conforman un Gran Modelo de Lenguaje. Entonces, en la próxima lección hablaremos de los tokens y los embeddings, dos elementos presentes en cualquier LLM y que permiten estructurar el texto para que posteriormente pueda ser procesado por el modelo.
Todas las lecciones del curso Introducción a los Grandes Modelos de Lenguaje