Construye un modelo de lenguaje grande (desde cero)

Sobre este libro

Aprende a construir desde cero tu propio modelo de lenguaje con esta guía paso a paso del autor superventas Sebastian Raschka. «Construye un modelo de lenguaje grande (desde cero)» te acompaña en cada etapa del proceso: desde el diseño inicial y la programación, hasta el preentrenamiento con un corpus general y el ajuste fino para tareas específicas. Cada fase se explica con textos claros, diagramas y ejemplos, para que avances sin perderte en ningún momento del camino. A lo largo del libro adquirirás las habilidades para planificar y programar todas las piezas de un LLM, preparar un conjunto de datos apto para su entrenamiento, ajustar modelos para la clasificación de textos con tus propios datos, aplicar retroalimentación humana para que el modelo siga instrucciones y cargar pesos preentrenados en un LLM. Esta obra te abre la caja negra de la IA para que puedas explorar los sistemas internos que impulsan la inteligencia artificial generativa. A medida que recorras cada etapa clave de su creación, desarrollarás una comprensión profunda de cómo funcionan los LLM, cuáles son sus limitaciones y qué métodos existen para personalizarlos. Tu modelo podrá entrenarse en un portátil corriente y quedará listo para actuar como tu asistente personal. Se cuenta que el físico Richard P. Feynman dijo en su momento: «No entiendo nada que no pueda construir». Partiendo de ese mismo principio tan poderoso, el autor superventas Sebastian Raschka te guía paso a paso en la construcción de un LLM estilo GPT que podrás ejecutar en tu portátil. Se trata de un libro ameno que recorre cada fase del proceso, desde la planificación y la programación hasta el entrenamiento y el ajuste fino. «Construye un modelo de lenguaje grande (desde cero)» es un viaje práctico y profundamente gratificante por los cimientos de la IA generativa. Sin depender de bibliotecas de LLM ya existentes, programarás un modelo base, lo convertirás en un clasificador de textos y, al final, crearás un chatbot capaz de seguir tus instrucciones conversacionales. Y lo entenderás de verdad, porque lo habrás construido con tus propias manos. En sus páginas encontrarás todo lo necesario para planificar y programar un LLM comparable a GPT-2, cargar pesos preentrenados y construir un pipeline de entrenamiento completo…