Cómo aprendieron a hablar los grandes modelos de lenguaje

Hay algo un poco inquietante en la primera buena conversación con una máquina.

Escribes una pregunta. La respuesta llega casi al instante. Tiene párrafos. Recuerda lo que dijiste hace tres mensajes. Puede explicar una norma fiscal, reescribir una carta de amor, encontrar el error de un programa en Python y, si se lo pides por favor, inventar un cuento para dormir sobre un dragón deprimido que trabaja en contabilidad.

La reacción natural es imaginar que dentro del ordenador vive un pequeño sabio electrónico que ha leído Internet y ahora rebusca en su memoria para encontrar la respuesta.

No lo hay.

Lo que ocurre es menos mágico y, en cierto sentido, mucho más extraño.

Un gran modelo de lenguaje (Large Language Model, LLM) moderno es un enorme sistema matemático entrenado para reconocer patrones del lenguaje y predecir qué vendrá después. Lo hace de pequeño fragmento en pequeño fragmento. De ese talento aparentemente modesto nace una colección asombrosa de capacidades: escribir, traducir, programar, resumir, responder preguntas, analizar documentos y mantener conversaciones que parecen extraordinariamente humanas.

Para entender por qué funcionan estas máquinas, y por qué a veces fallan con una confianza tan espectacular, conviene empezar mucho antes de ChatGPT, de los procesadores gráficos e incluso de la industria informática moderna.

Antes del chatbot, hubo una pregunta

En 1950, el matemático británico Alan Turing publicó un artículo con un título maravillosamente directo: Computing Machinery and Intelligence.

Empezaba con una pregunta:

¿Pueden pensar las máquinas?

Turing vio enseguida el problema. Nadie lograba ponerse de acuerdo sobre qué significaba exactamente pensar, y los filósofos llevaban siglos discutiéndolo sin necesitar una toma de corriente.

Así que propuso algo más práctico.

Imagina que conversas por escrito con dos participantes a los que no puedes ver. Uno es humano; el otro, una máquina. Si la máquina conversa tan bien que no puedes distinguirlos con fiabilidad, quizá resulte más útil observar lo que hace que discutir si realmente «piensa».

La idea pasó a conocerse como el test de Turing.

Turing no inventó el gran modelo de lenguaje. Hizo algo más importante: ayudó a desplazar la conversación de «¿Qué es la inteligencia?» a «¿Qué comportamiento nos convencería de que hay inteligencia?».

Durante décadas, la respuesta siguió siendo principalmente teórica.

A los ordenadores se les daba muy bien la aritmética. Conversar era otra historia.

Enseñar lenguaje a los ordenadores, regla por regla

Los primeros programas de lenguaje solían construirse a base de reglas.

Si ves esta palabra, haz esto. Si una frase tiene esta estructura, clasifícala así. Si el usuario habla de su madre, quizá convenga preguntarle qué siente por ella.

Podían dar lugar a demostraciones ingeniosas, pero tenían un problema básico: el lenguaje humano se niega a comportarse.

Usamos sarcasmo. Omitimos palabras. Inventamos expresiones. Cambiamos el significado según el contexto. «That’s sick» en inglés puede referirse a una enfermedad o a un solo de guitarra extraordinario.

Escribir suficientes reglas para abarcar el lenguaje corriente resultó parecido a redactar un manual de instrucciones para tener personalidad.

En las décadas de 1980 y 1990, los investigadores recurrieron cada vez más a la estadística.

En lugar de explicarle al ordenador exactamente cómo funciona el lenguaje, podían mostrarle enormes cantidades de texto y dejar que las matemáticas descubrieran regularidades.

Una familia importante de sistemas se llamó modelos de lenguaje de n-gramas.

Un modelo de n-gramas observa secuencias cortas de palabras y pregunta, en esencia:

Dadas las palabras que acabo de ver, ¿cuál suele venir después?

Ante la frase inglesa:

peanut butter and… — mantequilla de cacahuete y…

seguramente esperarías mermelada antes que helicóptero.

La máquina podía aprender lo mismo contando ejemplos.

Era primitivo comparado con la IA moderna, pero algo profundo había cambiado: ya no se le explicaba cada regla. Empezaba a aprender patrones a partir de datos.

Las palabras se convierten en números

Un ordenador no entiende la palabra gato como el ser peludo que está sentado sobre tu teclado impidiéndote trabajar.

Los ordenadores entienden números.

Los investigadores necesitaban convertir el lenguaje en matemáticas sin perder por el camino todo su significado.

Un avance importante fue la representación vectorial de palabras, o word embedding.

Representa una palabra mediante una larga lista de números: un punto en un espacio matemático de cientos o incluso miles de dimensiones.

Suena abstracto, pero la intuición es sencilla.

Las palabras que aparecen en circunstancias parecidas tienden a adquirir representaciones numéricas parecidas.

Rey y reina quedan relacionados. También París y Francia, Tokio y Japón, perro y cachorro.

El modelo no guarda una pequeña entrada de diccionario que diga «cachorro = perro joven». Aprende esas relaciones porque las palabras aparecen repetidamente en vecindarios lingüísticos relacionados.

Por primera vez, las máquinas tenían algo parecido a un mapa matemático del significado.

Pero quedaba otro problema.

El lenguaje no es una bolsa de palabras relacionadas. El orden y el contexto importan.

Considera:

The bank approved my mortgage. — El banco aprobó mi hipoteca.

Y:

We sat on the bank of the river. — Nos sentamos en la orilla del río.

La misma palabra inglesa, bank. Mundos completamente distintos.

Para trabajar bien con el lenguaje, un modelo debe atender a las relaciones entre las partes de una frase, no solo a las palabras individuales.

Y eso nos lleva al avance que cambió la IA moderna.

Llega el Transformer

En 2017, ocho investigadores publicaron Attention Is All You Need.

El título era un poco provocador. Las consecuencias fueron enormes.

Presentaba una arquitectura llamada Transformer.

La idea central era un mecanismo llamado atención.

La atención permite examinar una secuencia y determinar qué fragmentos de información son especialmente relevantes unos para otros.

Piensa en esta frase:

Maria put the glass on the table because it was wet.

María puso el vaso sobre la mesa porque «it» estaba mojado. ¿Qué estaba mojado?

¿El vaso? ¿La mesa?

Un sistema de lenguaje útil tiene que examinar las palabras y relaciones de alrededor para decidir.

La atención aporta un mecanismo matemático para hacerlo.

En vez de procesar el lenguaje únicamente como una cadena rígida —primera palabra, segunda, tercera—, un Transformer puede examinar muchas relaciones dentro del texto y asignarles distinta importancia.

Esto hizo mucho más eficiente el entrenamiento en hardware paralelo moderno y permitió construir modelos mucho mayores.

Y al crecer, ocurrió algo sorprendente.

Empezaron a servir para tareas que nadie había programado explícitamente.

¿Qué significa exactamente «grande»?

Cuando se habla de un modelo 8B, 14B o 70B, la B significa billion: mil millones.

Un modelo 8B contiene unos ocho mil millones de parámetros.

Un parámetro es uno de los valores numéricos ajustables de una red neuronal.

Imagina una gigantesca mesa de mezclas con miles de millones de pequeños mandos.

Al principio del entrenamiento están mal ajustados. El modelo hace malas predicciones.

El entrenamiento le muestra ejemplos, mide sus errores y mueve un poquito los mandos.

Una y otra vez, una cantidad casi inimaginable de veces.

Al final, la combinación de esos ajustes captura una enorme colección de patrones.

Los valores guardados de esos parámetros suelen llamarse pesos del modelo.

Cuando descargas un archivo de cinco, diez, veinte o cincuenta gigabytes, gran parte de lo que descargas es una enorme colección de números aprendidos.

El conocimiento no está en una enciclopedia ordenada con capítulos titulados «Napoleón», «Programar en Python» y «Cómo hacer lasaña».

Está distribuido por los pesos.

Por eso un modelo puede ser brillante un momento y desconcertante al siguiente.

No son bases de datos tradicionales.

Son máquinas de patrones.

La unidad más pequeña de una conversación no es una palabra

Supón que escribes:

I absolutely love this computer.

El modelo no tiene por qué dividir el texto en las mismas palabras que cuentas tú.

Antes de llegar a la red neuronal, un programa llamado tokenizador lo corta en unidades llamadas tokens.

Un token puede ser una palabra completa.

Un fragmento de palabra.

Un signo de puntuación.

Parte de un número.

Computer puede ser un token para un modelo y varios para otro.

Esto importa muchísimo porque los sistemas de IA miden su espacio de trabajo en tokens, no en páginas ni palabras.

Un límite de 32 000 tokens no significa 32 000 palabras.

Son aproximadamente 32 000 piezas según el tokenizador del modelo.

Cada idioma puede consumir una cantidad distinta para expresar la misma idea. Inglés, ruso, español, chino, código y notación matemática pueden dividirse de maneras diferentes.

Por eso los recuentos parecen misteriosos al empezar con modelos locales.

El modelo lee la misma frase que tú, pero matemáticamente puede estar viendo una colección de piezas muy distinta.

La puntuación invisible de las conversaciones con IA

Hay otra clase de tokens que normalmente no ves.

Se llaman tokens especiales.

Imagina una obra de teatro sin etiquetas que indiquen quién habla. Te perderías enseguida.

Las conversaciones con IA tienen el mismo problema.

El modelo necesita marcas invisibles que pueden significar:

Aquí empiezan las instrucciones del sistema.

Está hablando el usuario.

Ahora debe responder el asistente.

Este mensaje ha terminado.

Un ejemplo importante es el token de fin de secuencia (End-of-Sequence, EOS).

Es una puntuación especial que entiende el modelo, no el lector.

Cada familia utiliza sus propios tokens especiales, y las aplicaciones suelen insertarlos automáticamente.

Quizá nunca los veas.

Pero ocupan espacio.

Eso nos lleva a una de las partes más incomprendidas de la IA local.

El modelo tiene un escritorio, y no es infinito

Todo modelo de lenguaje tiene una ventana de contexto.

Es la cantidad de información con la que puede trabajar activamente a la vez.

Imagina contratar a un investigador brillante con una biblioteca enorme, pero un solo escritorio.

Los libros representan lo aprendido durante el entrenamiento.

El escritorio representa la ventana de contexto.

Todo lo que quieres que considere ahora debe caber en ese escritorio.

Tu pregunta ocupa espacio.

El historial ocupa espacio.

Un documento ocupa espacio.

El código ocupa espacio.

Las instrucciones ocupan espacio.

Las herramientas ocupan espacio.

La respuesta también necesita espacio.

Por eso, un modelo anunciado con 32 000 tokens no te da 32 000 tokens para tu documento.

Quizá ya hayas gastado varios miles antes de que llegue.

Esto importa especialmente con agentes: el modelo puede recibir instrucciones del sistema, descripciones de herramientas, habilidades cargadas, resultados de búsqueda, archivos, acciones anteriores e historial antes de empezar la tarea que te interesa.

La ventana teórica y el contexto útil de trabajo no son lo mismo.

Esa diferencia es una de las razones por las que creamos Green Zone.

El modelo también necesita un cuaderno

Otro consumidor de memoria tiene un nombre maravillosamente críptico:

Caché de claves y valores (Key-Value Cache, KV cache).

Suena a algo escondido dentro de un servidor de bases de datos. La idea es mucho más sencilla.

Imagina una conversación larga.

Cada vez que dices una frase, la otra persona no vuelve al principio y recalcula mentalmente todas las frases anteriores.

Retiene información de trabajo sobre lo sucedido.

Un Transformer hace algo parecido.

Al procesar tokens, calcula información interna llamada claves y valores. En lugar de recalcularla para cada token nuevo, la guarda temporalmente en la KV cache.

Los pesos son como el conocimiento aprendido a largo plazo; la KV cache, como el cuaderno temporal de la conversación actual.

Cuanto más larga es la conversación, más crece el cuaderno.

Y el cuaderno ocupa memoria.

Aquí aparece un problema práctico importante.

Un modelo puede caber técnicamente en tu tarjeta gráfica y resultar casi inútil para la tarea que quieres realizar.

Supongamos que tu tarjeta tiene 32 gigabytes de memoria de vídeo (Video Random Access Memory, VRAM).

Es la memoria rápida que utiliza la unidad de procesamiento gráfico (Graphics Processing Unit, GPU).

Si los pesos ocupan 27 gigabytes, miras las cifras y celebras.

Veintisiete es menos que treinta y dos.

¡Victoria!

No necesariamente.

Solo quedan unos cinco gigabytes para la KV cache, los búferes del programa, la memoria temporal y todo lo necesario durante la inferencia.

Es como comprar un sofá que cabe en el salón, pero no deja sitio para abrir la puerta.

El sofá cabe.

El salón ya no funciona.

Cuantización: enseñar a los números grandes a viajar ligeros

Aquí entra la cuantización.

Los pesos son números. Los ordenadores pueden guardarlos con distintos niveles de precisión numérica.

Más precisión conserva más información de cada número, pero requiere más memoria.

La cuantización los almacena usando menos bits.

Imagina registrar las mediciones de un laboratorio.

Puedes escribir:

3.14159265358979

O:

3.14

La segunda versión ocupa menos. También pierde precisión.

La cuantización aplica una versión mucho más sofisticada de esa idea a los pesos de las redes neuronales.

Encontrarás nombres como Q8, Q6, Q5 y Q4.

La Q significa quantized: cuantizado.

El número orienta sobre los bits utilizados para representar los pesos.

Q8 usa aproximadamente ocho bits.

Q4, aproximadamente cuatro.

Por eso Q4 suele necesitar mucha menos memoria que Q8.

Eso no convierte un modelo de ocho mil millones de parámetros en uno de cuatro mil millones.

Sigue teniendo unos ocho mil millones.

Solo has empaquetado su representación numérica con mayor densidad.

Hay una contrapartida.

Menos precisión ahorra memoria, pero pierde información.

Por suerte, los métodos modernos pueden conservar la calidad sorprendentemente bien. Una buena versión Q4 o Q5 puede ser muy útil y ocupar mucho menos que una de dieciséis bits.

También verás coma flotante de 16 bits (FP16) y Brain Floating Point 16 (BF16).

Son formatos de mayor precisión habituales en la IA moderna.

La pregunta práctica no es:

¿Qué formato tiene más precisión?

Sino:

¿Qué formato ofrece suficiente calidad y deja memoria para el trabajo que quiero hacer?

Esa es una pregunta mucho mejor.

Por qué un modelo Instruct tiene modales

Los nombres contienen pistas.

Por ejemplo:

Qwen 8B Instruct

Qwen indica la familia.

8B indica unos ocho mil millones de parámetros.

Instruct significa algo completamente distinto.

Después del enorme entrenamiento inicial, el modelo puede manejar bastante bien el lenguaje y seguir siendo incómodo como interlocutor.

Le pides:

Explica la gravedad a un niño de doce años.

Un modelo preentrenado sin más no necesariamente ha aprendido a comportarse como un asistente útil.

Los desarrolladores lo entrenan de nuevo con ejemplos de instrucciones y respuestas deseables.

Eso se llama ajuste fino con instrucciones.

El modelo ve ejemplos como:

Usuario: Resume este párrafo.

Seguidos de un resumen útil.

O:

Usuario: Escribe una función de Python que ordene estos datos.

Seguidos del código apropiado.

Con suficientes ejemplos, aprende mejor este patrón:

Una persona me pide que haga algo; debo intentar hacerlo.

De ahí Instruct.

Es más una descripción de su educación que una medida de inteligencia.

El modelo base fue a la escuela.

El Instruct también recibió clases de etiqueta.

Ajuste fino: enviar el modelo de vuelta a la escuela

En general, el ajuste fino, o fine-tuning, consiste en continuar el entrenamiento de un modelo ya entrenado para un propósito más especializado.

Imagina a alguien con una amplia educación universitaria que después estudia medicina.

No olvida cómo leer o calcular.

Adquiere formación especializada.

De forma parecida, un modelo general puede ajustarse para programación, medicina, finanzas, atención al cliente, textos jurídicos o estilos concretos de interacción.

El ajuste completo puede resultar caro porque modifica muchísimos pesos.

Una técnica más ligera, la adaptación de bajo rango (Low-Rank Adaptation, LoRA), adapta el modelo con mayor eficiencia entrenando componentes adicionales relativamente pequeños.

Piensa en LoRA como añadir anotaciones cuidadosamente preparadas, más que reescribir una enciclopedia.

El libro principal queda casi intacto.

Tres familias de Transformer

No todos los Transformer están hechos para lo mismo.

Una categoría es el codificador, o encoder.

Lee información y produce una representación numérica.

BERT, de Google, es un ejemplo famoso.

Sirven para identificar el tema de un texto, encontrar documentos parecidos, extraer nombres o clasificar sentimientos.

Luego están los decodificadores, o decoders.

Generan nuevos tokens.

La mayoría de los modelos conversacionales que se ejecutan localmente —Llama, Qwen, Mistral, Gemma y similares— pertenecen principalmente a esta familia.

Se les da bien responder, escribir, programar y continuar secuencias.

Por último, están los sistemas codificador-decodificador, también llamados secuencia a secuencia.

Una parte lee la entrada. Otra genera la salida.

T5 y BART son ejemplos.

Resultaron especialmente útiles para traducción y resumen.

No necesitas memorizar estas categorías para usar IA local.

Pero explican por qué dos modelos llamados Transformer pueden comportarse de forma muy distinta.

Una camioneta y un Fórmula 1 tienen motor.

No elegirías entre ellos contando únicamente los cilindros.

El extraño poder de predecir el siguiente token

Quizá este sea el hecho más extraño sobre los grandes modelos de lenguaje.

Muchos modelos generativos se entrenan, en esencia, para hacer algo casi vergonzosamente sencillo:

predecir qué viene después.

Escribes:

La capital de Francia es…

El modelo asigna probabilidades a los siguientes tokens posibles.

París recibe una probabilidad altísima.

Plátano recibe, esperemos, una muy baja.

El modelo elige un token.

Y repite el proceso.

Otra vez.

Y otra.

Miles de veces.

De esa repetición nacen párrafos, programas, explicaciones, traducciones, poemas, argumentos, chistes y, a veces, disparates completos pronunciados con la seguridad de alguien que da indicaciones en una ciudad que nunca ha visitado.

Esto último importa.

Un LLM no es una máquina de la verdad.

Es una máquina de predicción.

Busca producir una continuación plausible, no jurar que cada frase es cierta.

Por eso puede alucinar: producir información convincente, pero falsa.

La palabra es imperfecta, pero el fenómeno existe.

El modelo no necesariamente «miente».

Genera una continuación acorde con patrones aprendidos aunque el dato sea incorrecto.

Del chatbot al agente

Un modelo de lenguaje solo puede generar información por sí mismo.

Un agente de IA añade herramientas.

Volvamos al investigador sentado a su escritorio.

Sin herramientas, responde con su memoria y los documentos que le pongas delante.

Ahora dale:

una calculadora,

un buscador,

acceso a archivos,

una base de datos,

un intérprete de Python

y permiso para realizar determinadas acciones.

El investigador se vuelve mucho más útil.

Un agente funciona de manera parecida.

El LLM aporta el componente de lenguaje y decisiones.

El software corriente ejecuta las acciones.

Si necesita un número de una base de datos, solicita esa herramienta.

Si necesita inspeccionar un archivo, solicita la herramienta de lectura.

Si necesita aritmética, llama a una calculadora en vez de intentar ser una.

Esto importa porque a veces se habla de un agente como si el modelo hubiera adquirido poderes mágicos.

No ha ocurrido eso.

Ha recibido herramientas.

Un carpintero con un taladro sigue siendo el mismo carpintero.

El taladro cambia lo que puede hacer.

Ejecutar IA localmente cambia las preguntas

Cuando utilizas un servicio de IA en la nube, el hardware pertenece a otro.

Tú envías la petición.

Un centro de datos lejano se ocupa de procesadores gráficos, memoria, refrigeración, fuentes de alimentación y la terrorífica factura eléctrica.

Ejecutar el modelo localmente cambia la relación.

Ahora el hardware es tuyo.

De pronto, las preguntas de los ingenieros de centros de datos aterrizan en tu escritorio.

¿Cuánta VRAM tengo?

¿Cuánto ocupan los pesos?

¿Qué cuantización elijo?

¿Cuánto contexto puedo permitirme?

¿Cuánta memoria consumirá la KV cache?

¿Puedo cargar el modelo y dejar sitio para hacer algo útil?

Al principio parece una sopa de letras.

GPU. VRAM. KV. Q4. Q8. FP16.

Pero debajo de todas esas siglas hay un problema muy corriente:

Tienes un espacio limitado. ¿Qué quieres meter dentro?

Ese es el problema que Green Zone ayuda a hacer visible.

La diferencia entre caber y funcionar

Imagina a dos personas preparando una maleta.

La primera la llena completamente de ropa.

Consigue cerrar la cremallera y lo celebra.

¿Victoria?

Entonces recuerda los zapatos, las medicinas, el cepillo de dientes y el pasaporte que, de algún modo, ha terminado en el fondo.

La segunda deja sitio a propósito.

Técnicamente, la primera maleta lleva más ropa.

En la práctica, la segunda está mejor preparada para el viaje.

La IA local tiene el mismo problema.

Puedes cargar el modelo más grande posible y felicitarte porque cabe.

Pero si no queda memoria para contexto y estado de trabajo, quizá hayas construido un sistema impresionante que no puede realizar cómodamente la tarea para la que lo compraste.

Elegir modelo no es una competición por el número más grande seguido de B.

Una configuración útil es un equilibrio.

Capacidad del modelo.

Cuantización.

Contexto.

KV cache.

Herramientas.

Archivos.

Historial.

Espacio para responder.

Y la memoria física disponible en tu tarjeta gráfica.

La mejor configuración no es necesariamente el modelo más grande que puedes cargar.

Es la que deja sitio para que el modelo trabaje.

Cuando entiendes esa diferencia, el bosque intimidante de cifras de las páginas de descarga resulta mucho menos misterioso.

Ya no preguntas:

¿Puedo encajar este modelo a presión en mi tarjeta gráfica?

Preguntas lo que realmente importa:

Si pongo este modelo en mi tarjeta, ¿cuánto espacio quedará para pensar, recordar la conversación, utilizar mis archivos y terminar el trabajo?

Ahí la IA local deja de ser una colección de especificaciones misteriosas y se convierte en un problema de ingeniería que la gente corriente puede comprender.