Ventana de contexto
Cuánto texto puede 'tener a la vista' un modelo de una vez. Se mide en tokens: aproximadamente 0,75 palabras por token en inglés.
En una frase
La ventana de contexto es la memoria de trabajo del modelo: todo lo que puede considerar a la vez mientras responde.
Por qué se mide en tokens
Los modelos no leen palabras, leen tokens: trozos de texto de unas cuatro letras de media. Un token equivale más o menos a tres cuartos de palabra en inglés y algo menos en español.
Lo que no es
No es memoria permanente. Cuando la conversación supera la ventana, lo más antiguo se pierde o se resume. Y tener algo ‘a la vista’ no garantiza usarlo bien: los modelos rinden peor con información en el centro de ventanas muy largas.
Por qué importa en la actualidad
Una ventana grande permite dar al modelo manuales, contratos o repositorios completos. Pero el número de tokens que anuncia el fabricante no dice cuántos usa con fiabilidad: esa diferencia es la que separa el marketing de la capacidad real.
Lo que hemos contado sobre esto
Aún no tenemos nada publicado relacionado.