¿Qué es Ventana de contexto?
Context Window
A. Qué es Ventana de contexto
El número máximo de tokens de entrada y salida que una IA puede considerar a la vez. Cuanto mayor sea, más largos serán los documentos y conversaciones que puede manejar.
La ventana de contexto es el límite máximo de información que una IA puede tener en cuenta en un solo intercambio: la suma de tokens de entrada y de salida. Todo lo que la supere se olvida.
En los últimos años han aparecido modelos con contextos amplios, del orden de varios cientos de miles a un millón de tokens, lo que permite manejar de una sola vez documentos largos, bases de código enteras y conversaciones extensas. Es una métrica importante si te interesa el procesamiento de documentos largos.