LATIDIA · Tecnología

Por qué la IA «se olvida» de lo que le dijiste al principio: tokens y ventana de contexto sin jerga

Un modelo con 1 millón de tokens también olvida. Qué es la ventana de contexto, el efecto "Lost in the Middle" y seis hábitos para evitarlo. La noticia Por qué la IA «se olvida» de lo que le dijiste al principio: tokens

La noticia

Imagina una conversación larga con un chatbot. Al empezar le pides que escriba siempre en tono formal y sin emojis. Cuarenta mensajes después, el tono se ha relajado y aparece el primer emoji. No es mala educación ni un fallo puntual: es cómo funcionan estos modelos. TL;DR: un modelo de lenguaje solo «ve» una cantidad limitada de texto a la vez, que se mide en tokens y se llama ventana de contexto . Aunque esa ventana sea enorme, la atención del modelo no se reparte por igual: rinde mejor con lo que está al principio y al final, y peor con lo que queda en medio. Esta guía explica las